mantissa exponentとは 意味・読み方・使い方

Then the mantissa part address acquisition part 21a and a mantissa part data acquisition part 21b generates a coefficient (a) and data d1 respectively based upon the mantissa part address A to precisely find a mantissa part coefficient (k) of each mantissa address A for the exponent part data (n) for .例文帳に追加

そして、係数データ取得部２１ａ、仮数部データ２１ｂは、それぞれ、仮数部アドレスＡに基づいて係数ａ、データｄ１を生成することにより、仮数部アドレスＡ毎に、指数部データｎに対して仮数部係数ｋを精度よく求めることができる。 - 特許庁

A divisor is divided into a mantissa part and an exponent part, division is performed at the mantissa part and then only the bit shift of a power of two is performed by a bit shift circuit 5 for the calculation of the exponent part.例文帳に追加

除数を仮数部と指数部に分け、その仮数部で除算を行い、そのあとで指数部の計算を、ビットシフト回路５により２の羃乗のビットシフトのみ行う。 - 特許庁

A destination type conversion part 4 converts a computing result by the exponent/mantissa fixed-length floating point computing unit 3 into the floating point numerical format including the variable-length exponent part and mantissa part.例文帳に追加

デスティネーション型変換部４は、指数・仮数固定長形式浮動小数点演算器３による演算結果を可変長の指数部および仮数部を含んだ浮動小数点の数値形式に変換する。 - 特許庁

An exponent/mantissa fixed-length floating point computing unit 3 performs floating point operation by using the fixed-length exponent part and the mantissa part converted by the source type conversion part 0(1) and the source type conversion part 1(2).例文帳に追加

指数・仮数固定長形式浮動小数点演算器３は、ソース型変換部０（１）およびソース型変換部１（２）によって変換された固定長の指数部および仮数部を用いて浮動小数点演算を行なう。 - 特許庁

(More precisely, overflow can happen only when the maximum value of the exponent is smaller than the number of mantissa bits.発音を聞く 例文帳に追加

(より正確に言うと、オーバーフローは指数部の最大値が仮数部を表すビットの数より小さい場合にしか起こらない。 - JM

For the IEEE-754 standard 32-bit and 64-bit floating-point numbers the maximum value of the exponent is 128 (respectively, 1024), and the number of mantissa bits is 24 (respectively, 53). )発音を聞く 例文帳に追加

IEEE-754 規格の 32 ビットと 64 ビットの浮動小数では、指数部の最大値はそれぞれ 128 と 1024 であり、仮数部のビット数はそれぞれ 24 と 53 である。 - JM

The floating point number includes a sign bit, a plurality of exponent bits, and a mantissa having an implied bit and multiple fraction bits.例文帳に追加

浮動小数点数は、符号ビット、複数の指数ビット、および暗黙の１ビットと複数の小数ビットとを有する仮数を含む。 - 特許庁

An address generation part 11 is supplied with the specified gain GT and generates exponent part data (n) and a mantissa part address A.例文帳に追加

アドレス生成部１１は、指定ゲインＧＴが供給されて指数部データｎと仮数部アドレスＡとを生成する。 - 特許庁