floating-point number representationとは 意味・読み方・使い方

Number ( in XPath a number has a representation with a floating point)発音を聞く 例文帳に追加

数値 (XPath では浮動小数点形式) - NetBeans

Any number in the XPath language has a representation with a floating point.発音を聞く 例文帳に追加

XPath 言語では、すべての数値が浮動小数点で表されます。 - NetBeans

The floating point number is converted to a fixed point representation having the previously selected number of bits.例文帳に追加

浮動小数点数は、予め選択されたビット数を有する固定小数点表示へ変換される。 - 特許庁

The floating-point representation of the number 0.00123 is 1.23e−3, where 1.23 is the fixed-point part and −3 is the exponent.発音を聞く 例文帳に追加

0.00123 の浮動小数点表示は 1.23e−3 となる. ここで, 1.23 が小数部, −3 が指数部である《cf. fixed-point part, exponent》 - 研究社 英和コンピューター用語辞典

To provide an arithmetic system for efficiently performing a quantization arithmetic when fixed-precision floating-point number groups are converted into single floating-point representation form of multiple-precision or variable-precision in an efficient way.例文帳に追加

固定精度浮動小数点数の組を多倍長や可変長の１つの浮動小数点の表現形式に効率的に変換する際に量子化演算を効率的に実行する演算方式を提供する。 - 特許庁

The data processing apparatus comprises a data processing unit operable to execute instructions, with the data processing unit being responsive to a format conversion instruction to apply a format conversion operation to a number to perform a conversion between the fixed-point representation of the number and the floating-point representation of the number.例文帳に追加

データ処理装置は、インストラクションを実行するよう動作可能なデータ処理ユニットを備え、そのデータ処理ユニットは、フォーマット変換インストラクションに応答し、数にフォーマット変換演算を適用してその数の固定小数点表示と浮動小数点表示との間で変換を行う。 - 特許庁

A data format is adopted in this system where the number of lower- order bits of the mantissa of the apex coordinate data is made smaller than that of a data format in the floating point representation processible by a computer reading polygon data, and a data format into which the above apex normal data are integrated is applied to the room created by reducing the lower- order bits.例文帳に追加

頂点座標データのビット数は、ポリゴンデータを読取るコンピュータが処理可能な浮動小数点数のデータフォーマットに対して仮数の下位側ビット数が少なくされ、その少なくされた部分に前記頂点法線データを組込んだデータフォーマットを採用する。 - 特許庁