fixed-point representationとは 意味・読み方・使い方

fixed-point representation発音を聞く 例文帳に追加

固定小数点表示 - 研究社 英和コンピューター用語辞典

The floating-point representation of the number 0.00123 is 1.23e−3, where 1.23 is the fixed-point part and −3 is the exponent.発音を聞く 例文帳に追加

0.00123 の浮動小数点表示は 1.23e−3 となる. ここで, 1.23 が小数部, −3 が指数部である《cf. fixed-point part, exponent》 - 研究社 英和コンピューター用語辞典

To provide a device for supporting the conversion of a floating point representation program to fixed point representation and a support program thereof for reducing the labor of setting attribute values to numerical elements to be converted to fixed point representation in a floating point representation program.例文帳に追加

浮動小数点表現プログラムにおける固定小数点表現化すべき数要素に対する属性値を設定するための手間を低減させることのできる浮動小数点表現プログラムの固定小数点表現化支援装置及び支援プログラムを提供することである。 - 特許庁

The floating point number is converted to a fixed point representation having the previously selected number of bits.例文帳に追加

浮動小数点数は、予め選択されたビット数を有する固定小数点表示へ変換される。 - 特許庁

The data processing apparatus comprises a data processing unit operable to execute instructions, with the data processing unit being responsive to a format conversion instruction to apply a format conversion operation to a number to perform a conversion between the fixed-point representation of the number and the floating-point representation of the number.例文帳に追加

データ処理装置は、インストラクションを実行するよう動作可能なデータ処理ユニットを備え、そのデータ処理ユニットは、フォーマット変換インストラクションに応答し、数にフォーマット変換演算を適用してその数の固定小数点表示と浮動小数点表示との間で変換を行う。 - 特許庁

To provide an arithmetic system for efficiently performing a quantization arithmetic when fixed-precision floating-point number groups are converted into single floating-point representation form of multiple-precision or variable-precision in an efficient way.例文帳に追加

固定精度浮動小数点数の組を多倍長や可変長の１つの浮動小数点の表現形式に効率的に変換する際に量子化演算を効率的に実行する演算方式を提供する。 - 特許庁

Furthermore, a control field is provided which is arranged to provide a programmable value specifying a decimal point location within the fixed-point representation of the number, and the data processing unit is operable to reference the control field and to control the formal conversion operation in accordance with the programmable value.例文帳に追加

更には、その数の固定小数点表示内の小数点位置を特定するプログラム可能な値を提供する制御フィールドが配置され、データ処理ユニットは、その制御フィールドを参照し、かつプログラム可能な値に従ってフォーマット変換演算を制御する。 - 特許庁