floating-point precisionとは 意味・読み方・使い方

This was used to control floating-point precision, rounding and floating-point exceptions.発音を聞く 例文帳に追加

これは浮動小数点演算の精度、丸め方、および浮動小数点例外を制御するのに使われる。 - JM

All floating-point arithmetic in C is done in double precision.発音を聞く 例文帳に追加

C のすべての浮動小数点演算は, 倍精度で行なわれる - 研究社 英和コンピューター用語辞典

You can use REAL to specify single precision floating-point numbers発音を聞く 例文帳に追加

REALを使って,単精度浮動小数点数を指定することができる - コンピューター用語辞典

To provide a floating-point processor having selectable low-order precision.例文帳に追加

選択可能な下位精度を有する浮動小数点プロセッサを実現する。 - 特許庁

SINGLE-PRECISION FLOATING-POINT DATA STORING METHOD AND PROCESSOR例文帳に追加

単精度浮動小数点データの格納方法およびプロセサ - 特許庁

To perform a floating-point operation with a floating-point processor having a given precision, without consuming more power than necessary.例文帳に追加

所定の精度を有する浮動小数点プロセッサにより、必要以上の電力を消費せずに浮動小数点演算を実行する。 - 特許庁

To provide an arithmetic system for efficiently performing a quantization arithmetic when fixed-precision floating-point number groups are converted into single floating-point representation form of multiple-precision or variable-precision in an efficient way.例文帳に追加

固定精度浮動小数点数の組を多倍長や可変長の１つの浮動小数点の表現形式に効率的に変換する際に量子化演算を効率的に実行する演算方式を提供する。 - 特許庁

To reduce as much as possible a hardware volume constituting a dependence detecting circuit for a bypass function by proposing a new single-precision floating-point data storing method concerning a processor treating the single-precision floating-point data and double-precision floating-point data.例文帳に追加

単精度浮動小数点データおよび倍精度浮動小数点データを扱うプロセサにおいて、新しい単精度浮動小数点データの格納方式を提案し、バイパス機能のための依存関係検出回路を構成するハードウェア量を可能な限り低減すること。 - 特許庁