floating point precisionとは 意味・読み方・使い方

FLOATING-POINT PROCESSOR HAVING SELECTABLE LOW-ORDER PRECISION例文帳に追加

選択可能な下位精度を有する浮動小数点プロセッサ - 特許庁

All floating-point arithmetic in C is done in double precision.発音を聞く 例文帳に追加

C のすべての浮動小数点演算は, 倍精度で行なわれる - 研究社 英和コンピューター用語辞典

This was used to control floating-point precision, rounding and floating-point exceptions.発音を聞く 例文帳に追加

これは浮動小数点演算の精度、丸め方、および浮動小数点例外を制御するのに使われる。 - JM

You can use REAL to specify single precision floating-point numbers発音を聞く 例文帳に追加

REALを使って,単精度浮動小数点数を指定することができる - コンピューター用語辞典

To provide a floating-point processor having selectable low-order precision.例文帳に追加

選択可能な下位精度を有する浮動小数点プロセッサを実現する。 - 特許庁

Otherwise, the argument may be a plain or long integer or a floating point number, and a floating point number with the same value (within Python's floating point precision) is returned.例文帳に追加

それ以外の場合、引数は通常整数、長整数、または浮動小数点数をとることができ、同じ値の浮動小数点数が (Python の浮動小数点精度で) 返されます。 - Python

These represent machine-level double precision floating point numbers.発音を聞く 例文帳に追加

この型は計算機レベルで倍精度とされている浮動小数点数を表現します。 - Python

To perform a floating-point operation with a floating-point processor having a given precision, without consuming more power than necessary.例文帳に追加

所定の精度を有する浮動小数点プロセッサにより、必要以上の電力を消費せずに浮動小数点演算を実行する。 - 特許庁