floating-point decimalとは 意味・読み方・使い方

The processor receives at least one decimal floating point operand, executes a decimal floating point operation on at least one decimal floating point operand and generates a decimal floating point result.例文帳に追加

プロセッサは、少なくとも１つの１０進浮動小数点オペランドを受け取り、少なくとも１つの１０進浮動小数点オペランドに対して１０進浮動小数点演算を実施して１０進浮動小数点結果を生成する。 - 特許庁

Return the floating point value x rounded to n digits after the decimal point.例文帳に追加

x を小数点以下 n 桁で丸めた浮動小数点数の値を返します。 - Python

To provide a vector scaling system for block floating decimal point representation.例文帳に追加

ブロック浮動小数点表示用のベクトルスケーリングシステムの提供。 - 特許庁

For floating point values, the decimal point is modified if appropriate.例文帳に追加

浮動小数点数については、必要に応じて浮動小数点が変更されます。 - Python

TYPE is made up of one or more of these specifications: a named character c ASCII character or backslash escape d[SIZE] signed decimal, SIZE bytes per integer f[SIZE] floating point, SIZE bytes per integer o[SIZE] octal, SIZE bytes per integer u[SIZE] unsigned decimal, SIZE bytes per integer x[SIZE] hexadecimal, SIZE bytes per integer SIZE is a number.発音を聞く 例文帳に追加

またはサイズを C コンパイラの組み込みデータタイプによっても指定できる。 - JM

In decimal floating point,"0.1 + 0.1 + 0.1 - 0.3" is exactly equal to zero.発音を聞く 例文帳に追加

10 進の浮動小数点による計算では、"0.1 + 0.1 + 0.1 - 0.3" は厳密にゼロに等しくなります。 - Python

The hardware resource is, in particular, an execution unit such as a fixed decimal point unit 56, a load/store unit 58, a floating decimal point unit 60 or a branch processing unit 61.例文帳に追加

ハードウェア・リソースは、特に、固定小数点ユニット、ロード／ストア・ユニット、浮動小数点ユニット、または分岐処理ユニットなどの、実行ユニットである。 - 特許庁

This logarithmic arithmetic device 10 finds the logarithm of a value expressed by floating decimal point data.例文帳に追加

対数演算装置10は、浮動小数点データで表現される値の対数を求める。 - 特許庁