Floating Point Arithmeticとは 意味・読み方・使い方

5.6 decimal -- Decimal floating point arithmetic発音を聞く 例文帳に追加

5.5 decimal -- 10進浮動小数点数の算術演算 - Python

an arithmetic operation performed on floating-point numbers発音を聞く 例文帳に追加

浮動小数点数で行われる算術演算 - 日本語WordNet

FLOATING POINT ARITHMETIC CIRCUIT, COMPUTER WITH FLOATING POINT ARITHMETIC CIRCUIT, AND ARITHMETIC CONTROL METHOD AND ARITHMETIC CONTROL PROGRAM FOR THE SAME例文帳に追加

浮動小数点演算回路、浮動小数点演算回路を備えたコンピュータ及びその演算制御方法と演算制御プログラム - 特許庁

FLOATING POINT ARITHMETIC DEVICE, FLOATING POINT ARITHMETIC UNIT, SPECIAL NUMBER DECISION CIRCUIT FAILURE DETECTION METHOD, AND PROGRAM例文帳に追加

浮動小数点演算装置、浮動小数点演算器、特殊数判定回路故障検出方法及びプログラム - 特許庁

The decimal module provides support for decimal floating point arithmetic.例文帳に追加

decimal モジュールは10 進の浮動小数点算術をサポートします。 - Python

FLOATING POINT ARITHMETIC DEVICE AND COMPUTER PROGRAM FOR OPERATING M-ROOT OF FLOATING-POINT VALUE例文帳に追加

浮動小数点数値のｍ乗根を演算する浮動小数点演算装置及びコンピュータプログラム - 特許庁

All floating-point arithmetic in C is done in double precision.発音を聞く 例文帳に追加

C のすべての浮動小数点演算は, 倍精度で行なわれる - 研究社 英和コンピューター用語辞典

To solve the problem that when the arithmetic bit of a floating-point arithmetic unit is smaller than that of a fixed point arithmetic unit, calculation accuracy of floating point numerical value is reduced.例文帳に追加

浮動小数点演算ユニットの演算ビットが固定小数点演算ユニットの演算ビットよりも多いときには、浮動小数点数値の演算精度が低くなってしまう。 - 特許庁