floating point arithmeticとは 意味・読み方・使い方

an arithmetic operation performed on floating-point numbers発音を聞く 例文帳に追加

浮動小数点数で行われる算術演算 - 日本語WordNet

Floating Point Arithmetic: Issues and Limitations発音を聞く 例文帳に追加

B. 浮動小数点演算、その問題と制限 - Python

5.6 decimal -- Decimal floating point arithmetic発音を聞く 例文帳に追加

5.5 decimal -- 10進浮動小数点数の算術演算 - Python

FLOATING POINT ARITHMETIC DEVICE AND COMPUTER PROGRAM FOR OPERATING M-ROOT OF FLOATING-POINT VALUE例文帳に追加

浮動小数点数値のｍ乗根を演算する浮動小数点演算装置及びコンピュータプログラム - 特許庁

FLOATING POINT ARITHMETIC DEVICE, FLOATING POINT ARITHMETIC UNIT, SPECIAL NUMBER DECISION CIRCUIT FAILURE DETECTION METHOD, AND PROGRAM例文帳に追加

浮動小数点演算装置、浮動小数点演算器、特殊数判定回路故障検出方法及びプログラム - 特許庁

The FPU 15 executes an arithmetic operation in a floating point format, and the CPU 12 executes an arithmetic operation in a format other than the floating point format.例文帳に追加

ＦＰＵ１５は浮動小数点形式の演算を実施し、ＣＰＵ１２は浮動小数点形式以外の演算を実施する。 - 特許庁

All floating-point arithmetic in C is done in double precision.発音を聞く 例文帳に追加

C のすべての浮動小数点演算は, 倍精度で行なわれる - 研究社 英和コンピューター用語辞典

The decimal module provides support for decimal floating point arithmetic.例文帳に追加

decimal モジュールは10 進の浮動小数点算術をサポートします。 - Python