double-precision arithmeticとは 意味・読み方・使い方

A double-precision register 104 stores an operation result of a double-precision arithmetic unit 101.例文帳に追加

倍精度レジスタ１０４は倍精度演算器１０１の演算結果を格納する。 - 特許庁

All floating-point arithmetic in C is done in double precision.発音を聞く 例文帳に追加

C のすべての浮動小数点演算は, 倍精度で行なわれる - 研究社 英和コンピューター用語辞典

The double-precision arithmetic unit 101 adds/subtracts the double-precision data including the value of the double- precision register 104 and the value of the shift register 106, and a divisor of the double-precision data stored on a double-precision register 103.例文帳に追加

倍精度演算器１０１は、フラグレジスタ１０２に格納された演算結果の符号に応じて、倍精度レジスタ１０４の値とシフトレジスタ１０６の値とを含む倍精度データと、倍精度レジスタ１０３に格納された倍精度データの除数とを、加減算する。 - 特許庁

To efficiently execute the sum of product arithmetic operation of a data column with double precision data column and a data column with single precision in addition to the dual sum of product arithmetic operation of the mutual data columns with single precision.例文帳に追加

単精度のデータ列どうしのデュアル積和演算に加えて、倍精度のデータ列と単精度のデータ列との積和演算を効率良く実行する。 - 特許庁

To provide an arithmetic processing unit that ensures fewer operation cycles than double precision operations, unextended task switching time, and improved operation precision.例文帳に追加

倍精度演算に比べて、演算回数が少なく、タスクの切替え時間を増加させずに、かつ演算精度が向上した演算処理装置を提供する。 - 特許庁

A functional unit is added to a graphics processor to provide direct support for double-precision arithmetic, in addition to the single-precision functional units used for rendering.例文帳に追加

グラフィックスプロセッサに、レンダリングに使用される単精度の機能ユニットに加えて、倍精度の算術演算の直接的なサポートを提供する機能ユニットが追加される。 - 特許庁

A filtering-processing control section 402 is means for controlling computation of the data path section 100, and makes selection of whether the single precision arithmetic or double precision arithmetic is to be executed in dependence on the filter coefficient stored in the coefficient storing section 200.例文帳に追加

フィルタ処理制御部４０２は、データパス部１００による演算の制御を行う手段であり、係数記憶部２００に記憶されたフィルタ係数に基づいて、単精度演算を行わせるか倍精度演算を行わせるかを切り換える。 - 特許庁