double-precision operationとは 意味・読み方・使い方

A double-precision register 104 stores an operation result of a double-precision arithmetic unit 101.例文帳に追加

倍精度レジスタ１０４は倍精度演算器１０１の演算結果を格納する。 - 特許庁

To efficiently realize double-precision division by using DSP's operation resources which adopts single-precision operation system.例文帳に追加

単精度の演算体系を採用したＤＳＰの演算資源を用いて、倍精度の除算を効率的に実現すること。 - 特許庁

To provide an arithmetic processing unit that ensures fewer operation cycles than double precision operations, unextended task switching time, and improved operation precision.例文帳に追加

倍精度演算に比べて、演算回数が少なく、タスクの切替え時間を増加させずに、かつ演算精度が向上した演算処理装置を提供する。 - 特許庁

To avoid the waste of overhead and analytic processing by efficiently performing the precision assurance of a single precision operation and a double precision operation in a floating-point operation.例文帳に追加

浮動小数点演算における単精度演算と倍精度演算の精度保証を効率的に行い、オーバーヘッドや解析処理の無駄の発生を回避する。 - 特許庁

To efficiently execute the sum of product arithmetic operation of a data column with double precision data column and a data column with single precision in addition to the dual sum of product arithmetic operation of the mutual data columns with single precision.例文帳に追加

単精度のデータ列どうしのデュアル積和演算に加えて、倍精度のデータ列と単精度のデータ列との積和演算を効率良く実行する。 - 特許庁

The double-precision unit can execute a plurality of different operations including a merged product sum operation using a data path and/or a logic circuit which has at least a double-precision width.例文帳に追加

倍精度の機能ユニットは、融合型積和演算を含む複数の異なる演算を、少なくとも倍精度の幅であるデータ経路及び／又は論理回路を使用して、実行することができる。 - 特許庁

The double-precision functional unit can execute a number of different operations, including fused multiply-add operation, using data paths and/or logic circuits that are at least double-precision width.例文帳に追加

倍精度の機能ユニットは、融合型積和演算を含む複数の異なる演算を、少なくとも倍精度の幅であるデータ経路及び／又は論理回路を使用して、実行することができる。 - 特許庁