single-precision floating pointとは 意味・読み方・使い方

To avoid the waste of overhead and analytic processing by efficiently performing the precision assurance of a single precision operation and a double precision operation in a floating-point operation.例文帳に追加

浮動小数点演算における単精度演算と倍精度演算の精度保証を効率的に行い、オーバーヘッドや解析処理の無駄の発生を回避する。 - 特許庁

To provide an arithmetic system for efficiently performing a quantization arithmetic when fixed-precision floating-point number groups are converted into single floating-point representation form of multiple-precision or variable-precision in an efficient way.例文帳に追加

固定精度浮動小数点数の組を多倍長や可変長の１つの浮動小数点の表現形式に効率的に変換する際に量子化演算を効率的に実行する演算方式を提供する。 - 特許庁

When an area of a memory 11, in which the value of the variables var3 are written, is regarded as single precision floating point type data and accessed, the value can be used as a result of the shift operation of the floating point number x.例文帳に追加

ｖａｒ３の値を書き込んだメモリ１１の領域を単精度浮動小数点型データとみなしてアクセスすれば、浮動小数点数ｘのシフト演算の結果として値を利用できる。 - 特許庁

Then, double precision words and/or plural pairs of single precision words are loaded and stored between a floating point co-processor and a memory, and a Boolean result obtained by comparing two floating points in a floating point unit 265 is stored in an integer register in a CPU 201.例文帳に追加

浮動小数点コウプロセッサとメモリとの間で、倍精度ワード及び／又は複数対の単精度ワードをロードすると共に記憶し、その上にＣＰＵ（２０１）内の整数レジスタ内で浮動小数点ユニット（２６５）における２つの浮動小数点数を比較したブール結果を記憶する例が与えられている。 - 特許庁

In a compiler 100 mounted on a computer, an object code of a method is generated in a double precision mode in the floating-point operation and a second code of the method is generated in a single precision mode when the method is frequently called in the single precision mode and processing costs can be reduced by implementing the method in the single precision mode.例文帳に追加

コンピュータに搭載されたコンパイラ１００において、浮動小数点演算における倍精度モードでメソッドのオブジェクトコードを生成すると共に、このメソッドが単精度モードで頻繁に呼び出され、かつ単精度モードで実行することにより処理コストを削減できる場合に、単精度モードでメソッドの第２のコードを生成する。 - 特許庁

The SIMD extension instruction register supports SIMD operations to 128-bit packed single-precision and double-precision floating-point numbers and 128-bit packed byte, word, double-word and quad-word integers.例文帳に追加

ＳＩＭＤ拡張命令レジスタは１２８ビットのパック単精度並びに倍精度浮動小数値及び１２８ビットのパック・バイト、ワード、ダブルワード及びクワドワード整数に対するＳＩＭＤ演算をサポートする。 - 特許庁