固定小数点表現の英語

浮動小数点表現プログラムにおける固定小数点表現化すべき数要素に対する属性値を設定するための手間を低減させることのできる浮動小数点表現プログラムの固定小数点表現化支援装置及び支援プログラムを提供することである。例文帳に追加

To provide a device for supporting the conversion of a floating point representation program to fixed point representation and a support program thereof for reducing the labor of setting attribute values to numerical elements to be converted to fixed point representation in a floating point representation program. - 特許庁

そして、演算部１２０は、演算処理の中で、固定小数点数として表現される誤差共分散の演算処理を行う。例文帳に追加

Then, the operation unit 120 performs operation processing of error covariance expressed as a fixed-point number in operation processing. - 特許庁

固定精度浮動小数点数の組を多倍長や可変長の１つの浮動小数点の表現形式に効率的に変換する際に量子化演算を効率的に実行する演算方式を提供する。例文帳に追加

To provide an arithmetic system for efficiently performing a quantization arithmetic when fixed-precision floating-point number groups are converted into single floating-point representation form of multiple-precision or variable-precision in an efficient way. - 特許庁

複数の高速フーリエ変換を行うＦＦＴ部５，８と複数の逆高速フーリエ変換を行うＩＦＦＴ部９，１２とが直列に接続されており、高速フーリエ変換または逆高速フーリエ変換の演算結果は、複数の固定小数点データとそれらのデータに共通する１つの指数とで表現するブロック浮動小数点形式で出力される。例文帳に追加

A plurality of FFT parts 5, 8 for performing fast Fourier transform, and a plurality of IFFT parts 9, 12 for performing inverse fast Fourier transform are connected in series, and operation results of fast Fourier transform or inverse fast Fourier transform are outputted in a block floating point format which is expressed by a plurality of fixed point data and one exponent which is common to the data. - 特許庁