固定小数点数演算の英語

そして、演算部１２０は、演算処理の中で、固定小数点数として表現される誤差共分散の演算処理を行う。例文帳に追加

Then, the operation unit 120 performs operation processing of error covariance expressed as a fixed-point number in operation processing. - 特許庁

カルマンフィルターの演算において、固定小数点数を用い、固定小数点位置を調整しながら演算を行うことにより、計算量を抑えつつ、演算の破綻を回避できる状態推定装置等の提供。例文帳に追加

To provide a state estimation device and the like which can suppress a calculation amount and avoid operation failure in a Kalman filter operation by performing an operation using a fixed-point number while adjusting its fixed-point position. - 特許庁

ルートｉ（√ｉ）演算の保持を特徴とする基数８固定小数点ＦＦＴ論理回路例文帳に追加

RADIX 8 FIXED-POINT FFT LOGIC CIRCUIT CHARACTERIZED TO HOLD ROUTE i(√i) ARITHMETIC OPERATION - 特許庁

固定精度の浮動小数点数同士の正確な和を高速に実現する演算方式を提供する。例文帳に追加

To provide an arithmetic system for rapidly performing precise addition of fixed-precision floating-point numbers. - 特許庁

四則演算とシフト演算の少なくとも一方を行う算術論理演算ユニット１３と、固定小数点演算の小数点位置データを保持する小数点位置レジスタ１４と、小数点位置レジスタ１４に保持される小数点位置データに基づいて、算術論理演算ユニット１３の出力に対して所定の丸め及び飽和処理を行う丸め／飽和処理器２０とを有する。例文帳に追加

A processor has: an arithmetic and logic unit 13 performing at least one of the four arithmetic operations and a shift operation; a decimal point position register 14 holding decimal point position data of the fixed-point arithmetic; and a rounding/saturation processor 20 performing prescribed rounding and saturation processing to output of the arithmetic and logic unit 13 based on the decimal point position data held in the decimal point position register 14. - 特許庁

固定小数点型乗加算器のハードウエア構成を殆んど増加させずに、演算精度を浮動小数点型乗加算器程度に向上させる。例文帳に追加

To enhance operation accuracy to a level comparable to that of a floating point type multiplier and adder by hardly increasing the hardware structure of a fixed point type multiplier and adder. - 特許庁

本発明は、固定小数点デジタル演算を用いたカオスに基づく専用通信システムを提供する。例文帳に追加

This dedicated communication system is based on chaos using fixed point digital arithmetic. - 特許庁

固定小数点演算器のみを使用し作成した期待値と処理した結果との比較を行う(S6)。例文帳に追加

The processing result is compared with the expectation value formed using only the fixed-point computing element (S6). - 特許庁