fixed-point operationとは 意味・読み方・使い方

Thus, it is possible to attain photographing since a fixed time before the point of time when the photographing start operation has been performed.例文帳に追加

これにより、撮影開始操作がされた時点よりも一定時間前からの撮影が可能となる。 - 特許庁

To execute graphics writing based on fixed point operation without sacrificing precision.例文帳に追加

精密度の損失なしに、固定小数点演算によるグラフィックスライディングを実行する。 - 特許庁

To provide a state estimation device and the like which can suppress a calculation amount and avoid operation failure in a Kalman filter operation by performing an operation using a fixed-point number while adjusting its fixed-point position.例文帳に追加

カルマンフィルターの演算において、固定小数点数を用い、固定小数点位置を調整しながら演算を行うことにより、計算量を抑えつつ、演算の破綻を回避できる状態推定装置等の提供。 - 特許庁

An operation line updating part 100d updates an operation line by performing operation line updating processing, and in this case, updates an operation point on the operation line to a fuel consumption rate minimum operation point fixed on an equal output line by performing first operation point learning processing when the temperature of a battery 500 is a predetermined value or more.例文帳に追加

動作線更新部１００ｄは、動作線更新処理を実行して動作線を更新するが、この際、バッテリ５００の温度が所定値以上であれば第１動作点学習処理を実行し、動作線上の動作点を、等出力線上で確定した燃費率最小動作点に更新する。 - 特許庁

Then, the operation unit 120 performs operation processing of error covariance expressed as a fixed-point number in operation processing.例文帳に追加

そして、演算部１２０は、演算処理の中で、固定小数点数として表現される誤差共分散の演算処理を行う。 - 特許庁

To provide a vector operation method for a floating-point number which is reduced in processing required for vector product operation of floating-point number and enables applying of arithmetic operation by a fixed-point type DSP.例文帳に追加

浮動小数点数のベクトル積演算に必要な処理が軽減され、固定小数点型ＤＳＰによる演算処理が適用できるようにした浮動小数点数のベクトル演算方法を提供すること。 - 特許庁

To enhance operation accuracy to a level comparable to that of a floating point type multiplier and adder by hardly increasing the hardware structure of a fixed point type multiplier and adder.例文帳に追加

固定小数点型乗加算器のハードウエア構成を殆んど増加させずに、演算精度を浮動小数点型乗加算器程度に向上させる。 - 特許庁

The bottom surface 2b of the operation button 2 is formed in a spherical crown shape and a fixed point of a tablet sheet 6 is pressed through switch operation.例文帳に追加

操作ボタン（２）の底面（２ｂ）を球冠状とし、スイッチ操作において、タブレットシート（６）の定点を押圧させる。 - 特許庁