fixed-point valueとは 意味・読み方・使い方

Then, the detected inflexion point of the artery volume signal is fixed as the control target value (S112).例文帳に追加

そして、検出された動脈容積信号の変曲点を制御目標値として確定する（Ｓ１１２）。 - 特許庁

To solve the problem that when the arithmetic bit of a floating-point arithmetic unit is smaller than that of a fixed point arithmetic unit, calculation accuracy of floating point numerical value is reduced.例文帳に追加

浮動小数点演算ユニットの演算ビットが固定小数点演算ユニットの演算ビットよりも多いときには、浮動小数点数値の演算精度が低くなってしまう。 - 特許庁

The antiresonance frequency is measured at a fixed point in frequency sweeping where the impedance value of the hand piece reaches its maximum value.例文帳に追加

また、反共振振動数はハンド・ピースのインピーダンス値がその最大値になる振動数掃引中の一定の点において測定される。 - 特許庁

The inflection point is adapted to be a fixed value near the amount of power shift corresponding to the maximum output power.例文帳に追加

また変曲点を最大出力の電力に相当する電力シフト量付近の所定値としてある。 - 特許庁

A variation range of a value gets narrow compared with that when holding an absolute value, the effective number of figures in a decimal point is increased even in a fixed point system, and the calculation precision is improved thereby.例文帳に追加

絶対的な距離を保持する場合に比べて，値の変化する範囲が小さくなり、固定小数点方式でも、小数点の有効桁数を増加でき、計算精度が改善できる。 - 特許庁

To adjust the position of bit width in accordance with a signal value in converting a multicarrier signal from a floating point number to a fixed point number.例文帳に追加

マルチキャリア信号に対して、浮動小数点数から固定小数点数への変換を実行する場合に、信号の値に応じてビット幅の位置を調節したい。 - 特許庁

In a controller, a reference point O is set as a coordinate value for a XY coordinate system in a level surface fixed to a working table 20.例文帳に追加

作業台２０に固定された水平面内のＸＹ座標系の座標値として基準点Ｏが設定される。 - 特許庁

The CPU 12 calculates the floating point type data based on a sensor detection value, and converts the floating point type data into the fixed point type data, and stores each data in the RAM 13.例文帳に追加

ＣＰＵ１２は、センサ検出値を基に浮動小数点型データを算出した後、浮動小数点型データを固定小数点型データに型変換し、それら各データをＲＡＭ１３に格納する。 - 特許庁