fixed-point valueとは 意味・読み方・使い方

The resonance frequency is measured at a fixed point in frequency sweeping where the impedance value of the hand piece reaches its minimum value.例文帳に追加

共振振動数はハンド・ピースのインピーダンス値がその最小値になる振動数掃引中の一定の点において測定される。 - 特許庁

An especially efficient technology is provided for generating an initial estimation value inside the data processor performing reciprocal operation on a fixed-point value or a floating-point value.例文帳に追加

固定小数点値または浮動小数点値に逆数演算が実施されるデータ処理装置内で初期推定値発生を実施する特に効率的な技術が提供される。 - 特許庁

In the airbag 15, the length of the film from the fixed point FP in an occupant side wall part 20 to a position around the front end is set to a value smaller than the length of the film from the fixed point FP in a car body side wall part 21 to a position around the front end.例文帳に追加

エアバッグ１５において、乗員側壁部２０における固定点ＦＰから前端付近にかけての膜長が、車体側壁部２１における固定点ＦＰから前端付近にかけての膜長より、小さく設定されている。 - 特許庁

A variation range of a value gets narrow compared with that when holding an absolute value, the effective number of figures in a decimal point is increased even in a fixed point system, and the calculation precision is improved thereby.例文帳に追加

絶対的な距離を保持する場合に比べて，値の変化する範囲が小さくなり、固定小数点方式でも、小数点の有効桁数を増加でき、計算精度が改善できる。 - 特許庁

A velocity adjustment value "Va" includes distance reduction adjusting value "α" which is a margin distance reducing amount "Δxo" whose magnitude is not larger than the fixed margin distance "xo(0)" divided by a residual time period which is the time from adjustment time point "t" until the reaching time point.例文帳に追加

速度調節値Ｖａは、固定余裕距離ｘｏ（０）を越えない大きさの余裕距離減少量Δｘｏを、調節時点ｔから前記到達時点までの時間である残り時間で割った距離減少用調節値αを含む。 - 特許庁

When the grid point of a contour part being the object of smoothing processing is fixed, the weighted averaging processing of a coordinate value with a neighbor grid point is executed to smooth the grid point of the contour part (ST61).例文帳に追加

平滑化処理の対象となる輪郭部の格子点が定まると、近傍格子点との座標値の重み付け平均化処理が施され、輪郭部の格子点が平滑化される（ＳＴ６１）。 - 特許庁

The CPU 12 calculates the floating point type data based on a sensor detection value, and converts the floating point type data into the fixed point type data, and stores each data in the RAM 13.例文帳に追加

ＣＰＵ１２は、センサ検出値を基に浮動小数点型データを算出した後、浮動小数点型データを固定小数点型データに型変換し、それら各データをＲＡＭ１３に格納する。 - 特許庁

To solve the problem that when the arithmetic bit of a floating-point arithmetic unit is smaller than that of a fixed point arithmetic unit, calculation accuracy of floating point numerical value is reduced.例文帳に追加

浮動小数点演算ユニットの演算ビットが固定小数点演算ユニットの演算ビットよりも多いときには、浮動小数点数値の演算精度が低くなってしまう。 - 特許庁