fixed point calculationとは 意味・読み方・使い方

A variation range of a value gets narrow compared with that when holding an absolute value, the effective number of figures in a decimal point is increased even in a fixed point system, and the calculation precision is improved thereby.例文帳に追加

絶対的な距離を保持する場合に比べて，値の変化する範囲が小さくなり、固定小数点方式でも、小数点の有効桁数を増加でき、計算精度が改善できる。 - 特許庁

This fixed point dividing device is configured to develop such a formula that the recurrence formula of a Newton/Rafson method is repeated the fixed number of times by a polynomial so that repeated calculation can be executed in parallel, and that the high speed processing can be realized.例文帳に追加

ニュートン・ラフソン法の漸化式を一定回数繰り返した式を、多項式で展開することにより、反復計算が並列に実行できるようになり、処理が高速化される。 - 特許庁

To enhance calculation precision, using a processor of a fixed point, in a position controller by a current observer control for conducting control of two degrees of freedom.例文帳に追加

二自由度制御を行う現在オブザーバ制御による位置制御装置において、固定小数点のプロセッサを用いて、計算精度を向上する。 - 特許庁

To make an operation with high calculation accuracy performable even when data are extremely large or small in the case of arithmetically processing the data of a floating point form in the arithmetic processing part of a fixed point form.例文帳に追加

浮動小数点形式のデータを固定小数点形式の演算処理部で演算処理する際、データが極端に大きい場合や小さい場合でも、計算精度高く、演算が行えるようにする。 - 特許庁

To acculately calculate a coordinate of a point P with a simple calculation, even when the point P locates near on an X-axis, when a distance L1 between the point P and the origin of the coordinate, and a distance L2 between the point P and a fixed point Xm are measured, on the basis of a propagation time of the acoustic wave.例文帳に追加

点Ｐと座標原点との間の距離Ｌ_１、および、点Ｐと定点Ｘｍとの間の距離Ｌ_２が、音波の伝播時間に基づいて計測されたとき、上記の点Ｐの座標を簡単な計算によって、しかも前記の点ＰがＸ軸上の近くに位置していても高精度で算定する。 - 特許庁

When digital input data are inputted, a right shifter 17 shifts fixed decimal point data to the right on the basis of an adjustment value stored in a register 24 and performs filter calculation.例文帳に追加

デジタル入力データが入力されると、右シフタ１７が、レジスタ２４に格納された調整値に基づいて、固定小数点データを右シフトした後、フィルタ計算を行う。 - 特許庁

An interest calculating processing system 11 calculates the interest according to a calculation method determined for each fixed period concerning the electronic point files A321 and B331 of users A and B and updates the electronic point files.例文帳に追加

利息計算処理システム１１は、それぞれ利用者Ａ、Ｂの電子ポイントファイルＡ３２１、電子ポイントファイルＢ３３１に対して、一定期間毎に定められた計算方法に従って利息を計算し、電子ポイントファイルを更新する。 - 特許庁

An angle calculation section (106) obtains an angle formed by a normal line drawn from the three sides to the first candidate position and a standard line oriented in a fixed direction and passing a point at which the normal line and each of the three sides cross.例文帳に追加

角度算出部（１０６）は、前記３辺から前記第一の候補位置への法線と、前記法線と各辺が交わる点を通る一定方向の基準線との角度を求める。 - 特許庁