fixed-point calculationとは 意味・読み方・使い方

To acculately calculate a coordinate of a point P with a simple calculation, even when the point P locates near on an X-axis, when a distance L1 between the point P and the origin of the coordinate, and a distance L2 between the point P and a fixed point Xm are measured, on the basis of a propagation time of the acoustic wave.例文帳に追加

点Ｐと座標原点との間の距離Ｌ_１、および、点Ｐと定点Ｘｍとの間の距離Ｌ_２が、音波の伝播時間に基づいて計測されたとき、上記の点Ｐの座標を簡単な計算によって、しかも前記の点ＰがＸ軸上の近くに位置していても高精度で算定する。 - 特許庁

A grain boundary energy E calculation section 121 calculates the grain boundary energy Ei in the grain boundary to which the fixed point belongs and the grain boundary energy Ei' in the grain boundary when the fixed point is moved from a fixed position to an equilibrium position.例文帳に追加

また、粒界エネルギー（Ｅ）算出部１２１において、当該固定点が属する粒界における粒界エネルギーＥｉと、当該固定点を固定位置から平衡位置に移動させた際の粒界における粒界エネルギーＥｉ'を算出する。 - 特許庁

To make an operation with high calculation accuracy performable even when data are extremely large or small in the case of arithmetically processing the data of a floating point form in the arithmetic processing part of a fixed point form.例文帳に追加

浮動小数点形式のデータを固定小数点形式の演算処理部で演算処理する際、データが極端に大きい場合や小さい場合でも、計算精度高く、演算が行えるようにする。 - 特許庁

A variation range of a value gets narrow compared with that when holding an absolute value, the effective number of figures in a decimal point is increased even in a fixed point system, and the calculation precision is improved thereby.例文帳に追加

絶対的な距離を保持する場合に比べて，値の変化する範囲が小さくなり、固定小数点方式でも、小数点の有効桁数を増加でき、計算精度が改善できる。 - 特許庁

This fixed point dividing device is configured to develop such a formula that the recurrence formula of a Newton/Rafson method is repeated the fixed number of times by a polynomial so that repeated calculation can be executed in parallel, and that the high speed processing can be realized.例文帳に追加

ニュートン・ラフソン法の漸化式を一定回数繰り返した式を、多項式で展開することにより、反復計算が並列に実行できるようになり、処理が高速化される。 - 特許庁

To provide a demand calculation method and system for electric communication installation, that can optimally and entirely predict demand coherently among installation devices with high accuracy even when the installation or the like is changed through fixed point observation and to provide a recording medium, with a demand calculation program for the electric communication installation recorded thereon.例文帳に追加

定点観測を行なうことにより設備等が変化しても精度が高く、かつ設備間で一貫して全体的に最適な需要予測を行ない得る電気通信設備の需要算出方法および装置と電気通信設備の需要算出プログラムを記録した記録媒体を提供する。 - 特許庁

When digital input data are inputted, a right shifter 17 shifts fixed decimal point data to the right on the basis of an adjustment value stored in a register 24 and performs filter calculation.例文帳に追加

デジタル入力データが入力されると、右シフタ１７が、レジスタ２４に格納された調整値に基づいて、固定小数点データを右シフトした後、フィルタ計算を行う。 - 特許庁

An angle calculation section (106) obtains an angle formed by a normal line drawn from the three sides to the first candidate position and a standard line oriented in a fixed direction and passing a point at which the normal line and each of the three sides cross.例文帳に追加

角度算出部（１０６）は、前記３辺から前記第一の候補位置への法線と、前記法線と各辺が交わる点を通る一定方向の基準線との角度を求める。 - 特許庁