numerical errorとは 意味・読み方・使い方

To provide an error estimation device and an error estimation method, estimating an estimation width of an analysis value in a numerical solution in consideration of a numerical value related error, an error causing an error of an input value such as a boundary condition, and an error causing geometric dimensional tolerance.例文帳に追加

幾何学的な寸法公差に起因する誤差、境界条件など入力値の持つ誤差に起因する誤差、数値関連誤差を考慮して、数値解において解析値がどれくらいの誤差幅を持つかを推定する誤差推定装置及び誤差推定方法を提供する。 - 特許庁

NUMERICAL CALCULATION METHOD OF FINITE ELEMENT METHOD BY SIMULTANEOUS RELAXATION METHOD UTILIZING CYCLE ERROR SELF-ADJUSTING METHOD例文帳に追加

サイクル誤差自己調整法を用いた同時緩和法による有限要素法の数値計算方法 - 特許庁

Succeedingly a chain search arithmetic circuit 3 receives the calculation results successively output from the error position polynomial-numerical polynomial arithmetic circuits 2a, 2b, 2c without interruption, and carries out the arithmetic operation by n/P clock, and obtains an error position and an error numerical value.例文帳に追加

続くチェンサーチ演算回路３は誤り位置多項式・数値多項式演算回路２ａ，２ｂ，２ｃが次々に出力する演算結果を途切れることなく受け取ってｎ／Ｐクロックで演算を行なって、誤り位置および誤り数値を求める。 - 特許庁

The positioning error simulation system is equipped with an input means of the numerical value simulation data expressing the atmospheric state, a look delay amount computing means for calculating the look delay amount based on the numerical value simulation data, and a positioning error computing means for obtaining positioning error based on the look delay amount calculated with the computing means.例文帳に追加

大気の状態をほぼ正確に表している数値シミュレーションデータに基づいてＧＰＳ衛星方向の正確な視線遅延量を算出し、その視線遅延量により測位誤差シミュレーションをすることを目的とする。 - 特許庁

At the numerical control part 13, the value of the averaged frequency error is limited within a prescribed range.例文帳に追加

数値制限部１３においては、平均化された周波数誤差の値が所定の範囲内に制限される。 - 特許庁

To provide a system for performing positioning error simulation with lock delay amount by computing accurate look delay amount in the GPS satellite direction, based on numerical value simulation data expressing almost accurately atmospheric state, and provide a positioning error evaluation method, a program for performing the positioning error simulation, and a storage medium for storing the program.例文帳に追加

測位誤差シミュレーションシステム、測位誤差評価方法、測位誤差シミュレーションを行うためのプログラム、及びそのプログラムを格納する記憶媒体に関する。 - 特許庁

In the numerical controller 10, a setting error of a workpiece is corrected in an error correction part 13 to instruction numerical values (i.e., X, Y, Z, B(A), and C axis positions) analyzed in an instruction analysis part 11, and interpolated and obtained in an interpolation part 12.例文帳に追加

数値制御装置１０は、指令解析部１１で解析され、補間部１２で補間され得られた指令数値（つまり、Ｘ，Ｙ，Ｚ，Ｂ（Ａ），Ｃ軸位置）に対して、誤差補正部１３でワークの設置誤差を補正する形態である。 - 特許庁

METHOD FOR ESTIMATING RELATION BETWEEN ELEMENT DISTORTION AND ANALYTIC ERROR, METHOD FOR ESTIMATING ANALYTIC ERROR, METHOD FOR NUMERICAL ANALYSIS, AND COMPUTER PROGRAM FOR CARRYING OUT THE METHODS例文帳に追加

要素ゆがみ−解析誤差間関係推定方法、解析誤差推定方法および数値解析方法ならびにそれらを実施するためのコンピュータ・プログラム - 特許庁