numerical computationsとは 意味・読み方・使い方

A computer 5 uses parameters inputted to the computer 5 and measurement results of the spectrum analyzer 4 to compute a dielectric constant of the dielectric sample 11 by numerical computations according to an FDTD method.例文帳に追加

コンピュータ５は、コンピュータ５に入力されたパラメータおよびスペクトラムアナライザ４による測定結果を用いて、ＦＤＴＤ法に従う数値計算によって誘電体試料１１の誘電率を算出する。 - 特許庁

A calculated value is collated with a measured value in the experiment, the numerical computations are carried out repeatedly while correcting the index of the powdery material flow characteristic, and the index is found to conform the experimental value substantially with the measured value.例文帳に追加

そして、計算値を実験における測定値とを対比し、粉体流動特性の指標を修正しながら数値演算を繰り返し行い、上記実験値と測定値がほぼ一致する指標を求める。 - 特許庁