numerical calculation techniqueとは 意味・読み方・使い方

To provide a technique capable of reducing a calculation quantity required for solution by improving the operability of an information processor for calculating the numerical solution of a simultaneous linear equation.例文帳に追加

連立一次方程式の数値解を計算する情報処理装置の操作性の向上を図り、求解に必要な計算量を削減することが可能な技術を提供する。 - 特許庁

After the calculation of the evaluation function value is repeated while altering the supposition value within a numerical value range based on a reference value according to a global optimizing technique, the optimum supposition value is specified to be stored.例文帳に追加

大域的最適化手法に従って、仮定値を基準値に基づく数値範囲内で変更しながら評価関数値の算出を繰り返した後、最適な仮定値を特定して記憶する。 - 特許庁

To provide a technique capable of performing prediction of overflow with a reduced calculation load in execution of an operation including sum of squares of a numeric sequence consisting of numerical values described in a floating-point form.例文帳に追加

浮動小数点形式で記述された数値から構成される数列の自乗和を含む演算を実行する際に、オーバーフローの予測を低い計算負荷で行うことが可能な技術を提供する。 - 特許庁

The wearing state of the contact lens is calculated by applying a numerical value analysis technique, such as a finite element method, by taking the physical change rate by the external force assumed in wearing the contact lens into consideration and the shape and properties of the contact lens are selected in such a manner that the desired characteristics of the contact lens in wearing can be obtained in accordance with the results of such calculation.例文帳に追加

コンタクトレンズの装用時に想定される外力による物理的な変化量を考慮して、コンタクトレンズの装用状態を、有限要素法等の数値解析手法を適用して算出し、かかる算出結果に基づいて、装用時に目的とするコンタクトレンズの特性が得られるように、コンタクトレンズの形状や物性を選定するようにした。 - 特許庁