approximate calculation formulaとは 意味・読み方・使い方

To provide an arithmetic circuit and method which allows approximate calculation of a formula including a round-up arithmetic operation at high speed.例文帳に追加

切り上げ演算を含む数式の近似計算を高速に行うことができる演算回路及び方法を提供する。 - 特許庁

To realize a high-precision approximation while reducing the load of calculation when discrete data obtained by patch images are interpolated by using an approximate formula.例文帳に追加

パッチ画像により得られる離散的なデータを近似式により補間するにあたり、計算の負荷を軽減しつつ高精度な近似を実現し得るように構成する。 - 特許庁

When finding the calculating formula of √A±√B, integers are assigned to an integer A and an integer B in order from 1 to an upper limit value fixed in advance to perform numerical calculation to find an approximate.例文帳に追加

√Ａ±√Ｂの計算式を求める場合であれば、整数Ａ及び整数Ｂに１から予め定められている上限値まで順に整数を割当て、数値計算をして近似値を求める。 - 特許庁

A region modeling part 104 calculates objective functions corresponding to the sets of parameter/range data samples belonging to each of the divided groups, and calculates an objective function approximate formula for modeling the objective functions on the basis of the calculation result.例文帳に追加

領域毎モデル化部１０４は、分割されたグループ毎に、その各グループに属するパラメタ・範囲データサンプル組に対する目的関数を計算し、その計算結果に基づいて目的関数をモデル化する目的関数近似式を算出する。 - 特許庁