algebraic calculationとは 意味・読み方・使い方

To efficiently execute accurate shape calculation by using an algebraic calculation method and a geometric calculation method together.例文帳に追加

代数的な算出法と幾何的な算出法を併用することにより、効率良く正確な形状計算を行う。 - 特許庁

In the calculation of the hue angle H = atan(b/a), the 1/3 square calculation and atan function calculation are replaced with simple algebraic calculation realizable by a basic arithmetic circuit and calculated.例文帳に追加

色相角Ｈ＝ａｔａｎ（ｂ／ａ）の計算において、１／３乗計算、およびａｔａｎ関数計算を基本的な算術回路で実現可能な単純な代数計算に置き換えて計算する。 - 特許庁

To enhance convergent property in a numerical calculation using a residual removal method adapting AMG (algebraic multi grid) method for an internal solver.例文帳に追加

ＡＭＧ法を内部ソルバに採用した残差切除法を用いた数値計算において、収束性を高める。 - 特許庁

Then, the wave source estimation device calculates the position of the wave source by an algebraic method based on the transformation matrix calculated on a calculation process and the previously calculated correlation matrix after the averaging processing.例文帳に追加

そして、波源推定装置は、演算過程で算出した変換行列と、先に算出された平均化処理後の相関行列とを基に代数的手法によって波源の位置を算出する。 - 特許庁

When the circuit 34 cannot find the code word D_2, a hard decision circuit 38 applies hard decision to the U_k1, and a calculation circuit 40 decodes (error correction) the result of decision by the circuit 38, by an algebraic operation to calculate the W_k1, on the basis of the decoding result.例文帳に追加

回路３４が符号語Ｄ_２を発見できない場合、硬判定回路３８はＵ_ｋ１を硬判定し、計算回路４０は、回路３８の判定結果を代数演算で復号（誤り訂正）し、その復号結果によりＷ_ｋ１を計算する。 - 特許庁

Proposed architecture is incorporated as a coprocessor 140 in a digital signal processor(DSP) and assists in the calculation of the total of absolute differences, symmetrical row/column FIR filtration having a down sampling (or up sampling) option, row/column discrete DCT/IDCT, and general algebraic functions.例文帳に追加

提案されるアーキテクチャは、コプロセッサ１４０としてディジタル信号プロセッサ（ＤＳＰ）に組み込まれて、絶対差分の合計の計算，ダウンサンプリング（またはアップサンプリング）オプションを持つ対称行／列ＦＩＲ濾波，行／列離散ＤＣＴ／ＩＤＣＴおよび一般代数機能をアシストする。 - 特許庁