numerical solutionsとは 意味・読み方・使い方

To rapidly perform computation of numerical solutions of simultaneous linear equations, by suppressing occurrence of paging in a virtual memory used for a solving method for the simultaneous linear equations using the modified Cholesky decomposition method.例文帳に追加

修正コレスキー分解法を用いた連立一次方程式の解法で使用される仮想記憶におけるページングの発生を抑制して、連立一次方程式の数値解の算出を高速に実行すること。 - 特許庁

An intermediate value calculation circuit 4 generates a numerical value showing an intermediate value by a predetermined calculation using the partial solutions predicted by the solution prediction circuit 3, and stores a value obtained by appending an extended sign bit to the intermediate value by sign extension in the register.例文帳に追加

中間値計算回路４は、解予測回路３で予測された部分解を用いた所定の演算により、中間値を示す数値を生成し、中間値に対して符号拡張により拡張符号ビットを付加した数値をレジスタに格納する。 - 特許庁