「matrix computing function」を含む例文一覧(4)
- A conjugate gradient method computing part, comprising a high-speed matrix computing part, is used in order to solve the equation B = RC by repeating multiplication of the correlation function matrix and the vectors.
本発明では、方程式Ｂ＝ＲＣを相関関数行列とベクトルの掛け算の繰り返しにより解くために高速行列計算部を有する共役勾配法計算部を用いる。 - 特許庁 - The coefficient matrix of the mixing function is prepared by computing the coefficient matrix of the mixing function expressed by a polynomial in which a recurrence formula in a recurrent expression is developed based on a NOT vector or by reading it from an information memory medium (network).
再帰形表現の漸化式を展開した多項式で表される混ぜ合わせ関数の係数マトリクスをノットベクトルに基づき演算したり、情報記憶媒体（ネットワーク）から読み込むことで、係数マトリクスを用意する。 - 特許庁 - To provide a preprocessing method capable of executing preprocessing in an iterative solution with preprocessing to a coefficient matrix with an irregular and sparse non-zero pattern on a parallel computer having vector computing function at high speed by reducing the frequency of synchronization processing, and a matrix reordering method used therefor.
同期処理の回数を削減し、ベクトル演算機能を有する並列計算機上で非ゼロパターンが不規則でスパースな係数行列に対する前処理付き反復解法における前処理を高速に実行できる前処理方法およびそれに用いる行列リオーダリング方法を提供する。 - 特許庁 - Utilizing the fact that the multiplications of the correlation function matrix and the vectors requiring a huge amount of operation by the conjugate gradient method are similar to convolutional operation, the high-speed computing part processes the multiplications after subjecting to Fourier transform operation, and then subjecting to inverse-Fourier transform operation to the calculations.
共役勾配法で大量に計算する必要がある相関関数行列とベクトルの掛け算が、畳み込み演算と類似することを利用して、高速行列計算部ではフーリエ変換した上で掛け算し、逆フーリエ変換する。 - 特許庁
- 特許庁
- Copyright © Japan Patent office. All Rights Reserved.
