丸めの誤差の英語

丸め誤差の大きさと演算結果との大小関係を、丸め誤差として作成することができ、さらに丸め誤差を浮動小数点フォーマットに変換し、引き続き行われる演算にスムーズに利用可能な数値演算プロセッサの丸め処理装置を提供する。例文帳に追加

To provide a rounding processing device for a numerical coprocessor capable of creating the magnitude relation between the magnitude of a rounding error and an operation result as a rounding error, further converting the rounding error to a floating point format so as to be smoothly usable for an operation to be successively performed. - 特許庁

丸め誤差は、丸めの結果が偶数であるか奇数であるかで切り上げと切り捨てを決定するので、同じ個所で丸め誤差が重畳する現象を回避することができる。例文帳に追加

As for rounding errors, since round up and round down are determined depending on whether a rounding result is even or odd, a phenomenon where rounding errors accumulate at the same part can be avoided. - 特許庁

誤差算出部１５は，第１の精度で丸めた結果と，第２の精度で基数変換した結果との誤差を算出する。例文帳に追加

A difference calculation part 15 calculates a difference in the results between the rounding with the first accuracy and the radix conversion with the second accuracy. - 特許庁

丸め方向判定部１７は，誤差の符号から，第１の精度で丸めた結果における丸めの方向が指定された丸めモードに従った丸めの方向であるかを判定する。例文帳に追加

A rounding direction determination part 17 determines whether or not a direction of rounding in the result of rounding with the first accuracy is equal to a direction of rounding in accordance with a specified rounding mode, based on a mark of the difference. - 特許庁

丸め結果補正部１８は，第１の精度で丸めた結果における丸めの方向が指定された丸めモードに従った丸めの方向でない場合に，誤差の符号と第１の精度で丸めた結果の符号との関係から，第１の精度で丸めた結果を補正する。例文帳に追加

A rounding result correction part 18, when the direction of rounding in the result of rounding with the first accuracy is not equal to the direction of rounding in accordance with the specified rounding mode, corrects the result of rounding with the first accuracy, based on a relationship between the mark of the difference and a mark of the result of rounding with the first accuracy. - 特許庁

このことによって、基数8 (radix-8)のバタフライ演算8p中の丸め誤差を無くすることができる。例文帳に追加

Thus, it is possible to eliminate any rounding error during the butterfly arithmetic operation (8p) of a radix 8(radix-8). - 特許庁

内挿処理における丸め誤差が累積されることを抑制して、画質の向上を図る。例文帳に追加

To improve image quality by suppressing accumulation of round-off errors at interpolation processing. - 特許庁

小数画素精度の動きベクトルに対する予測誤差の下限値を，既に計算済みの丸め誤差を用いて算出し（Ｓ３），この下限値と予測誤差の最小値として格納された値との大小を比較する（Ｓ４）。例文帳に追加

A lower limit of prediction error for a motion vector of decimal pixel precision is calculated using an already calculated rounding error (S3), and this lower limit is compared with a value stored as the minimum value of the prediction error (S4). - 特許庁