rounding errorとは 意味・読み方・使い方

To provide a rounding processing device for a numerical coprocessor capable of creating the magnitude relation between the magnitude of a rounding error and an operation result as a rounding error, further converting the rounding error to a floating point format so as to be smoothly usable for an operation to be successively performed.例文帳に追加

丸め誤差の大きさと演算結果との大小関係を、丸め誤差として作成することができ、さらに丸め誤差を浮動小数点フォーマットに変換し、引き続き行われる演算にスムーズに利用可能な数値演算プロセッサの丸め処理装置を提供する。 - 特許庁

taxes are rounded off to the nearest dollar but the rounding error is surprisingly small発音を聞く 例文帳に追加

税は最も近いドルまで四捨五入されるが、概数の誤差は驚くほど小さい - 日本語WordNet

An error computing means 52 computes the error resulting from the rounding of the part having the superior angle caused by the exposure.例文帳に追加

誤差算出手段５２は、優角を有する部分が露光の際に丸まることにより生ずる誤差を算出する。 - 特許庁

Thus, it is possible to eliminate any rounding error during the butterfly arithmetic operation (8p) of a radix 8(radix-8).例文帳に追加

このことによって、基数8 (radix-8)のバタフライ演算8p中の丸め誤差を無くすることができる。 - 特許庁

The inputted picture data is transmitted to a rounding error estimating device 8 of a watermark adder 1 and output from the rounding error estimating device 8 is transmitted to a subordinate information adder 9 as a correcting means of a pixel value.例文帳に追加

入力画像データは、ウォータマーク付加器１の丸め誤差見積器８に送られ、この丸め誤差見積器８からの出力が画素値の修正手段である付随情報付加器９に送られる。 - 特許庁

In this case, a rounding error to be generated due to the addition of those whose absolute values are small is made to act on BIG only once.例文帳に追加

これにより、絶対値の小さいもの同士の加算で生じた丸め誤差はBIGに対して1度だけ作用する。 - 特許庁

A rounding error D is calculated by using a value -T2=D=-1 resulting from adding '00' to the low-order 2-bits of the value Y2'.例文帳に追加

Ｙ２’の下位２ビットに００を付加した値−Ｔ２＝Ｄ＝−１によって丸め誤差Ｄが演算される。 - 特許庁

By the method, it becomes possible to suppress distortion of the decoded image since rounding error by quantization can be corrected.例文帳に追加

これにより、量子化による丸め誤差を補正できるため、復号画像の歪みを抑制することが可能となる。 - 特許庁