数値の丸め方の英語

本発明は、ＩＩＲフィルタで有限長精度の数値演算を行った場合であっても、入力が０になれば丸め誤差によって０に収束する丸め処理方法及びプログラムの提供を目的とする。例文帳に追加

To provide a rounding method and a program ensuring convergence of an input signal to 0 by rounding error when the input signal goes 0, even when numerical operation is carried out with accuracy of finite length by an IIR filter. - 特許庁

Decimal コンストラクタと違い、数値を変換する際にコンテキストの精度、値丸め方法、フラグ、トラップを適用します。 定数値はしばしばアプリケーションの要求よりも高い精度を持っているため、このメソッドが役に立ちます。例文帳に追加

Unlike the Decimal constructor, the context precision,rounding method, flags, and traps are applied to the conversion.This is useful because constants are often given to a greater precision than is needed by the application. - Python

すなわち、アダマール変換後の小数点以下は、０．０、０．２５、０．５、０．７５があるが、単純な四捨五入では、数値の絶対値が大きくなる方向に偏る確率が高くなるので、０．５になった場合の整数化の丸め処理をブロックごとに変更する。例文帳に追加

That is, there exist fractions 0.0, 0.25, 0.5, 0.75 after the Hadamard transform, but since the fractions are biased in a direction of increasing their absolute value in the simple rounding with high probability, the rounding processing for the integer processing when the fraction reaches 0.5 is changed for each block. - 特許庁