「rounded error」に関連した英語例文の一覧と使い方 - Weblio英語例文検索

taxes are rounded off to the nearest dollar but the rounding error is surprisingly small 例文帳に追加

税は最も近いドルまで四捨五入されるが、概数の誤差は驚くほど小さい - 日本語WordNet

Next, the allocated partial rate is quantized to an integer value, and when the integer value is rounded off, the first allocated partial power is subtracted to make the transmission error rate the same as the transmission error rate before the quantization.例文帳に追加

次に割当部分速度を整数値に量子化し、それが切下げの場合最初の割当部分電力を減じ伝送誤り率を量子化前と同一にする。 - 特許庁

Also, in calculating the lower limit value of the cost, a rounded error to be generated by rounding calculation is previously stored in a lookup table, so that the calculation a correction value of the rounded error can be omitted by referring to the lookup table (S4).例文帳に追加

また，コストの下限値を算出する際に，四捨五入演算により発生する丸め誤差を予めルックアップテーブルに格納しておき，そのルックアップテーブルを参照することにより丸め誤差の補正値を算出する演算を省略できるようにする（Ｓ４）。 - 特許庁

For example, when the length of the taper vector V2 is 1.4, the length of the taper vector V2 rounded off becomes 1.0, and the error is about 30%.例文帳に追加

例えば、テーパベクトルＶ2 の長さが１．４の場合、四捨五入された後のテーパベクトルＶ2 の長さは１．０となり、誤差が約３０％となる。 - 特許庁

Bit width to be rounded off at the time of division is inputted to a comparing value generation circuit 108, which generates a signal for correcting an error generated at the time of the division.例文帳に追加

また、この除算の際に切捨てられるビット幅を比較値発生回路１０８に入力し、除算の際の誤差を補正する信号を発生する。 - 特許庁