rounded errorとは 意味・読み方・使い方

taxes are rounded off to the nearest dollar but the rounding error is surprisingly small発音を聞く 例文帳に追加

税は最も近いドルまで四捨五入されるが、概数の誤差は驚くほど小さい - 日本語WordNet

Next, the allocated partial rate is quantized to an integer value, and when the integer value is rounded off, the first allocated partial power is subtracted to make the transmission error rate the same as the transmission error rate before the quantization.例文帳に追加

次に割当部分速度を整数値に量子化し、それが切下げの場合最初の割当部分電力を減じ伝送誤り率を量子化前と同一にする。 - 特許庁

Also, in calculating the lower limit value of the cost, a rounded error to be generated by rounding calculation is previously stored in a lookup table, so that the calculation a correction value of the rounded error can be omitted by referring to the lookup table (S4).例文帳に追加

また，コストの下限値を算出する際に，四捨五入演算により発生する丸め誤差を予めルックアップテーブルに格納しておき，そのルックアップテーブルを参照することにより丸め誤差の補正値を算出する演算を省略できるようにする（Ｓ４）。 - 特許庁

For example, when the length of the taper vector V2 is 1.4, the length of the taper vector V2 rounded off becomes 1.0, and the error is about 30%.例文帳に追加

例えば、テーパベクトルＶ2 の長さが１．４の場合、四捨五入された後のテーパベクトルＶ2 の長さは１．０となり、誤差が約３０％となる。 - 特許庁

Bit width to be rounded off at the time of division is inputted to a comparing value generation circuit 108, which generates a signal for correcting an error generated at the time of the division.例文帳に追加

また、この除算の際に切捨てられるビット幅を比較値発生回路１０８に入力し、除算の際の誤差を補正する信号を発生する。 - 特許庁

Prior to cost calculation of a prediction mode, the lower limit value of the cost is computed from the sum of pixel values to be predicted, the sum of reference pixel values and a correction value for a rounded error (S5), pruning utilizing the lower limit is executed in the cost calculation in each prediction mode (S6), and a prediction mode maximizing the cost is searched.例文帳に追加

予測モードのコスト算出に先立ち，被予測画素値和と参照画素値和と丸め誤差に対する補正値とから同コストの下限値を算出し（Ｓ５），各予測モードのコスト計算において下限値を利用した枝刈りを行い（Ｓ６），コストを最小化する予測モードを探索する。 - 特許庁