arithmetic overflowとは 意味・読み方・使い方

In the case that the address range of a use inhibition area is accessed, intentional overflow is detected and an arithmetic processing means 201 is reset.例文帳に追加

使用禁止領域のアドレス範囲がアクセスされた場合に、意図的オーバーフローを検出して、演算処理手段２０１をリセットする。 - 特許庁

As a result of the operation by the arithmetic unit 13, a first register and second register ov0, ov1, having a narrower bit width than the first bit width, retain overflowed digit data as overflow data, and supplies the retained overflow data to at least one input end of the arithmetic unit 13 as upper bits.例文帳に追加

第１のビット幅より狭いビット幅を有する第１、第２のレジスタｏｖ０、ｏｖ１は、演算器１３による演算の結果、あふれた桁のデータをオーバーフローデータとして保持し、演算器１３の少なくとも一方の入力端に、上位ビットとして保持したオーバーフローデータを供給する。 - 特許庁

To provide an echo suppressor that can obtain a desired echo suppressing amount without causing overflow in an arithmetic operation of an adaptive filter even when the gain of a feedback path is 1 or over.例文帳に追加

帰還経路の利得が１倍以上であっても適応フィルタの演算においてオーバーフローを生じることなく所望のエコー抑圧量を得る。 - 特許庁

To provide an arithmetic unit allowing suppression of power consumption when an underflow exception or an overflow exception occurs in floating-point calculation.例文帳に追加

浮動小数点演算でアンダーフロー例外及びオーバーフロー例外が発生した場合に消費電力を抑えることができる演算装置を提供する。 - 特許庁

Likewise, when the Overflow signal is not trapped, infinity can result from rounding beyond the limits of the largest representable number.The infinities are signed (affine) and can be used in arithmetic operationswhere they get treated as very large, indeterminate numbers.例文帳に追加

同様に、 Overflow シグナルをトラップしなければ、表現可能な最大の数値の制限を越えた値を丸めたときに出てきます。 無限大には符号があり (アフィン: affine であり)、算術演算に使用でき、非常に巨大で不確定の(indeterminate)値として扱われます。 - Python

At that time, the value of the number of division nDev is determined as the maximum value of numerics within a range processable by an arithmetic processing unit, so that it is possible to surely prevent the overflow of the arithmetic processing unit in the case of reduction, and to obtain the highest image quality reduction image within a range processable by the arithmetic processing unit.例文帳に追加

その際、分割数ｎＤｅｖの値が、演算処理装置によって処理可能な範囲内の数値のうちの最大値に決定されるので、縮小時における演算処理装置のオーバーフローを確実に防止できると共に、演算処理装置によって処理可能な範囲内において最高画質の縮小画像を得ることができる。 - 特許庁

The weighting factor matrix is normalized in the final stage of processing for computing the weighting factor matrix to reduce influence of an arithmetic error and an overflow in the weighting factor matrix computation.例文帳に追加

重み係数行列を演算する処理の最終段において重み係数行列の正規化処理を行なうことで、重み係数行列演算で混入する演算誤差やオーバーフローの影響を小さくする。 - 特許庁

A logic OR circuit 109 conducts OR arithmetic operation of positive and negative overflow flags of Ich/Qch reception signals outputted from A/D converters 105, a counter 110 counts and outputs number of samples causing overflow per prescribed time, and a comparator circuit 111 compares the sample number with a preset reference value for their quantities.例文帳に追加

論理ＯＲ回路１０９が、Ａ／Ｄ変換器１０５が出力する受信信号のＩｃｈ・Ｑｃｈ各々の正側・負側のオーバフローフラグの論理和演算を行い、カウンタ１１０が、一定時間当たりにオーバフローとなったサンプル数を出力し、比較回路１１１が、予め設定された基準値と大小比較する。 - 特許庁