「arithmetic overflow」に関連した英語例文の一覧と使い方

「arithmetic overflow」を含む例文一覧(22)

arithmetic operations may cause overflow
算術演算によってあふれが起こる可能性がある - コンピューター用語辞典
An arithmetic exception detection means 83 detects that an arithmetic result of the exponential arithmetic means 81 is an arithmetic exception indicating an overflow or an underflow when the exponential arithmetic means 81 executes the calculation.
演算例外検知手段８３は、指数演算手段８１が演算を実行したときに、その演算結果がオーバーフロー又はアンダーフローを示す演算例外であることを検知する。 - 特許庁
An overflow detection flag generated during the arithmetic operation is accumulated and stored in a flag register 16, and after the arithmetic processing to all arithmetic columns is ended, the overflow detection flag is confirmed.
演算中に発生したオーバーフロー検出フラグをフラグレジスタ１６へ累積して記憶しておき、すべての演算列について演算処理を終了した後にオーバーフロー検出フラグの確認を行う。 - 特許庁
Then, when any arithmetic column whose overflow detection flag is confirmed is present, input data are attenuated, and then the arithmetic processing is done over from the arithmetic column whose overflow detection flag is confirmed.
そして、オーバーフロー検出フラグが確認された演算列があるときは、入力データを減衰させたうえで、前記オーバーフロー検出フラグが確認された演算列から演算処理をやり直すようにした。 - 特許庁
To provide a fast Fourier transform arithmetic unit which can prevent an overflow in operation processing of following data, by updating a bit shift amount when occurring overflow.
桁あふれ発生時にビットシフト量を更新することにより、後続データの演算処理時に桁あふれの発生を抑制することのできる高速フーリエ変換演算装置を得る。 - 特許庁
To provide a redundant binary arithmetic circuit which decides a true overflow without converting the redundant binary data into binary data.
冗長２進データを２進データへの変換を行わずに、真のオーバフローを判定する冗長２進演算回路を提供する。 - 特許庁
To reduce the possibility that transmission power exceeds an upper limit value by suppressing an arithmetic error when a weighting factor matrix is calculated through integer arithmetic and a variation of a row norm accompanying an overflow.
整数演算により重み係数行列を算出する際の演算誤差やオーバーフローに伴う行ノルムの変動を抑制し、送信電力が上限値を超える可能性を減らす。 - 特許庁
In the case that the address range of a use inhibition area is accessed, intentional overflow is detected and an arithmetic processing means 201 is reset.
使用禁止領域のアドレス範囲がアクセスされた場合に、意図的オーバーフローを検出して、演算処理手段２０１をリセットする。 - 特許庁
As a result of the operation by the arithmetic unit 13, a first register and second register ov0, ov1, having a narrower bit width than the first bit width, retain overflowed digit data as overflow data, and supplies the retained overflow data to at least one input end of the arithmetic unit 13 as upper bits.
第１のビット幅より狭いビット幅を有する第１、第２のレジスタｏｖ０、ｏｖ１は、演算器１３による演算の結果、あふれた桁のデータをオーバーフローデータとして保持し、演算器１３の少なくとも一方の入力端に、上位ビットとして保持したオーバーフローデータを供給する。 - 特許庁
To provide an echo suppressor that can obtain a desired echo suppressing amount without causing overflow in an arithmetic operation of an adaptive filter even when the gain of a feedback path is 1 or over.
帰還経路の利得が１倍以上であっても適応フィルタの演算においてオーバーフローを生じることなく所望のエコー抑圧量を得る。 - 特許庁
To provide an arithmetic unit allowing suppression of power consumption when an underflow exception or an overflow exception occurs in floating-point calculation.
浮動小数点演算でアンダーフロー例外及びオーバーフロー例外が発生した場合に消費電力を抑えることができる演算装置を提供する。 - 特許庁
Likewise, when the Overflow signal is not trapped, infinity can result from rounding beyond the limits of the largest representable number.The infinities are signed (affine) and can be used in arithmetic operationswhere they get treated as very large, indeterminate numbers.
同様に、 Overflow シグナルをトラップしなければ、表現可能な最大の数値の制限を越えた値を丸めたときに出てきます。無限大には符号があり (アフィン: affine であり)、算術演算に使用でき、非常に巨大で不確定の(indeterminate)値として扱われます。 - Python
At that time, the value of the number of division nDev is determined as the maximum value of numerics within a range processable by an arithmetic processing unit, so that it is possible to surely prevent the overflow of the arithmetic processing unit in the case of reduction, and to obtain the highest image quality reduction image within a range processable by the arithmetic processing unit.
その際、分割数ｎＤｅｖの値が、演算処理装置によって処理可能な範囲内の数値のうちの最大値に決定されるので、縮小時における演算処理装置のオーバーフローを確実に防止できると共に、演算処理装置によって処理可能な範囲内において最高画質の縮小画像を得ることができる。 - 特許庁
The weighting factor matrix is normalized in the final stage of processing for computing the weighting factor matrix to reduce influence of an arithmetic error and an overflow in the weighting factor matrix computation.
重み係数行列を演算する処理の最終段において重み係数行列の正規化処理を行なうことで、重み係数行列演算で混入する演算誤差やオーバーフローの影響を小さくする。 - 特許庁
A logic OR circuit 109 conducts OR arithmetic operation of positive and negative overflow flags of Ich/Qch reception signals outputted from A/D converters 105, a counter 110 counts and outputs number of samples causing overflow per prescribed time, and a comparator circuit 111 compares the sample number with a preset reference value for their quantities.
論理ＯＲ回路１０９が、Ａ／Ｄ変換器１０５が出力する受信信号のＩｃｈ・Ｑｃｈ各々の正側・負側のオーバフローフラグの論理和演算を行い、カウンタ１１０が、一定時間当たりにオーバフローとなったサンプル数を出力し、比較回路１１１が、予め設定された基準値と大小比較する。 - 特許庁
To reduce the number of times of processing because a conventional SIMD type computing element requires arithmetic processing of more than three cycles when the digit overflow occurs as a result of operation or double accuracy operation is to be performed.
従来のＳＩＭＤ型演算器では、演算の結果桁あふれが発生する場合や倍精度演算を行う場合は３サイクル以上の演算処理が必要であり、この処理回数の削減を目指す。 - 特許庁
Thus, it is not required to decrease a level of an input signal to suppress occurrence of the overflow and then the arithmetic processing amount is reduced and the circuit scale is decreased while keeping a high interference eliminating capability.
したがって、オーバフローの発生を抑制するために入力信号のレベルを下げる必要がなくなり高い干渉除去能力を保持したまま、演算処理量を削減し回路規模が縮小される。 - 特許庁
Thus, even when the adaptive filter 1 comprises a fixed decimal point arithmetic operation processor and the gain of the feedback path HAB reaches 1 or over, no overflow takes place in the arithmetic operation of the adaptive filter 1 and a desired (e.g. the same degree when the gain is less than 1) echo suppression amount can be obtained.
このため、適応フィルタ１が固定小数点演算型のプロセッサで構成されている場合において帰還経路Ｈ_ABの利得が１倍以上となっても、適応フィルタ１の演算においてオーバーフローを生じることなく、所望（例えば、利得が１倍未満の場合と同程度）のエコー抑圧量を得ることができる。 - 特許庁
To provide an echo-cancellation circuit which will not cause signal deterioration of reception signal, transmission input signal and transmission output signal, by obtaining a desired echo suppressing amount, while preventing overflow from occurring in a finite word length arithmetic operation, even when the gain of echo path is 1 or larger.
エコー経路の利得が１倍以上になるときでも、有限語長演算でオーバーフローが生じないようにして所望のエコー抑圧量を得て、受話信号・送話入力信号・送話出力信号の信号劣化を生じないエコーキャンセル回路を提供する。 - 特許庁
To provide a technique capable of preventing a failure of decoding processing caused by overflow of a binary memory area by arranging an optimum binary memory area before arithmetic decoding in a decoding apparatus to omit a redundant memory area without degrading the image quality in coding.
符号化時に画質を低下させず、かつ、復号化装置側で算術復号化前に最適な２値化メモリ領域を配置して冗長なメモリ領域を不要とし、２値化メモリ領域のオーバーフローによる復号化処理の破綻を未然に防止可能な技術を提供する。 - 特許庁
A clip detection section 35 detects whether or not the signal summed by the adder section 34 is clipped (gain overflow), and the coefficient arithmetic section 36 increases/decreases the gain parameter depending on the detection result of the clip detection section 35 and feeds back the result to the coefficient multiplication section 32.
クリップ検出部３５はこの加算部３４で加算された信号がクリップ（ゲインがオーバーフロー）しているか否かを検出し、係数演算部３６はクリップ検出部３５の検出結果に応じてゲインパラメータを増減して係数乗算部３２にフィードバックする。 - 特許庁
To realize a viterbi decoder having improved characteristics/ performance due to high integration and small power consumption while having a normalized circuit capable of preventing generation of an overflow problem due to the accumulation of path metrics in an ACS arithmetic unit having parallel constitution capable of executing high-speed ACS operation even when restriction length is increased or the number of decoding bits is increased.
拘束長の増大や、復号ビット数の増加に対し、高速なＡＣＳ演算を可能にするパラレル構成のＡＣＳ演算装置において、パスメトリックの累積によるオ−バ−フロ−の問題を防止する正規化回路を有しながら、高集積化、低消費電力化による特性・性能の向上を実現するビタビ復号装置を提供する。 - 特許庁

例文データの著作権について

大規模オープンソース日英対訳コーパス
この対訳コーパスは独立行政法人情報通信研究機構の研究成果であり、Creative Commons Attribution-Share Alike 3.0 Unportedでライセンスされています。
Python
Copyright 2001-2004 Python Software Foundation.All rights reserved.
Copyright 2000 BeOpen.com.All rights reserved.
Copyright 1995-2000 Corporation for National Research Initiatives.All rights reserved.
Copyright 1991-1995 Stichting Mathematisch Centrum.All rights reserved.