「"integer arithmetic"」に関連した英語例文の一覧と使い方 - Weblio英語例文検索

An integer arithmetic unit 15 operates independently from floating-point arithmetic units 16 and 17, and performs an integer operation to the data transferred to the integer arithmetic memory 11.例文帳に追加

整数演算ユニット１５は、浮動小数点演算ユニット１６および１７と独立して動作し、整数演算用メモリ１１に転送されたデータに対して整数演算を行なう。 - 特許庁

These functions generate pseudo-random numbers using the linear congruential algorithm and 48-bit integer arithmetic. 例文帳に追加

これらの関数は線形合同アルゴリズムと 48ビット整数演算を用いて疑似乱数を生成する。 - JM

The reversible wavelet filter 102 performs efficient transformation for precise restoration to be provided by integer arithmetic.例文帳に追加

可逆ウエーブレットフィルタ１０２は整数演算で実現される精密復元の効率的変換である。 - 特許庁

The wavelet filter 102 is for efficient conversion of a precise recovery realized by the integer arithmetic.例文帳に追加

可逆ウエーブレットフィルタ１０２は整数演算で実現される精密復元の効率的変換である。 - 特許庁

The conversion of the inputted image data by means of the filter 102 is efficiently performed for precise reconstat realized by integer arithmetic.例文帳に追加

可逆ウエーブレットフィルタ１０２は整数演算で実現される精密復元の効率的変換である。 - 特許庁

In one embodiment, invertible transformation from original mosaic pattern pixels to four new color channel space is enabled by using integer arithmetic.例文帳に追加

一実施形態では、元のモザイクパターンピクセルから新しい４チャネル色空間への変換を、整数演算で可逆にすることができる。 - 特許庁

Then, calculations in the Jacobi manifold J(C, Fq) can be executed with an ordinary integer arithmetic in which a multi-length- precise arithmetic is unnecessary.例文帳に追加

上記ヤコビ多様体Ｊ（Ｃ，Ｆ_q ）における演算が、多倍長精度演算を必要としない通常の整数演算で行うことができる。 - 特許庁

To provide an easy integer arithmetic method for a notch filter with high precision without an offset due to a numerical arithmetic error in a steady state.例文帳に追加

定常状態において数値演算誤差によるオフセットを発生せずに、簡単でかつ、高精度なノッチフィルタの整数演算方法を提供する。 - 特許庁

Data necessary for geometric operation are transferred from an input memory 10 to an integer arithmetic memory 11 and floating-point arithmetic memories 12 and 13.例文帳に追加

整数演算用メモリ１１、浮動小数点演算用メモリ１２および１３は、入力メモリ１０から幾何学演算に必要なデータが転送される。 - 特許庁

To provide a gas concentration measurement instrument employing a TDLAS measurement method, which is capable of phase-sensitive detection by digital processing using an integer arithmetic device.例文帳に追加

整数演算型のデバイスを用いたデジタル処理によって位相敏感検波を行うことができる、ＴＤＬＡＳ測定法を利用したガス濃度測定装置を提供する。 - 特許庁

To reduce the possibility that transmission power exceeds an upper limit value by suppressing an arithmetic error when a weighting factor matrix is calculated through integer arithmetic and a variation of a row norm accompanying an overflow.例文帳に追加

整数演算により重み係数行列を算出する際の演算誤差やオーバーフローに伴う行ノルムの変動を抑制し、送信電力が上限値を超える可能性を減らす。 - 特許庁

When a quantization parameter QP is 4 or less, integer arithmetic transformation and quantization processes to be performed after inter- or intra-prediction processing are switched to lossless transformation processing, and entropy encoding is performed on a result of the lossless transformation.例文帳に追加

量子化パラメータＱＰが４以下の時に、インター又はイントラ予測処理後に行う整数演算変換と量子化処理をロスレス変換処理に切換え、該ロスレス変換結果をエントロピー符号化する。 - 特許庁

Therefore, DC components are relatively increased in an output signal of a digital filter 63, so that extraction of DC components in a digital low pass filter 64 is facilitated to be able to perform phase-sensitive detection with sufficient accuracy in spite of the use of digital processing based on integer arithmetic.例文帳に追加

これにより、デジタルフィルタ６３の出力信号において直流成分が相対的に大きくなるため、デジタルローパスフィルタ６４による直流成分の抽出が容易となり、整数演算によるデジタル処理を用いても十分な精度で位相敏感検波を行うことが可能となる。 - 特許庁

The method includes the steps of: representing seismic wave characteristics by using a predominant frequency easily calculated only by integer arithmetic, a parameter representing how the seismic wave rises, and the relationship between them; and determining seismic observation data not having the characteristics as noise.例文帳に追加

整数の演算だけで容易に計算される卓越周波数の計算、地震波の立ち上がり方を表すためのパラメータ、及び両者の関係を用いて、地震波の特徴を表し、その属性を持たない地震観測データをノイズであると判定することを特徴とする。 - 特許庁

Operations of selectors 211, 214, and 215 and a replacing circuit 216 are so controlled, that when a decision circuit 217 in a control circuit 21 provided to an instruction decoding unit decides that an integer arithmetic unit cannot execute a following sub-instruction, a memory access unit having executed a precedent sub-instruction executes the following sub-instruction.例文帳に追加

命令デコードユニット２に設けられた制御回路２１内の判定回路２１７は、後続のサブ命令を整数演算ユニット４が実行不可能と判断した場合、先行サブ命令を実行したメモリアクセスユニット３で、後続サブ命令を実行させるように、各セレクタ２１１，２１４，２１５や入替回路２１６の動作を制御する。 - 特許庁

In an image processing program and an image processor, a mean pixel value in one pixel of a reduction image is calculated by using divided blocks generated by dividing an original image into nDev pieces as units, so that it is possible to acquire a mean pixel value by an integer arithmetic operation without calculating decimal numbers generated according to the reduction rate by a floating-point arithmetic operation.例文帳に追加

本発明の画像処理プログラム及び画像処理装置によれば、元画像をｎＤｅｖ個に分割することによって生じた分割ブロックを単位として、縮小画像の１画素における平均画素値を算出するので、縮小率に応じて生じる小数を浮動小数演算によって演算するのではなく、整数演算によって平均画素値を得ることができる。 - 特許庁

In this image processing program and an image processor, a mean pixel value in one pixel of a reduction image is calculated by using divided blocks generated by dividing an original image into nDev pieces as units, so that it is possible to acquire mean pixel values by an integer arithmetic operation without calculating decimal numbers to be generated according to a reduction rate by a floating-point arithmetic operation.例文帳に追加

本発明の画像処理プログラム及び画像処理装置によれば、元画像をｎＤｅｖ個に分割することによって生じた分割ブロックを単位として、縮小画像の１画素における平均画素値を算出するので、縮小率に応じて生じる小数を浮動小数演算によって演算するのではなく、整数演算によって平均画素値を得ることができる。 - 特許庁