「"integer type"」に関連した英語例文の一覧と使い方 - Weblio英語例文検索

functions compute the absolute value of the argument j of the appropriate integer type for the function. 例文帳に追加

関数は、それぞれの関数の型に応じた引数 j の絶対値を計算する。 - JM

The result of an integer conversion would exceed the size that can be stored in the corresponding integer type. 例文帳に追加

整数変換の結果が、対応する整数型に格納できるサイズを越えてしまう。 - JM

The CPU 12 substitutes integer type data for the floating point type data or performs operation using the integer type data as the backup processing without using the FPU 15.例文帳に追加

ＣＰＵ１２が実施するバックアップ処理としては、ＦＰＵ１５を用いることなく、浮動小数点型データに代わる整数型データを代入したり、或いは整数型データを用いた演算を実施したりする。 - 特許庁

To calculate a proper equalizer parameter by using only simple operation processing (integer type product-sum operation).例文帳に追加

単純な演算処理（整数型の積和演算）のみを用いて適切なイコライザパラメータを算出できるようにする。 - 特許庁

The quantity of data retrieval processing is reduced by handling a column of comparison operation results as an integer type.例文帳に追加

また比較演算結果の列を整数型として取り扱うことによりデータ検索処理量の圧縮を図る。 - 特許庁

To highly precisely calculate an integer type filter coefficient capable of avoiding a chessboard strain at a relatively low bit precision.例文帳に追加

チェス盤歪みなどを回避し得る整数型フィルタ係数を比較的低いビット精度で高精度に算出すること。 - 特許庁

The condition determination means 4 determines whether or not the decomposition side and the synthesis side integer type filter coefficients to be inputted satisfy prescribed conditions and, when satisfying the prescribed conditions, the appropriate integer type filter coefficient is determined and outputted.例文帳に追加

条件判定手段４は、入力する分解側および合成側の整数型フィルタ係数が所定条件を満たすか否かを判定し、当該所定条件を満たした場合は、その整数型フィルタ係数を確定して出力する。 - 特許庁

To provide a method and device for Hadamard transformation processing for carrying out integer-type reversible Hadamard transformation, having simple construction and small operation delays.例文帳に追加

簡易な構成で、演算遅延の小さな整数型の可逆アダマール変換を行うアダマール変換処理方法及び装置を提供する。 - 特許庁

If you want to store the rounded value in an integer type, you probably want to use one of the functions described in lrint (3) 例文帳に追加

)丸めた値を整数型に格納した場合には、おそらくこの関数ではなくlrint (3) に載っている関数のどれかを使いたいのだろう。 - JM

If you want to store the rounded value in an integer type, you probably want to use one of the functions described in lround (3) 例文帳に追加

)丸めた値を整数型に格納した場合には、おそらくこの関数ではなくlround (3) に載っている関数のどれかを使いたいのだろう。 - JM

To carry out convolution operation in a simple configuration and to simultaneously obtain both the integer type and real number type filtering process results.例文帳に追加

単純な構成でもって、畳み込み演算を実行可能で、整数型及び実数型の両方のフィルタ処理結果を同時に得ることを可能にする。 - 特許庁

A control means 15 temporarily converts the floating type data, of which an absolute value is to be found, into unsigned integer type data to load them from a memory 11 to a register 12.例文帳に追加

制御手段１５は、絶対値を求めたい浮動小数点型データを符号なし整数型データに一時的に型変換し、メモリ１１からレジスタ１２にロードする。 - 特許庁

The compressed data structure has regulations at each vertex, and can be extended by converting the integer type data into the floating decimal number type data and dividing with the scale value.例文帳に追加

圧縮されたデータ構造は各頂について規則的であり、整数型データから浮動小数点数型データへの変換とスケール値との乗算で伸張可能である。 - 特許庁

Then, an integer computing unit 13 carries out integer computing for turning a part matching a sign bit of the floating point type data in the integer type data into a positive number.例文帳に追加

次に、整数演算器１３により、その整数型データにおける、浮動小数点型データの符号ビットに対応する部分を正の数にするための整数演算を行う。 - 特許庁

Finally, the control means 15 converts the type of the integer type data in the register 14 to return into the floating point type data and stores the floating point type data in the memory 11.例文帳に追加

最後に、制御手段１５は、レジスタ１４の整数型データを型変換して浮動小数点型データに戻し、その浮動小数点型データをメモリ１１へストアする。 - 特許庁

If the output data type is an integer type, the block output is the maximum value representable by the output type or the converted output, whichever is smaller in the absolute sense. 例文帳に追加

出力データ型が整数型である場合, ブロック出力は, どちらか絶対値として小さい方の, 出力型または変換出力によって表される最大値となる. - コンピューター用語辞典

The masking step will take place automatically on many machine architectures,depending on the size of the integer type used to do the computation, Thevisualid member gives the ID number of the visual from which the colormap was created.例文帳に追加

多くの計算機アーキテクチャでは、マスキングの処理は計算に使用される整数のサイズに依存して自動的に行われる。 visualid メンバは、カラーマップを生成したビジュアルの ID 番号を与える。 - XFree86

The values stored for 'L' and 'I' items will be represented as Python long integers when retrieved, because Python's plain integer type cannot represent the full range of C's unsigned (long) integers.The module defines the following type:例文帳に追加

Python の通常の整数型では C の unsigned (long) 整数の最大範囲を表せないため、'L'と'I' で表現されている要素に入る値は Pythonでは長整数として表されます。 このモジュールでは次の型を定義しています: - Python

The wavelet transformation part 5 switch-controls the data from the data reading memory 1 with a switch 2 and sends to a fixed decimal-type wavelet transformation part 3 or an integer-type wavelet transformation part 4.例文帳に追加

ウェーブレット変換部５は、データ読み出しメモリ部１からのデータを切り替え部２で切り替え制御して、固定小数点型ウェーブレット変換部３、整数型ウェーブレット変換部４のいずれか一方に送るようにしている。 - 特許庁

A sign addition part 300 performs integer calculation of the target data supplied through the signal line 149 as integer type data to add the sign to the target data based on the sign data from the sign data generation part 200 and the target data from the signal line 149.例文帳に追加

符号付加部３００は、信号線１４９を介して供給される対象データを整数型のデータとして整数演算することによって、符号データ生成部２００からの符号データと信号線１４９からの対象データとに基づいて対象データに符号を付加する。 - 特許庁