fixed-point integerとは 意味・読み方・使い方

Integers of 2-, 4-, and 8-bytes ('smallint', 'integer', and 'bigint') Fixed-point decimals ('decimal')発音を聞く 例文帳に追加

2 バイト、4 バイトあるいは 8 バイトの 整数型('smallint'、'integer' および 'bigint') 固定小数点型('decimal') - PEAR

Two kinds of data are, namely, integer format data and fixed-point data formed by excluding a floating-point device.例文帳に追加

すなわち、整数フォーマットデータと、浮動小数点装置を除外した、固定小数点データである。 - 特許庁

A storing means 102 stores the integer value (q) of 0 to (2 Q-1) by the fixed decimal point format according to q (a/b) in setting Q to be an integer.例文帳に追加

記憶手段１０２は、Ｑを整数とすると、０〜（２∧Ｑ−１）の整数値ｑに対し、ｑ∧（ａ／ｂ）に応じ固定小数点フォーマットで格納する。 - 特許庁

An adjustment value change circuit 23 compares the code bit of the fixed decimal point data stored in a buffer 14 and the most significant bit of the integer part.例文帳に追加

調整値変更回路２３は、バッファ１４に格納された固定小数点データの符号ビットと整数部の最上位ビットとを比較する。 - 特許庁

To precisely calculate x (4/3)*2 (y/4) by the processing of a fixed decimal point format even when the value of an integer X is sufficiently smaller than the maximum value of its varying area.例文帳に追加

整数ｘの値がその変域の最大値に比べ十分小の場合でもｘ∧（４／３）＊２∧（ｙ／４）の計算を、固定小数点フォーマットの処理で精度よく演算する。 - 特許庁

Then routes of the in-use point-to-multipoint paths are fixed, and the integer programming method is used to find routes (S25) of a standby path group minimizing the total route cost and the route cost (S26).例文帳に追加

次に、現用ポイントツーマルチポイントパスの経路を固定し、整数計画法を用いて全体の経路コストを最小化する予備パス群の経路(S25)および経路コスト(S26)を求める。 - 特許庁

In setting an integer, which the arithmetic value y2 of a remainder calculation means 105 can range, to be (p), a storing means 103 holds the value of 2 (p/c) as G (P) with respect to P of 0 to 3 to store by the fixed decimal point format.例文帳に追加

記憶手段１０３は、剰余算手段１０５の演算値ｙ２に対し、とり得る範囲の整数をｐとすると０〜３のＰに対し、２∧（ｐ／ｃ）の値をＧ（Ｐ）として保持し、固定小数点フォーマットで格納する。 - 特許庁