fixed-point decimalとは 意味・読み方・使い方

The number of places that are used to the left and the right of the decimal point is pre-determined and fixed for all decimal values stored in the same database.発音を聞く 例文帳に追加

小数点の左側と右側で使用できる桁数は、それぞれ事前に定義されている固定値です。 データベースに格納されているすべての値で同じになります。 - PEAR

Now, in order to declare a fixed point number we simply shift left by 8 bits if its a whole number or multiply by 256 if its a decimal number.発音を聞く 例文帳に追加

では固定小数点数を宣言するために、単純に、整数であれば左に８ビットけた送りし、10進数であれば256倍しよう。 - コンピューター用語辞典

An adjustment value change circuit 23 compares the code bit of the fixed decimal point data stored in a buffer 14 and the most significant bit of the integer part.例文帳に追加

調整値変更回路２３は、バッファ１４に格納された固定小数点データの符号ビットと整数部の最上位ビットとを比較する。 - 特許庁

A storing means 102 stores the integer value (q) of 0 to (2 Q-1) by the fixed decimal point format according to q (a/b) in setting Q to be an integer.例文帳に追加

記憶手段１０２は、Ｑを整数とすると、０〜（２∧Ｑ−１）の整数値ｑに対し、ｑ∧（ａ／ｂ）に応じ固定小数点フォーマットで格納する。 - 特許庁

The divided exponent part is converted into fixed decimal point format data, and the cumulative addition arithmetic operation of a value in an addition result storage register 14 and the converted data in the fixed decimal point format is repeated n times, and the result is stored in an addition result storage register 14.例文帳に追加

分離した指数部を固定小数点形式のデータに変換し、加算結果保持レジスタ１４内の値と固定小数点形式の変換したデータとの累積加算演算をｎ回繰り返して結果を加算結果保持レジスタ１４に保持する。 - 特許庁

After that, a shift register 30 shifts the mantissa part of the inputted floating decimal point data by as much as the difference calculated by the subtracter 20, and a bit extracting part 40 extracts the prescribed number of bits in the shifted mantissa part as fixed decimal point data.例文帳に追加

その後、シフトレジスタ３０において、入力された浮動小数点データの仮数部を指数部減算器２０にて求められた差分だけシフトさせ、ビット抽出部４０において、シフトした仮数部のうち所定のビット数を固定小数点データとして抽出する。 - 特許庁

In an OS(operating system) to supply font data to a printer driver, control point coordinates of an outline font are managed by a source format 10 in a fixed decimal point form of an integer part with 16 bits and a decimal part with 16 bits.例文帳に追加

プリンタドライバにフォントデータを供給するＯＳ（オペレーティングシステム）は、アウトラインフォントの制御点座標を整数部１６ビット小数部１６ビットの固定小数点形式のソースフォーマット１０で管理している。 - 特許庁

This enables a single instruction to be used to directly convert between fixed-point formats where the position of the decimal point may be programmable varied and floating-point representations.例文帳に追加

これによって、単一インストラクションを用いて、小数点の位置がプログラム可能である固定小数点フォーマットと浮動小数点表示との間で直接変換することが可能となる。 - 特許庁