「Fixed-Point Decimal」に関連した英語例文の一覧と使い方 - Weblio英語例文検索

The number of places that are used to the left and the right of the decimal point is pre-determined and fixed for all decimal values stored in the same database. 例文帳に追加

小数点の左側と右側で使用できる桁数は、それぞれ事前に定義されている固定値です。 データベースに格納されているすべての値で同じになります。 - PEAR

To provide an improved converting method from a floating point algorithm code into fixed decimal point algorithm mounting.例文帳に追加

浮動小数点アルゴリズムコードから固定小数点アルゴリズム実装への改良された変換方法を提供することが本発明の課題である。 - 特許庁

The divided exponent part is converted into fixed decimal point format data, and the cumulative addition arithmetic operation of a value in an addition result storage register 14 and the converted data in the fixed decimal point format is repeated n times, and the result is stored in an addition result storage register 14.例文帳に追加

分離した指数部を固定小数点形式のデータに変換し、加算結果保持レジスタ１４内の値と固定小数点形式の変換したデータとの累積加算演算をｎ回繰り返して結果を加算結果保持レジスタ１４に保持する。 - 特許庁

A processor has: an arithmetic and logic unit 13 performing at least one of the four arithmetic operations and a shift operation; a decimal point position register 14 holding decimal point position data of the fixed-point arithmetic; and a rounding/saturation processor 20 performing prescribed rounding and saturation processing to output of the arithmetic and logic unit 13 based on the decimal point position data held in the decimal point position register 14.例文帳に追加

四則演算とシフト演算の少なくとも一方を行う算術論理演算ユニット１３と、固定小数点演算の小数点位置データを保持する小数点位置レジスタ１４と、小数点位置レジスタ１４に保持される小数点位置データに基づいて、算術論理演算ユニット１３の出力に対して所定の丸め及び飽和処理を行う丸め／飽和処理器２０とを有する。 - 特許庁

In an OS(operating system) to supply font data to a printer driver, control point coordinates of an outline font are managed by a source format 10 in a fixed decimal point form of an integer part with 16 bits and a decimal part with 16 bits.例文帳に追加

プリンタドライバにフォントデータを供給するＯＳ（オペレーティングシステム）は、アウトラインフォントの制御点座標を整数部１６ビット小数部１６ビットの固定小数点形式のソースフォーマット１０で管理している。 - 特許庁

This enables a single instruction to be used to directly convert between fixed-point formats where the position of the decimal point may be programmable varied and floating-point representations.例文帳に追加

これによって、単一インストラクションを用いて、小数点の位置がプログラム可能である固定小数点フォーマットと浮動小数点表示との間で直接変換することが可能となる。 - 特許庁

This method can directly convert the position of the decimal point between the programmable fixed point format and the floating point display using the single instruction.例文帳に追加

これによって、単一インストラクションを用いて、小数点の位置がプログラム可能である固定小数点フォーマットと浮動小数点表示との間で直接変換することが可能となる。 - 特許庁

Now, in order to declare a fixed point number we simply shift left by 8 bits if its a whole number or multiply by 256 if its a decimal number. 例文帳に追加

では固定小数点数を宣言するために、単純に、整数であれば左に８ビットけた送りし、10進数であれば256倍しよう。 - コンピューター用語辞典

An adjustment value change circuit 23 compares the code bit of the fixed decimal point data stored in a buffer 14 and the most significant bit of the integer part.例文帳に追加

調整値変更回路２３は、バッファ１４に格納された固定小数点データの符号ビットと整数部の最上位ビットとを比較する。 - 特許庁

A variation range of a value gets narrow compared with that when holding an absolute value, the effective number of figures in a decimal point is increased even in a fixed point system, and the calculation precision is improved thereby.例文帳に追加

絶対的な距離を保持する場合に比べて，値の変化する範囲が小さくなり、固定小数点方式でも、小数点の有効桁数を増加でき、計算精度が改善できる。 - 特許庁

A storing means 102 stores the integer value (q) of 0 to (2 Q-1) by the fixed decimal point format according to q (a/b) in setting Q to be an integer.例文帳に追加

記憶手段１０２は、Ｑを整数とすると、０〜（２∧Ｑ−１）の整数値ｑに対し、ｑ∧（ａ／ｂ）に応じ固定小数点フォーマットで格納する。 - 特許庁

After that, a shift register 30 shifts the mantissa part of the inputted floating decimal point data by as much as the difference calculated by the subtracter 20, and a bit extracting part 40 extracts the prescribed number of bits in the shifted mantissa part as fixed decimal point data.例文帳に追加

その後、シフトレジスタ３０において、入力された浮動小数点データの仮数部を指数部減算器２０にて求められた差分だけシフトさせ、ビット抽出部４０において、シフトした仮数部のうち所定のビット数を固定小数点データとして抽出する。 - 特許庁

To precisely calculate x (4/3)*2 (y/4) by the processing of a fixed decimal point format even when the value of an integer X is sufficiently smaller than the maximum value of its varying area.例文帳に追加

整数ｘの値がその変域の最大値に比べ十分小の場合でもｘ∧（４／３）＊２∧（ｙ／４）の計算を、固定小数点フォーマットの処理で精度よく演算する。 - 特許庁

When digital input data are inputted, a right shifter 17 shifts fixed decimal point data to the right on the basis of an adjustment value stored in a register 24 and performs filter calculation.例文帳に追加

デジタル入力データが入力されると、右シフタ１７が、レジスタ２４に格納された調整値に基づいて、固定小数点データを右シフトした後、フィルタ計算を行う。 - 特許庁

Each control point coordinate is converted into a transfer format 14 for small size when character size of a font is the size so as to be stored in the transfer format 14 for small size in the fixed decimal point form of the integer part with 10 bits and the decimal part with 6 bits in the case of transferring the font data acquired from the OS to the printer by the printer driver.例文帳に追加

プリンタドライバは、ＯＳから取得したフォントデータを印刷装置に転送する際、そのフォントの文字サイズが、整数部１０ビット小数部６ビットの固定小数点形式の小サイズ用転送フォーマット１４に収まるサイズの場合は、各制御点座標を小サイズ用転送フォーマット１４に変換する。 - 特許庁

When they do not match, the adjustment value change circuit 23 outputs shift control signals to the right shifters 18 and 19 and shifts the fixed decimal point data stored in the buffers 14 and 15 to the right by 1 bit.例文帳に追加

それらが一致していない場合、調整値変更回路２３は、右シフタ１８，１９にシフト制御信号を出力し、バッファ１４，１５に格納された固定小数点データを１ビット右シフトさせる。 - 特許庁

Furthermore, a control field is provided which is arranged to provide a programmable value specifying a decimal point location within the fixed-point representation of the number, and the data processing unit is operable to reference the control field and to control the formal conversion operation in accordance with the programmable value.例文帳に追加

更には、その数の固定小数点表示内の小数点位置を特定するプログラム可能な値を提供する制御フィールドが配置され、データ処理ユニットは、その制御フィールドを参照し、かつプログラム可能な値に従ってフォーマット変換演算を制御する。 - 特許庁

A control field providing a programmable value specifying a decimal point position in the fixed point display of the number is disposed, and the data processing unit controls the format conversion calculation by referring to the control field and according to the programmable value.例文帳に追加

更には、その数の固定小数点表示内の小数点位置を特定するプログラム可能な値を提供する制御フィールドが配置され、データ処理ユニットは、その制御フィールドを参照し、かつプログラム可能な値に従ってフォーマット変換演算を制御する。 - 特許庁

In setting an integer, which the arithmetic value y2 of a remainder calculation means 105 can range, to be (p), a storing means 103 holds the value of 2 (p/c) as G (P) with respect to P of 0 to 3 to store by the fixed decimal point format.例文帳に追加

記憶手段１０３は、剰余算手段１０５の演算値ｙ２に対し、とり得る範囲の整数をｐとすると０〜３のＰに対し、２∧（ｐ／ｃ）の値をＧ（Ｐ）として保持し、固定小数点フォーマットで格納する。 - 特許庁

Thus, even when the adaptive filter 1 comprises a fixed decimal point arithmetic operation processor and the gain of the feedback path HAB reaches 1 or over, no overflow takes place in the arithmetic operation of the adaptive filter 1 and a desired (e.g. the same degree when the gain is less than 1) echo suppression amount can be obtained.例文帳に追加

このため、適応フィルタ１が固定小数点演算型のプロセッサで構成されている場合において帰還経路Ｈ_ABの利得が１倍以上となっても、適応フィルタ１の演算においてオーバーフローを生じることなく、所望（例えば、利得が１倍未満の場合と同程度）のエコー抑圧量を得ることができる。 - 特許庁