固定小数点式のの英語

入力レベルが０から２まではフラグを０とし、固定小数点方式で圧縮処理すると、１１ｂｉ１分が固定小数点のデータとして割り当てられる。例文帳に追加

A flag for input levels between 0 through 2 is set to 0, and the data is compressed by a fixed point system, thereby the data portion corresponding to 11 bits is assigned as data of fixed point system. - 特許庁

入力データ形式変換器４０は変位速度検出器１２において検出された変位速度について固定小数点形式から浮動小数点形式に変換するとともに、検出された合焦部材の位置を浮動小数点データに変換する。例文帳に追加

An input data format converter 40 converts the shifting speed detected by a variation speed detector 12 from a fixed-point format into a floating-point format, and also converts the detected position of a focus member into a floating-point format. - 特許庁

固定精度浮動小数点数の組を多倍長や可変長の１つの浮動小数点の表現形式に効率的に変換する際に量子化演算を効率的に実行する演算方式を提供する。例文帳に追加

To provide an arithmetic system for efficiently performing a quantization arithmetic when fixed-precision floating-point number groups are converted into single floating-point representation form of multiple-precision or variable-precision in an efficient way. - 特許庁

デスティネーション型変換部４は、指数・仮数固定長形式浮動小数点演算器３による演算結果を可変長の指数部および仮数部を含んだ浮動小数点の数値形式に変換する。例文帳に追加

A destination type conversion part 4 converts a computing result by the exponent/mantissa fixed-length floating point computing unit 3 into the floating point numerical format including the variable-length exponent part and mantissa part. - 特許庁

浮動小数点形式のデータを固定小数点形式の演算処理部で演算処理する際、データが極端に大きい場合や小さい場合でも、計算精度高く、演算が行えるようにする。例文帳に追加

To make an operation with high calculation accuracy performable even when data are extremely large or small in the case of arithmetically processing the data of a floating point form in the arithmetic processing part of a fixed point form. - 特許庁

従来の符号化方式における動き補償は、固定フィルタによって小数点画素補間を行うため、動画像の性質やビットレートに応じた小数点画素の補間ができない。例文帳に追加

To solve a problem of a motion compensation method of a conventional encoding system that cannot have interpolated factional pixels depending on the property of a moving picture and a bit rate because a fixed filter is used for decimal pixel interpolation. - 特許庁

絶対的な距離を保持する場合に比べて，値の変化する範囲が小さくなり、固定小数点方式でも、小数点の有効桁数を増加でき、計算精度が改善できる。例文帳に追加

A variation range of a value gets narrow compared with that when holding an absolute value, the effective number of figures in a decimal point is increased even in a fixed point system, and the calculation precision is improved thereby. - 特許庁

そして、シフト処理後の仮数部を固定小数点形式のデータとして扱い、ＡＬＵ６０を使って、所定の演算を行う。例文帳に追加

After shift processing, the mantissa part is handled as data of the fixed point form and prescribed operation is performed by using the ALU 60. - 特許庁