fixed point arithmeticとは 意味・読み方・使い方

A processor has: an arithmetic and logic unit 13 performing at least one of the four arithmetic operations and a shift operation; a decimal point position register 14 holding decimal point position data of the fixed-point arithmetic; and a rounding/saturation processor 20 performing prescribed rounding and saturation processing to output of the arithmetic and logic unit 13 based on the decimal point position data held in the decimal point position register 14.例文帳に追加

四則演算とシフト演算の少なくとも一方を行う算術論理演算ユニット１３と、固定小数点演算の小数点位置データを保持する小数点位置レジスタ１４と、小数点位置レジスタ１４に保持される小数点位置データに基づいて、算術論理演算ユニット１３の出力に対して所定の丸め及び飽和処理を行う丸め／飽和処理器２０とを有する。 - 特許庁

To provide an arithmetic system for efficiently performing a quantization arithmetic when fixed-precision floating-point number groups are converted into single floating-point representation form of multiple-precision or variable-precision in an efficient way.例文帳に追加

固定精度浮動小数点数の組を多倍長や可変長の１つの浮動小数点の表現形式に効率的に変換する際に量子化演算を効率的に実行する演算方式を提供する。 - 特許庁

More generally, fixed-point arithmetic refers to the handling of numbers which are scaled up by a certain factor to allow space for fractional parts.発音を聞く 例文帳に追加

より一般的には、固定小数点演算は小数部にスペースを与えるためにある倍率でスケールアップされた数を扱うものである。 - コンピューター用語辞典

To provide an arithmetic system for efficiently performing a rounding operation when fixed-precision floating-point number groups are to be rounding targets.例文帳に追加

固定精度浮動小数点数の組を丸め対象とした場合に、丸め演算を効率的に実現する演算方式を提供する。 - 特許庁

According to the system, it becomes clear that a modulation signal shows a hyper chaos characteristic in the fixed point arithmetic of 10,000 data points.例文帳に追加

本発明によれば、１０，０００データポイントの固定小数点演算において変調信号がハイパーカオス特性を示すことを明らかとなった。 - 特許庁

The adaptive filter 12 uses round-down processing in fixed-point arithmetic operation to update the filter coefficient on the basis of the residual echo signal.例文帳に追加

適応フィルタ１２は、固定小数点演算における切り捨て処理を用い、フィルタ係数を残留エコー信号に基づいて更新する。 - 特許庁

Therefore, it is possible to execute a proper arithmetic operation without causing any divergence of an output signal even at the time of using an inexpensive fixed point operation.例文帳に追加

そのため、安価な固定小数点演算を用いても、出力信号の発散を起こさない適正な演算を行うことが可能になる。 - 特許庁

After the end of the prescribed operation, bit shift is performed by using the common index part (r) and the final arithmetic result of the fixed point form is provided.例文帳に追加

所定の演算終了時に、共通の指数部ｒを用いてビットシフトし、最終的な固定小数点形式の演算結果を得る。 - 特許庁