fixed-point arithmetic operationとは 意味・読み方・使い方

To provide an arithmetic system for efficiently performing a rounding operation when fixed-precision floating-point number groups are to be rounding targets.例文帳に追加

固定精度浮動小数点数の組を丸め対象とした場合に、丸め演算を効率的に実現する演算方式を提供する。 - 特許庁

The adaptive filter 12 uses round-down processing in fixed-point arithmetic operation to update the filter coefficient on the basis of the residual echo signal.例文帳に追加

適応フィルタ１２は、固定小数点演算における切り捨て処理を用い、フィルタ係数を残留エコー信号に基づいて更新する。 - 特許庁

After the end of the prescribed operation, bit shift is performed by using the common index part (r) and the final arithmetic result of the fixed point form is provided.例文帳に追加

所定の演算終了時に、共通の指数部ｒを用いてビットシフトし、最終的な固定小数点形式の演算結果を得る。 - 特許庁

To make an operation with high calculation accuracy performable even when data are extremely large or small in the case of arithmetically processing the data of a floating point form in the arithmetic processing part of a fixed point form.例文帳に追加

浮動小数点形式のデータを固定小数点形式の演算処理部で演算処理する際、データが極端に大きい場合や小さい場合でも、計算精度高く、演算が行えるようにする。 - 特許庁

To shorten the processing time of a whole filter arithmetic operation even when it is necessary to convert the format of data to be processed from a fixed point format to a floating point format.例文帳に追加

処理対象データが固定小数点フォーマットで浮動小数点フォーマットに変換する必要があってもフィルタ演算全体の処理時間を短縮可能とする。 - 特許庁

A control part 31 performs an arithmetic operation by a fixed point operation, and switches connection to corresponding amplifiers 33a-33c by a changeover switch 33d of an amplifying part 32 according to the vibrating state of an object to be controlled.例文帳に追加

制御部３１は、演算を固定小数点演算によって行い、かつ制御対象の振動状態に応じて、増幅部３２の切替スイッチ３３ｄによって対応する増幅器３３ａ〜３３ｃに接続を切り替える。 - 特許庁

The divided exponent part is converted into fixed decimal point format data, and the cumulative addition arithmetic operation of a value in an addition result storage register 14 and the converted data in the fixed decimal point format is repeated n times, and the result is stored in an addition result storage register 14.例文帳に追加

分離した指数部を固定小数点形式のデータに変換し、加算結果保持レジスタ１４内の値と固定小数点形式の変換したデータとの累積加算演算をｎ回繰り返して結果を加算結果保持レジスタ１４に保持する。 - 特許庁

To provide an active vibration control method using an adaptive control method capable of inexpensively performing a proper arithmetic operation for preventing the occurrence of the divergence of an output signal even at the time of using a fixed point operation when the level of an error signal due to the difference of the control state of an object to be controlled is low.例文帳に追加

制御対象における制御状態の違いによる誤差信号のレベルが低くなる場合に、固定小数点演算を用いても、出力信号の発散を起こさない適正な演算を安価に行うことができる適応制御法を用いた能動的振動制御方法を提供する。 - 特許庁