decimal arithmetic operationとは 意味・読み方・使い方

As a result, the arithmetic result of the second place of decimal is acquired (the second unit division operation).例文帳に追加

これにより小数第二位の演算結果が得られる（２回目の単位除算動作）。 - 特許庁

A processor has: an arithmetic and logic unit 13 performing at least one of the four arithmetic operations and a shift operation; a decimal point position register 14 holding decimal point position data of the fixed-point arithmetic; and a rounding/saturation processor 20 performing prescribed rounding and saturation processing to output of the arithmetic and logic unit 13 based on the decimal point position data held in the decimal point position register 14.例文帳に追加

四則演算とシフト演算の少なくとも一方を行う算術論理演算ユニット１３と、固定小数点演算の小数点位置データを保持する小数点位置レジスタ１４と、小数点位置レジスタ１４に保持される小数点位置データに基づいて、算術論理演算ユニット１３の出力に対して所定の丸め及び飽和処理を行う丸め／飽和処理器２０とを有する。 - 特許庁

To detect a maximum collation region in an image having the maximum correlation with a region defined in another image, with higher accuracy at higher speed, without performing any floating decimal point arithmetic operation including square root arithmetic operation or fraction arithmetic operation, in image collation.例文帳に追加

画像の照合に際し、画像に定義した領域と相関関係が最大となる他の画像上の最大相関領域を検出する際に、平方根演算や分数演算を含む浮動小数点演算を行うことなく、より高速かつ正確に検出する。 - 特許庁

After the cumulative addition arithmetic operation is repeated n times, the value in the addition result storage register 14 is converted into the data in the floating decimal format, so that the arithmetic result can be obtained.例文帳に追加

前記累積加算演算をｎ回繰り返した後、加算結果保持レジスタ１４内の値を浮動小数形式のデータに変換することにより演算結果が得られる。 - 特許庁

The divided exponent part is converted into fixed decimal point format data, and the cumulative addition arithmetic operation of a value in an addition result storage register 14 and the converted data in the fixed decimal point format is repeated n times, and the result is stored in an addition result storage register 14.例文帳に追加

分離した指数部を固定小数点形式のデータに変換し、加算結果保持レジスタ１４内の値と固定小数点形式の変換したデータとの累積加算演算をｎ回繰り返して結果を加算結果保持レジスタ１４に保持する。 - 特許庁

In an image processing program and an image processor, a mean pixel value in one pixel of a reduction image is calculated by using divided blocks generated by dividing an original image into nDev pieces as units, so that it is possible to acquire a mean pixel value by an integer arithmetic operation without calculating decimal numbers generated according to the reduction rate by a floating-point arithmetic operation.例文帳に追加

本発明の画像処理プログラム及び画像処理装置によれば、元画像をｎＤｅｖ個に分割することによって生じた分割ブロックを単位として、縮小画像の１画素における平均画素値を算出するので、縮小率に応じて生じる小数を浮動小数演算によって演算するのではなく、整数演算によって平均画素値を得ることができる。 - 特許庁

Thus, even when the adaptive filter 1 comprises a fixed decimal point arithmetic operation processor and the gain of the feedback path HAB reaches 1 or over, no overflow takes place in the arithmetic operation of the adaptive filter 1 and a desired (e.g. the same degree when the gain is less than 1) echo suppression amount can be obtained.例文帳に追加

このため、適応フィルタ１が固定小数点演算型のプロセッサで構成されている場合において帰還経路Ｈ_ABの利得が１倍以上となっても、適応フィルタ１の演算においてオーバーフローを生じることなく、所望（例えば、利得が１倍未満の場合と同程度）のエコー抑圧量を得ることができる。 - 特許庁