floating-point unitsとは 意味・読み方・使い方

This device comprises a floating point unit 50 comprising standard multiplication/accumulation units (MAC) 51 and 52 executing a multiplication/accumulation operation on plural data-type formats.例文帳に追加

本発明の装置は、複数のデータ型フォーマット(15,16)に対して乗算累算演算を実行できる標準乗算累算ユニット(MAC)(51,52)を含む浮動小数点ユニット(50)を含む。 - 特許庁

An integer arithmetic unit 15 operates independently from floating-point arithmetic units 16 and 17, and performs an integer operation to the data transferred to the integer arithmetic memory 11.例文帳に追加

整数演算ユニット１５は、浮動小数点演算ユニット１６および１７と独立して動作し、整数演算用メモリ１１に転送されたデータに対して整数演算を行なう。 - 特許庁

In an image processing program and an image processor, a mean pixel value in one pixel of a reduction image is calculated by using divided blocks generated by dividing an original image into nDev pieces as units, so that it is possible to acquire a mean pixel value by an integer arithmetic operation without calculating decimal numbers generated according to the reduction rate by a floating-point arithmetic operation.例文帳に追加

本発明の画像処理プログラム及び画像処理装置によれば、元画像をｎＤｅｖ個に分割することによって生じた分割ブロックを単位として、縮小画像の１画素における平均画素値を算出するので、縮小率に応じて生じる小数を浮動小数演算によって演算するのではなく、整数演算によって平均画素値を得ることができる。 - 特許庁

In this image processing program and an image processor, a mean pixel value in one pixel of a reduction image is calculated by using divided blocks generated by dividing an original image into nDev pieces as units, so that it is possible to acquire mean pixel values by an integer arithmetic operation without calculating decimal numbers to be generated according to a reduction rate by a floating-point arithmetic operation.例文帳に追加

本発明の画像処理プログラム及び画像処理装置によれば、元画像をｎＤｅｖ個に分割することによって生じた分割ブロックを単位として、縮小画像の１画素における平均画素値を算出するので、縮小率に応じて生じる小数を浮動小数演算によって演算するのではなく、整数演算によって平均画素値を得ることができる。 - 特許庁