data roundingとは 意味・読み方・使い方

The selectability of both the rounding and saturation positions provides control of the output data word width.例文帳に追加

丸め位置および飽和位置の両方の選択可能性は、出力データワード幅の制御を提供する。 - 特許庁

To perform lossless four point orthogonal conversion with less rounding errors of four vector data by simple structure.例文帳に追加

簡単な構成でもって、４つのベクトルデータの丸め誤差の少ないロスレス４点直交変換を行う。 - 特許庁

The output pixel data of a rounding circuit 104 are stored in the buffer memory 100, and at the time of the arithmetic processing of the pixel data transferred through the feedback bypass route, the rounding arithmetic errors are prevented from being accumulated.例文帳に追加

バッファメモリ（１００）には丸め回路（１０４）の出力画素データが格納されるが、フィードバックバイパス経路を転送される画素データの演算処理時においては、丸め演算誤差が累積されるのを防止することができる。 - 特許庁

A header analyzer 203 analyzes the header of an encoded data; determines whether the data are 8-bit encoded data or 12-bit encoded data; and outputs the data to a bit shifter 205, 219, a rounding processor 217, and a dequantizer 211.例文帳に追加

ヘッダ解析部２０３は符号化データのヘッダを解析し、８ビットの符号化データか、１２ビットの符号化データかを判定し、ビットシフト部２０５、２１９、丸め処理部２１７、逆量子化部２１１に出力。 - 特許庁

An image processing/correction circuit 19 adds, for each correction data piece, a difference between an integer value obtained by rounding the correction data piece and the correction data piece to obtain a first addition result, and rounds the first addition result to obtain a first rounding result.例文帳に追加

画像処理・補正回路１９は、補正データの各々について補正データを四捨五入した整数値と補正データとの差を加算して第１の加算結果を得て、当該第１の加算結果を四捨五入して第１の四捨五入結果を得る。 - 特許庁

To provide a data multiplying device for obtaining a multiplied result obtained by operating rounding with a simple constitution.例文帳に追加

簡単な構成で四捨五入を行った乗算結果を得ることができるデータ乗算装置を提供する。 - 特許庁

The data structure for shortcircuit power tables 21 represents relationships between waveform rounding, supply voltage and shortcircuit power of basic cells, and has waveform rounding, a voltage condition and shortcircuit power as attributes.例文帳に追加

貫通電力テーブル２１のデータ構造は、基本セルの波形鈍りと電源電圧と貫通電力との間の関係を示し、波形鈍りと電圧条件と貫通電力とを属性として有する。 - 特許庁

The inputted picture data is transmitted to a rounding error estimating device 8 of a watermark adder 1 and output from the rounding error estimating device 8 is transmitted to a subordinate information adder 9 as a correcting means of a pixel value.例文帳に追加

入力画像データは、ウォータマーク付加器１の丸め誤差見積器８に送られ、この丸め誤差見積器８からの出力が画素値の修正手段である付随情報付加器９に送られる。 - 特許庁