Decimal (unit)とは 意味・読み方・使い方

In this case, 'about' is attached to show that the unit price is an approximate unit price in the case the broken numbers after the decimal point are subjected to round off processing.例文帳に追加

このとき、小数点以下の端数を丸め処理した場合には「約」を付しておおよその単価であることを示す。 - 特許庁

As a result, the division result of the first place of decimal in quaternary is acquired (the first unit division operation).例文帳に追加

その結果、４進数における小数第一位の除算結果が得られる（１回目の単位除算動作）。 - 特許庁

A digital PLL 100 comprises: an oscillator 10; an integral phase calculation unit 20; a decimal phase calculation unit 30; a phase difference calculation unit 40; a phase difference variation amount calculation monitor unit 50; and an oscillator control unit 60.例文帳に追加

デジタルＰＬＬ１００は、発振器１０、整数位相算出部２０、小数位相算出部３０、位相差算出部４０、位相差変化量モニタ部５０、および発振器制御部６０を有する。 - 特許庁

The CPU (central processing unit) 1 calculates the latitude and longitude of the arbitrary position on the map displayed on the display 10 in a decimal system by accompanying the numeral value equal to or smaller than a decimal point and also displays the calculated latitude and longitude of the decimal system on the display 10 with characters.例文帳に追加

ＣＰＵ１は、ディスプレイ１０上に表示された地図上の位置の緯度経度を、１０進法で小数点以下の数値を伴って算出すると共に、算出された１０進法の緯度経度を文字でディスプレイ１０上に表示する。 - 特許庁

When prescribed setting is completed, the decimal point and the unit of measure are displayed on a screen of the LCD 6.例文帳に追加

また、所定の設定が完了したときに小数点および計量単位をＬＣＤ６の画面に表示する。 - 特許庁

The filter coefficient calculation unit 21 selects an optimum one from among plural kinds of predetermined interpolation filter coefficients for each decimal pixel position, and sets the interpolation filter coefficient for the each decimal pixel position.例文帳に追加

フィルタ係数算出部２１は、小数画素位置ごとに、予め定められた複数種類の補間フィルタ係数の中から最適なものを選択し、小数画素位置ごとに補間フィルタ係数を設定する。 - 特許庁

A processor has: an arithmetic and logic unit 13 performing at least one of the four arithmetic operations and a shift operation; a decimal point position register 14 holding decimal point position data of the fixed-point arithmetic; and a rounding/saturation processor 20 performing prescribed rounding and saturation processing to output of the arithmetic and logic unit 13 based on the decimal point position data held in the decimal point position register 14.例文帳に追加

四則演算とシフト演算の少なくとも一方を行う算術論理演算ユニット１３と、固定小数点演算の小数点位置データを保持する小数点位置レジスタ１４と、小数点位置レジスタ１４に保持される小数点位置データに基づいて、算術論理演算ユニット１３の出力に対して所定の丸め及び飽和処理を行う丸め／飽和処理器２０とを有する。 - 特許庁

To provide a floating decimal arithmetic unit and a DDA arithmetic processing for achieving floating decimal point DDA processing with high accuracy without canceling significant digits in addition.例文帳に追加

本発明は加算時に桁落ちが発生せず、精度の高い計算が可能な浮動小数点ＤＤＡ処理を実現することが出来る浮動小数点演算器及びＤＤＡ演算処理を提供することを課題とする。 - 特許庁