decimal partとは 意味・読み方・使い方

The decimal part of the actual number and the decimal part of the root square of a candidate value of a positive integer are calculated, and it is judged whether the difference between the two decimal parts satisfies a prescribed judgment condition or not, whereby the candidate value is determined.例文帳に追加

実数の小数部と正の整数である候補値の平方根の小数部を算出するとともに、算出した２つの小数部の差が、所定の判定条件を満たすか否かを判定することにより、候補値を決定する。 - 特許庁

Also, the number of digits of the fixed point display decimal part is defined as the precisely guaranteed minimum number of digits, and when the decimal point is extracted (106), the decimal part is extracted by mask processing with the precisely guaranteed minimum number of bits.例文帳に追加

また、固定小数点表示の小数部の桁数を、精度保証される最少の桁数とし、小数部抽出（１０６）の際に、精度保証される最少のビット数のマスク処理により小数部を抽出する。 - 特許庁

Further, the decimal (m-n) bits are cut off from the input data, and the acquired carry up amount is added to the least significant bit after the emission of decimal part.例文帳に追加

さらに入力データから小数部（ｍ−ｎ）ビットについて切り捨てを行い、切り捨て後の最下位ビットに取得した繰り上がり量を加算する。 - 特許庁

An integer/decimal separation part 102 separates a product (X_2×Y)=X_int×X_amari of the exponent X_2 and an exponent Y into an integer X_int and a decimal X_amari.例文帳に追加

整数／小数分離部１０２は、指数Ｘ_2とべき指数Ｙとの積（Ｘ_2×Ｙ）＝Ｘ_int×Ｘ_amariを、整数Ｘ_intと小数Ｘ_amariとに分離する。 - 特許庁

The tone reconversion part 122 adds decimal components in a delay part 303 to the correction value, outputs integer components of this addition results to the recording head 13 and outputs the decimal components of the addition results to the delay part 303.例文帳に追加

階調再変換部１２２は、この補正値に遅延部３０３内の小数成分を加算し、この加算結果の整数成分を記録ヘッド１３に、小数成分を遅延部３０３に出力する。 - 特許庁

The inter-line correction circuit 15 is provided with an integer part correction part for performing the correction of a 1 line unit and a decimal part correction part for performing the correction of less than 1 line by arithmetic interpolation, and when a 1-dot width black thin line detection part 23 detects a 1-dot width black thin line, the decimal part correction part is made inoperative.例文帳に追加

ライン間補正回路１５は、１ライン単位の補正を行う整数部補正部と、１ライン未満の補正を補間演算によって行う小数部補正部とを含み、１ドット幅黒細線検出部２３が１ドット幅黒細線を検出したときは小数部補正部を非作動にする。 - 特許庁

As a result, a fractional value can be obtained from a ratio of a decimal part of an actual number and a complement to its 1.例文帳に追加

結果の実数の少数部とその１に対する補数との比から分数値を得る。 - 特許庁

A decimal point alignment processing part 114 is inserted between an accumulator 131 and an adder 123.例文帳に追加

アキュムレータ１３１と加算器１２３との間に小数点位置合わせ処理部１１４を介挿した。 - 特許庁