decimal valueとは 意味・読み方・使い方

Return the floating point value x rounded to n digits after the decimal point.例文帳に追加

x を小数点以下 n 桁で丸めた浮動小数点数の値を返します。 - Python

Seki also used a polygon with 131, 072 sides to calculate the value of Pi (3.14159...) to the eleventh decimal place.発音を聞く 例文帳に追加

また、関は正131072角形を使い、円周率を小数第11位まで算出した。 - Wikipedia日英京都関連文書対訳コーパス

The coordinates are found therein over up to a value smaller than a decimal point based on the concentration value, coordinates having the same value in a figure smaller than the decimal point are collected to form subpixel coordinates 51, 52 the value by the value, and a neighboring image concentration distribution is formed in every of the subpixel coordinates.例文帳に追加

このとき、座標を濃度値に基づいて小数点以下の値まで求め、小数点以下の値が同じ値のものを集めて各値毎にサブピクセル座標５１，５２を形成して各サブピクセル座標別に近傍画像濃度分布を形成する。 - 特許庁

The decimal part of the actual number and the decimal part of the root square of a candidate value of a positive integer are calculated, and it is judged whether the difference between the two decimal parts satisfies a prescribed judgment condition or not, whereby the candidate value is determined.例文帳に追加

実数の小数部と正の整数である候補値の平方根の小数部を算出するとともに、算出した２つの小数部の差が、所定の判定条件を満たすか否かを判定することにより、候補値を決定する。 - 特許庁

This logarithmic arithmetic device 10 finds the logarithm of a value expressed by floating decimal point data.例文帳に追加

対数演算装置10は、浮動小数点データで表現される値の対数を求める。 - 特許庁

As a result, a fractional value can be obtained from a ratio of a decimal part of an actual number and a complement to its 1.例文帳に追加

結果の実数の少数部とその１に対する補数との比から分数値を得る。 - 特許庁

/proc/sys/kernel/cap-bound " (from Linux 2.2 to 2.6.24)" This file holds the value of the kernel "capability bounding set" (expressed as a signed decimal number).発音を聞く 例文帳に追加

/proc/sys/kernel/cap-boundこのファイルにはカーネルの"capability bounding set"(符号付き 10 進数表現) の値が書かれている。 - JM

In a multi-value error diffusion part 405, quantization by the multi-value error diffusion is applied to the image data including the value below the decimal point after the gray level correction.例文帳に追加

そして多値誤差拡散部４０５において、該階調補正後の小数点以下の値を含む画像データに対して、多値の誤差拡散による量子化を施す。 - 特許庁