有効桁の英語

新たな Decimal 型数値の有効桁数は入力した数の桁数だけで決まります。例文帳に追加

The significance of a new Decimal is determined solely by the number of digits input. - Python

すべての式に有効桁数があり、これはその被演算数の有効桁数と施される演算、それに多くの場合、変数 scale から決定されます。例文帳に追加

Every expression has a scale. This is derived from the scale of original numbers, the operation performed and in many cases, the value of the variable scale.発音を聞く  - JM

桁落ち《桁数の多い 2 数の引き算で, 末位の数桁しか違わない場合, 計算結果の有効数字が著しく減少すること》例文帳に追加

cancellation of significant digits発音を聞く  - 研究社 英和コンピューター用語辞典

scale で計算時の小数点以下の有効桁数を指定します。例文帳に追加

scale defines how some operations use digits after the decimal point.発音を聞く  - JM

a%b を求めるために、まず a/b をscale の有効桁数で計算します。例文帳に追加

To compute a%b, first a/b is computed to scale digits.発音を聞く  - JM

の F フォーマットや E フォーマットのように ndigit 桁の有効数字を生成する。例文帳に追加

F format or E format.発音を聞く  - JM

このシグナルは有効桁数の減少を検出する際に使います。例文帳に追加

This signal is used to detectloss of significant digits.発音を聞く  - Python

そして重量計量値（Ｗ_a−Ｗ_1）と重量計量値Ｗ_aの桁数を比較し、少ない方の桁数もしくは等しい場合はその桁数を比重値ρの有効桁数とし、この有効桁数だけの比重値ρを表示およびプリントする。例文帳に追加

A place number of a weight weighed value (W_a-W_1) is compared with a place number of the weight weighed value W_a to make the smaller place number or the place number when those are the same serve as the significant place number of the specific gravity value ρ, and the specific gravity value ρ is displayed or printed with the significant place number. - 特許庁