significant digitsとは 意味・読み方・使い方

Significant digits of the obtained 8-bit value C (bits c_7 through c_0) are output as an interpolated value.例文帳に追加

得られた８ビットの値Ｃ（ビットｃ_７〜ｃ_０）のうちの必要有効桁を補間値として出力する。 - 特許庁

The value rounding means includes: a first rounding algorithm means 13 for rounding off the signal to the significant digits; a second rounding algorithm means 14 for rounding off the signal to the significant digits; and a selector 15 which selects one of rounding result.例文帳に追加

値丸め手段は、四捨五入により有効桁に丸める第１丸めアルゴリズム手段１３と、切り捨てにより有効桁に丸める第２丸めアルゴリズム手段１４と、いずれかの丸め結果を選択するセレクタ１５からなる。 - 特許庁

cancellation of significant digits発音を聞く 例文帳に追加

桁落ち《桁数の多い 2 数の引き算で, 末位の数桁しか違わない場合, 計算結果の有効数字が著しく減少すること》 - 研究社 英和コンピューター用語辞典

The operator inputs number of the second plural digits from the most significant digit of the telephone number in an input section 11.例文帳に追加

操作者は入力部１１において電話番号のうちの最上位桁からの第２複数桁の数字を入力する。 - 特許庁

The number of objects processed per second is displayed to 3 significant digits, but you'll be lucky on most UNIX system if the numbers are actually consistent to 2 digits.例文帳に追加

1秒あたりに処理されるオブジェクトの数は、有効数字3桁で表示されるが、ほとんどの UNIX システム上では実際に2桁程度意味があれば良いほうである。 - XFree86

A first adder is composed of adders 25 and 26 for inputting most significant elements by digits and adders 21-24 for inputting the other element by digits.例文帳に追加

第１の加算器は、最上位の要素が桁別に入力される加算器２５,２６と、それ以外の要素が桁別に入力される加算器２１〜加算器２４とで構成される。 - 特許庁

In this case, an error to be generated due to the cutoff of non-display digits is guaranteed by adding 1 to the least significant digit of the valid display digits of the invert (100) of the divisor (102) to perform the above arithmetic processing.例文帳に追加

但し、非表示桁の切捨てにより生じる誤差を保証するため、除数の逆数（１００）の有効表示桁の最下位桁に１を加算（１０２）して前述の演算処理を行う。 - 特許庁

To perform display suitable for a numerical value to be displayed in a numerical value display apparatus for displaying a numerical value, regarding a field instrument performing processing with six digits of significant figures, by means of maximum characters on a screen (12 characters).例文帳に追加

６桁の有効数字で処理を行なうフィールド機器に関する数値を最大表示文字数１２文字で表示する数値表示装置において、表示すべき数値に適した表示を行なえるようにする。 - 特許庁