1)通常,「数」を表現するための桁数のことで,一般に,桁数が多ければ多いほど数の精度は高くなる.主に科学技術計算の分野で問題になるが,浮動小数点演算は,4バイト,8バイト,16バイトの浮動小数点数の演算が可能であり,計算の目的に応じて選択することができる.
精度は,数値の信頼性を示す正確度(accuracy)と混同しやすい.数を表現するとき,桁数が多いほど精度は良くなるが,数値の正確度とは無関係である.
2)統計分野では測定データの再現性を意味し,測定値の集まりの標準偏差で定義される.
ほとんど等しい値を区別する能力の尺度.
〈例〉4けたの数表示は6けたの数表示より精度が低い.しかし,適切に計算された4けたの数表示は不適切に計算された6けたの数表示より正確なこともある.
>accuracy; celibate>celibacy; magistrate>magistracy.
規則正しいこと
the characteristic of dignity and grace
〜程度
the characteristic of dignity and grace
a ruler
作りつけること