確率事象の生起を知ることによって伝えられる情報の尺度.この尺度はその事象の生起確率の逆数の対数に等しく,数学的には, I(x)= log 1/p(x) = -log p(x) で表される.ここで,P(x)は事象xの生起確率である.
〈備考〉1. 16.01.03の備考参照. 2. 生起確率が等しい事象から成る集合では,各事象の情報量はその集合の選択情報量に等しい.〈例〉{a,b,c}を三つの事象から成る集合とし,各事象の生起確率をp(a)=0.5, p(b)=0.25及びp(c)=0.25とする.これらの事象の情報量は次のとおり. I(a)=log_2_ 1/0.50 Sh=1 Sh I(b)=log_2_ 1/0.25 Sh=2 Sh I'(c)=log_2_ 1/0.25 Sh=2 Sh