完全事象系の中から一つの事象が生起したという条件下で,他の完全事象系の中から一つの事象が生起したことを知ることにより伝えれらる伝達情報量の平均値.数学的には,事象の集合x_1_,…,x_n_からの事象の生起が他の事象の集合y_1_,…,y_n_からの事象の生起に依存し,二つの事象x_i_,y_j_の結合確率がp(x_i_,y_j_)で与えられるとき,平均伝達情報量Tは,すべての事象の組についての伝達情報量T(x_i_ | y_j_)の期待値に等しい.
〈注〉平均伝達情報量は,一つの事象の集合の一方のエントロピーとこの事象の集合のもう一方に関する条件付きエントロピーとの差に等しい.例えば,一つの通報の伝達において,情報源におけるエントロピーとあいまい量との差は,通報受端におけるエントロピーと散布量との差に等しい.すなわち,T=H(x)-H(x | y)=H(y)-H(y | x)
![]()