設(shè)有一個(gè)馬爾可夫信源,它的狀態(tài)集為{s1,s2,s3},符號(hào)集為{a1,a2,a3},及在某狀態(tài)下發(fā)符號(hào)的概率為P(ak/si)(i,k=1,2,3),如圖所示。 (1)求出圖中馬爾可夫信源的狀態(tài)極限概率并找出符號(hào)的極限概率。 (2)計(jì)算信源處在某一狀態(tài)下輸出符號(hào)的條件熵H(X/S=j)(j=s1,s2,s3)。 (3)求出馬爾可夫信源熵H。
有一個(gè)一階平穩(wěn)馬爾可夫鏈X1,X2,……Xr……,各Xr取值于集合A={a1,a2,a3}。已知起始概率p(Xr)為p1=1/2,p2=p3=1/4,轉(zhuǎn)移概率如下。 (1)求(X1,X2,X3)的聯(lián)合熵和平均符號(hào)熵。 (2)求這個(gè)鏈的極限平均符號(hào)熵。 (3)求H0,H1,H2和它們所對(duì)應(yīng)的冗余度。
若有二個(gè)串接的離散信道,它們的信道矩陣都是 設(shè)第一個(gè)信道的輸入符號(hào)Xє{a1,a2,a3,a4}是等概率分布,輸出符號(hào)用Z表示。第二個(gè)信道輸出用Y表示。求I(X;Z)和I(X;Y),并加以比較。