設(shè)X，Y是兩個相互統(tǒng)計(jì)獨(dú)立的二元隨機(jī)變量，其取“0”或“1”的概率為等概率分布。定義另一個二元隨機(jī)變量Z，而且Z=XY（一般乘積），試計(jì)算：
（1）H（X），H（Y），H（Z）；
（2）H（XY），H（XZ），H（YZ），H（XYZ）；
（3）H（X|Y），H（X|Z），H（Y|Z），H（Z|X），H（Z|Y）；
（4）H（X|YZ），H（Y|XZ），H（Z|XY）；
（5）I（X；Y），I（X；Z），I（Y；Z）；
（6）I（X；Y|Z），I（Y；X|Z），I（Z；X|Y），I（Z；Y|X）；
（7）I（XY；Z），I（X；YZ），I（Y；XZ）。

若有三個離散隨機(jī)變量，有如下關(guān)系：X+Y=Z，其中X和Y相互統(tǒng)計(jì)獨(dú)立，試證明：
（1）H（X）≤H（Z），當(dāng)且僅當(dāng)Y是常量時等式成立；
（2）H（Y）≤H（Z），當(dāng)且僅當(dāng)X為常量時等式成立；
（3）H（Z）≤H（XY）≤H（X）+H（Y），當(dāng)且僅當(dāng)X，Y中任意一個為常量時等式成立；
（4）I（X；Z）=H（Z）−H（Y）；
（5）I（XY；Z）=H（Z）；
（6）I（X；YZ）=H（X）；
（7）I（Y；Z|X）=H（Y）；
（8）I（X；Y|Z）=H（X|Z）=H（Y|Z）。

若X、Y和Z是三個隨機(jī)變量，試證明：
（1）I（X；YZ）=I（X；Y）+I（X；Z|Y）=I（X；Z）+I（X；Y|Z）
（2）I（X；Y|Z）=I（Y；X|Z）=H（X|Z）−H（X|YZ）
（3）I（X；Y|Z）≥0當(dāng)且僅當(dāng)（X，Z，Y）是馬氏鏈時等式成立。

設(shè)二元對稱信道的傳遞矩陣為

（1）若P（0）=3/4，P（1）=1/4，求H（X），H（X|Y），H（Y|X）和I（X；Y）；
（2）求該信道的信道容量及其達(dá)到信道容量時的輸入概率分布。