信息論與編碼章節(jié)練習(xí)(2020.06.02)

（1）證明對(duì)有限方差σ²，高斯隨機(jī)變量具有所有隨機(jī)變量可能獲得的最大微分熵。
（2）證明該熵由公式給出。

有兩個(gè)二元隨機(jī)變量X和Y，它們的聯(lián)合概率為P[X=0，Y=0]=1/8，P[X=0，Y=1]=3/8，P[X=1，Y=1]=1/8，P[X=1，Y=0]=3/8。定義另一隨機(jī)變量Z=XY，試計(jì)算：
H（X），H（Y），H（Z），H（XZ），H（YZ），H（XYZ）