信息論與編碼章節(jié)練習(xí)(2020.06.01)

考慮下圖所示的二元信道，設(shè)發(fā)送二元符號的先驗(yàn)概率為P₀和P₁，其中P₀+P₁=1，求后驗(yàn)概率和

有一個(gè)二元信道，其信道如右圖所示。設(shè)該信道以1500個(gè)二元符號/秒的速度傳輸輸入符號，現(xiàn)有一消息序列共有14000個(gè)二元符號，并設(shè)在這消息中問從信息傳輸?shù)慕嵌葋砜紤]，10秒內(nèi)能否將這消息序列無失真地傳送完。

連續(xù)隨機(jī)變量X和Y的聯(lián)合概率密度為：，求H（X）， H（Y）， H（XYZ）和I（X；Y）。

信源空間為：
，試分別構(gòu)造二元香農(nóng)碼和二元霍夫曼碼，計(jì)算其平均碼長和編碼效率（要求有編碼過程）。