信息論與編碼章節(jié)練習(xí)(2020.06.02)

對于離散無記憶強對稱信道，信道矩陣為：

試證明對于此信道，最小距離譯碼準則等價于最大似然譯碼準則。

設(shè)有一離散信道，其信道矩陣為，求
（1）最佳概率分布？
（2）當P（x₁）=0.7，P（x₂）=0.3時，求平均互信息I（X;Y）和信道疑義度H（X/Y）；
（3）輸入為等概分布時，試寫出一譯碼規(guī)則，使平均譯碼錯誤率p_E最小，并求此p_E.

信源空間為：
，試分別構(gòu)造二元香農(nóng)碼和二元霍夫曼碼，計算其平均碼長和編碼效率（要求有編碼過程）。