信息論與編碼章節(jié)練習(2020.06.02)

設離散無記憶信源，其發(fā)出的消息為（202120130213001203210110321010021032011223210），求
（1）求每個符號的自信息量；
（2）若信源發(fā)出一消息符號序列為(202 120 130 213 001 203 210 110 321 010 021 032 011 223 210)，求該消息序列的自信息量及平均每個符號攜帶的信息量。

電視屏上約有500×600=3×10⁵個格點，按每點有10個不同的灰度等級考慮，則可組成個不同的畫面。按等概計算，平均每個畫面可提供的信息量約為（）。

有一個二元信道，其信道如右圖所示。設該信道以1500個二元符號/秒的速度傳輸輸入符號，現(xiàn)有一消息序列共有14000個二元符號，并設在這消息中問從信息傳輸?shù)慕嵌葋砜紤]，10秒內能否將這消息序列無失真地傳送完。

同時擲兩個正常的骰子，也就是各面呈現(xiàn)的概率都為1/6，求：
（1）“3和5同時出現(xiàn)”這事件的自信息量；
（2）“兩個1同時出現(xiàn)”這事件的自信息量；
（3）兩個點數(shù)的各種組合（無序對）的熵或平均信息量；
（4）兩個點數(shù)之和（即2，3...12構成的子集）的熵；
（5）兩個點數(shù)中至少有一個是1的自信息量。