本次信息論考試本人復習一周左右，考試題目略有難度，不過已足以應對，到目前為止沒發現有題目做錯，大概將我的復習計劃以及考試題目的回憶記錄如下：

第二章-熵、相對熵、互信息的認識，此章重點關注互信息的鏈式法則，本次考題第一題為該內容，題目內容大致是：

給定三個變量X、Y、Z相互之間獨立，且服從伯努利二項分布（）求H(X,Y,Z)的最小值；并舉出相應的例子；（ps:答案為2）

課后習題有類似的題，復習的時候記得看懂課后習題；當然最基本的熵、互信息的計算是必備技能，后續也會用到；

第三章-漸進均分性，此章內容較少，只需要知道典型集及其性質即可，貌似不會考；

第四章-隨機過程的熵率，此章必考一階馬爾科夫模型的平穩分布，出題方式有兩種，一種是直接給定狀態轉移概率矩陣，另一種為給定一加權圖，通過計算每個節點的入度與出度來求得狀態轉移矩陣，我們這次是后者，這章對理解PageRank算法有很大的幫助。求得平穩分布，還需要會求熵率H();

第五章-數據壓縮，對于Kraft不等式盡量理解，當然沒時間的話可以只看Huffman編碼，搞清楚Huffman編碼怎么編，編碼效率怎么計算，注意是熵/平均碼長，還需要注意D進制；算數編碼的話13章會再學習，這里不做要求；

第七章-信道容量，掌握信道容量怎么計算，需要手動推出幾種常見信道的信道容量，我們的最后一題為計算信道容量，一個信道為串聯的兩個BSC;另一個信道為兩個BSC間加一個編碼器；其他內容大概了解；

第八章-微分熵，主要是掌握微分熵的計算，尤其是高斯分布的微分熵，最好手推幾遍，最不濟也要背的很熟，經常用到；

第九章-高斯信道，很重要，考了關于并聯高斯信道的信道容量計算和帶寬有限高斯信道容量，比較偏，所以這章內容建議全面掌握。

第十章-率失真函數，每年都差不多，一道大題，計算和,然后計算R(D)，這里需要掌握費諾不等式。還有需要知道試驗信道轉移概率矩陣。

第十二章-感覺并沒有考到，內容的話掌握最大熵的意義，以及連續最大是高斯分布，離散最大是均勻分布即可，會計算一階Yull-Walker方程即可。

第十三章-也沒有考到，內容的話掌握課后六道題就行，會計算最小最大冗余度，編碼分布，算數編碼，LZ77、78編碼自己編一下。

大概就是上面這些內容了，大概掌握了這些內容就可以安心考試了。

?

?

總結

以上是生活随笔為你收集整理的国科大2018级信息论考试复习的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。