本次信息論考試本人復(fù)習(xí)一周左右，考試題目略有難度，不過已足以應(yīng)對，到目前為止沒發(fā)現(xiàn)有題目做錯，大概將我的復(fù)習(xí)計劃以及考試題目的回憶記錄如下：

第二章-熵、相對熵、互信息的認(rèn)識，此章重點關(guān)注互信息的鏈?zhǔn)椒▌t，本次考題第一題為該內(nèi)容，題目內(nèi)容大致是：

給定三個變量X、Y、Z相互之間獨立，且服從伯努利二項分布（）求H(X,Y,Z)的最小值；并舉出相應(yīng)的例子；（ps:答案為2）

課后習(xí)題有類似的題，復(fù)習(xí)的時候記得看懂課后習(xí)題；當(dāng)然最基本的熵、互信息的計算是必備技能，后續(xù)也會用到；

第三章-漸進均分性，此章內(nèi)容較少，只需要知道典型集及其性質(zhì)即可，貌似不會考；

第四章-隨機過程的熵率，此章必考一階馬爾科夫模型的平穩(wěn)分布，出題方式有兩種，一種是直接給定狀態(tài)轉(zhuǎn)移概率矩陣，另一種為給定一加權(quán)圖，通過計算每個節(jié)點的入度與出度來求得狀態(tài)轉(zhuǎn)移矩陣，我們這次是后者，這章對理解PageRank算法有很大的幫助。求得平穩(wěn)分布，還需要會求熵率H();

第五章-數(shù)據(jù)壓縮，對于Kraft不等式盡量理解，當(dāng)然沒時間的話可以只看Huffman編碼，搞清楚Huffman編碼怎么編，編碼效率怎么計算，注意是熵/平均碼長，還需要注意D進制；算數(shù)編碼的話13章會再學(xué)習(xí)，這里不做要求；

第七章-信道容量，掌握信道容量怎么計算，需要手動推出幾種常見信道的信道容量，我們的最后一題為計算信道容量，一個信道為串聯(lián)的兩個BSC;另一個信道為兩個BSC間加一個編碼器；其他內(nèi)容大概了解；

第八章-微分熵，主要是掌握微分熵的計算，尤其是高斯分布的微分熵，最好手推幾遍，最不濟也要背的很熟，經(jīng)常用到；

第九章-高斯信道，很重要，考了關(guān)于并聯(lián)高斯信道的信道容量計算和帶寬有限高斯信道容量，比較偏，所以這章內(nèi)容建議全面掌握。

第十章-率失真函數(shù)，每年都差不多，一道大題，計算和,然后計算R(D)，這里需要掌握費諾不等式。還有需要知道試驗信道轉(zhuǎn)移概率矩陣。

第十二章-感覺并沒有考到，內(nèi)容的話掌握最大熵的意義，以及連續(xù)最大是高斯分布，離散最大是均勻分布即可，會計算一階Yull-Walker方程即可。

第十三章-也沒有考到，內(nèi)容的話掌握課后六道題就行，會計算最小最大冗余度，編碼分布，算數(shù)編碼，LZ77、78編碼自己編一下。

大概就是上面這些內(nèi)容了，大概掌握了這些內(nèi)容就可以安心考試了。

?

?

總結(jié)

以上是生活随笔為你收集整理的国科大2018级信息论考试复习的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯，歡迎將生活随笔推薦給好友。