資源描述：
《《信息論與編碼技術(shù)》復(fù)習(xí)提綱new》由會(huì)員上傳分享，免費(fèi)在線閱讀，更多相關(guān)內(nèi)容在教育資源-天天文庫。
1、《信息論與編碼技術(shù)》復(fù)習(xí)提綱一、考試題型1.名詞解釋（10%）2.填空題（20%）3.判斷題（10%）4.簡答題（20%）5.證明題（10%）6.計(jì)算題（30%）二、考試時(shí)間1月9日10:20－12:20三、復(fù)習(xí)題綱第0章緒論題綱：I.什么是信息？II.什么是信息論？III.什么是信息的通信模型？IV.什么是信息的測(cè)度？V.自信息量的定義、含義、性質(zhì)需掌握的問題：1.信息的定義是什么？（廣義信息、狹義信息——Shannon信息、概率信息）2.Shannon信息論中信息的三要素是什么？3.通信系統(tǒng)模型圖是什么？每一部分的作用的是什么？復(fù)習(xí)－
2、81.什么是信息測(cè)度？2.什么是樣本空間、概率空間、先驗(yàn)概率、自信息、后驗(yàn)概率、互信息？3.自信息的大小如何計(jì)算？單位是什么？含義是什么（是對(duì)什么量的度量）？第1章信息論基礎(chǔ)㈠《離散信源》題綱：I.信源的定義、分類II.離散信源的數(shù)學(xué)模型III.熵的定義、含義、性質(zhì)，聯(lián)合熵、條件熵IV.離散無記憶信源的特性、熵V.離散有記憶信源的熵、平均符號(hào)熵、極限熵VI.馬爾科夫信源的定義、狀態(tài)轉(zhuǎn)移圖VII.信源的相對(duì)信息率和冗余度需掌握的問題：1.信源的定義、分類是什么？2.離散信源的數(shù)學(xué)模型是什么？3.信息熵的表達(dá)式是什么？信息熵的單位是什么？信息
3、熵的含義是什么？信息熵的性質(zhì)是什么？4.單符號(hào)離散信源最大熵是多少？信源概率如何分布時(shí)能達(dá)到？5.信源的碼率和信息率是什么，如何計(jì)算？6.什么是離散無記憶信源？什么是離散有記憶信源？7.離散無記憶信源的數(shù)學(xué)模型如何描述？信息熵復(fù)習(xí)－8、平均符號(hào)熵如何計(jì)算？1.離散有記憶多符號(hào)離散平穩(wěn)信源的平均符號(hào)熵、極限熵、條件熵（N階熵）的計(jì)算、關(guān)系和性質(zhì)是什么？2.什么是馬爾科夫信源？馬爾科夫信源的數(shù)學(xué)模型是什么？馬爾科夫信源滿足的2個(gè)條件是什么？3.馬爾科夫信源的狀態(tài)、狀態(tài)轉(zhuǎn)移是什么？如何繪制馬爾科夫信源狀態(tài)轉(zhuǎn)移圖？4.馬爾科夫信源的穩(wěn)態(tài)概率、穩(wěn)態(tài)
4、符號(hào)概率、穩(wěn)態(tài)信息熵如何計(jì)算？5.信源的相對(duì)信息率和冗余度是什么？如何計(jì)算？㈡《離散信道》題綱：I.信道的數(shù)學(xué)模型及分類II.典型離散信道的數(shù)學(xué)模型III.先驗(yàn)熵和后驗(yàn)熵IV.互信息的定義、性質(zhì)V.平均互信息的定義、含義、性質(zhì)、維拉圖VI.信道容量的定義VII.特殊離散信道的信道容量需掌握的問題：1.信道的定義是什么？信道如何分類？信道的數(shù)學(xué)模型是什么？2.二元對(duì)稱信道和二元?jiǎng)h除信道的信道傳輸概率矩陣是什么？3.對(duì)稱信道的信道傳輸概率矩陣有什么特點(diǎn)？復(fù)習(xí)－81.根據(jù)信道的轉(zhuǎn)移特性圖，寫出信道傳輸概率矩陣。2.先驗(yàn)熵、后驗(yàn)熵的區(qū)別？3.聯(lián)合
5、熵、條件熵和信息熵的關(guān)系。4.互信息的大小如何計(jì)算？互信息的性質(zhì)是什么？5.聯(lián)合互信息、條件互信息、互信息之間的關(guān)系是什么？6.平均互信息的定義是什么？平均互信息的含義？平均互信息的性質(zhì)？7.聯(lián)合平均互信息、條件平均互信息和平均互信息的關(guān)系？8.損失熵和噪聲熵的含義是什么？維拉圖表示了哪些關(guān)系式？9.信道的傳碼率和傳信率（信息率）的計(jì)算方法是什么？10.信道容量的定義是什么？信道容量的含義如何理解？11.無噪無損信道、有噪無損信道、無噪有損信道、對(duì)稱信道的信道容量如何計(jì)算？㈢《連續(xù)信源和波形信道》題綱：I.連續(xù)信源的定義、數(shù)學(xué)模型、絕對(duì)熵
6、、相對(duì)熵II.給定條件下，連續(xù)信源的最大熵III.熵功率IV.連續(xù)信道和波形信道的信道容量需掌握的問題：1.連續(xù)信源定義、數(shù)學(xué)模型是什么？2.連續(xù)信源熵的表達(dá)式是什么？相對(duì)熵和絕對(duì)熵的區(qū)別是什么？復(fù)習(xí)－81.如何計(jì)算均勻分布、正態(tài)分布連續(xù)信源的最大熵？2.什么是波形信道？了解波形信道互信息、信道容量的求解思路。3.香農(nóng)公式是什么？物理意義是什么？第2章無失真信源編碼題綱：I.基本概念1.編碼2.二元碼3.等長碼4.變長碼5.碼的N次擴(kuò)展碼6.唯一可譯碼II.等長碼III.變長碼IV.無失真信源編碼定理V.編碼方法1.香農(nóng)編碼2.費(fèi)諾編碼3
7、.霍夫曼編碼需掌握的問題：1.編碼的定義及編碼相關(guān)術(shù)語。2.信源編碼的定義及目的是什么？3.解釋二元碼、等長碼、變長碼、唯一可譯碼。復(fù)習(xí)－81.變長碼和定長碼的區(qū)別是什么？用碼樹描述二者的差異，能夠說明變長碼和定長碼各自的優(yōu)劣。2.描述香農(nóng)第一定理及意義。3.掌握香農(nóng)編碼、費(fèi)諾編碼、霍夫曼編碼的步驟及特點(diǎn)，會(huì)計(jì)算編碼效率。4.了解游程編碼和算術(shù)編碼的思路。第3章信道編碼題綱：I.檢錯(cuò)、糾錯(cuò)原理及方法、能力II.差錯(cuò)控制理論1.譯碼規(guī)則2.2種準(zhǔn)則下的錯(cuò)誤概率III.信道編碼定理IV.編碼方法1.簡單的檢錯(cuò)、糾錯(cuò)碼2.線性分組碼3.循環(huán)碼需
8、掌握的問題：1.信道編碼的定義及目的是什么？2.檢錯(cuò)原理是什么？3.差錯(cuò)控制方法有哪些？4.如何確定一種編碼的檢錯(cuò)、糾錯(cuò)能力？5.漢明距離是什么？漢明重量是什么？最小碼距是什么？6.信道編碼的
