資源描述：
《《信息論與編碼技術》復習提綱new》由會員上傳分享，免費在線閱讀，更多相關內容在教育資源-天天文庫。
1、《信息論與編碼技術》復習提綱一、考試題型1.名詞解釋（10%）2.填空題（20%）3.判斷題（10%）4.簡答題（20%）5.證明題（10%）6.計算題（30%）二、考試時間1月9日10:20－12:20三、復習題綱第0章緒論題綱：I.什么是信息？II.什么是信息論？III.什么是信息的通信模型？IV.什么是信息的測度？V.自信息量的定義、含義、性質需掌握的問題：1.信息的定義是什么？（廣義信息、狹義信息——Shannon信息、概率信息）2.Shannon信息論中信息的三要素是什么？3.通信系統(tǒng)模型圖是什么？每一部分的作用的是什么？復習－
2、81.什么是信息測度？2.什么是樣本空間、概率空間、先驗概率、自信息、后驗概率、互信息？3.自信息的大小如何計算？單位是什么？含義是什么（是對什么量的度量）？第1章信息論基礎㈠《離散信源》題綱：I.信源的定義、分類II.離散信源的數(shù)學模型III.熵的定義、含義、性質，聯(lián)合熵、條件熵IV.離散無記憶信源的特性、熵V.離散有記憶信源的熵、平均符號熵、極限熵VI.馬爾科夫信源的定義、狀態(tài)轉移圖VII.信源的相對信息率和冗余度需掌握的問題：1.信源的定義、分類是什么？2.離散信源的數(shù)學模型是什么？3.信息熵的表達式是什么？信息熵的單位是什么？信息
3、熵的含義是什么？信息熵的性質是什么？4.單符號離散信源最大熵是多少？信源概率如何分布時能達到？5.信源的碼率和信息率是什么，如何計算？6.什么是離散無記憶信源？什么是離散有記憶信源？7.離散無記憶信源的數(shù)學模型如何描述？信息熵復習－8、平均符號熵如何計算？1.離散有記憶多符號離散平穩(wěn)信源的平均符號熵、極限熵、條件熵（N階熵）的計算、關系和性質是什么？2.什么是馬爾科夫信源？馬爾科夫信源的數(shù)學模型是什么？馬爾科夫信源滿足的2個條件是什么？3.馬爾科夫信源的狀態(tài)、狀態(tài)轉移是什么？如何繪制馬爾科夫信源狀態(tài)轉移圖？4.馬爾科夫信源的穩(wěn)態(tài)概率、穩(wěn)態(tài)
4、符號概率、穩(wěn)態(tài)信息熵如何計算？5.信源的相對信息率和冗余度是什么？如何計算？㈡《離散信道》題綱：I.信道的數(shù)學模型及分類II.典型離散信道的數(shù)學模型III.先驗熵和后驗熵IV.互信息的定義、性質V.平均互信息的定義、含義、性質、維拉圖VI.信道容量的定義VII.特殊離散信道的信道容量需掌握的問題：1.信道的定義是什么？信道如何分類？信道的數(shù)學模型是什么？2.二元對稱信道和二元刪除信道的信道傳輸概率矩陣是什么？3.對稱信道的信道傳輸概率矩陣有什么特點？復習－81.根據信道的轉移特性圖，寫出信道傳輸概率矩陣。2.先驗熵、后驗熵的區(qū)別？3.聯(lián)合
5、熵、條件熵和信息熵的關系。4.互信息的大小如何計算？互信息的性質是什么？5.聯(lián)合互信息、條件互信息、互信息之間的關系是什么？6.平均互信息的定義是什么？平均互信息的含義？平均互信息的性質？7.聯(lián)合平均互信息、條件平均互信息和平均互信息的關系？8.損失熵和噪聲熵的含義是什么？維拉圖表示了哪些關系式？9.信道的傳碼率和傳信率（信息率）的計算方法是什么？10.信道容量的定義是什么？信道容量的含義如何理解？11.無噪無損信道、有噪無損信道、無噪有損信道、對稱信道的信道容量如何計算？㈢《連續(xù)信源和波形信道》題綱：I.連續(xù)信源的定義、數(shù)學模型、絕對熵
6、、相對熵II.給定條件下，連續(xù)信源的最大熵III.熵功率IV.連續(xù)信道和波形信道的信道容量需掌握的問題：1.連續(xù)信源定義、數(shù)學模型是什么？2.連續(xù)信源熵的表達式是什么？相對熵和絕對熵的區(qū)別是什么？復習－81.如何計算均勻分布、正態(tài)分布連續(xù)信源的最大熵？2.什么是波形信道？了解波形信道互信息、信道容量的求解思路。3.香農公式是什么？物理意義是什么？第2章無失真信源編碼題綱：I.基本概念1.編碼2.二元碼3.等長碼4.變長碼5.碼的N次擴展碼6.唯一可譯碼II.等長碼III.變長碼IV.無失真信源編碼定理V.編碼方法1.香農編碼2.費諾編碼3
7、.霍夫曼編碼需掌握的問題：1.編碼的定義及編碼相關術語。2.信源編碼的定義及目的是什么？3.解釋二元碼、等長碼、變長碼、唯一可譯碼。復習－81.變長碼和定長碼的區(qū)別是什么？用碼樹描述二者的差異，能夠說明變長碼和定長碼各自的優(yōu)劣。2.描述香農第一定理及意義。3.掌握香農編碼、費諾編碼、霍夫曼編碼的步驟及特點，會計算編碼效率。4.了解游程編碼和算術編碼的思路。第3章信道編碼題綱：I.檢錯、糾錯原理及方法、能力II.差錯控制理論1.譯碼規(guī)則2.2種準則下的錯誤概率III.信道編碼定理IV.編碼方法1.簡單的檢錯、糾錯碼2.線性分組碼3.循環(huán)碼需
8、掌握的問題：1.信道編碼的定義及目的是什么？2.檢錯原理是什么？3.差錯控制方法有哪些？4.如何確定一種編碼的檢錯、糾錯能力？5.漢明距離是什么？漢明重量是什么？最小碼距是什么？6.信道編碼的
