信息論基礎(chǔ)――聯(lián)合信源―信道編碼定理ppt課件.ppt

《信息論基礎(chǔ)――聯(lián)合信源―信道編碼定理ppt課件.ppt》由會(huì)員上傳分享，免費(fèi)在線閱讀，更多相關(guān)內(nèi)容在教育資源-天天文庫(kù)。

1、4.5聯(lián)合信源—信道編碼定理定理的提出聯(lián)合信源—信道編碼定理兩步編碼與一步編碼14.5聯(lián)合信源—信道編碼定理定理的提出聯(lián)合信源—信道編碼定理兩步編碼與一步編碼2定理的提出通信的實(shí)質(zhì)是信息的傳輸！3將信源信息通過(guò)信道傳送給信宿．怎樣才能既做到盡可能不失真而又快速呢?定理的提出需要解決兩個(gè)問(wèn)題：在不失真或允許一定失真條件下，如何用盡可能少的符號(hào)來(lái)傳送信源信息，以便提高信息傳輸率；在信道受干擾的情況下，如何增加信號(hào)的抗干擾能力，同時(shí)又使得信息傳輸率最大.4香農(nóng)第一定理：要進(jìn)行無(wú)失真數(shù)據(jù)壓縮，必須R′>H；定理的提出5香農(nóng)第二

2、定理：要在信道中可靠地傳輸數(shù)據(jù)，必須C>R；定理的提出6香農(nóng)第一定理：要進(jìn)行無(wú)失真數(shù)據(jù)壓縮，必須R′>H；香農(nóng)第二定理：要在信道中可靠地傳輸數(shù)據(jù)，必須C>R；問(wèn)題：若信源通過(guò)信道傳輸，要做到有效且可靠地傳輸，是否必須有C>H?定理的提出兩步編碼7定理的提出一步編碼方案！84.5聯(lián)合信源—信道編碼定理定理的提出聯(lián)合信源—信道編碼定理兩步編碼與一步編碼9聯(lián)合信源—信道編碼定理設(shè)U1、U2、…是取值于有限字母表Ц的無(wú)記憶信源，有熵率H(Ц);[?,Q(y

3、x),?]為無(wú)記憶信道，有信道容量C.（a）若H(U)

4、0，存在復(fù)(聯(lián))合信源—信道碼(f,g)使Pe(n)<ε;（b）反之若H(U)>C，則Pe(n)>0.10證明：弱典型序列的性質(zhì)聯(lián)合信源—信道編碼定理1112熵率的定義熵、條件熵與互信息的關(guān)系法諾不等式信道容量的定義13定理表明使用一步編碼方案可以使通信的誤差概率任意小.對(duì)于同一個(gè)通信系統(tǒng)，現(xiàn)在有兩種數(shù)據(jù)處理方案.說(shuō)明144.5聯(lián)合信源—信道編碼定理定理的提出聯(lián)合信源—信道編碼定理兩步編碼與一步編碼15兩步編碼與一步編碼用盡可能少的信道符號(hào)來(lái)表達(dá)信源，以減少編碼后的數(shù)據(jù)的剩余度.16兩步編碼與一步編碼對(duì)信源編碼后的數(shù)據(jù)

5、適當(dāng)增加一些剩余度，使能糾正和克服信道中引起的錯(cuò)誤和干擾.17兩步編碼與一步編碼思考:在有噪信道中，當(dāng)H

6、需針對(duì)信道特性進(jìn)行，不用考慮信源的特性；以糾正信道帶來(lái)的錯(cuò)誤，做到有效又可靠地傳輸信息.大大降低通信系統(tǒng)設(shè)計(jì)的復(fù)雜度！20兩步編碼與一步編碼經(jīng)典的無(wú)線通信系統(tǒng)是將信源編碼和信道編碼分別進(jìn)行的。信源編碼主要考慮信源的統(tǒng)計(jì)特性，信道編碼主要考慮信道的統(tǒng)計(jì)特性。優(yōu)點(diǎn)是設(shè)計(jì)簡(jiǎn)單、通用性好，可以分別形成標(biāo)準(zhǔn)。缺點(diǎn)是沒(méi)有充分利用各自的優(yōu)勢(shì)，因而不是最佳的。無(wú)線系統(tǒng)的信源編碼由于壓縮比很高，對(duì)差錯(cuò)十分敏感；而信道編碼面臨十分惡劣的傳播環(huán)境，但提供的帶寬冗余度很小。在這種背景下，需要將信源編碼和信道編碼綜合考慮。這就是聯(lián)合編碼的基本思

7、路。在無(wú)線多媒體通信中，聯(lián)合編碼是抗衰落的一種十分有效的措施。21兩步編碼與一步編碼國(guó)內(nèi)主要研究方向（以博士畢業(yè)論文為例）：《基于Turbo碼的聯(lián)合信源信道編譯碼方法研究》——中國(guó)科學(xué)院研究生院（2008）《誤碼環(huán)境下的視頻信源信道編碼理論與技術(shù)研究》《無(wú)線信道中的聯(lián)合信源信道編碼研究》——西安電子科技大學(xué)（2006）《信源信道聯(lián)合解碼算法研究及其在語(yǔ)音傳輸中的應(yīng)用》——東南大學(xué)（2005）《無(wú)線圖像傳輸中的聯(lián)合信源信道編碼研究》——上海交通大學(xué)（2007）《實(shí)現(xiàn)復(fù)雜度控制的信源信道聯(lián)合編碼研究》——華中科技大學(xué)（20

8、05）1993年法國(guó)教授Berrou、Glavieux和其緬甸籍博士生Thitimajshima在ICC會(huì)議提出；全球3G標(biāo)準(zhǔn)：WCDMA、TD-SCDMA和CDMA2000均使用了Turbo碼224.5聯(lián)合信源—信道編碼定理定理的提出聯(lián)合信源—信道編碼定理兩步編碼與一步編碼23展望提高信息傳輸?shù)目煽啃院陀行?，始終是通信工作所追求的目標(biāo)；近幾節(jié)課掌握的幾個(gè)編碼定理，已經(jīng)明確指出在一定條件下總存在簡(jiǎn)單、有效編、譯的“好碼”.但是，都沒(méi)有給出這類(lèi)好碼的編、譯方法.244.6線性分組碼基礎(chǔ)知識(shí)線性分組碼的基本概念線性分組碼

9、的譯碼漢明碼的編碼與譯碼25基礎(chǔ)知識(shí)線性分組碼的基本概念線性分組碼的譯碼漢明碼的編碼與譯碼4.6線性分組碼264.6線性分組碼基礎(chǔ)知識(shí)抽象代數(shù)基礎(chǔ)線性代數(shù)基礎(chǔ)274.6線性分組碼基礎(chǔ)知識(shí)抽象代數(shù)基礎(chǔ)線性代數(shù)基礎(chǔ)28一、群定義設(shè)G是非空集合，并在G內(nèi)定義了一種代數(shù)運(yùn)算，若滿足：(1)封閉性：對(duì)任意a、b∈G，恒有a°b∈G；(