資源描述：
《無失真信源編碼課件.ppt》由會(huì)員上傳分享，免費(fèi)在線閱讀，更多相關(guān)內(nèi)容在教育資源-天天文庫。
1、第五章：無失真信源編碼一：信源編碼的相關(guān)概念二：定長(zhǎng)碼及定長(zhǎng)信源編碼定理三：變長(zhǎng)碼及變長(zhǎng)信源編碼定理四：變長(zhǎng)碼的編碼方法五：實(shí)用的無失真信源編碼方法第五章：無失真信源編碼信源編碼的作用：使信源適合于信道的傳輸，用信道能傳輸?shù)姆?hào)來代表信源發(fā)出的消息；在不失真或允許一定失真的條件下，用盡可能少的符號(hào)來傳遞信源消息，提高信息傳輸率。以提高通信有效性為目的。通常通過壓縮信源的冗余度來實(shí)現(xiàn)。采用的一般方法是壓縮每個(gè)信源符號(hào)的平均比特?cái)?shù)。1.信源編碼概述第五章：無失真信源編碼信源編碼理論是信息論的一個(gè)重要分支，其理論基礎(chǔ)是信源編碼的兩個(gè)定理：無失真信源編碼定理限失真信源編碼定理本章主
2、要介紹無失真信源編碼，它實(shí)質(zhì)上是一種統(tǒng)計(jì)匹配編碼，根據(jù)信源的不同概率分布而選用與之相匹配的碼。1.信源編碼概述（續(xù)1）第五章：無失真信源編碼信源的統(tǒng)計(jì)剩余度主要決定于以下兩個(gè)因素：1）無記憶信源中，符號(hào)概率分布的非均勻性；2）有記憶信源中，符號(hào)間的相關(guān)性及符號(hào)概率分布的非均勻性。1.信源編碼概述（續(xù)2）怎樣壓縮信源的冗余度？1)去除碼符號(hào)間的相關(guān)性。2)使碼符號(hào)等概分布。第五章：無失真信源編碼2.信源編碼器模型信宿信道信源編碼器譯碼器YXSS’信源編碼：將信源符號(hào)序列按一定的數(shù)學(xué)規(guī)律映射成碼符號(hào)序列的過程。圖1信源編碼器模型第五章：無失真信源編碼將信源符號(hào)集中的符號(hào)（或者長(zhǎng)
3、為N的信源符號(hào)序列）映射成由碼符號(hào)組成的長(zhǎng)度為的一一對(duì)應(yīng)的碼符號(hào)序列。編碼器碼字2.信源編碼器模型（續(xù)1）信源符號(hào)sip(si)碼1碼2s1p(s1)=1/2000s2p(s2)=1/40110s3p(s3)=1/810110s4p(s4)=1/811111例:5.1第五章：無失真信源編碼2.信源編碼器模型（續(xù)2）第五章：無失真信源編碼3.N次擴(kuò)展碼第五章：無失真信源編碼3.N次擴(kuò)展碼（續(xù)1）二次擴(kuò)展信源符號(hào)二次擴(kuò)展碼碼字編碼器輸出的碼符號(hào)序列稱為碼字；長(zhǎng)度稱為碼字長(zhǎng)度，簡(jiǎn)稱碼長(zhǎng)；全體碼字的集合C稱為碼。若碼符號(hào)集合為X={0,1}，則所得的碼字都是二元序列，稱為二元碼。將
4、信源符號(hào)集中的每個(gè)信源符號(hào)固定的映射成某一個(gè)碼字，這樣的碼稱為分組碼。若一個(gè)碼中所有碼字的碼長(zhǎng)都相等，則稱為定長(zhǎng)碼；否則為變長(zhǎng)碼。第五章：無失真信源編碼4.關(guān)于編碼的一些術(shù)語第五章：無失真信源編碼5.奇異性若一個(gè)碼中所有碼字互不相同，則稱為非奇異碼；否則為奇異碼。信源符號(hào)si碼1碼2s1s2s3s401100110100001第五章：無失真信源編碼6.唯一可譯性若任意一串有限長(zhǎng)的碼符號(hào)序列只能被唯一地譯為對(duì)應(yīng)的信源符號(hào)序列，則稱此碼為唯一可譯碼。信源符號(hào)si碼1碼2碼3s1s2s3s401100110100001010110111唯一可譯碼應(yīng)當(dāng)滿足的條件碼字與信源符號(hào)一一對(duì)
5、應(yīng)2)不同的信源符號(hào)序列對(duì)應(yīng)不同的碼字序列1)6.唯一可譯性（續(xù)1）第五章：無失真信源編碼第五章：無失真信源編碼6.唯一可譯性（續(xù)2）例1：1)奇異碼11譯碼奇異碼一定不是唯一可譯碼第五章：無失真信源編碼6.唯一可譯性（續(xù)3）2)非奇異碼0100001001000010譯碼譯碼第五章：無失真信源編碼6.唯一可譯性（續(xù)4）3)等長(zhǎng)碼非奇異碼00011011唯一可譯碼譯碼第五章：無失真信源編碼6.唯一可譯性（續(xù)5）4)唯一可譯碼1001為非即時(shí)碼1101001000第五章：無失真信源編碼6.唯一可譯性（續(xù)6）5)1010010001唯一可譯碼01即時(shí)為即時(shí)碼任何一個(gè)碼字不是其它
6、碼字的延長(zhǎng)或前綴第五章：無失真信源編碼7.即時(shí)碼若某個(gè)唯一可譯碼在接收到一個(gè)完整的碼字時(shí)無需參考后續(xù)的碼符號(hào)就能立即譯碼，則稱此碼為即時(shí)碼。問題：1)判斷下面的碼是否即時(shí)碼？0101101112)等長(zhǎng)碼是否即時(shí)碼？第五章：無失真信源編碼7.即時(shí)碼（續(xù)1）唯一可譯碼成為即時(shí)碼的充要條件：定理5.1一個(gè)唯一可譯碼成為即時(shí)碼的充要條件是其中任何一個(gè)碼字都不是其他碼字的前綴。信源概率pi編碼Ⅰ編碼Ⅱ編碼Ⅲ編碼Ⅳ編碼Ⅴs11/2000000s21/401011001s31/810100110011s41/811101111101117.即時(shí)碼（續(xù)2）第五章：無失真信源編碼消息0000
7、10010000010011100001010110001110011010100100011111101111101011011011100010011101101111001101010111111117.即時(shí)碼（續(xù)3）第五章：無失真信源編碼第五章：無失真信源編碼8.即時(shí)碼的構(gòu)造方法用樹圖法可以方便地構(gòu)造即時(shí)碼。樹中每個(gè)中間節(jié)點(diǎn)都伸出1至r個(gè)樹枝，將所有的碼字都安排在終端節(jié)點(diǎn)上就可以得到即時(shí)碼。8.即時(shí)碼的構(gòu)造方法（續(xù)1）0101010100010011一階節(jié)點(diǎn)二階節(jié)點(diǎn)三階節(jié)點(diǎn)0101100110101111第
