資源描述：
《信息論與編碼（湯學(xué)明）信息論與編碼——a答案》由會(huì)員上傳分享，免費(fèi)在線閱讀，更多相關(guān)內(nèi)容在工程資料-天天文庫(kù)。
1、計(jì)算機(jī)學(xué)院20門一2012學(xué)年第一學(xué)期《信息論與編碼》考試試卷閉卷考試吋間：2011年11月29日得分評(píng)卷人得分評(píng)卷人(1)二、名詞解釋(共20分，每小題5分)題號(hào)二一.四五六七總分核對(duì)人題分10201815151012100得分專業(yè)信息安全班級(jí)學(xué)生姓名學(xué)號(hào)-、填空題(共10分，每空1分)(1)根據(jù)信息的性質(zhì)，可以將信息分成語(yǔ)法信息、語(yǔ)義信息和語(yǔ)用信息。(2)連續(xù)信源的相對(duì)爛不具有非負(fù)性,且最大連續(xù)炳與限制條件有關(guān)，當(dāng)連續(xù)信源的峰值功率受限I］寸，則輸出信號(hào)幅值取均勻分布時(shí),取得最大連續(xù)嫡。(3)平均互信息的凸函數(shù)性表現(xiàn)為：I古I定信源概率分布，/(XV)是信道轉(zhuǎn)移概率分布的下凸函數(shù):固定信
2、道轉(zhuǎn)移概率分布，/(x；y)是信源概率分布的上門函數(shù)。(4)某單符號(hào)離散信源取值于4種不同符號(hào)構(gòu)成的符號(hào)集，對(duì)其進(jìn)行5次擴(kuò)展，則擴(kuò)展信源的符號(hào)序列數(shù)共有1024種,擴(kuò)展信源的最大燔為10bit。(5)常見(jiàn)的多用戶信道主要有多址接入信道、廣播信道相關(guān)信源的多用戶信道三種類型。平均碼長(zhǎng)：對(duì)單個(gè)信源符號(hào)進(jìn)行編碼，碼中所有可能的碼字長(zhǎng)度的統(tǒng)計(jì)平均值,它是平均每個(gè)單信源符號(hào)進(jìn)行編碼所需采用的碼元個(gè)數(shù)。信道散布度：信源發(fā)出X后對(duì)信宿收到丫仍然存在的平均不確定度H(Y
3、X),是X關(guān)于Y的后驗(yàn)不確定度，是信息傳輸中額外增添的噪聲，也稱為噪聲癇。(3)冗余度：冗余度是描述信源符號(hào)間依賴程度的一個(gè)指標(biāo)，它等于1
4、減去信源嫡的相對(duì)率，也等于信息變差與最大離散爛的比值,即,1-〃-(仏-弘)///。。(4)極限嫡：多符號(hào)信源平均發(fā)出一個(gè)由N個(gè)符號(hào)組成的符號(hào)序列，在統(tǒng)計(jì)意義上平均每發(fā)出一個(gè)符號(hào)所提供的信息量，表示為：Hn(X)=^H(XX2???XQ。當(dāng)N趨于無(wú)窮大時(shí)，平均符號(hào)嫡的極限值就是極限嫡。設(shè)隨機(jī)變量X和隨機(jī)變量Y,它們的聯(lián)合概率（3）平均互信息z（x；y）；（3分）012300.010.020.030.0410.100.120」60.2220.090.080.070.06得分評(píng)卷人三、計(jì)算題I（共18分）分布為如右表所示，試計(jì)算：（1）信息爛H（x）,H（r）,H（XY）；（6分）（2）條件爛
5、H（Y
6、X）,H（XV）；（5分）（4）令Z=XY,如果對(duì)Z進(jìn)行定長(zhǎng)無(wú)失真信源編碼，若要求編碼效率不小于90%,譯碼差錯(cuò)率低于10」，需要多少個(gè)符號(hào)一起編碼？（4分）解：由已知條件可求得X,Y的概率分布分別如下:012X0.100.600.300123Y0.200.220.260.32(1)H(X)=-(0.1log0.1+0.6log0.6+0.3log0.3)=1.295bit/符號(hào)W(y)=-(0.2log0.2+0.22log0.22+0.26log0.26+0.32log0.32)=1.976bit/符號(hào)H(XY)=-E-=0Z；=oX^ypiogpfry)=3.236bit/符號(hào)
7、(2)H(Y
8、X)=H(XY)一H(X)=3.236-1.295=1.941bit/符號(hào)H(X
9、Y)=H(XY)一W(y)=3.236一1.976=1.260bit/符號(hào)(3)Z(X；y)=W(y)一H(YIX)=1.976-1.941=0.035bit/符號(hào)=H(X)-H(X
10、Y)=1.295-1.260=0.035bit/符號(hào)=H(X)+H(Y)一H(XY)=1.295+1.976-3.236=0.035bit/符號(hào)(4)E[Z(z)]=H(Z)=H(XY)=3.236bit/符號(hào)E[I2(z)]=^.=0p(xiyJ)[-logp(xiyj)]2=11.271bf/符號(hào)則:a2[I(z
11、)]=E[I2(z)]-E2[I(z)]=11.271-3.2362=0.799bit2/符號(hào)由瞇得："靂陀）冷3.236-0.360=6.165xl03L、夕M(z)]二0.799-￡23一0.362x10"因此，需要6.165X103個(gè)符號(hào)一起編碼才能滿足要求得分評(píng)卷人設(shè)某二階齊次馬爾可夫信源在任意時(shí)刻可能發(fā)出4種不同的符號(hào)，其狀態(tài)轉(zhuǎn)移圖如右圖所示，試求：(1)一步狀態(tài)轉(zhuǎn)移概率矩陣；(2)極限嫡(3)該馬爾可夫信源的冗余度解：(1)由狀態(tài)轉(zhuǎn)移圖可得該馬爾可夫信源的一步狀態(tài)轉(zhuǎn)移矩陣為：a:00.250.250.50.10.20.30.40.20.30.40」0.30.40」0.2(2)由t
12、t=ttP及L-=o兀=1可得：兀、=0.皿+0.2龍3+0.3龍47r2=0.25%+0.2龍2+0?3龍3+0.4爲(wèi)<龍3=0.25街+0.3龍2+0?4隔+0.1^4列=0?5坷+0.4龍2+0?1龍3+0-2^41=龍1+%+龍3+兀4聯(lián)立解得:街=368/2218=0.166龍2=645/2218=0.291龍3=580/2218=0.261=625/2218=0.28244億=h2+1=-工工)
