資源描述：
《深度網絡模型壓縮及其在人臉識別的應用》由會員上傳分享，免費在線閱讀，更多相關內容在學術論文-天天文庫。
1、工程碩士學位論文深度網絡模型壓縮及其在人臉識別的應用作者姓名黎李強工程領域電子與通信工程校內指導教師胡永健教授校外指導教師梁添才教授級高工所在學院電子與信息學院論文提交日期2018年4月DeepNeuralNetworkModelCompressionanditsApplicationinFaceRecognitionADissertationSubmittedfortheDegreeofMasterCandidate：LiLiqiangSupervisor：Prof.HuYongjianSouthChinaUniversityofTechnologyGuangzho
2、u,China摘要深度學習在圖像、語音、自然語言處理等眾多領域的應用取得巨大的成功，但深度網絡模型因其復雜的網絡結構和大量的網絡參數，需要很多的運算量和存儲空間開銷，難以在存儲和計算資源有限的硬件設備上進行部署，尤其是在移動設備。因此，如何在保證深度網絡模型準確度不下降的前提下，通過對網絡模型進行精簡處理，以減少對硬件設備計算能力的要求和存儲資源的開銷，這是一個具有重要意義的研究問題。本文主要針對深度網絡模型壓縮進行研究，并將其應用于深度人臉網絡模型，具體工作如下：1．網絡剪枝是一種用于去除網絡冗余連接以減少網絡冗余計算量的技術，該技術的關鍵是明確網絡冗余連接，而目前
3、關于網絡冗余連接沒有準確的定義。雖然網絡連接的權值大小與網絡重要連接相關，但前提需要確定網絡重要連接的閾值。為了解決現有網絡剪枝方法在確定網絡剪枝閾值和選取重要連接權重方面的不足，本文基于網絡初始狀態(tài)和最終狀態(tài)的差異，提出了一種新的確定有效網絡剪枝閾值和選取網絡重要連接權重的方法。2．與目前的人臉網絡模型依靠構造復雜的網絡結構或非公開人臉數據集實現優(yōu)越性能不同，本文使用殘差網絡結構與MFM激活函數設計相對小型的人臉網絡模型，在常用公開的人臉數據上進行訓練，在LFW人臉數據集上測試，取得較高的準確度。本文通過構造新的ResNet+MFM網絡模塊，以提升網絡的特征提取能力
4、，同時為了有效地提升網絡準確度，本文采用A-Softmax損失函數進行網絡模型的訓練。3．為了減少網絡模型參數對存儲空間的開銷，通過將本文的冗余權重去除方法與權重量化和哈夫曼編碼壓縮相結合，對本文的人臉網絡模型進行深度網絡模型壓縮，以實現網絡模型冗余權重的去除和存儲空間的減少。關鍵詞：深度學習；深度網絡模型壓縮；人臉識別；網絡剪枝IABSTRACTDeeplearninghasachievedgreatsuccessinapplicationssuchasimage,speech,andnaturallanguageprocessing,butdeepneuralne
5、tworksmodelsrequirealotofcomputationalandstoragespaceoverheadduetotheircomplexnetworkstructureandalargenumberofnetworkparameters.Itishardtodeeployonhardwaredeviceswithlimitedstorageandcomputingresources,especiallyonmobiledevices.Therefore,onthepremiseofensuringthattheaccuracyofthedeepne
6、uralnetworksmodeldoesnotdecrease,thenetworkmodelcanbestreamlinedtoreducetherequirementsonthecomputingcapacityofhardwaredevicesandtheoverheadofstorageresources，whichisanimportantresearchissue.Thispaperfocusesonthedeepneuralnetworksmodelcompressionresearch,andappliesittothedeepfacenetwork
7、model,thespecificworkisasfollows:1.Networkpruningisatechnologyusedtoremoveredundantconnectionsofthenetworktoreducetheamountofnetworkredundancycalculation.Thekeyofthistechnologyistodefinethenetworkredundantconnections,butatpresent,thereisnoaccuratedefinitionofnetworkredundantcon
