深度學(xué)習(xí)綜述課件.ppt

《深度學(xué)習(xí)綜述課件.ppt》由會(huì)員上傳分享，免費(fèi)在線閱讀，更多相關(guān)內(nèi)容在教育資源-天天文庫(kù)。

1、深度學(xué)習(xí)1深度學(xué)習(xí)綜述深度學(xué)習(xí)概述深度學(xué)習(xí)應(yīng)用深度學(xué)習(xí)框架TensorFlow及其應(yīng)用2深度學(xué)習(xí)概述深度學(xué)習(xí)概述深度學(xué)習(xí)的基本思想DeepLearning與NeutralNetwork深度學(xué)習(xí)訓(xùn)練過(guò)程3深度學(xué)習(xí)概述深度學(xué)習(xí)深度學(xué)習(xí)概述4例如視覺(jué)感知的例子，從開(kāi)始的傳感器中獲取數(shù)據(jù)，然后通過(guò)預(yù)處理，特征提取，特征選擇，在到推理、預(yù)測(cè)或識(shí)別。最后一個(gè)部分就是機(jī)器學(xué)習(xí)的部分。中間的三部分就是特征表達(dá)。這部分主要靠人工提取特征。機(jī)器學(xué)習(xí)解決圖像識(shí)別等問(wèn)題的思路5深度學(xué)習(xí)：深度學(xué)習(xí)通過(guò)組合低層特征形成更加抽象的高層表示屬性類別或

2、特征，以發(fā)現(xiàn)數(shù)據(jù)的分布式特征表示。深度神經(jīng)網(wǎng)絡(luò)：含有多個(gè)隱層的神經(jīng)網(wǎng)絡(luò)深度學(xué)習(xí)基本概念6人腦視覺(jué)機(jī)理深度學(xué)習(xí)基本概念為什么使用層次網(wǎng)絡(luò)7人腦視覺(jué)機(jī)理人的視覺(jué)機(jī)理的信息處理是分級(jí)的高層的特征是低層的組合，從低層到高層的特征越來(lái)越抽象，越來(lái)越能表現(xiàn)語(yǔ)義或意圖抽象層面越高，存在的可能猜測(cè)就越少，就越利于分類。深度學(xué)習(xí)基本概念8深度學(xué)習(xí)的基本思想DeepLearning，我們需要自動(dòng)地學(xué)習(xí)特征，假設(shè)我們有一堆輸入I（如一堆圖像或者文本），假設(shè)我們?cè)O(shè)計(jì)了一個(gè)系統(tǒng)S（有n層），我們通過(guò)調(diào)整系統(tǒng)中參數(shù)，使得它的輸出仍然是輸入I，那么

3、我們就可以自動(dòng)地獲取得到輸入I的一系列層次特征，即S1，…,Sn。對(duì)于深度學(xué)習(xí)來(lái)說(shuō)，其思想就是對(duì)堆疊多個(gè)層，也就是說(shuō)這一層的輸出作為下一層的輸入。通過(guò)這種方式，就可以實(shí)現(xiàn)對(duì)輸入信息進(jìn)行分級(jí)表達(dá)了。9DeepLearning與NeutralNetwork深度學(xué)習(xí)是機(jī)器學(xué)習(xí)研究中的一個(gè)新的領(lǐng)域，其動(dòng)機(jī)在于建立、模擬人腦進(jìn)行分析學(xué)習(xí)的神經(jīng)網(wǎng)絡(luò)，它模仿人腦的機(jī)制來(lái)解釋數(shù)據(jù)，例如圖像，聲音和文本。深度學(xué)習(xí)是無(wú)監(jiān)督學(xué)習(xí)的一種。深度學(xué)習(xí)的概念源于人工神經(jīng)網(wǎng)絡(luò)的研究。含多隱層的多層感知器就是一種深度學(xué)習(xí)結(jié)構(gòu)。深度學(xué)習(xí)通過(guò)組合低層特征形

4、成更加抽象的高層表示屬性類別或特征，以發(fā)現(xiàn)數(shù)據(jù)的分布式特征表示。10DeepLearning與NeutralNetwork11深度學(xué)習(xí)的訓(xùn)練過(guò)程第一步：使用自下而上非監(jiān)督學(xué)習(xí)從底層開(kāi)始，一層一層的往頂層訓(xùn)練，采用無(wú)標(biāo)定數(shù)據(jù)（有標(biāo)定數(shù)據(jù)也可）分層訓(xùn)練各層參數(shù)。第二步：自頂向下的監(jiān)督學(xué)習(xí)這一步就是通過(guò)帶標(biāo)簽的數(shù)據(jù)去訓(xùn)練，誤差自頂向下傳輸，對(duì)網(wǎng)絡(luò)進(jìn)行微調(diào)，基于第一步得到的各層參數(shù)進(jìn)一步微調(diào)整個(gè)多層模型的參數(shù)，這一步是一個(gè)有監(jiān)督訓(xùn)練過(guò)程。深度學(xué)習(xí)的第一步實(shí)質(zhì)上是一個(gè)網(wǎng)絡(luò)參數(shù)初始化過(guò)程。區(qū)別于傳統(tǒng)神經(jīng)網(wǎng)絡(luò)初值隨機(jī)初始化，深度學(xué)習(xí)

5、模型是通過(guò)無(wú)監(jiān)督學(xué)習(xí)輸入數(shù)據(jù)的結(jié)構(gòu)得到的，因而這個(gè)初值更接近全局最優(yōu)，從而能夠取得更好的效果。12深度學(xué)習(xí)綜述深度學(xué)習(xí)概述深度學(xué)習(xí)應(yīng)用深度學(xué)習(xí)框架TensorFlow及其應(yīng)用13深度學(xué)習(xí)應(yīng)用在最近幾年里，深度學(xué)習(xí)在語(yǔ)音識(shí)別、圖像分類、文本理解等眾多領(lǐng)域做出了巨大的貢獻(xiàn)，逐漸形成了一種從訓(xùn)練數(shù)據(jù)出發(fā)，經(jīng)過(guò)一個(gè)端到端（end-to-end）的模型，然后直接輸出得到最終結(jié)果的一種新模型。深度學(xué)習(xí)讓一些難得問(wèn)題變得簡(jiǎn)單。14深度學(xué)習(xí)在農(nóng)業(yè)方面的應(yīng)用1）玉米籽粒完整性識(shí)別的深度學(xué)習(xí)方法[1]基于深度卷積神經(jīng)網(wǎng)絡(luò)的智能識(shí)別玉米籽粒

6、完整性方法。本網(wǎng)絡(luò)結(jié)合池化和降采樣操作，基于卷積原理構(gòu)建。通過(guò)對(duì)直接輸入的灰度圖像進(jìn)行卷積操作，逐層挖掘圖像的深層特征，實(shí)現(xiàn)對(duì)單玉米籽粒圖像的特征抽象和特征降維，在通過(guò)一個(gè)全連接網(wǎng)絡(luò)15玉米籽粒完整性識(shí)別的深度學(xué)習(xí)方法下圖為BP網(wǎng)絡(luò)識(shí)別原理：16玉米籽粒完整性識(shí)別的深度學(xué)習(xí)方法下圖為CNN網(wǎng)絡(luò)識(shí)別原理：CNN網(wǎng)絡(luò)識(shí)別原理CNN網(wǎng)絡(luò)直接以圖像作為輸入，這使得CNN網(wǎng)絡(luò)受人工干預(yù)更少。卷積：通過(guò)卷積操作，CNN網(wǎng)絡(luò)能自動(dòng)抽象和提取圖像的特征。降采樣：是對(duì)輸入圖像進(jìn)行降維，可通過(guò)池化和等間隔采樣的圖像縮小來(lái)實(shí)現(xiàn)。17玉米籽粒

7、完整性識(shí)別的深度學(xué)習(xí)方法CNN網(wǎng)絡(luò)的輸入圖像是基于單籽粒的圖像，需要對(duì)多籽粒的圖像進(jìn)行分割和提取。18玉米籽粒完整性識(shí)別的深度學(xué)習(xí)方法BP神經(jīng)網(wǎng)絡(luò)訓(xùn)練誤差變化曲線BP神經(jīng)網(wǎng)絡(luò)訓(xùn)練結(jié)果如下所示：BP網(wǎng)絡(luò)錯(cuò)誤識(shí)別的樣本使用456個(gè)測(cè)試樣本對(duì)以訓(xùn)練好的BP神經(jīng)網(wǎng)絡(luò)進(jìn)行測(cè)試，識(shí)別錯(cuò)誤樣本有128個(gè)，得到的識(shí)別率為71.93%。訓(xùn)練誤差為0.12219玉米籽粒完整性識(shí)別的深度學(xué)習(xí)方法經(jīng)過(guò)3040個(gè)訓(xùn)練樣本訓(xùn)練CNN深度網(wǎng)絡(luò)，CNN訓(xùn)練誤差的變化曲線如下所示：CNN訓(xùn)練誤差變化曲線CNN深度網(wǎng)絡(luò)達(dá)到的訓(xùn)練精度為91.76%。用45

8、6個(gè)測(cè)試樣本對(duì)本網(wǎng)絡(luò)進(jìn)行測(cè)試，識(shí)別錯(cuò)誤樣本有17個(gè)，得到的精度為96.271%。CNN深度神經(jīng)網(wǎng)路的識(shí)別準(zhǔn)確率還挺高。CNN網(wǎng)絡(luò)錯(cuò)誤識(shí)別的樣本20深度學(xué)習(xí)在農(nóng)業(yè)方面的應(yīng)用2）InferenceofPlantDiseasesfromLeafImagesthroughDeepLearning[2]本論文主要是通過(guò)深度學(xué)習(xí)方法來(lái)圖像識(shí)別