資源描述:
《基于降維的極限學(xué)習(xí)機(jī)算法研究》由會(huì)員上傳分享,免費(fèi)在線閱讀,更多相關(guān)內(nèi)容在學(xué)術(shù)論文-天天文庫(kù)。
1、分類號(hào):學(xué)校代碼:10165密級(jí):學(xué)號(hào):201511000952碩士學(xué)位論文基于降維的極限學(xué)習(xí)機(jī)算法研究ResearchonExtremeLearningMachineAlgorithmBasedonDimensionalityReduction作者姓名:張海英學(xué)科、專業(yè):教育技術(shù)學(xué)研究方向:模式識(shí)別導(dǎo)師姓名:閆德勤教授2018年06月遼寧師范大學(xué)碩士學(xué)位論文摘要近年來,隨著計(jì)算機(jī)、多媒體信息等技術(shù)的發(fā)展,機(jī)器學(xué)習(xí)領(lǐng)域也得到迅速的發(fā)展。極限學(xué)習(xí)機(jī)(ELM)作為機(jī)器學(xué)習(xí)的研究熱點(diǎn)之一,以其簡(jiǎn)潔的理論與易于實(shí)施的特點(diǎn)吸引眾多研究人員的關(guān)注。ELM具
2、有高效和良好的泛化能力,在分類和回歸問題中得到了廣泛應(yīng)用。然而在處理具體問題時(shí)仍然存在許多不足,例如,面對(duì)數(shù)據(jù)維數(shù)過高、帶有噪音以及離群點(diǎn)等問題,ELM的分類準(zhǔn)確率會(huì)有所降低;在有監(jiān)督學(xué)習(xí)中,由于標(biāo)記數(shù)據(jù)樣本有限,導(dǎo)致ELM出現(xiàn)學(xué)習(xí)不充分的問題。本文針對(duì)上述兩個(gè)問題對(duì)ELM進(jìn)行了研究,主要研究成果如下:(1)為了解決人臉圖像數(shù)據(jù)包含冗余屬性及噪聲對(duì)ELM算法的影響,提出一種基于流形學(xué)習(xí)的ELM。在局部保持投影算法(localitypreservingprojections,LPP)中引入數(shù)據(jù)的判別信息,得到一種局部保持判別投影算法(locali
3、typreservingdiscriminantprojections,LPDP)。LPDP將數(shù)據(jù)的類內(nèi)判別信息和類間判別信息引入到LPP模型中,對(duì)LPP模型進(jìn)行優(yōu)化。LPDP在繼承LPP優(yōu)點(diǎn)的同時(shí),考慮到數(shù)據(jù)的判別信息,獲得更好的降維效果,從而提高ELM的泛化能力。(2)針對(duì)現(xiàn)有ELM及其改進(jìn)算法不能較好的利用數(shù)據(jù)蘊(yùn)含的判別信息這一問題,提出一種基于判別信息的正則極限學(xué)習(xí)機(jī)(discriminativeinformationregularizedextremelearningmachine,IELM)。IELM引入同類離散度和異類離散度的概念
4、,體現(xiàn)在輸入空間數(shù)據(jù)的判別信息上。通過最大化異類離散度和最小化同類離散度,優(yōu)化ELM的輸出權(quán)值,從而在一定程度上提高ELM的分類性能。實(shí)驗(yàn)結(jié)果表明,這兩種優(yōu)化算法顯著提高了極限學(xué)習(xí)機(jī)的分類效果,與其它算法相比,具有更好的分類準(zhǔn)確率和泛化能力。關(guān)鍵詞:極限學(xué)習(xí)機(jī);降維;分類;局部保持投影;判別信息-I-基于降維的極限學(xué)習(xí)機(jī)算法研究ResearchonExtremeLearningMachineAlgorithmBasedonDimensionalityReductionAbstractWiththedevelopmentofcomputerand
5、multimediainformationtechnology,thefieldofmachinelearningtechniqueshasalsodevelopedrapidlyinrecentyears.Asoneoftheresearchhotspotsofmachinelearning,theextremelearningmachine(ELM)attractstheattentionofmanyresearcherswithitssimpletheoryandeasyimplementation.ELMhashighefficienc
6、yandgoodgeneralizationability,andhasbeenwidelyusedinclassificationandregressionissues.However,therearestillmanyshortcomingsindealingwithspecificissues.Forexample,inthefaceofhighdimensionality,noise,andoutlierdata,theclassificationaccuracyofELMisreduced.Inthecaseofalimitednum
7、berofdatasamples,forsupervisedlearning,ELMwillhavetheproblemofinsufficientlearning.Inthispaper,wegivearesearchonELMaimingtodealwiththeconcernedproblems.Themainresearchresultsareasfollows:(1)InordertosolvetheinfluencenoiseandredundantattributesoffaceimageontheELMalgorithm,wep
8、roposesanELMbasedonmanifoldlearning.Weintroducethediscriminativeinformation