資源描述:
《機(jī)器學(xué)習(xí)與數(shù)據(jù)挖掘復(fù)習(xí)》由會(huì)員上傳分享,免費(fèi)在線閱讀,更多相關(guān)內(nèi)容在教育資源-天天文庫。
1、機(jī)器學(xué)習(xí)與數(shù)據(jù)挖掘復(fù)習(xí)第一章:Introduction1.什么是數(shù)據(jù)挖掘:數(shù)據(jù)挖掘時(shí)從大量的數(shù)據(jù)中取出令人感興趣的知識(令人感興趣的知識:有效地、新穎的、潛在有用的和最終可以理解的)。2.數(shù)據(jù)挖掘的分類(從一般功能上的分類):a)描述型數(shù)據(jù)挖掘(模式):聚類,summarization,關(guān)聯(lián)規(guī)則,序列發(fā)現(xiàn)。b)預(yù)測型數(shù)據(jù)挖掘(值):分類,回歸,時(shí)間序列分析,預(yù)測。3.KDD(數(shù)據(jù)庫中的知識發(fā)現(xiàn))的概念:KDD是一個(gè)選擇和提取數(shù)據(jù)的過程,它能自動(dòng)地發(fā)現(xiàn)新的、精確的、有用的模式以及現(xiàn)實(shí)世界現(xiàn)象的模型。數(shù)據(jù)挖掘是KDD過程的一個(gè)主要的組成部分。4.用數(shù)據(jù)挖
2、掘解決實(shí)際問題的大概步驟:a)對數(shù)據(jù)進(jìn)行KDD過程的處理來獲取知識。b)用知識指導(dǎo)行動(dòng)。c)評估得到的結(jié)果:好的話就循環(huán)使用,不好的話分析、得到問題然后改進(jìn)。5.KDD過程中的角色問題:6.整個(gè)KDD過程:a)合并多個(gè)數(shù)據(jù)源的數(shù)據(jù)。b)對數(shù)據(jù)進(jìn)行選擇和預(yù)處理。c)進(jìn)行數(shù)據(jù)挖掘過程得到模式或者模型。d)對模型進(jìn)行解釋和評價(jià)得到知識。13/13第二章數(shù)據(jù)和數(shù)據(jù)預(yù)處理1.什么是數(shù)據(jù):數(shù)據(jù)是數(shù)據(jù)對象和它的屬性的集合。一個(gè)屬性是一個(gè)對象的性質(zhì)或特性。屬性的集合描述了一個(gè)對象。2.屬性的類型:a)標(biāo)稱(nominal):它的值僅僅是不同的名字,只是提供足夠的信息
3、來區(qū)分對象。例如郵政編碼、ID、性別。b)序數(shù):序數(shù)屬性的值提供足夠的信息確定對象的序。例如硬度、成績、街道號碼。c)區(qū)間:對于區(qū)間屬性,值之間的差是有意義的,即存在測量單位。例如日歷日期、溫度。d)比率:對于比率變量,差和比率都是有意義的。例如絕對溫度、年齡、質(zhì)量、長度。3.用值的個(gè)數(shù)描述屬性:a)離散的:離散屬性具有有限惑無限可數(shù)個(gè)值,這樣的屬性可以是分類的。b)連續(xù)的:連續(xù)屬性是取實(shí)數(shù)值的屬性。4.非對稱屬性:對于非對稱屬性,出現(xiàn)非零屬性值才是最重要的。5.數(shù)據(jù)集的類型:a)記錄型數(shù)據(jù):每一個(gè)數(shù)據(jù)對象都是有固定數(shù)目的屬性組成的。數(shù)據(jù)矩陣:如果一
4、個(gè)數(shù)據(jù)集中的所有數(shù)據(jù)對象都具有相同的數(shù)值屬性集,則數(shù)據(jù)對象可以看做是多維空間中的點(diǎn),其中每個(gè)位代表描述對象的一個(gè)不同屬性。文檔數(shù)據(jù):每個(gè)文檔看成是一個(gè)向量。事務(wù)數(shù)據(jù):每一個(gè)事務(wù)涉及一個(gè)項(xiàng)的集合。b)圖數(shù)據(jù):可以表示數(shù)據(jù)對象間的關(guān)系或者是數(shù)據(jù)對象本身就是用圖形表示。c)有序數(shù)據(jù):屬性在時(shí)間或者空間上有關(guān)系。時(shí)態(tài)數(shù)據(jù):記錄型數(shù)據(jù)的擴(kuò)展,但是每個(gè)記錄都有一個(gè)時(shí)間。序列數(shù)據(jù):由數(shù)據(jù)構(gòu)成的序列,沒有時(shí)間,但表述了一個(gè)時(shí)間的先后順序。時(shí)間序列數(shù)據(jù):每個(gè)記錄都是一個(gè)時(shí)間序列??臻g數(shù)據(jù):屬性和空間位置有關(guān)。6.噪聲和離群點(diǎn)的區(qū)別:噪聲是對原始值產(chǎn)生了修改;離群點(diǎn)是具
5、有不同于數(shù)據(jù)集中其他大部分?jǐn)?shù)據(jù)對象的特征的數(shù)據(jù)對象,或是相對于該屬性的典型值不尋常的屬性值。7.如何處理噪聲數(shù)據(jù):a)分箱(binning):分享方法通過考察數(shù)據(jù)的近鄰來光滑有序數(shù)據(jù)的值。b)回歸:可以用一個(gè)函數(shù)你和數(shù)據(jù)來光滑數(shù)據(jù)。c)聚類:將數(shù)據(jù)劃分為不同的類,落在類之外的視為離群點(diǎn)。d)把計(jì)算機(jī)分析的結(jié)果讓人檢查看是否有問題。8.數(shù)據(jù)預(yù)處理中的主要任務(wù):a)數(shù)據(jù)清洗:填補(bǔ)缺值、去除噪聲、解決數(shù)據(jù)不一致、解決冗余。b)數(shù)據(jù)集成:將不同數(shù)據(jù)源的數(shù)據(jù)放在一個(gè)地方。c)數(shù)據(jù)轉(zhuǎn)換:平滑處理、數(shù)據(jù)聚合、數(shù)據(jù)泛化、歸一化、屬性特征構(gòu)造。d)數(shù)據(jù)約減:減少數(shù)據(jù)量
6、,但仍需從少量的數(shù)據(jù)中得到原有或接近原有的結(jié)果。e)數(shù)據(jù)離散化對給定連續(xù)值劃分為若干小區(qū)間,每個(gè)區(qū)間用一個(gè)值表示。9.相關(guān)分析兩類方法:對于數(shù)值屬性可以通過計(jì)算兩屬性之間的相關(guān)系數(shù)。對于分類數(shù)據(jù)兩屬性之間的相關(guān)聯(lián)系可以通過卡方來計(jì)算。13/1310.對數(shù)據(jù)歸一化處理的三大類方法:a)最小-最大規(guī)范化:b)Z-score規(guī)范化:c)小數(shù)定標(biāo)規(guī)范化:11.屬性約減的方法:a)回歸:擬合函數(shù)。b)直方圖:將數(shù)據(jù)劃分為一定的區(qū)間,存儲(chǔ)時(shí)只用存儲(chǔ)其平均值。(等寬度、等深度、V-optimal:取最優(yōu)化分、MaxDiff:根據(jù)值間距離來劃分)。c)聚類:將數(shù)據(jù)聚
7、為不同的類,存儲(chǔ)類中最有代表性的數(shù)據(jù),例如中心點(diǎn)。d)抽樣:從數(shù)據(jù)中抽取一個(gè)樣本,要能代表原來的數(shù)據(jù)。12.數(shù)據(jù)離散化的方法:a)數(shù)值型:i.直方圖:自上而下的劃分。ii.聚類的分析。iii.基于熵的離散化。iv.卡方分析。v.自然劃分的方法。b)分類型數(shù)據(jù):i.模式集。ii.屬性集。iii.通過只可以得到層次的關(guān)系。iv.根據(jù)不同屬性的取值自動(dòng)生成。13.計(jì)算二進(jìn)制屬性的相似性用SMC和Jaccard系數(shù)(也可以不用于二進(jìn)制屬性,也可用于連續(xù)和計(jì)數(shù)屬性),Cosine相似性用來測文檔和文檔之間的距離。第三章概念學(xué)習(xí)1.概念的概念:a)概念是定義在一
8、個(gè)大集合上的事物或?qū)ο蟮淖蛹?。b)概念是定義在一個(gè)大集合上的二值函數(shù)。2.概念學(xué)習(xí)的概念:a)概念學(xué)習(xí)就是從