機器學(xué)習(xí)與數(shù)據(jù)挖掘復(fù)習(xí)

《機器學(xué)習(xí)與數(shù)據(jù)挖掘復(fù)習(xí)》由會員上傳分享，免費在線閱讀，更多相關(guān)內(nèi)容在應(yīng)用文檔-天天文庫。

1、機器學(xué)習(xí)與數(shù)據(jù)挖掘復(fù)習(xí)第一章：Introduction1.什么是數(shù)據(jù)挖掘：數(shù)據(jù)挖掘時從大量的數(shù)據(jù)中取出令人感興趣的知識（令人感興趣的知識：有效地、新穎的、潛在有用的和最終可以理解的）。2.數(shù)據(jù)挖掘的分類（從一般功能上的分類）：a)描述型數(shù)據(jù)挖掘（模式）：聚類，summarization，關(guān)聯(lián)規(guī)則，序列發(fā)現(xiàn)。b)預(yù)測型數(shù)據(jù)挖掘（值）：分類，回歸，時間序列分析，預(yù)測。3.KDD（數(shù)據(jù)庫中的知識發(fā)現(xiàn)）的概念：KDD是一個選擇和提取數(shù)據(jù)的過程，它能自動地發(fā)現(xiàn)新的、精確的、有用的模式以及現(xiàn)實世界現(xiàn)象的模型。數(shù)據(jù)挖掘是KDD過程的一個主要的組成部分。4.用數(shù)據(jù)挖掘解決實際問題的大概步

2、驟：a)對數(shù)據(jù)進行KDD過程的處理來獲取知識。b)用知識指導(dǎo)行動。c)評估得到的結(jié)果：好的話就循環(huán)使用，不好的話分析、得到問題然后改進。5.KDD過程中的角色問題：6.整個KDD過程：a)合并多個數(shù)據(jù)源的數(shù)據(jù)。b)對數(shù)據(jù)進行選擇和預(yù)處理。c)進行數(shù)據(jù)挖掘過程得到模式或者模型。d)對模型進行解釋和評價得到知識。13/13第二章數(shù)據(jù)和數(shù)據(jù)預(yù)處理1.什么是數(shù)據(jù)：數(shù)據(jù)是數(shù)據(jù)對象和它的屬性的集合。一個屬性是一個對象的性質(zhì)或特性。屬性的集合描述了一個對象。2.屬性的類型：a)標稱（nominal）：它的值僅僅是不同的名字，只是提供足夠的信息來區(qū)分對象。例如郵政編碼、ID、性別。b)序

3、數(shù)：序數(shù)屬性的值提供足夠的信息確定對象的序。例如硬度、成績、街道號碼。c)區(qū)間：對于區(qū)間屬性，值之間的差是有意義的，即存在測量單位。例如日歷日期、溫度。d)比率：對于比率變量，差和比率都是有意義的。例如絕對溫度、年齡、質(zhì)量、長度。3.用值的個數(shù)描述屬性：a)離散的：離散屬性具有有限惑無限可數(shù)個值，這樣的屬性可以是分類的。b)連續(xù)的：連續(xù)屬性是取實數(shù)值的屬性。4.非對稱屬性：對于非對稱屬性，出現(xiàn)非零屬性值才是最重要的。5.數(shù)據(jù)集的類型：a)記錄型數(shù)據(jù)：每一個數(shù)據(jù)對象都是有固定數(shù)目的屬性組成的。數(shù)據(jù)矩陣：如果一個數(shù)據(jù)集中的所有數(shù)據(jù)對象都具有相同的數(shù)值屬性集，則數(shù)據(jù)對象可以看做

4、是多維空間中的點，其中每個位代表描述對象的一個不同屬性。文檔數(shù)據(jù)：每個文檔看成是一個向量。事務(wù)數(shù)據(jù)：每一個事務(wù)涉及一個項的集合。b)圖數(shù)據(jù)：可以表示數(shù)據(jù)對象間的關(guān)系或者是數(shù)據(jù)對象本身就是用圖形表示。c)有序數(shù)據(jù)：屬性在時間或者空間上有關(guān)系。時態(tài)數(shù)據(jù)：記錄型數(shù)據(jù)的擴展，但是每個記錄都有一個時間。序列數(shù)據(jù)：由數(shù)據(jù)構(gòu)成的序列，沒有時間，但表述了一個時間的先后順序。時間序列數(shù)據(jù)：每個記錄都是一個時間序列。空間數(shù)據(jù)：屬性和空間位置有關(guān)。6.噪聲和離群點的區(qū)別：噪聲是對原始值產(chǎn)生了修改；離群點是具有不同于數(shù)據(jù)集中其他大部分數(shù)據(jù)對象的特征的數(shù)據(jù)對象，或是相對于該屬性的典型值不尋常的屬性

5、值。7.如何處理噪聲數(shù)據(jù)：a)分箱（binning）：分享方法通過考察數(shù)據(jù)的近鄰來光滑有序數(shù)據(jù)的值。b)回歸：可以用一個函數(shù)你和數(shù)據(jù)來光滑數(shù)據(jù)。c)聚類：將數(shù)據(jù)劃分為不同的類，落在類之外的視為離群點。d)把計算機分析的結(jié)果讓人檢查看是否有問題。8.數(shù)據(jù)預(yù)處理中的主要任務(wù)：a)數(shù)據(jù)清洗：填補缺值、去除噪聲、解決數(shù)據(jù)不一致、解決冗余。b)數(shù)據(jù)集成：將不同數(shù)據(jù)源的數(shù)據(jù)放在一個地方。c)數(shù)據(jù)轉(zhuǎn)換：平滑處理、數(shù)據(jù)聚合、數(shù)據(jù)泛化、歸一化、屬性特征構(gòu)造。d)數(shù)據(jù)約減：減少數(shù)據(jù)量，但仍需從少量的數(shù)據(jù)中得到原有或接近原有的結(jié)果。e)數(shù)據(jù)離散化對給定連續(xù)值劃分為若干小區(qū)間，每個區(qū)間用一個值表

6、示。9.相關(guān)分析兩類方法：對于數(shù)值屬性可以通過計算兩屬性之間的相關(guān)系數(shù)。對于分類數(shù)據(jù)兩屬性之間的相關(guān)聯(lián)系可以通過卡方來計算。13/1310.對數(shù)據(jù)歸一化處理的三大類方法：a)最小-最大規(guī)范化：b)Z-score規(guī)范化：c)小數(shù)定標規(guī)范化：11.屬性約減的方法：a)回歸：擬合函數(shù)。b)直方圖：將數(shù)據(jù)劃分為一定的區(qū)間，存儲時只用存儲其平均值。（等寬度、等深度、V-optimal：取最優(yōu)化分、MaxDiff：根據(jù)值間距離來劃分）。c)聚類：將數(shù)據(jù)聚為不同的類，存儲類中最有代表性的數(shù)據(jù)，例如中心點。d)抽樣：從數(shù)據(jù)中抽取一個樣本，要能代表原來的數(shù)據(jù)。12.數(shù)據(jù)離散化的方法：a)數(shù)

7、值型：i.直方圖：自上而下的劃分。ii.聚類的分析。iii.基于熵的離散化。iv.卡方分析。v.自然劃分的方法。b)分類型數(shù)據(jù)：i.模式集。ii.屬性集。iii.通過只可以得到層次的關(guān)系。iv.根據(jù)不同屬性的取值自動生成。13.計算二進制屬性的相似性用SMC和Jaccard系數(shù)（也可以不用于二進制屬性，也可用于連續(xù)和計數(shù)屬性），Cosine相似性用來測文檔和文檔之間的距離。第三章概念學(xué)習(xí)1.概念的概念：a)概念是定義在一個大集合上的事物或?qū)ο蟮淖蛹?。b)概念是定義在一個大集合上的二值函數(shù)。2.概念學(xué)習(xí)的概念：a)概念學(xué)習(xí)就是從