資源描述:
《機器學習與數據挖掘復習》由會員上傳分享,免費在線閱讀,更多相關內容在應用文檔-天天文庫。
1、機器學習與數據挖掘復習第一章:Introduction1.什么是數據挖掘:數據挖掘時從大量的數據中取出令人感興趣的知識(令人感興趣的知識:有效地、新穎的、潛在有用的和最終可以理解的)。2.數據挖掘的分類(從一般功能上的分類):a)描述型數據挖掘(模式):聚類,summarization,關聯規(guī)則,序列發(fā)現。b)預測型數據挖掘(值):分類,回歸,時間序列分析,預測。3.KDD(數據庫中的知識發(fā)現)的概念:KDD是一個選擇和提取數據的過程,它能自動地發(fā)現新的、精確的、有用的模式以及現實世界現象的模型。數據挖掘是KDD過程的一個主要的組成部分。4.用數據挖掘解決實際問題的大概步
2、驟:a)對數據進行KDD過程的處理來獲取知識。b)用知識指導行動。c)評估得到的結果:好的話就循環(huán)使用,不好的話分析、得到問題然后改進。5.KDD過程中的角色問題:6.整個KDD過程:a)合并多個數據源的數據。b)對數據進行選擇和預處理。c)進行數據挖掘過程得到模式或者模型。d)對模型進行解釋和評價得到知識。13/13第二章數據和數據預處理1.什么是數據:數據是數據對象和它的屬性的集合。一個屬性是一個對象的性質或特性。屬性的集合描述了一個對象。2.屬性的類型:a)標稱(nominal):它的值僅僅是不同的名字,只是提供足夠的信息來區(qū)分對象。例如郵政編碼、ID、性別。b)序
3、數:序數屬性的值提供足夠的信息確定對象的序。例如硬度、成績、街道號碼。c)區(qū)間:對于區(qū)間屬性,值之間的差是有意義的,即存在測量單位。例如日歷日期、溫度。d)比率:對于比率變量,差和比率都是有意義的。例如絕對溫度、年齡、質量、長度。3.用值的個數描述屬性:a)離散的:離散屬性具有有限惑無限可數個值,這樣的屬性可以是分類的。b)連續(xù)的:連續(xù)屬性是取實數值的屬性。4.非對稱屬性:對于非對稱屬性,出現非零屬性值才是最重要的。5.數據集的類型:a)記錄型數據:每一個數據對象都是有固定數目的屬性組成的。數據矩陣:如果一個數據集中的所有數據對象都具有相同的數值屬性集,則數據對象可以看做
4、是多維空間中的點,其中每個位代表描述對象的一個不同屬性。文檔數據:每個文檔看成是一個向量。事務數據:每一個事務涉及一個項的集合。b)圖數據:可以表示數據對象間的關系或者是數據對象本身就是用圖形表示。c)有序數據:屬性在時間或者空間上有關系。時態(tài)數據:記錄型數據的擴展,但是每個記錄都有一個時間。序列數據:由數據構成的序列,沒有時間,但表述了一個時間的先后順序。時間序列數據:每個記錄都是一個時間序列??臻g數據:屬性和空間位置有關。6.噪聲和離群點的區(qū)別:噪聲是對原始值產生了修改;離群點是具有不同于數據集中其他大部分數據對象的特征的數據對象,或是相對于該屬性的典型值不尋常的屬性
5、值。7.如何處理噪聲數據:a)分箱(binning):分享方法通過考察數據的近鄰來光滑有序數據的值。b)回歸:可以用一個函數你和數據來光滑數據。c)聚類:將數據劃分為不同的類,落在類之外的視為離群點。d)把計算機分析的結果讓人檢查看是否有問題。8.數據預處理中的主要任務:a)數據清洗:填補缺值、去除噪聲、解決數據不一致、解決冗余。b)數據集成:將不同數據源的數據放在一個地方。c)數據轉換:平滑處理、數據聚合、數據泛化、歸一化、屬性特征構造。d)數據約減:減少數據量,但仍需從少量的數據中得到原有或接近原有的結果。e)數據離散化對給定連續(xù)值劃分為若干小區(qū)間,每個區(qū)間用一個值表
6、示。9.相關分析兩類方法:對于數值屬性可以通過計算兩屬性之間的相關系數。對于分類數據兩屬性之間的相關聯系可以通過卡方來計算。13/1310.對數據歸一化處理的三大類方法:a)最小-最大規(guī)范化:b)Z-score規(guī)范化:c)小數定標規(guī)范化:11.屬性約減的方法:a)回歸:擬合函數。b)直方圖:將數據劃分為一定的區(qū)間,存儲時只用存儲其平均值。(等寬度、等深度、V-optimal:取最優(yōu)化分、MaxDiff:根據值間距離來劃分)。c)聚類:將數據聚為不同的類,存儲類中最有代表性的數據,例如中心點。d)抽樣:從數據中抽取一個樣本,要能代表原來的數據。12.數據離散化的方法:a)數
7、值型:i.直方圖:自上而下的劃分。ii.聚類的分析。iii.基于熵的離散化。iv.卡方分析。v.自然劃分的方法。b)分類型數據:i.模式集。ii.屬性集。iii.通過只可以得到層次的關系。iv.根據不同屬性的取值自動生成。13.計算二進制屬性的相似性用SMC和Jaccard系數(也可以不用于二進制屬性,也可用于連續(xù)和計數屬性),Cosine相似性用來測文檔和文檔之間的距離。第三章概念學習1.概念的概念:a)概念是定義在一個大集合上的事物或對象的子集。b)概念是定義在一個大集合上的二值函數。2.概念學習的概念:a)概念學習就是從