你應(yīng)該掌握的七種回歸技術(shù)

你應(yīng)該掌握的七種回歸技術(shù)

ID:33716643

大小:228.50 KB

頁數(shù):10頁

時(shí)間:2019-02-28

你應(yīng)該掌握的七種回歸技術(shù)_第1頁
你應(yīng)該掌握的七種回歸技術(shù)_第2頁
你應(yīng)該掌握的七種回歸技術(shù)_第3頁
你應(yīng)該掌握的七種回歸技術(shù)_第4頁
你應(yīng)該掌握的七種回歸技術(shù)_第5頁
資源描述:

《你應(yīng)該掌握的七種回歸技術(shù)》由會(huì)員上傳分享,免費(fèi)在線閱讀,更多相關(guān)內(nèi)容在行業(yè)資料-天天文庫。

1、你應(yīng)該掌握的七種回歸技術(shù)發(fā)表于2015-08-2022:31

2、?15002次閱讀

3、來源AnalyticsVidhya

4、?0?條評(píng)論

5、作者SunilRay回歸神經(jīng)網(wǎng)絡(luò)機(jī)器學(xué)習(xí)數(shù)據(jù)分析摘要:本文解釋了回歸分析及其優(yōu)勢(shì),重點(diǎn)總結(jié)了應(yīng)該掌握的線性回歸、邏輯回歸、多項(xiàng)式回歸、逐步回歸、嶺回歸、套索回歸、ElasticNet回歸等七種最常用的回歸技術(shù)及其關(guān)鍵要素,最后介紹了選擇正確的回歸模型的關(guān)鍵因素。【編者按】回歸分析是建模和分析數(shù)據(jù)的重要工具。本文解釋了回歸分析的內(nèi)涵及其優(yōu)勢(shì),重點(diǎn)總結(jié)了應(yīng)該掌握的線性回歸、邏輯回歸、多項(xiàng)式回歸、逐步回歸、嶺回歸、套索回歸

6、、ElasticNet回歸等七種最常用的回歸技術(shù)及其關(guān)鍵要素,最后介紹了選擇正確的回歸模型的關(guān)鍵因素。什么是回歸分析?回歸分析是一種預(yù)測(cè)性的建模技術(shù),它研究的是因變量(目標(biāo))和自變量(預(yù)測(cè)器)之間的關(guān)系。這種技術(shù)通常用于預(yù)測(cè)分析,時(shí)間序列模型以及發(fā)現(xiàn)變量之間的因果關(guān)系。例如,司機(jī)的魯莽駕駛與道路交通事故數(shù)量之間的關(guān)系,最好的研究方法就是回歸?;貧w分析是建模和分析數(shù)據(jù)的重要工具。在這里,我們使用曲線/線來擬合這些數(shù)據(jù)點(diǎn),在這種方式下,從曲線或線到數(shù)據(jù)點(diǎn)的距離差異最小。我會(huì)在接下來的部分詳細(xì)解釋這一點(diǎn)。我們?yōu)槭裁词褂没貧w分析?如上所述,回歸分析估計(jì)了

7、兩個(gè)或多個(gè)變量之間的關(guān)系。下面,讓我們舉一個(gè)簡(jiǎn)單的例子來理解它:比如說,在當(dāng)前的經(jīng)濟(jì)條件下,你要估計(jì)一家公司的銷售額增長(zhǎng)情況。現(xiàn)在,你有公司最新的數(shù)據(jù),這些數(shù)據(jù)顯示出銷售額增長(zhǎng)大約是經(jīng)濟(jì)增長(zhǎng)的2.5倍。那么使用回歸分析,我們就可以根據(jù)當(dāng)前和過去的信息來預(yù)測(cè)未來公司的銷售情況。使用回歸分析的好處良多。具體如下:1.它表明自變量和因變量之間的顯著關(guān)系;2.它表明多個(gè)自變量對(duì)一個(gè)因變量的影響強(qiáng)度?;貧w分析也允許我們?nèi)ケ容^那些衡量不同尺度的變量之間的相互影響,如價(jià)格變動(dòng)與促銷活動(dòng)數(shù)量之間聯(lián)系。這些有利于幫助市場(chǎng)研究人員,數(shù)據(jù)分析人員以及數(shù)據(jù)科學(xué)家排除并估

8、計(jì)出一組最佳的變量,用來構(gòu)建預(yù)測(cè)模型。我們有多少種回歸技術(shù)?有各種各樣的回歸技術(shù)用于預(yù)測(cè)。這些技術(shù)主要有三個(gè)度量(自變量的個(gè)數(shù),因變量的類型以及回歸線的形狀)。我們將在下面的部分詳細(xì)討論它們。對(duì)于那些有創(chuàng)意的人,如果你覺得有必要使用上面這些參數(shù)的一個(gè)組合,你甚至可以創(chuàng)造出一個(gè)沒有被使用過的回歸模型。但在你開始之前,先了解如下最常用的回歸方法:1.?Linear?Regression線性回歸它是最為人熟知的建模技術(shù)之一。線性回歸通常是人們?cè)趯W(xué)習(xí)預(yù)測(cè)模型時(shí)首選的技術(shù)之一。在這種技術(shù)中,因變量是連續(xù)的,自變量可以是連續(xù)的也可以是離散的,回歸線的性質(zhì)是線

9、性的。線性回歸使用最佳的擬合直線(也就是回歸線)在因變量(Y)和一個(gè)或多個(gè)自變量(X)之間建立一種關(guān)系。用一個(gè)方程式來表示它,即Y=a+b*X?+?e,其中a表示截距,b表示直線的斜率,e是誤差項(xiàng)。這個(gè)方程可以根據(jù)給定的預(yù)測(cè)變量(s)來預(yù)測(cè)目標(biāo)變量的值。一元線性回歸和多元線性回歸的區(qū)別在于,多元線性回歸有(>1)個(gè)自變量,而一元線性回歸通常只有1個(gè)自變量?,F(xiàn)在的問題是“我們?nèi)绾蔚玫揭粋€(gè)最佳的擬合線呢?”。如何獲得最佳擬合線(a和b的值)?這個(gè)問題可以使用最小二乘法輕松地完成。最小二乘法也是用于擬合回歸線最常用的方法。對(duì)于觀測(cè)數(shù)據(jù),它通過最小化每個(gè)

10、數(shù)據(jù)點(diǎn)到線的垂直偏差平方和來計(jì)算最佳擬合線。因?yàn)樵谙嗉訒r(shí),偏差先平方,所以正值和負(fù)值沒有抵消。我們可以使用R-square指標(biāo)來評(píng)估模型性能。想了解這些指標(biāo)的詳細(xì)信息,可以閱讀:模型性能指標(biāo)Part?1,Part?2?.要點(diǎn):·自變量與因變量之間必須有線性關(guān)系·多元回歸存在多重共線性,自相關(guān)性和異方差性。·線性回歸對(duì)異常值非常敏感。它會(huì)嚴(yán)重影響回歸線,最終影響預(yù)測(cè)值?!ざ嘀毓簿€性會(huì)增加系數(shù)估計(jì)值的方差,使得在模型輕微變化下,估計(jì)非常敏感。結(jié)果就是系數(shù)估計(jì)值不穩(wěn)定·在多個(gè)自變量的情況下,我們可以使用向前選擇法,向后剔除法和逐步篩選法來選擇最重要的自

11、變量。2.Logistic?Regression邏輯回歸邏輯回歸是用來計(jì)算“事件=Success”和“事件=Failure”的概率。當(dāng)因變量的類型屬于二元(1?/?0,真/假,是/否)變量時(shí),我們就應(yīng)該使用邏輯回歸。這里,Y的值從0到1,它可以用下方程表示。odds=p/(1-p)=probabilityofeventoccurrence/probabilityofnoteventoccurrenceln(odds)=ln(p/(1-p))logit(p)=ln(p/(1-p))=b0+b1X1+b2X2+b3X3....+bkXk上述式子中,p

12、表述具有某個(gè)特征的概率。你應(yīng)該會(huì)問這樣一個(gè)問題:“我們?yōu)槭裁匆诠街惺褂脤?duì)數(shù)log呢?”。因?yàn)樵谶@里我們使用的是的二項(xiàng)分布(因變量),

當(dāng)前文檔最多預(yù)覽五頁,下載文檔查看全文

此文檔下載收益歸作者所有

當(dāng)前文檔最多預(yù)覽五頁,下載文檔查看全文
溫馨提示:
1. 部分包含數(shù)學(xué)公式或PPT動(dòng)畫的文件,查看預(yù)覽時(shí)可能會(huì)顯示錯(cuò)亂或異常,文件下載后無此問題,請(qǐng)放心下載。
2. 本文檔由用戶上傳,版權(quán)歸屬用戶,天天文庫負(fù)責(zé)整理代發(fā)布。如果您對(duì)本文檔版權(quán)有爭(zhēng)議請(qǐng)及時(shí)聯(lián)系客服。
3. 下載前請(qǐng)仔細(xì)閱讀文檔內(nèi)容,確認(rèn)文檔內(nèi)容符合您的需求后進(jìn)行下載,若出現(xiàn)內(nèi)容與標(biāo)題不符可向本站投訴處理。
4. 下載文檔時(shí)可能由于網(wǎng)絡(luò)波動(dòng)等原因無法下載或下載錯(cuò)誤,付費(fèi)完成后未能成功下載的用戶請(qǐng)聯(lián)系客服處理。