統(tǒng)計學(xué),回歸分析

RegressionAnalsys

回歸分析

童新元

中國人民解放軍總醫(yī)院名人格言縱使世界給我珍寶和榮譽,我也不愿意離開我的祖國,因為縱使我的祖國在恥辱之中,我還是喜歡,熱愛,祝福我的祖國。

---裴多菲(匈牙利詩人,1823—1849)問題能否由脂肪的含量推出熱量的多少?知道父代身高，可否推測子代身高？回歸方程解決由一個量變化推斷另一量變化的問題。1)“回歸”概念的來源“香港回歸”,“澳門回歸”….“回歸”這一名詞起源于19世紀生物學(xué)家和統(tǒng)計學(xué)家F·Galton的遺傳學(xué)研究。問題:現(xiàn)實直觀經(jīng)驗:“通常都認為子女比父母的身高要高”。這是人身的客觀規(guī)律還是一種假象?如果這個趨勢是客觀規(guī)律話，人身高應(yīng)該是越來越高，早就超過了現(xiàn)在的水平。觀察研究英國生物遺傳學(xué)家Galton觀察了1078對夫婦與子女，分析他們的身高關(guān)系。以每對夫婦的平均身高作為x，取他們的一個成年兒子的身高作為y，將結(jié)果在平面直角坐標系上繪成散點圖，發(fā)現(xiàn)趨勢近乎一條直線。計算出的回歸直線方程為：Y^=33.73+0.516x這種趨勢及回歸方程表明父母平均身高x每增加一個單位時，其成年兒子的身高y也平均增加0.516個單位。結(jié)果表明，雖然高個子父輩確實有生高個子兒子的趨勢，但父輩身高增加一個單位，兒子身高僅增加半個單位左右。平均說來，一群高個子父輩的兒子們的平均高度要低于他們父輩的平均高度，他們兒子的身高沒有比他們更高，高個子父輩偏離其父輩平均身高的一部分被其子代拉回來了，即子代的平均身高向中心回歸。低個子父輩的兒子們雖然仍為低個子，平均身高卻比他們的父輩增加了，即父輩偏離中心的部分在子代被拉回來一些。說明子代的平均身高沒有比他們的父輩更低。正因為子代的身高有回到父輩平均身高的趨勢，才使人類的身高在一定時間內(nèi)相對穩(wěn)定，沒有出現(xiàn)父輩個子高其子女更高，父輩個子矮其子女更矮的兩極分化現(xiàn)象。這個例子說明了生物學(xué)中“種”的概念的穩(wěn)定性。正是為了描述這種有趣的現(xiàn)象，Galton引進了“回歸”這個名詞來描述父輩身高與子代身高的關(guān)系。大自然界很多物種都有

“回歸”現(xiàn)象：大象、螞蟻后代體重回歸到其平均水平人類社會的“回歸”.少小離家，老大歸。。。社會學(xué)…葉落歸根和諧社會穩(wěn)定--發(fā)展貧富分化嚴重社會不穩(wěn)定中國改革開放中國經(jīng)濟體制改革“中國經(jīng)濟進入中等發(fā)達國家水平”中國政治體制改革“我深知改革的難度，主要是任何一項改革必須有人民的覺醒、人民的支持、人民的積極性和創(chuàng)造精神。”

--溫家寶中國半數(shù)人還處于文革狀態(tài)，要么是缺乏理性的文革戰(zhàn)士，要么是逆來順從的奴隸狀態(tài)，基本不懂現(xiàn)代社會的處事原則。—茅于軾“權(quán)利回歸于人民，人民真正當家作主””沒有獨裁專制，才有新中國“由父高推測子女身高的設(shè)想影響子女身高y的因素：基本生長規(guī)律、父母的身高x

個體差異（隨機誤差）問題的模型化：回歸分析模型子高＝基本生長＋父母高作用＋個體差異2)回歸方程回歸分析研究目的是由自變量的信息去推斷因變量，并用直線方程來表示它們的線性關(guān)系。直線回歸方程的一般表達式為

回歸分析的數(shù)據(jù)基本格式變量x變量yx1y1x2y2

......xnyn相關(guān)問題回歸分析的任務(wù):

在平面上怎么找最佳的直線?實現(xiàn)的類似問題:

某地區(qū)有若干個房子,現(xiàn)要修建一條直的公路,怎樣讓大家都滿意?3)參數(shù)的估計回歸方程：采用最小二乘法原理:所有實測點到回歸直線的縱向距離平方之和最小.求解線性方程組，而得到最小二乘估計系數(shù)b和a

參數(shù)的計算公式β的估計:

α

的估計：

計算結(jié)果a=33.73,b=0.516回歸方程：y^=33.73+0.516x例12-1

測定16種食物中的熱量（卡路里）和脂肪含量（克）.試建立食物熱量與脂肪含量之間的回歸方程.計算結(jié)果a=36.0727,b=15.2584回歸方程：y^=36.0727+15.2584x回歸方程的基本含義回歸方程在坐標軸上的含義

a:截距b:斜率稱為回歸系數(shù)。回歸系數(shù)b的意義：回歸系數(shù)b反映的是x每增加1個單位時y的增加幅度；b越大，x對y的影響幅度越大。回歸直線與散點圖的關(guān)系b>0b<0b=0b=0b=0b=04)回歸方程的檢驗回歸方程的抽樣誤差:回歸方程來自樣本，存在抽樣誤差回歸方程的假設(shè)檢驗步驟:1建立假設(shè):

H0：回歸方程無統(tǒng)計學(xué)意義

H1：回歸方程有統(tǒng)計學(xué)意義α=0.05

2變異的分解:方差分析思想

yi-y=(yi-y^)+(y^-y)

∑(yi-y)2=∑(yi-y^)2+∑(y^-y)2

變異分解示意圖F值的構(gòu)造SS總＝SS殘差

＋SS回歸df總＝df殘差

＋df回歸MS回歸=SS回歸/df回歸MS殘差

=SS殘差

/df殘差F=

MS回歸/MS殘差

F值越大，越不利H0假設(shè)的成立。

方差分析表

----------------------------------------------------------

y的變異來源

SSDFMS

F值P

----------------------------------------------------------

回歸方程SS回歸

1MS回歸

F=MS回歸/Mse

殘差

SSe

n-2Mse

總變異SSTn-1

---------------------------------------------------------3統(tǒng)計推斷與決策

p<α,拒絕H0；回歸方程有統(tǒng)計學(xué)意義

p>α,不拒絕H0。回歸方程無統(tǒng)計學(xué)意義5)回歸系數(shù)的假設(shè)檢驗：建立假設(shè)

H0：β=0

H1：β≠0α=0.05

回歸系數(shù)的標準誤與t統(tǒng)計量

得到P，做出推斷

p<α,拒絕H0；p>α,不拒絕H0。6)回歸方程價值的評價回歸方程評價：方程的假設(shè)檢驗回歸價值的評價：確定系數(shù)確定系數(shù)反映回歸方程對因變量y的影響程度。決定系數(shù)的意義決定系數(shù)越大,回歸方程價值越高.實際中,決定系數(shù)大于0.5時才有好的應(yīng)用價值.本實例回歸方程的評價回歸模型的方差分析：

F=67.923P=0.000回歸系數(shù)的t檢驗：

tb=8.2416,P=0.000R2=0.82917)直線回歸圖若兩變量間存在直線關(guān)系,在散點圖上繪上回歸直線,形成直線回歸圖.直線回歸圖的CHISS實現(xiàn)1、進入數(shù)據(jù)模塊

點擊

數(shù)據(jù)→文件→打開數(shù)據(jù)庫表

打開文件名為：b12-1.DBF→確認2、進入圖形模塊

進行繪圖

點擊

圖形→統(tǒng)計圖→曲線擬合

→確認橫軸：X脂肪縱軸:Y熱量8)回歸分析的應(yīng)用---預(yù)測

若回歸方程有意義時,可以通過自變量X的值來預(yù)測因變量Y的值.

通過知道父代身高推測子代平均身高例12-1中,脂肪含量與熱量值建立的回歸方程有意義P<0.05,且決定系數(shù)0.8291較大,我們可以通過食物中的脂肪含量來預(yù)測熱量值.

問:已知脂肪為10g,試求其對應(yīng)熱量值.

解:已求得回歸方程為：

y^=36.0727+15.2584x

當x=10g時,代入回歸方程求得:y^=188.6567cal9)回歸分析的條件線性獨立正態(tài)等方差10)相關(guān)與回歸的注意事項1.相關(guān)與回歸的關(guān)系二者反映的是一個問題的兩個角度相關(guān)：關(guān)聯(lián)程度回歸：數(shù)量關(guān)系二者的基本結(jié)論一致相關(guān)系數(shù)的假設(shè)檢驗與回歸系數(shù)的假設(shè)檢驗等價2.相關(guān)與回歸應(yīng)有實際意義經(jīng)典統(tǒng)計案例1冰淇淋與犯罪率的關(guān)系美國一小鎮(zhèn)警察局長發(fā)現(xiàn)該鎮(zhèn)的冰淇淋銷量越多，犯罪率越高，呈正相關(guān)。1）能否限制冰淇淋銷量來降低犯罪率。2）試討論該問題。經(jīng)典統(tǒng)計案例2小孩的身高同小樹的高關(guān)系呈正相關(guān)。試討論該問題。3.異常點的診斷y。。。。。。

x4.線性與非線性關(guān)系脈搏與測量時間人體的身高與年齡

注意：局部線性與整體非線性.4.伴隨關(guān)系與因果關(guān)系（1）兩相關(guān)變量間的關(guān)系伴隨關(guān)系因果關(guān)系（2）相關(guān)與因果關(guān)系相關(guān)分析泛指兩個變量間的關(guān)聯(lián)程度的分析。相關(guān)并不一定表示一個變量的改變是引起另一變化的原因，而可能受另一因素的影響。因此，相關(guān)關(guān)系并不一定是因果關(guān)系。回歸反映的僅僅是兩變的數(shù)量關(guān)系，不能證明‘因果’，只可以作為‘因果’的證據(jù)之一。（3）因果關(guān)系的判斷判斷因果關(guān)系至少需要以下證據(jù):數(shù)量方面的關(guān)系;時間上的先后關(guān)系;條件消失，結(jié)果消失；條件重現(xiàn)，結(jié)果重現(xiàn)。。。生物學(xué)中因果關(guān)系還需要動物模型方面的證據(jù)，生物學(xué)理論依據(jù)等。（4）關(guān)于‘相關(guān)’的若干提法及其關(guān)系*A與B是否有關(guān)A與B是否獨立不同A下B是否相等A對B是否有影響A與B的結(jié)果是否一致（配對）有關(guān)＝不獨立＝不相等＝有影響＝一致無關(guān)＝獨立＝相等＝無影響＝不一致（5）相關(guān)性與差異性*空腹血糖與餐后血糖

---有相關(guān)性，有差異性空腹身高與餐后身高

---有相關(guān)性，無差異性空腹答題得分與視力得分

---無相關(guān)