香港公司

非線性回歸模型

9547 171

非線性回歸預測法/非線性回歸分析(Nonlinear Regression Analysis)

目錄

  • 1 非線性回歸預測法概述
  • 2 非線性回歸分析的意義
  • 3 非線性函數形式的確定
  • 4 非線性回歸預測模型的種類
  • 5 常見的非線性函數形式
  • 6 化非線性回歸為線性回歸

非線性回歸預測法概述

  非線性回歸分析是線性回歸分析的擴展,也是傳統計量經濟學的結構模型法分析。

  在社會現實經濟生活中,很多現象之間的關係並不是線性關係,對這種類型現象的分析預測一般要應用非線性回歸預測,通過變數代換,可以將很多的非線性回歸轉化為線性回歸。因而,可以用線性回歸方法解決非線性回歸預測問題。

  選擇合適的曲線類型不是一件輕而易舉的工作,主要依靠專業知識和經驗。常用的曲線類型有冪函數指數函數拋物線函數對數函數S型函數

非線性回歸分析的意義

  線性回歸模型分析的線性經濟變數關係只是經濟變數關係中的特例,現實中的多數經濟變數關係是非線性的。

  對於無法通過初等數學變換轉化為線性回歸模型的非線性經濟變數關係,必須直接用非線性變數關係進行分析。

  即使非線性變數關係可以通過初等數學變換轉化為線性模型

,也可能造成模型隨機誤差項性質的改變,這種情況下,常常也是直接作為非線性模型進行分析比較有利。

  非線性模型計量經濟分析的基本思路與線性模型是相似的,仍然可以以回歸分析為核心,稱為“非線性回歸分析”。

非線性函數形式的確定

  選擇回歸函數的具體形式應遵循以下原則:

  第一,函數形式應與經濟學的基本理論相一致;

    如:生產函數常採用冪函數的形式;成本函數常採用多項式方程的形式等。

  第二,方程有較高的擬合優度;說明瞭函數形式選取較為適當。

  第三,函數的形式儘可能簡單。

非線性回歸預測模型的種類

  非線性回歸預測模型有很多,其中除“直線回歸方程LIN)”外的對數曲線方程LOG)、反函數曲線方程INV)、二次曲線方程(拋物線)(QUA)、三次曲線方程CUB)、複合曲線方程COM)、冪函數曲線方程POW)、S形曲線方程S)、生長曲線方程GRO)、指數曲線方程EXP)與logistic曲線方程LGS)等均為非線性回歸方程。當然還有雙曲線回歸方程超指數曲線方程等許多非線性回歸方程,可用於預測預報。

常見的非線性函數形式

  1、拋物線函數:

  Y = a

+ bX + cX2

  2、雙曲線函數:

  Y=a+b(1/X)

  3、冪函數:

  Y=aX_{1}b1X_{2}b2\ldots X_{k}bk

  4、指數函數:

  Y = abX

5、對數函數:

  Y=a+bln(X)

  6、S形曲線函數:

  其中:L,a, b>0, 稱該函數為邏輯曲線

  7、多項式方程:

  非線性回歸函數模型常常採用將其線性化後,採用線性方程形式進行估計的。常用的變換方法有如下幾種:

  (1)、倒數變換

  如,對雙曲線函數,設Z=1/X,則原函數化為如下線性形式:

  Y=a+bZ

  (2)、半對數變換

  如,對對數函數,設Z=lnX,則原函數變換為:

  Y=a+bZ

化非線性回歸為線性回歸

  在實際問題中,當變數之間的相關關係不是線性相關關係時,不能用線性回歸方程描述它們之間的相關關係,需要進行非線性回歸分析,然而,非線性回歸方程一般很難求,因此,把非線性回歸化為線性回歸應該說是解決問題的好方法。

  首先,所研究對象的物理背景或散點圖可幫助我們選擇適當的非線性回歸方程

  \hat{y}=\mu(x;a,b)

  其中a及b為未知參數(在此僅討論含兩個參數的非線性回歸方程) ,為求參數a及b的估計值,往往可以先通過變數置換,把非線性回歸化為線性回歸,再利用線性回歸的方法確定參數及b的估計值。

  下麵列出常用的曲線方程及其圖形,並給出相應的化為線性方程的變數置換公式。以幫助我們觀察散點圖確定回歸方程的類型。不過,值得註意的是,散點圖畢竟只是相關關係的粗略表示,有時散點圖可能與幾種曲線都很接近,這時建立相應的回歸方程可能都是合理的,但一個非線性回歸問題,由於選擇不同的非線性回歸,得到同一個問題的多個不同回歸方程,哪一個回歸方程最優呢? 對於能化為一元線性回歸的問題,可通過計算樣本相關係數的辦法來解決,樣本相關係數的絕對值最大的對應最優的回歸方程。

曲線方程變換公式變換後的線性方程曲線圖形
\frac{1}{y}=a+\frac{b}{x}X=\frac{1}{x}
X=\frac{1}{y}
Y=a+bXImage:非线性回归分析曲线图形1.jpg
y = axbX=ln x
Y=ln y
Y=a'+bX(a'=ln x)Image:非线性回归分析曲线图形2.jpg
y=a+b ln xX=ln x
Y=y
Y=a+bXImage:非线性回归分析曲线图形3.jpg
y = aebxX=x
Y=ln y
Y=a'+bX(a'=ln x)Image:非线性回归分析曲线图形4.jpg
y=ae^{\frac{b}{x}}X=\frac{1}{x}
Y=ln y
Y=a'+bX(a'=ln x)Image:非线性回归分析曲线图形5.jpg

  例:在彩色顯影中,析出銀的光學密度ξ與形成染料η的光學密度的試驗數據如下:

xiyixiyixiyi
0.050.100.140.590.381.19
0.060.140.200.790.431.25
0.070.230.251.000.471.29
0.100.370.311.12

  求η關於ξ的回歸方程.

  解:由散點圖(右圖)知可設回歸方程為\hat{y}=Ae^{\frac{b}{x}}(b<0)其中A及b為參數,兩邊取對數,得ln \hat{y}=ln A+\frac{b}{x},

Image:非线性回归分析点散图.jpg

  作變數代換X=\frac{1}{x},Y=ln y,

  並設a=ln A,得\hat{Y}=a+bX,

  則由試驗數據(xi,yi),(i=1,2,...,11)求出對應數據(Xi,Yi)(i=1,2,...,11)如下

XiYiXiYiXiYi
20.000-2.3037.143-0.5282.6320.174
16.667-1.9665.000-0.2362.3260.223
14.286-1.4704.00002.1280.255
10.000-0.9943.2260.113

  計算得

  \bar{X}=7.946,l_{XX}=406.614

  \bar{Y}=-0.612,l_{YY}=8.690

  l_{XY}=-112.835-11\times7.946\times(-0.612)=-59.343

  樣本相關係數

  r=\frac{l_{XY}}{\sqrt{l_{XX}l_{YY}}}=\frac{-59.343}{\sqrt{406.614\times8.690}}=-0.998

  查相關係數顯著性檢驗表,當n-2-9時,r0.05(9) = 0.602,r0.001(9) = 0.0735

  因為, | r | > r0.01(9) = 0.735所以,認為Y與X之間的線性相關關係特別顯著.

  再求a及b的估計值

  \hat{b}=\frac{l_{XY}}{l_{XX}}=\frac{-59.343}{406.614}=-0.146

  \hat{a}=\bar{Y}-\hat{b}\bar{X}=-0.162-(-0.146)\times7.946=0.548

  則Y關於X的線性回歸方程為

  \hat{Y}=0.548-0.146X

  換回原變數,得ln \hat{y}=0.548-\frac{0.146}{x},即\hat{y}=e^{0.548-\frac{0.146}{x}}=1.73e^{-\frac{0.146}{x}}

  所以,η關於ξ的回歸方程為

  \hat{y}=1.73e^{-\frac{0.146}{x}}