香港公司

最小二乘估計

统计方法 9547 171

最小二乘估計 (least-squares estimation)

什麼是最小二乘估計

  最小二乘估計是高斯在1975年提出的參數估計法,其特點是演算法簡單,不必知道被估計量及量測量有關的統計信息。

  設第i次量測Zi

  Zi = HiX + Vi

  式中:Zimi維向量;HiVi為第i次量測的量測矩陣和隨機量測雜訊。

  描述r次量測的量測方程為

  Z = HX + V

  式中:Z、V為m_1+m_2+\ldots+m_i=m維向量,H為m×n矩陣。

最小二乘估計指標

  最小二乘估計指標是,使各次量測Zi與由估計\widehat{X}確定的量測的估計\widehat{Z}_iH_i\widehat{X}均方和最小,即

  J\widehat{X}=(Z-H\widehat{X})^T(Z-H\widehat{X})=min

  X的最小二乘估計為

  \widehat{X}=(H^TH)^{-1}H^TZ

最小二乘估計的性質

  最小二乘估計的性質是,若量測雜訊V是均值為零,方差為R的隨機向量,則

  (1)最小二乘估計是無偏估計,即

  E[\widehat{X}]=X

  或

  E[\widehat{X}]=0

  式中:\widehat{X}=X-\widehat{X}\widehat{X}的估計誤差。

  (2)最小二乘估計的均方誤差陣為

  E[\widehat{X}\widehat{X}^T]=(H^TH)^{-1}H^TRH(H^TH)^{-1}