高斯—马尔可夫定理

高斯—马尔可夫定理:

若一元线性模型满足计量经济基本假设，则参数的最小二乘估计(OLS)是最小方差的线性无偏估计。（BLUE

)

最小二乘法估计量OLS的性质（高斯—马尔可夫定理的初步证明）

1．线性性：541ddc5ad8ec4f5f8f74993b0eff4eac.png和fc770f382452f6f8f1161d7fa15d5855.png都是18daef71b5d25ce76b8628a81e4fc76b.png的线性函数

证明：

247f82f6234f17df4990a0f43246b15d.png ；

令0e51653dcd268f978f4eb3e58b8f184e.png

则有 34a766ce00983f62b9c253f85b847063.png ，且有bf6e2c981a3ba0cf172397d41ffcfcef.png，3df05d23bc2c7d94841cacf860db400c.png，4950a65da36474760811348b05849162.png

从而fc770f382452f6f8f1161d7fa15d5855.png是18daef71b5d25ce76b8628a81e4fc76b.png的线性函数；

同理，

541ddc5ad8ec4f5f8f74993b0eff4eac.png＝a3c4681166b4e54654fda9d6e95289ec.png6e6454dcf9a9d8279204db3a821db34b.png

令562499415e755d034640efb13703343f.png，则有：d41d8cd98f00b204e9800998ecf8427e.png2f966d38fc0695629847ea06e843207f.png，即541ddc5ad8ec4f5f8f74993b0eff4eac.png也是18daef71b5d25ce76b8628a81e4fc76b.png的线性函数。

另有：205da7faeca3ebe22edb2740b459ca16.png，2e06c51dd3015afd456fe9c76913b17e.png

2. 无偏性：541ddc5ad8ec4f5f8f74993b0eff4eac.png和fc770f382452f6f8f1161d7fa15d5855.png都是c3a56621746876f981b4dcca49462f79.png、d33ecff5e74e7414b20e170b1fb4af99.png的无偏估计量；

即有：2bbfe84599aa118dbd50c7c6bda069a8.png 885d8efb2c8d8ea59bf2708d6bfaf6cc.png

证明：先证885d8efb2c8d8ea59bf2708d6bfaf6cc.png

f2eabb677c74c2da92c37f96ef6bd9a2.png c7498a07c70d11d7bd83ef4982a40b05.png，

又f2eabb677c74c2da92c37f96ef6bd9a2.pngbf6e2c981a3ba0cf172397d41ffcfcef.png，3df05d23bc2c7d94841cacf860db400c.png

d26303777afaab492169e6c34d0dad92.png+1c672f36e2b4ba548fcc0384543f041c.png

=1972bf7fbd3da51635bad3b1276a9d43.png

53ac8fe9120cb1e3f124f7ca131f7e2d.png

(因为: bf6e2c981a3ba0cf172397d41ffcfcef.png，3df05d23bc2c7d94841cacf860db400c.png)

同理，利用205da7faeca3ebe22edb2740b459ca16.png和2e06c51dd3015afd456fe9c76913b17e.png可证得2bbfe84599aa118dbd50c7c6bda069a8.png

3. 最优性或最小方差性：在所有的线性无偏估计中，541ddc5ad8ec4f5f8f74993b0eff4eac.png和fc770f382452f6f8f1161d7fa15d5855.png分别是c3a56621746876f981b4dcca49462f79.png、d33ecff5e74e7414b20e170b1fb4af99.png的方差最小的有效估计量

证明：

若24056bc9cd0771e950563fe34b0eed80.png是原值d33ecff5e74e7414b20e170b1fb4af99.png的一个线性无偏估计（方差条件不限），且记657fc8caae86bae01b883c1897e4914c.png（∵线性估计），再根据无偏估计的特性，有：ebf82ffdf9b7b1165b3f6c551cf70e7c.png。

再记669198af41f8653b5f24a5628fe102fb.png，则有d780e333a6a3b119130d140895e7095a.png

d6e5d0d919f62d726c839cc15cc4db3d.png

如果能证明05dba3734a963590eb2673504b6bc8dd.png，则利用方差不小于0的性质，判定00ef551d380dd492eab9191f41bbccb0.png，fc770f382452f6f8f1161d7fa15d5855.png即为所有无偏的线性估计中方差最小的。

∵5ad2d33e1a6b8095c91f01eeab0844a7.png

又∵0e51653dcd268f978f4eb3e58b8f184e.png

且有：bf6e2c981a3ba0cf172397d41ffcfcef.png，3df05d23bc2c7d94841cacf860db400c.png，4950a65da36474760811348b05849162.png

所以cb91e3e915234494bbaf22627ecb3c2e.png，

05dba3734a963590eb2673504b6bc8dd.png,

有：00ef551d380dd492eab9191f41bbccb0.png，命题得证。

（此处利用了ebf82ffdf9b7b1165b3f6c551cf70e7c.png）。

本文来源：https://www.2haoxitong.net/k/doc/341ced22c8aedd3383c4bb4cf7ec4afe04a1b18a.html