Estymacja punktowa

Jako najprostszy przykład zastosowania metody najmniejszych kwadratów (MNK) rozpatrzymy estymacje wartości oczekiwanej ciągu zmiennych losowych X1, X2,..., Xn , o których wiadomo, że E(X1)=E(X2)=...=E(Xn)=Θ, oraz że wszystkie zmienne są o identycznej wariancji.

Niech x1 , x2 , ..., xn oznaczają zaobserwowane wartości zmiennych losowych w próbie.

Warunek (3.3.31) zapisuje się w następującej postaci

F=∑(x −Θ) =minimum i=1

Po obliczeniu pochodnej i przyrównaniu jej do zera otrzymujemy

∂F n/∂Θ=2∑(xi −Θ)=0

co prowadzi do równania

∑xi−nΘ=0 ⇒ Θ= ∑xi=X i=1 n i=1

To dowodzi, że najlepszą oceną w sensie MNK dla wartości przeciętnej Θ , jest średnia arytmetyczna wyników obserwacji, pod warunkiem iż, wszystkie obserwo- wane w próbie zmienne losowe mają tę samą wariancję.

W przypadku, gdy zmienne losowe posiadają wariancje zróżnicowane, wtedy należy stosować estymatory Markowa, które posiadają następujące własności:

− są nieobciążone,

− są liniowe względem obserwowanych zmiennych losowych,

− mają najmniejszą wariancję w klasie wszystkich estymatorów liniowych.

Najprostszym przykładem zastosowania estymatora Markowa będzie estymacja wartości przeciętnej dla ciągu X1, X2,..., Xn zmiennych losowych (niezależnych) o identycznej wartości oczekiwanej μ oraz o zróżnicowanych wariancjach σi