Loading...
 
PDF Print

Példa Maximum-Likelihood becslésre

Példa Maximum-Likelihood becslésre

 
Vegyünk N db yi mérési eredményt, melyek feltehetőleg függetlenek egymástól, de azonos folyamat eredményeként jöttek létre, mely leírható egy $ \mu várható értékű, $ \sigma szórású normális eloszlással:
$ \wp \left ( y_{i}\mid\mu ,\sigma  \right) =\frac{1}{\sqrt{2\pi \sigma ^{2}}} e^{-\frac{\left ( y_{i}-\mu \right )^{2}}{2\sigma^{2}}}
A független yi események együttes valószínűség-sűrűség függvénye az egyedi valószínűség-sűrűség függvények szorzata:
$ \wp \left ( \mathbf{y}\mid\mu ,\sigma  \right) =\prod_{i=1}^{N}\frac{1}{\sqrt{2\pi \sigma ^{2}}} e^{-\frac{\left ( y_{i}-\mu \right )^{2}}{2\sigma^{2}}}=\left [\frac{1}{\sqrt{2\pi \sigma ^{2}}}  \right ]^{N} e^{-\sum_{i=1}^{N}\frac{\left ( y_{i}-\mu \right )^{2}}{2\sigma^{2}}}

Ebből a log-likelihood-függvény:
$  \ln \wp \left ( \mathbf{y}\mid\mu ,\sigma  \right) =\frac{N}{2}\ln \left ( \frac{1}{2\pi \sigma ^{2}} \right )-\sum_{i=1}^{N}\frac{\left ( y_{i}-\mu \right )^{2}}{2\sigma^{2}}

Keressük a maximumot a paraméterek szerinti deriváltakat nullával egyenlővé téve:
$ \partial _{\mu } \ln \wp \left ( \mathbf{y}\mid\mu ,\sigma  \right) =-\sum_{i=1}^{N}\frac{\left ( y_{i}-\mu \right )}{\sigma^{2}}=0
ebből becslésünk $ \mu-re:
$ \widehat{\mu}=\sum_{i=1}^{N}\frac{ y_{i} }{N}
a mért adatok átlaga. A $ \sigma szerinti parciális derivált:
$   \partial _{\sigma }\ln \wp \left ( \mathbf{y}\mid\mu ,\sigma  \right) =-\frac{N}{\sigma}-\sum_{i=1}^{N}\frac{\left ( y_{i}-\mu \right )^{2}}{\sigma^{3}}=0
ebből:
$ \widehat{\sigma}^{2}=\sum_{i=1}^{N}\frac{\left ( y_{i}-\mu \right )^{2}}{N}

A teljesség kedvéért megemlítjük, hogy a szórásnégyzetre kapott képletben még van egy ismeretlenünk, $ \mu, melyet kézenfekvő volna $\widehat{\mu}-vel helyettesíteni. Mint ismeretes, ezzel a behelyettesítéssel a szórás becslése torzított lesz, melyet korrigálhatunk egy N/(N-1)-es szorzófaktorral.

A továbbiakban folytatjuk a becsléselméleti megfontolásainkat a Bayes-becslés tárgyalásával.


Site Language: English

Log in as…