Metoda momentelor (statistici) - Method of moments (statistics)

În statistici , metoda momentelor este o metodă de estimare a parametrilor populației .

Începe prin a exprima momentele populației (adică valorile așteptate ale puterilor variabilei aleatorii luate în considerare) ca funcții ale parametrilor de interes. Aceste expresii sunt apoi setate egale cu momentele eșantion. Numărul de astfel de ecuații este același cu numărul de parametri care urmează să fie estimat. Aceste ecuații sunt apoi rezolvate pentru parametrii de interes. Soluțiile sunt estimări ale acestor parametri.

Metoda momentelor a fost introdusă de Pafnuty Chebyshev în 1887 în dovada teoremei limitei centrale. Ideea potrivirii momentelor empirice ale unei distribuții la momentele populației datează cel puțin de la Pearson .

Metodă

Să presupunem că problema constă în estimarea parametrilor necunoscuți care caracterizează distribuția variabilei aleatorii . Să presupunem că primele momente ale distribuției adevărate („momentele populației”) pot fi exprimate ca funcții ale s: ${\ displaystyle k}$${\ displaystyle \ theta _ {1}, \ theta _ {2}, \ dots, \ theta _ {k}}$ ${\ displaystyle f_ {W} (w; \ theta)}$${\ displaystyle W}$${\ displaystyle k}$${\ displaystyle \ theta}$

${\ displaystyle {\ begin {align} \ mu _ {1} & \ equiv \ operatorname {E} [W] = g_ {1} (\ theta _ {1}, \ theta _ {2}, \ ldots, \ theta _ {k}), \\ [4pt] \ mu _ {2} & \ equiv \ operatorname {E} [W ^ {2}] = g_ {2} (\ theta _ {1}, \ theta _ { 2}, \ ldots, \ theta _ {k}), \\ & \, \, \, \ vdots \\\ mu _ {k} & \ equiv \ operatorname {E} [W ^ {k}] = g_ {k} (\ theta _ {1}, \ theta _ {2}, \ ldots, \ theta _ {k}). \ end {align}}}$

Să presupunem că se extrage un eșantion de mărime , rezultând valori . Căci , lasă ${\ displaystyle n}$${\ displaystyle w_ {1}, \ dots, w_ {n}}$${\ displaystyle j = 1, \ dots, k}$

${\ displaystyle {\ widehat {\ mu}} _ {j} = {\ frac {1} {n}} \ sum _ {i = 1} ^ {n} w_ {i} ^ {j}}$

fie al j -alea eșantion moment, o estimare de . Metoda estimatorului de momente pentru notat cu este definită ca soluția (dacă există una) la ecuații: ${\ displaystyle \ mu _ {j}}$${\ displaystyle \ theta _ {1}, \ theta _ {2}, \ ldots, \ theta _ {k}}$${\ displaystyle {\ widehat {\ theta}} _ {1}, {\ widehat {\ theta}} _ {2}, \ dots, {\ widehat {\ theta}} _ {k}}$

${\ displaystyle {\ begin {align} {\ widehat {\ mu}} _ {1} & = g_ {1} ({\ widehat {\ theta}} _ {1}, {\ widehat {\ theta}} _ {2}, \ ldots, {\ widehat {\ theta}} _ {k}), \\ [4pt] {\ widehat {\ mu}} _ {2} & = g_ {2} ({\ widehat {\ theta}} _ {1}, {\ widehat {\ theta}} _ {2}, \ ldots, {\ widehat {\ theta}} _ {k}), \\ & \, \, \, \ vdots \ \ {\ widehat {\ mu}} _ {k} & = g_ {k} ({\ widehat {\ theta}} _ {1}, {\ widehat {\ theta}} _ {2}, \ ldots, { \ widehat {\ theta}} _ {k}). \ end {align}}}$

Avantaje și dezavantaje

Metoda momentelor este destul de simplă și produce estimatori consistenți (în ipoteze foarte slabe), deși acești estimatori sunt adesea părtinitori .

Este o alternativă la metoda de maximă probabilitate .

Cu toate acestea, în unele cazuri, ecuațiile de probabilitate pot fi intratabile fără calculatoare, în timp ce estimatorii metoda momentelor pot fi calculați mult mai rapid și mai ușor. Datorită calculabilității ușoare, estimările metodei de momente pot fi utilizate ca prima aproximare la soluțiile ecuațiilor de probabilitate, iar aproximările succesive îmbunătățite pot fi apoi găsite prin metoda Newton-Raphson . În acest fel, metoda momentelor poate ajuta la găsirea estimărilor de probabilitate maximă.

În unele cazuri, rare cu eșantioane mari, dar nu atât de rare cu eșantioane mici, estimările date prin metoda momentelor sunt în afara spațiului parametrilor (așa cum se arată în exemplul de mai jos); atunci nu are sens să ne bazăm pe ele atunci. Această problemă nu apare niciodată în metoda probabilității maxime . De asemenea, estimările prin metoda momentelor nu sunt neapărat statistici suficiente , adică uneori nu reușesc să ia în considerare toate informațiile relevante din eșantion.

Atunci când se estimează alți parametri structurali (de exemplu, parametrii unei funcții de utilitate , în loc de parametrii unei distribuții de probabilitate cunoscute), distribuțiile de probabilitate adecvate pot să nu fie cunoscute, iar estimările bazate pe moment pot fi preferate estimării de maximă probabilitate.

Exemple

Un exemplu de aplicare a metodei momentelor este estimarea distribuțiilor de densitate a probabilității polinomiale. În acest caz, un polinom de ordine aproximativ este definit pe un interval . Metoda momentelor produce apoi un sistem de ecuații, a cărui soluție implică inversarea unei matrice Hankel . ${\ displaystyle N}$${\ displaystyle [a, b]}$

Distributie uniforma

Luați în considerare distribuția uniformă pe intervalul , . Dacă atunci avem ${\ displaystyle [a, b]}$${\ displaystyle U (a, b)}$${\ displaystyle W \ sim U (a, b)}$

${\ displaystyle \ mu _ {1} = \ operatorname {E} [W] = {\ frac {1} {2}} (a + b)}$

${\ displaystyle \ mu _ {2} = \ operatorname {E} [W ^ {2}] = {\ frac {1} {3}} (a ^ {2} + ab + b ^ {2})}$

Rezolvarea acestor ecuații dă

${\ displaystyle {\ widehat {a}} = \ mu _ {1} - {\ sqrt {3 \ left (\ mu _ {2} - \ mu _ {1} ^ {2} \ right)}}}$

${\ displaystyle {\ widehat {b}} = \ mu _ {1} + {\ sqrt {3 \ left (\ mu _ {2} - \ mu _ {1} ^ {2} \ right)}}}$

Având în vedere un set de eșantioane putem folosi momentele eșantionului și în aceste formule pentru a estima și . ${\ displaystyle \ {w_ {i} \}}$${\ displaystyle {\ widehat {\ mu}} _ {1}}$${\ displaystyle {\ widehat {\ mu}} _ {2}}$${\ displaystyle a}$${\ displaystyle b}$

Rețineți, însă, că această metodă poate produce rezultate inconsistente în unele cazuri. De exemplu, setul de eșantioane are ca rezultat estimarea, deși este imposibil ca setul să fi fost extras din acest caz. ${\ displaystyle \ {0,0,0,0,1 \}}$${\ displaystyle {\ widehat {a}} = {\ frac {1} {5}} - {\ frac {2 {\ sqrt {3}}} {5}}, {\ widehat {b}} = {\ frac {1} {5}} + {\ frac {2 {\ sqrt {3}}} {5}}}$${\ displaystyle {\ widehat {b}} <1}$${\ displaystyle \ {0,0,0,0,1 \}}$${\ displaystyle U ({\ widehat {a}}, {\ widehat {b}})}$

Vezi si

• Metoda generalizată a momentelor
• Metode de decodare

Referințe