Raport de probabilitate monotonă - Monotone likelihood ratio

Un raport de probabilitate monoton în distribuții și

{\ displaystyle f (x)}

{\ displaystyle g (x)}

Raportul funcțiilor de densitate de mai sus crește în parametru , deci îndeplinește proprietatea raportului de probabilitate monotonă . ${\ displaystyle x}$ ${\ displaystyle f (x) / g (x)}$

În statistici , proprietatea raportului de probabilitate monotonă este o proprietate a raportului dintre două funcții de densitate de probabilitate (PDF-uri). În mod formal, distribuțiile ƒ ( x ) și g ( x ) poartă proprietatea dacă

{\ displaystyle {\ text {pentru fiecare}} x_ {1}> x_ {0}, \ quad {\ frac {f (x_ {1})} {g (x_ {1})}} \ geq {\ frac {f (x_ {0})} {g (x_ {0})}}}

adică dacă raportul nu este în scădere în argument . ${\ displaystyle x}$

Dacă funcțiile sunt diferențiate mai întâi, proprietatea poate fi uneori menționată

{\ displaystyle {\ frac {\ partial} {\ partial x}} \ left ({\ frac {f (x)} {g (x)}} \ right) \ geq 0}

Pentru două distribuții care satisfac definiția cu privire la un argument x, spunem că „au MLRP în x ”. Pentru o familie de distribuții care satisfac toate definiția cu privire la unele statistici T ( X ), spunem că „au MLR în T ( X )”.

Intuiţie

MLRP este utilizat pentru a reprezenta un proces de generare a datelor care se bucură de o relație directă între magnitudinea unei variabile observate și distribuția din care trage. Dacă satisface MLRP în ceea ce privește , cu cât valoarea observată este mai mare, cu atât este mai probabil să fie extrasă din distribuție decât . Ca de obicei pentru relațiile monotonice, monotonicitatea raportului de probabilitate este utilă în statistici, în special atunci când se utilizează estimarea maximă a probabilității . De asemenea, familiile de distribuție cu MLR au o serie de proprietăți stocastice bine comportate, cum ar fi dominanța stocastică de ordinul întâi și raporturile de risc crescătoare . Din păcate, așa cum este obișnuit, forța acestei presupuneri vine la prețul realismului. Multe procese din lume nu prezintă o corespondență monotonă între intrare și ieșire. ${\ displaystyle f (x)}$ ${\ displaystyle g (x)}$ ${\ displaystyle x}$ ${\ displaystyle f}$ ${\ displaystyle g}$

Exemplu: Muncind din greu sau slăbind

Să presupunem că lucrați la un proiect și că puteți lucra din greu sau relaxați-vă. Apelați-vă alegerea efortului și calitatea proiectului rezultat . Dacă MLRP menține distribuția q în funcție de efortul dvs. , cu cât este mai mare calitatea, cu atât este mai probabil să lucrați din greu. În schimb, cu cât este mai scăzută calitatea, cu atât este mai probabil să vă relaxați. ${\ displaystyle e}$ ${\ displaystyle q}$ ${\ displaystyle e}$

Alegeți efortul unde H înseamnă mare, L înseamnă scăzut ${\ displaystyle e \ in \ {H, L \}}$
Respectați extras din . Conform legii lui Bayes cu un prior uniform, ${\ displaystyle q}$ ${\ displaystyle f (q \ mid e)}$
${\ displaystyle \ Pr [e = H \ mid q] = {\ frac {f (q \ mid H)} {f (q \ mid H) + f (q \ mid L)}}}$
Să presupunem că îndeplinește MLRP. Rearanjând, probabilitatea muncitorului a lucrat din greu este ${\ displaystyle f (q \ mid e)}$

{\ displaystyle {\ frac {1} {1 + f (q \ mid L) / f (q \ mid H)}}}

care, datorită MLRP, crește monoton în (deoarece scade în ). Prin urmare, dacă un angajator face o „revizuire a performanței”, el poate deduce comportamentul angajatului său din meritele muncii sale.

{\ displaystyle q}

{\ displaystyle f (q \ mid L) / f (q \ mid H)}

{\ displaystyle q}

Familii de distribuții care satisfac MLR

Modelele statistice presupun adesea că datele sunt generate de o distribuție de la o anumită familie de distribuții și caută să determine acea distribuție. Această sarcină este simplificată dacă familia are proprietatea raportului de probabilitate monotonă (MLRP).

Se spune că o familie de funcții de densitate indexate de un parametru care ia valori într-un set ordonat are un raport de probabilitate monoton (MLR) în statistică, dacă este cazul , ${\ displaystyle \ {f _ {\ theta} (x) \} _ {\ theta \ în \ Theta}}$ ${\ displaystyle \ theta}$ ${\ displaystyle \ Theta}$ ${\ displaystyle T (X)}$ ${\ displaystyle \ theta _ {1} <\ theta _ {2}}$

{\ displaystyle {\ frac {f _ {\ theta _ {2}} (X = x_ {1}, x_ {2}, x_ {3}, \ dots)} {f _ {\ theta _ {1}} (X = x_ {1}, x_ {2}, x_ {3}, \ dots)}}}

este o funcție nedescrescătoare a .

{\ displaystyle T (X)}

Apoi spunem că familia distribuțiilor „are MLR în ”. ${\ displaystyle T (X)}$

Lista familiilor

Familie	${\ displaystyle T (X)}$ în care are MLR ${\ displaystyle f _ {\ theta} (X)}$
Exponențială ${\ displaystyle [\ lambda]}$	${\ displaystyle \ sum x_ {i}}$ observații
Binom ${\ displaystyle [n, p]}$	${\ displaystyle \ sum x_ {i}}$ observații
Poisson ${\ displaystyle [\ lambda]}$	${\ displaystyle \ sum x_ {i}}$ observații
Normal ${\ displaystyle [\ mu, \ sigma]}$	dacă se știe, observații ${\ displaystyle \ sigma}$ ${\ displaystyle \ sum x_ {i}}$

Testarea ipotezei

Dacă familia de variabile aleatorii are MLRP în , un test uniform cel mai puternic poate fi ușor determinat pentru ipoteza versus . ${\ displaystyle T (X)}$ ${\ displaystyle H_ {0}: \ theta \ leq \ theta _ {0}}$ ${\ displaystyle H_ {1}: \ theta> \ theta _ {0}}$

Exemplu: Efort și rezultat

Exemplu: Fie o intrare într-o tehnologie stocastică - efortul muncitorului, de exemplu - și rezultatul acesteia, a cărui probabilitate este descrisă de o funcție de densitate a probabilității. Atunci proprietatea raportului de probabilitate monotonă (MLRP) a familiei este exprimată după cum urmează: pentru orice , faptul că implică faptul că raportul este în creștere în . ${\ displaystyle e}$ ${\ displaystyle y}$ ${\ displaystyle f (y; e).}$ ${\ displaystyle f}$ ${\ displaystyle e_ {1}, e_ {2}}$ ${\ displaystyle e_ {2}> e_ {1}}$ ${\ displaystyle f (y; e_ {2}) / f (y; e_ {1})}$ ${\ displaystyle y}$

Relația cu alte proprietăți statistice

Probabilitățile monotone sunt utilizate în mai multe domenii ale teoriei statistice, inclusiv estimarea punctelor și testarea ipotezelor , precum și în modelele de probabilitate .

Familii exponențiale

Familiile exponențiale cu un singur parametru au funcții de probabilitate monotone. În special, familia exponențială unidimensională a funcțiilor densității probabilității sau a funcției masei probabilității cu

{\ displaystyle f _ {\ theta} (x) = c (\ theta) h (x) \ exp (\ pi (\ theta) T (x))}

are un raport de probabilitate monoton nedescrescător în statistica suficientă T ( x ), cu condiția să fie nedescrescător. ${\ displaystyle \ pi (\ theta)}$

Cele mai puternice teste: teorema Karlin – Rubin

Funcțiile de probabilitate monotonă sunt utilizate pentru a construi cele mai puternice teste uniforme , conform teoremei Karlin – Rubin . Luați în considerare o măsurare scalară având o funcție de densitate a probabilității parametrizată de un parametru scalar θ și definiți raportul de probabilitate . Dacă monotona nu este descrescătoare, în , pentru orice pereche (ceea ce înseamnă că cu cât este mai mare , cu atât este mai probabil ), atunci testul de prag: ${\ displaystyle \ ell (x) = f _ {\ theta _ {1}} (x) / f _ {\ theta _ {0}} (x)}$ ${\ displaystyle \ ell (x)}$ ${\ displaystyle x}$ ${\ displaystyle \ theta _ {1} \ geq \ theta _ {0}}$ ${\ displaystyle x}$ ${\ displaystyle H_ {1}}$

{\ displaystyle \ varphi (x) = {\ begin {cases} 1 & {\ text {if}} x> x_ {0} \\ 0 & {\ text {if}} x <x_ {0} \ end {cases} }}

unde este ales astfel încât

{\ displaystyle x_ {0}}

{\ displaystyle \ operatorname {E} _ {\ theta _ {0}} \ varphi (X) = \ alpha}

este testul UMP de mărime α pentru testare ${\ displaystyle H_ {0}: \ theta \ leq \ theta _ {0} {\ text {vs.}} H_ {1}: \ theta> \ theta _ {0}.}$

Rețineți că exact același test este, de asemenea, UMP pentru testare ${\ displaystyle H_ {0}: \ theta = \ theta _ {0} {\ text {vs.}} H_ {1}: \ theta> \ theta _ {0}.}$

Estimare medie imparțială

Funcțiile de probabilitate monotone sunt folosite pentru a construi estimatori nepărtinitori median , folosind metode specificate de Johann Pfanzagl și alții. Un astfel de procedeu este un analog al procedurii Rao – Blackwell pentru estimatorii fără prejudecăți medii : Procedura este valabilă pentru o clasă mai mică de distribuții de probabilitate decât o face procedura Rao-Blackwell pentru estimarea medie imparțială, dar pentru o clasă mai mare de funcții de pierdere .

Analiza vieții: analiza supraviețuirii și fiabilitate

Dacă o familie de distribuții are proprietatea raportului de probabilitate monotonă în , ${\ displaystyle f _ {\ theta} (x)}$ ${\ displaystyle T (X)}$

familia are rate de risc scăzute monotone în (dar nu neapărat în ) ${\ displaystyle \ theta}$ ${\ displaystyle T (X)}$
familia prezintă primul-comanda (și , prin urmare , a doua ordine) dominanta stocastice în , și cea mai bună actualizare a Bayesian este în creștere . ${\ displaystyle x}$ ${\ displaystyle \ theta}$ ${\ displaystyle T (X)}$

Dar nu invers: nici ratele de risc monotone și nici dominanța stocastică nu implică MLRP.

Dovezi

Fie ca familia de distribuție să satisfacă MLR în x , astfel încât pentru și : ${\ displaystyle f _ {\ theta}}$ ${\ displaystyle \ theta _ {1}> \ theta _ {0}}$ ${\ displaystyle x_ {1}> x_ {0}}$

{\ displaystyle {\ frac {f _ {\ theta _ {1}} (x_ {1})} {f _ {\ theta _ {0}} (x_ {1})}} \ geq {\ frac {f _ {\ theta _ {1}} (x_ {0})} {f _ {\ theta _ {0}} (x_ {0})}},}

sau echivalent:

{\ displaystyle f _ {\ theta _ {1}} (x_ {1}) f _ {\ theta _ {0}} (x_ {0}) \ geq f _ {\ theta _ {1}} (x_ {0}) f _ {\ theta _ {0}} (x_ {1}). \,}

Integrând această expresie de două ori, obținem:

1. To cu privire la

{\ displaystyle x_ {1}}

{\ displaystyle x_ {0}}

{\ displaystyle {\ begin {align} & \ int _ {\ min _ {x} \ în X} ^ {x_ {1}} f _ {\ theta _ {1}} (x_ {1}) f _ {\ theta _ {0}} (x_ {0}) \, dx_ {0} \\ [6pt] \ geq {} & \ int _ {\ min _ {x} \ în X} ^ {x_ {1}} f_ { \ theta _ {1}} (x_ {0}) f _ {\ theta _ {0}} (x_ {1}) \, dx_ {0} \ end {align}}}

integrați și rearanjați pentru a obține

{\ displaystyle {\ frac {f _ {\ theta _ {1}}} {f _ {\ theta _ {0}}}} (x) \ geq {\ frac {F _ {\ theta _ {1}}} {F_ {\ theta _ {0}}}} (x)}

2. De la cu privire la

{\ displaystyle x_ {0}}

{\ displaystyle x_ {1}}

{\ displaystyle {\ begin {align} & \ int _ {x_ {0}} ^ {\ max _ {x} \ în X} f _ {\ theta _ {1}} (x_ {1}) f _ {\ theta _ {0}} (x_ {0}) \, dx_ {1} \\ [6pt] \ geq {} & \ int _ {x_ {0}} ^ {\ max _ {x} \ în X} f_ { \ theta _ {1}} (x_ {0}) f _ {\ theta _ {0}} (x_ {1}) \, dx_ {1} \ end {align}}}

integrați și rearanjați pentru a obține

{\ displaystyle {\ frac {1-F _ {\ theta _ {1}} (x)} {1-F _ {\ theta _ {0}} (x)}} \ geq {\ frac {f _ {\ theta _ {1}}} {f _ {\ theta _ {0}}}} (x)}

Dominanță stochastică de ordinul întâi

Combinați cele două inegalități de mai sus pentru a obține o poziție dominantă de ordinul întâi:

{\ displaystyle F _ {\ theta _ {1}} (x) \ leq F _ {\ theta _ {0}} (x) \ \ forall x}

Rata de pericol monotonă

Folosiți doar a doua inegalitate de mai sus pentru a obține o rată de risc monotonă:

{\ displaystyle {\ frac {f _ {\ theta _ {1}} (x)} {1-F _ {\ theta _ {1}} (x)}} \ leq {\ frac {f _ {\ theta _ {0 }} (x)} {1-F _ {\ theta _ {0}} (x)}} \ \ forall x}

Utilizări

Economie

MLR este o condiție importantă a distribuției de tip a agenților în proiectarea mecanismului . Majoritatea soluțiilor la modelele de proiectare a mecanismelor presupun o distribuție de tip pentru a satisface MLR pentru a profita de o metodă comună de soluție.

Referințe

^ Casella, G .; Berger, RL (2008), inferență statistică , Brooks / Cole. ISBN 0-495-39187-5 (Teorema 8.3.17)
^ Pfanzagl, Johann (1979). "Pe estimatori median optimi imparțiali în prezența parametrilor de neplăcere" . Analele Statisticii . 7 (1): 187–193. doi : 10.1214 / aos / 1176344563 .
^ ^a ^b Brown, LD ; Cohen, Arthur; Strawderman, WE (1976). „O teoremă completă de clasă pentru un raport strict de probabilitate monotonă cu aplicații” . Ann. Statistică . 4 (4): 712-722. doi : 10.1214 / aos / 1176343543 .

[1] Casella, G .; Berger, RL (2008), inferență statistică , Brooks / Cole. ISBN 0-495-39187-5 (Teorema 8.3.17)

[2] Pfanzagl, Johann (1979). "Pe estimatori median optimi imparțiali în prezența parametrilor de neplăcere" . Analele Statisticii . 7 (1): 187–193. doi : 10.1214 / aos / 1176344563 .

[BrownEtAl1976-3] Brown, LD ; Cohen, Arthur; Strawderman, WE (1976). „O teoremă completă de clasă pentru un raport strict de probabilitate monotonă cu aplicații” . Ann. Statistică . 4 (4): 712-722. doi : 10.1214 / aos / 1176343543 .

Languages

In other projects