Funkcja wiarygodności

Wykres funkcji wiarygodności dla parametru k rozkładu Poissona przy zaobserwowanych danych {3, 5}.

Funkcja wiarygodności (wiarygodność) – w statystyce, funkcja parametru modelu i próby losowej, która jest proporcjonalna do prawdopodobieństwa zaobserwowania próby o konkretnej postaci przy różnych parametrach modelu. Wyraża „wiarygodność” wartości parametru w obliczu danych. Odgrywa kluczową rolę we wnioskowaniu statystycznym. Jej nazwę wprowadził Ronald Fisher w 1922.

Definicja

Najbardziej ogólna postać funkcji wiarygodności $L(H_{\theta }),$ zapisywanej także jako $L(H_{\theta }|D)$ lub z użyciem symbolu ${\mathcal {L}},$ to:

$L(H_{\theta }|D)=K\times P(D|H_{\theta }),$

gdzie $K$ to arbitralna dodatnia stała proporcjonalności wynikająca ze specyficzności przyjętego modelu, $H_{\theta }$ to reprezentujący różne hipotezy wektor zmiennych wartości parametru $\theta ,$ a $D$ to stały, dany wektor obserwacji. $P$ to funkcja gęstości lub masy prawdopodobieństwa, dla przyjętego modelu statystycznego.

Realizacja funkcji wiarygodności dla wektora obserwacji ma z reguły dla danych iid formę typu:

$L(H_{\theta })=\prod _{i=1}^{n}P(x_{i}|\theta ).$

Wiarygodność to, w uproszczeniu, prawdopodobieństwo parametru w konkretnym kontekście ustalonych obserwacji i modelu. Ma podobną postać do prawdopodobieństwa danych dla parametru (czyli funkcji gęstości lub masy), ale przyjmuje odwrotnie to, który czynnik jest losowy, a który stały.

Interpretacja

Interpretacja wiarygodności ma sens tylko z zachowaniem kontekstu; bardziej przyjaznym wskaźnikiem jest iloraz wiarygodności, który wskutek dzielenia pozbawiony jest stałej $K$ reprezentującej specyfikę modelu.

Oszacowanie wiarygodności nie jest jednak samo w sobie wyczerpującą podstawą do osądzania prawdziwości hipotez. Sam fakt, że jedno wyjaśnienie jest dużo bardziej prawdopodobne od alternatywnego, w oderwaniu od dodatkowych wskaźników i rozumowania, nie jest wyczerpująco diagnostyczny. Ilustruje to problem błędu rozumowania prokuratorskiego, takiego jak sprawa Sally Clark, matki dwójki dzieci, które zmarły z rozpoznaniem nagłej śmierci łóżeczkowej. Po śmierci drugiego dziecka została oskarżona o morderstwo i skazana w 1999, w dużej mierze na podstawie zeznań profesora pediatrii, który oszacował szansę na dwukrotne wystąpienie bardzo rzadkiej w populacji przyczyny śmierci przypadkiem na bardzo małą. Proces ściągnął na Clark dużą antypatię opinii publicznej. Została uniewinniona na podstawie nowo ujawnionych dowodów w 2003, popadła jednak w alkoholizm i zmarła w 2007 w wieku 43 lat, osieracając jedno żyjące dziecko. Sposób argumentacji statystycznej przedstawionej w trakcie procesu był potem głęboko krytykowany jako tragiczne nadużycie.

Prawo wiarygodności

Pojęcie wiarygodności może być pomocne we wnioskowaniu w przypadku porównywania dwóch hipotez. Zgodnie z prawem wiarygodności, jeżeli obie są zgodne z dostępnymi danymi, większe poparcie w danych ma hipoteza o większej wiarygodności. Porównując wiarygodności można nie tylko wskazać, która z hipotez ma lepsze poparcie, ale możliwe jest również mierzenie tego poparcia dzięki ilorazowi wiarygodności.

Zastosowania

Wiarygodność jest wykorzystywana we wszystkich głównych podejściach do wnioskowania statystycznego (np. częstościowym czy bayesowskim). Część statystyków preferuje odrębne podejście oparte wręcz wyłącznie na ilorazach wiarygodności.

Ponieważ wiarygodność jest z reguły używana w postaci ilorazów, często wyraża się ją w postaci logarytmu naturalnego. Jest on także łatwiejszy w maksymalizacji, co wykorzystuje metoda największej wiarygodności w estymacji.

Iloraz wiarygodności

Iloraz wiarygodności, zapisywany z reguły przy pomocy symbolu $\Lambda ,$ to:

$\Lambda (\theta _{1}:\theta _{2}\mid x)={\frac {L(\theta _{1}\mid x)}{L(\theta _{2}\mid x)}}.$

Wiele testów statystycznych opiera się o – poprzedzone wyborem odpowiedniego (lub nie) modelu, definiującego $P$ – porównanie wiarygodności dwóch hipotez. Takie porównanie jest częścią lematu Neymana-Pearsona, i było ważnym historycznym źródłem kształtującym testy w podejściu częstościowym. W statystyce bayesowskiej miary tego typu noszą nazwę czynnika Bayesa. Iloraz wiarygodności jest wykorzystywany w teście ilorazu wiarygodności.