Kolmogorow-Smirnow-Test

Der Kolmogorow-Smirnow-Test (KS-Test) (nach Andrei Nikolajewitsch Kolmogorow und Nikolai Wassiljewitsch Smirnow) ist ein statistischer Test auf Übereinstimmung zweier Wahrscheinlichkeitsverteilungen.

Mit seiner Hilfe kann anhand von Zufallsstichproben geprüft werden, ob

• zwei Zufallsvariablen die gleiche Verteilung besitzen oder
• eine Zufallsvariable einer zuvor angenommenen Wahrscheinlichkeitsverteilung folgt.

Im Rahmen des letzteren (Einstichproben-)Anwendungsproblems spricht man auch vom Kolmogorow-Smirnow-Anpassungstest (KSA-Test).

Konzeption

Die Konzeption soll anhand des Anpassungstests erläutert werden, wobei der Vergleich zweier Merkmale analog zu verstehen ist. Man betrachtet ein statistisches Merkmal X, dessen Verteilung in der Grundgesamtheit unbekannt ist. Die zweiseitig formulierten Hypothesen lauten dann:

Nullhypothese :

$\!\,H_{0}:F_{X}(x)=F_{0}(x)$

(Die Zufallsvariable X besitzt die Wahrscheinlichkeitsverteilung F₀.)

Alternativhypothese :

$H_{1}:F_{X}(x)\neq F_{0}(x)$

(Die Zufallsvariable X besitzt eine andere Wahrscheinlichkeitsverteilung als F₀.)

Der Kolmogorow-Smirnow-Test vergleicht die empirische Verteilungsfunktion $F_{n}$ mit $F_{0}$, mittels der Teststatistik

$d_{n}=\|F_{n}-F_{0}\|=\sup _{x}|F_{n}(x)-F_{0}(x)|,$

wobei sup das Supremum bezeichnet.

Nach dem Gliwenko-Cantelli-Satz strebt die empirische Verteilung gleichmäßig gegen die Verteilungsfunktion von X (also unter H₀ gegen F₀). Unter H₁ sollte man also größere Werte bekommen als unter H₀. Die Teststatistik ist unabhängig von der hypothetischen Verteilung F₀. Ist der Wert der Teststatistik größer als der entsprechende tabellierte kritische Wert, so wird die Nullhypothese verworfen.

Vorgehensweise beim Einstichprobenproblem (Anpassungstest)

Von einer reellen Zufallsvariablen $X$ liegen $n$ Beobachtungswerte $x_{i}$ ($i=1,\dotsc ,n$) vor, wobei angenommen werde, dass diese bereits aufsteigend sortiert sind: $x_{1}\leq x_{2}\leq \dotsb \leq x_{n}$. Von diesen Beobachtungen wird die relative Summenfunktion (Summenhäufigkeit, empirische Verteilungsfunktion) $S(x_{i})$ ermittelt. Diese empirische Verteilung wird nun mit der entsprechenden hypothetischen Verteilung der Grundgesamtheit verglichen: Es wird der Wert der Wahrscheinlichkeitsverteilung an der Stelle x_i bestimmt: F₀(x_i). Wenn X tatsächlich dieser Verteilung gehorcht, müssten die beobachtete Häufigkeit S(x_i) und die erwartete Häufigkeit F₀(x_i) in etwa gleich sein.

Falls $F_{0}$ stetig ist, kann die Teststatistik auf folgende Weise berechnet werden: Es werden für jedes $i=1,\dotsc ,n$ die absoluten Differenzen

$d_{oi}=|S(x_{i})-F_{0}(x_{i})|~$

und

$d_{ui}=|S(x_{i-1})-F_{0}(x_{i})|~$

berechnet, wobei $S(x_{0}):=0$ gesetzt wird. Es wird sodann die absolut größte Differenz $d_{\max }$ aus allen Differenzen $d_{oi}$, $d_{ui}$ ermittelt. Wenn $d_{\max }$ einen kritischen Wert $d_{\alpha }$ übersteigt, wird die Hypothese bei einem Signifikanzniveau $\alpha$ abgelehnt.

Bis $n=35$ liegen die kritischen Werte tabelliert vor. Für größere $n$ können sie näherungsweise mit Hilfe der einfachen Formel $d_{\alpha }={\frac {\sqrt {\ln \left({\frac {2}{\alpha }}\right)}}{\sqrt {2n}}}$ bestimmt werden.

Alternativ lassen sich die kritischen Werte von $d_{\max }$ für $n>35$ auch mit Hilfe der unten folgenden tabellierten Formeln errechnen.

Signifikanzniveau α	dmax
20 %	1,073/√n
10 %	1,224/√n
5 %	1.358/√n
2 %	1,517/√n
1 %	1,628/√n
0,1 %	1,949/√n

Vorgehensweise beim Zweistichprobenproblem

Liegt nun zusätzlich zur obigen Zufallsvariablen $X$ eine entsprechende Zufallsvariable $Y$ vor (mit $m$ geordneten Werten $y_{i}$), so kann durch den Zweistichprobentest überprüft werden, ob $X$ und $Y$ derselben Verteilungsfunktion folgen. Von beiden Beobachtungen werden die relativen Summenfunktionen $S_{X}(x_{i})$ bzw. $S_{Y}(y_{i})$ ermittelt. Diese werden nun analog zum Einstichprobentest anhand ihrer absoluten Differenzen verglichen:

$d(z)=|S_{X}(z)-S_{Y}(z)|~$

und

$d_{max}=\sup _{z}d(z)~$ .

Die Nullhypothese wird bei einem Signifikanzniveau $\alpha$ abgelehnt, falls $d_{max}$ den kritischen Wert $d_{krit}(\alpha ,n,m)$ überschreitet. Für kleine Werte von $n$ und $m$ liegen die kritischen Werte tabelliert vor . Für große Werte von n und m wird die Nullhypothese abgelehnt, falls

${\sqrt {\frac {nm}{n+m}}}d_{max}>K_{\alpha }$ ,

wobei $K_{\alpha }$ für große $n$ und $m$ näherungsweise als $K_{\alpha }={\sqrt {\frac {\ln \left({\frac {2}{\alpha }}\right)}{2}}}$ berechnet werden kann.

Anwendungsbeispiele

• Der Kolmogorow-Smirnow-Test kann zum Testen von Zufallszahlen genutzt werden, beispielsweise um zu prüfen, ob die Zufallszahlen einer bestimmten Verteilung (z. B. Gleichverteilung) folgen.
• Einige (parametrische) statistische Verfahren setzen voraus, dass die untersuchten Variablen in der Grundgesamtheit normalverteilt sind. Der KSA-Test kann genutzt werden, um zu testen, ob diese Annahme verworfen werden muss oder (unter Beachtung des $\beta \,$-Fehlers) beibehalten werden kann.

Zahlenbeispiel

Vergleich von empirischer und theoretischer Verteilung des Zahlenbeispiels: Links ein Histogramm mit Normalverteilungskurve, rechts die theoretische und die empirische Verteilungsfunktion

In einem Unternehmen, das hochwertige Parfüms herstellt, wurde im Rahmen der Qualitätssicherung an einer Abfüllanlage die abgefüllte Menge für n=8 Flakons gemessen. Es ist das Merkmal x: abgefüllte Menge in ml.

Es soll geprüft werden, ob noch die bekannten Parameter der Verteilung von X gelten.

Zunächst soll bei einem Signifikanzniveau α=0,05 getestet werden, ob das Merkmal X in der Grundgesamtheit überhaupt normalverteilt mit den bekannten Parametern $\mu =11$ und $\sigma ^{2}=\sigma =1$ ist, also

$H_{0}:F(x)=F_{0}(x)=\Phi (x|11;1)$

mit Φ als Normalverteilungssymbol. Es ergibt sich folgende Tabelle:

i	xi	S(xi)	Fo(xi)	S(xi-1)-Fo(xi)	S(xi)-Fo(xi)
1	9,41	0,125	0,056	-0,056	0,069
2	9,92	0,250	0,140	-0,015	0,110
3	11,55	0,375	0,709	-0,459	-0,334
4	11,60	0,500	0,726	-0,351	-0,226
5	11,73	0,625	0,767	-0,267	-0,142
6	12,00	0,750	0,841	-0,216	-0,091
7	12,06	0,875	0,855	-0,105	0,020
8	13,02	1,000	0,978	-0,103	0,022

Hier bezeichnen x_i die i-te Beobachtung, S(x_i) den Wert der Summenfunktion der i-ten Beobachtung und F₀(x_i) den Wert der Normalverteilungsfunktion an der Stelle x_i mit den genannten Parametern. Die nächsten Spalten geben die oben angeführten Differenzen an. Der kritische Wert, der bei $n=8$ und $\alpha =0,05$ zur Ablehnung führte, wäre der Betrag 0,457 . Die größte absolute Abweichung in der Tabelle ist 0,459 in der 3. Zeile. Dieser Wert ist größer als der kritische Wert, daher wird die Hypothese gerade noch abgelehnt. Es ist also zu vermuten, dass die Verteilungshypothese falsch ist. Das kann bedeuten, dass die abgefüllte Menge nicht mehr normalverteilt ist, dass sich die durchschnittliche Abfüllmenge $\mu$ verschoben hat oder auch, dass sich die Varianz $\sigma ^{2}$ der Abfüllmenge verändert hat.

Eigenschaften des KS-Tests

Beim Einstichprobenproblem ist der KS-Test im Gegensatz etwa zum χ²-Test auch für kleine Stichproben geeignet.

Der Kolmogorow-Smirnow-Test ist als nichtparametrischer Test sehr stabil und unanfällig. Ursprünglich wurde der Test für stetig verteilte metrische Merkmale entwickelt; er kann aber auch für diskrete und sogar rangskalierte Merkmale verwendet werden. In diesen Fällen ist der Test etwas weniger trennscharf, d.h. die Nullhypothese wird seltener abgelehnt als im stetigen Fall.

Ein großer Vorteil besteht darin, dass die zugrundeliegende Zufallsvariable keiner Normalverteilung folgen muss. Die Verteilung der Prüfgröße d_n ist für alle (stetigen) Verteilungen identisch. Dies macht den Test vielseitig einsetzbar, bedingt aber auch seinen Nachteil, denn der KS-Test hat allgemein eine geringe Teststärke. Der Lilliefors-Test ist eine Anpassung des Kolmogorow-Smirnow-Tests für die Testung auf Normalverteilung. Mögliche Alternativen zum KS-Test sind der Cramér-von-Mises-Test, der für beide Anwendungsfälle geeignet ist, sowie der Anderson-Darling-Test für den Vergleich einer Stichprobe mit einer hypothetischen Wahrscheinlichkeitsverteilung.

Weblinks

• Beschreibung des Tests
• Tabelle mit kritischen Werten
• Online-Version des K-S-Tests
• Online Durchführung des Tests