Jednoczynnikowa analiza wariancji

Jednoczynnikowa analiza wariancji – test statystyczny służący do porównywania średnich w wielu populacjach.

Nazwa metody pochodzi od algorytmu postępowania przy testowaniu układu hipotez. Całkowita wariancja (zmienność wyników) dzielona jest na część pochodzącą z różnic między populacjami (zabiegami) oraz część pochodzącą z różnic między wynikami wewnątrz populacji (błąd losowy).

Założenia

Wyniki uzyskane metodą analizy wariancji mogą być uznane za prawdziwe, gdy spełnione są następujące założenia:

• każda populacja musi mieć rozkład normalny,
• pobrane do analizy próby są niezależne,
• próby pobrane z każdej populacji muszą być losowymi próbami prostymi,
• wariancje w populacjach są równe.

W przypadku, gdy założenia analizy wariancji nie są spełnione, należy posługiwać się testem Kruskala-Wallisa.

Teoria

Rozważmy ${\displaystyle r}$ populacji o rozkładzie normalnym, jednakowej wariancji ${\displaystyle \sigma ^{2}}$ i wartości oczekiwanej ${\displaystyle \mu _{i},}$ gdzie ${\displaystyle i=1,\dots ,r.}$ Z populacji tych losujemy niezależne próby o liczebnościach ${\displaystyle n_{i},}$ na których przeprowadzamy pomiary, otrzymując wartości ${\displaystyle x_{ij}}$ dla ${\displaystyle i=1,\dots ,r,j=1\dots ,n_{i}.}$ Całkowita wielkość próby wynosi ${\displaystyle n=n_{1}+n_{2}+\cdots +n_{r}.}$

Układ hipotez jest następujący:

• Hipoteza zerowa:

  ${\displaystyle H_{0}\colon \mu _{1}=\mu _{2}=\dots =\mu _{r}.}$

• Hipoteza alternatywna:

  ${\displaystyle H_{1}\colon }$ nie wszystkie ${\displaystyle \mu _{i}}$ są sobie równe ${\displaystyle (i=1,\dots ,r).}$

Do weryfikacji powyższej hipotezy obliczamy wartość statystyki ${\displaystyle F}$ postaci:

${\displaystyle F={\frac {MSTR}{MSE}}}$

gdzie:

• ${\displaystyle MSTR={\frac {1}{r-1}}\sum \limits _{i=1}^{r}n_{i}({\overline {x_{i}}}-{\widehat {x}})^{2}}$ oznacza średni kwadratowy błąd „zabiegowy”,
• ${\displaystyle MSE={\frac {1}{n-r}}\sum _{i=1}^{r}\sum _{j=1}^{n_{i}}(x_{ij}-{\overline {x_{i}}})^{2}}$ oznacza średni kwadratowy błąd losowy,
• ${\displaystyle {\overline {x_{i}}}}$ oznacza średnią arytmetyczną z i-tej próby,
• ${\displaystyle {\widehat {x}}}$ oznacza średnią arytmetyczną ze wszystkich obserwacji ze wszystkich ${\displaystyle r}$ prób.

Przy założeniu prawdziwości hipotezy zerowej statystyka ${\displaystyle F}$ ma rozkład F-Snedecora z ${\displaystyle r-1}$ stopniami swobody w liczniku i ${\displaystyle n-r}$ stopniami swobody w mianowniku.

Obszar krytyczny jest postaci:

${\displaystyle Q=\{F\colon F\geqslant F_{\alpha }\}}$

gdzie ${\displaystyle F_{\alpha }}$ jest wartością krytyczną odczytaną z tablic rozkładu F-Snedecora dla ${\displaystyle (r-1,n-r)}$ stopni swobody.

• Jeżeli obliczona wartość statystyki ${\displaystyle F}$ należy do obszaru krytycznego ${\displaystyle Q}$ to hipotezę zerową odrzucamy na korzyść hipotezy alternatywnej i wnioskujemy, że badane średnie nie są jednorodne.
• Jeżeli obliczona wartość statystyki ${\displaystyle F}$ nie należy do obszaru krytycznego ${\displaystyle Q}$ to nie ma podstaw do odrzucenia hipotezy zerowej i wnioskujemy, że badane średnie są jednorodne.

Przykład

Fabryka gwoździ zamierza kupić jedną z czterech maszyn do produkcji. Wszystkie maszyny mają podobną cenę. Na podstawie analizy wariancji należy sprawdzić czy istnieje istotna różnica między wydajnościami maszyn. Tabela przedstawia procentowe wydajności uzyskane na poszczególnych maszynach.

Wyniki dla każdej z maszyn należy traktować jak inną populację.
W zadaniu r = 4, a każde próba n_i ma wielkość 19. Łączna wartość próby n wynosi zatem 76.

Dla danych z tabeli:

${\displaystyle MSTR=21{,}23}$

${\displaystyle MSE=4{,}26}$

Wartość emipryczna statystyki F wynosi 4,99

Liczba stopni swobody licznika wynosi 3, natomiast liczba stopni swobody mianownika wynosi 72.

Dla rozkładu F-Snedecora(3,72) wartość krytyczna na poziomie istotności α = 0,05 wynosi 2,732^[1]. Obliczona wartość empiryczna statystyki testowej odpowiada ${\displaystyle p}$-wartości równej ${\displaystyle 0{,}0034}$

Należy zatem odrzucić hipotezę zerową (wydajność maszyn jest taka sama) na rzecz hipotezy alternatywnej (jedna z maszyn ma statystycznie różną wydajność od pozostałych).

Dalsza analiza

Analiza wariancji daje informację tylko o tym czy między populacjami występują istotne statystycznie różnice. Nie mówi ona, które populacje różnią się między sobą. Dla przykładu, na podstawie przeprowadzonego testu można powiedzieć, że między wydajnościami maszyn występują różnice, przeprowadzając badanie za pomocą jednoczynnikowej analizy wariancji nie wiadomo jednak, które maszyny mają tę samą wydajność, a które różnią się między sobą. Odpowiedź na te pytanie można uzyskać stosując dodatkowe testy, zwane testami porównań wielokrotnych (tzw. post-hoc) – przykłady takich algorytmów stanowią test Tukeya lub test NIR.

Test NIR

Test ten ma na celu wyznaczenie tzw. najmniejszych istotnych różnic dla każdej pary ${\displaystyle {\overline {x_{i}}}}$ oraz ${\displaystyle {\overline {x_{j}}}}$ (dla ${\displaystyle i,j=1,...,k}$ oraz ${\displaystyle i\neq j}$) – wyznaczenie te odbywa się w oparciu o wzór ogólny o postaci:

${\displaystyle NIR=t_{n-k,\alpha /2}{\sqrt {MS_{Bl}\left({\frac {1}{n_{i}}}+{\frac {1}{n_{j}}}\right)}},}$

gdzie: ${\displaystyle t_{n-k,\alpha /2}}$ stanowi wartość odczytaną z tablic rozkładu t-Studenta o ${\displaystyle n-k}$ stopniach swobody.

Mając na uwadze powyższe przyjmuje się, że jeśli prawdziwa jest nierówność ${\displaystyle |{\overline {x_{i}}}-{\overline {x_{j}}}|>NIR,}$ wartości ${\displaystyle \mu _{i}}$ oraz ${\displaystyle \mu _{j}}$ różnią się istotnie pomiędzy sobą^[2].

Zobacz też

• analiza wariancji
• próba statystyczna
• test dla średniej
• test dla wariancji
• weryfikacja hipotez statystycznych

Przypisy

Bibliografia

• Siegmund Brandt, Lech Szymanowski: Analiza danych. Metody statystyczne i obliczeniowe. Warszawa: Wydawnictwo Naukowe PWN, 1998. ISBN 83-01-12425-3.