Twierdzenie Bayesa

Ilustracja twierdzenia Bayesa przy pomocy dwóch nakładanych na siebie drzew decyzyjnych

Twierdzenie Bayesa – twierdzenie teorii prawdopodobieństwa, wiążące prawdopodobieństwa warunkowe dwóch zdarzeń warunkujących się nawzajem, sformułowane przez Thomasa Bayesa. Twierdzenie stanowi podstawę teoretyczną wnioskowania bayesowskiego, oraz sieci bayesowskich stosowanych w eksploracji danych.

Wzór Bayesa

Twierdzenie (wzór) Bayesa w swej podstawowej formie mówi, że[1]

(B)

gdzie i są zdarzeniami oraz przy czym

  • oznacza prawdopodobieństwo warunkowe, tj. prawdopodobieństwo zajścia zdarzenia o ile zajdzie zdarzenie
  • oznacza prawdopodobieństwo zajścia zdarzenia o ile zajdzie zdarzenie

Dowód

Z definicji prawdopodobieństwa warunkowego

W przypadku, gdy twierdzenie zachodzi, ponieważ wtedy Załóżmy zatem, że Wtedy

Stąd

Dzieląc stronami powyższą równość przez otrzymujemy tezę.

Wersja twierdzenia dla wielu zdarzeń

Niech będą takimi zdarzeniami, że

   i   

Wtedy

W szczególności, gdy jest dowolnym zdarzeniem oraz to

(B2)

Dowód

Ze wzoru Bayesa (B) wynika, że

Jednocześnie

Zastosowania

Przykład 1

Niech będzie zdarzeniem „u pacjenta występuje wysoka gorączka”, a będzie zdarzeniem „pacjent ma grypę”. Jeśli znane są odsetek gorączkujących i odsetek chorych na grypę w całej populacji, oraz odsetek gorączkujących wśród chorych na grypę, tj. to twierdzenie Bayesa pozwala wyznaczyć odsetek chorych na grypę wśród gorączkujących

Na przykład jeżeli wiadomo, że oraz to na mocy wzoru (B):

Przykład 2

Twierdzenia Bayesa można użyć do interpretacji rezultatów badania przy użyciu testów wykrywających narkotyki. Załóżmy, że przy badaniu narkomana test wypada pozytywnie w 99% przypadków, zaś przy badaniu osoby nie zażywającej narkotyków wypada negatywnie w 99% przypadków. Pewna firma postanowiła przebadać swoich pracowników takim testem, wiedząc, że 0,5% z nich to narkomani. Chcemy obliczyć prawdopodobieństwo, że osoba, u której test wypadł pozytywnie, rzeczywiście zażywa narkotyki. Oznaczmy następujące zdarzenia:

  • – dana osoba jest narkomanem,
  • – dana osoba nie jest narkomanem,
  • – u danej osoby test dał wynik pozytywny,
  • – u danej osoby test dał wynik negatywny.

Wiemy, że:

  • gdyż 0,5% pracowników to narkomani,
  • gdyż taką skuteczność ma test przy badaniu narkomana,
  • gdyż taką skuteczność ma test przy badaniu osoby niebędącej narkomanem,

Mając te dane, chcemy obliczyć prawdopodobieństwo, że osoba, u której test wypadł pozytywnie, rzeczywiście jest narkomanem. Ze wzoru (B2) wynika, że

Mimo potencjalnie wysokiej skuteczności testu, prawdopodobieństwo, że narkomanem jest badany pracownik, u którego test dał wynik pozytywny, jest równe około 33%, więc jest nawet bardziej prawdopodobnym, że taka osoba nie zażywa narkotyków. Ten przykład pokazuje, dlaczego ważne jest, aby nie polegać na wynikach tylko pojedynczego testu.

Innymi słowy, pozorny paradoks polegający na dużej dokładności testu (99% wykrywalności narkomanów wśród narkomanów i nieuzależnionych wśród nieuzależnionych) i niskiej dokładności badania bierze się stąd, że w badanej próbie tylko niewielka część osób to narkomani.

Przykładowo jeśli badamy 1000 osób, 0,5% z nich, czyli 5 to narkomani, a 995 nie. Natomiast test wskaże jako narkomanów 1% nieuzależnionych (995 · 1% ≈ 10), oraz 99% uzależnionych (5 · 99% ≈ 5). Ostatecznie test wypadł pozytywnie dla 15 osób, jednak tylko 5 z nich to narkomani.

Interpretacje

Prawdopodobieństwo subiektywistyczne

W interpretacji subiektywistycznej jest twierdzeniem wręcz podstawowym[2]. Otóż niech będzie pewnym zdarzeniem, zaś pewną teorią.

jest obserwowanym prawdopodobieństwem zdarzenia zaś to prawdopodobieństwo, że zdarzenie nastąpi według teorii Z kolei to prawdopodobieństwo, że teoria jest prawdziwa, to prawdopodobieństwo, że teoria jest prawdziwa, jeśli zaobserwowano

Zdania typu „prawdopodobieństwo, że teoria jest prawdziwa” są z punktu widzenia interpretacji obiektywistycznej nie do przyjęcia – teoria jest prawdziwa (prawdopodobieństwo równe jedności) lub też nie (prawdopodobieństwo równe zeru), czyli prawdziwość teorii nie jest zdarzeniem losowym.

Przypisy

  1. A. Stuart, K. Ord: Kendall’s Advanced Theory of Statistics: Volume I – Distribution Theory. Edward Arnold, 1994, s. § 8.7.
  2. Aleksandra Kurek et al: Szkice do bayesowskiej metodologii współczesnej kosmologii. 2009. [dostęp 2017-01-19].

Linki zewnętrzne

Media użyte na tej stronie

Bayes' Theorem 2D.svg
Autor: Qniemiec, Licencja: CC BY-SA 3.0
Illustration of Bayes' Theorem by two joined 2-dimensional tree diagrams, vectorized from https://commons.wikimedia.org/wiki/File:Bayes%27_Theorem_2D.png