Prawo wielkich liczb

Prawa wielkich liczb – seria twierdzeń matematycznych (jedno z tzw. twierdzeń granicznych) opisujących związek między liczbą wykonywanych doświadczeń a faktycznym prawdopodobieństwem wystąpienia zdarzenia, którego te doświadczenia dotyczą. Najprostsza i historycznie najwcześniejsza postać prawa wielkich liczb to prawo Bernoulliego sformułowane przez szwajcarskiego matematyka Jakoba Bernoulliego w książce Ars Conjectandi (1713). Prawo Bernoulliego orzeka, że:

„Z prawdopodobieństwem dowolnie bliskim 1 można się spodziewać, iż przy dostatecznie wielkiej liczbie prób częstość danego zdarzenia losowego będzie się dowolnie mało różniła od jego prawdopodobieństwa.”[1]

Bernoulli nazwał je „złotym twierdzeniem”, ale matematycy przyjęli dla niego nazwę „twierdzenie Bernoulliego”. Dopiero w 1835 francuski naukowiec Siméon Denis Poisson opisał je pod nazwą „prawo wielkich liczb”. Obecnie znane jest pod nazwami „twierdzenie Bernoulliego” i „prawo wielkich liczb”, jednak ta druga nazwa jest częściej stosowana.

Prawa wielkich liczb

Prawo wielkich liczb Bernoulliego

Jeśli oznacza liczbę sukcesów w schemacie Bernoulliego prób z prawdopodobieństwem sukcesu w pojedynczej próbie równym to dla każdego

Słownie: niezależnie od wyboru szerokości przedziału wokół wartości oczekiwanej, prawdopodobieństwo dla dużych będzie dowolnie bliskie

Dowód słabego prawa wielkich liczb opiera się na nierówności Czebyszewa.

Mocne prawo wielkich liczb Bernoulliego mówi, że ciąg dąży do prawie na pewno. Dowód tego faktu wykorzystuje nierówność Bernsteina.

Mocne prawo wielkich liczb

Dla ciągów (całkowalnych) zmiennych losowych wprowadza się definicję spełniania przez nich tzw. mocnego (i słabego) prawa wielkich liczb.

Ciąg zmiennych losowych spełnia mocne prawo wielkich liczb (MPWL), gdy

Mocne prawo wielkich liczb Kołmogorowa

Jeżeli jest ciągiem niezależnych zmiennych losowych całkowalnych z kwadratem oraz
to ciąg spełnia MPWL.

Wynika z niego następujący wniosek: jeżeli jest ciągiem niezależnych zmiennych losowych o tym samym rozkładzie oraz to

prawie na pewno.

Twierdzenie Kołmogorowa

W ogólności, jeśli jest rosnącym do nieskończoności ciągiem liczb dodatnich, a ponadto zbieżny jest szereg

to

prawie na pewno.

Dowód twierdzenia opiera się na znanych z analizy lematach Toeplitza oraz Kroneckera, a także następującym fakcie z rachunku prawdopodobieństwa: jeśli jest ciągiem całkowalnych niezależnych zmiennych losowych całkowalnych z kwadratem oraz szereg

jest zbieżny, to szereg

jest zbieżny prawie na pewno.

Słabe prawo wielkich liczb

Mówimy, że ciąg zmiennych losowych spełnia słabe prawo wielkich liczb (SPWL), gdy

ze względu na prawdopodobieństwo.

Słabe prawo wielkich liczb dla parami niezależnych zmiennych o skończonej wariancji

Jeżeli jest ciągiem parami niezależnych zmiennych losowych całkowalnych z kwadratami oraz

to ciąg spełnia SPWL. Dowód tego faktu również opiera się na nierówności Czebyszewa.

Zobacz też

Przypisy

  1. Zwiększając liczbę doświadczeń opartych na zdarzeniach losowych, możemy oczekiwać rozkładu wyników coraz lepiej odpowiadającego rozkładowi prawdopodobieństw zdarzeń (na przykład, przeprowadzając wielką liczbę rzutów symetryczną monetą, możemy oczekiwać że stosunek liczby „wyrzuconych” orłów do liczby wszystkich rzutów będzie bliski 0,5 (wartości prawdopodobieństwa); tym większe są na to szanse im większa jest liczba rzutów).