Súčet identicky rozdelených náhodných premenných. Nezávislé náhodné premenné

Hovoria, že sú nezávislé (a) identicky rozdelené, ak má každá z nich rovnaké rozdelenie ako ostatné a všetky veličiny sú v súhrne nezávislé. Fráza „nezávislý identicky distribuovaný“ sa často skracuje ako i.i.d.(z angličtiny nezávislé a identicky distribuované ), niekedy - „n.o.r“.

Aplikácie

Predpoklad, že náhodné premenné sú nezávislé a identicky rozdelené, sú široko používané v teórii pravdepodobnosti a štatistike, pretože umožňujú výrazne zjednodušiť teoretické výpočty a preukázať zaujímavé výsledky.

Jedna z kľúčových teorémov teórie pravdepodobnosti – centrálna limitná veta – hovorí, že ak ide o postupnosť nezávislých identicky rozdelených náhodných premenných, potom, keďže majú tendenciu do nekonečna, rozdelenie ich priemeru – náhodnej premennej konverguje k normálnemu rozdeleniu.

V štatistike sa všeobecne predpokladá, že štatistická vzorka je sekvencia i.i.d. realizácie nejakej náhodnej premennej (takejto vzorke sa hovorí jednoduché).


Nadácia Wikimedia. 2010.

  • T.j.
  • Intel 8048

Pozrite sa, čo sú „nezávislé identicky rozdelené náhodné premenné“ v iných slovníkoch:

    Gambler's Ruin Problem- Problém skazy hráča je problém z oblasti teórie pravdepodobnosti. podrobne prediskutované Ruský matematik A. N. Shiryaev v monografii „Pravdepodobnosť“ ... Wikipedia

    Udržateľná distribúcia- v teórii pravdepodobnosti ide o rozdelenie, ktoré možno získať ako hranicu rozdelenia súčtov nezávislých náhodných veličín. Obsah 1 Definícia 2 Poznámky ... Wikipedia

    Vzorec Levy-Khinchin pre stabilnú distribúciu- Stabilné rozdelenie v teórii pravdepodobnosti je rozdelenie, ktoré možno získať ako limit rozdelenia súčtu nezávislých náhodných premenných. Obsah 1 Definícia 2 Poznámky 3 Vlastnosti stabilné distribúcie... Wikipedia

    Nekonečne deliteľné rozdelenie- v teórii pravdepodobnosti ide o rozdelenie náhodnej premennej tak, že ju možno znázorniť vo forme ľubovoľného počtu nezávislých, identicky rozdelených členov. Obsah 1 Definícia ... Wikipedia

    Model Cramer-Lundberg- Model Kramer Lundberg matematický model, ktorá umožňuje posúdiť riziká krachu poisťovne. V rámci tohto modelu sa predpokladá, že poistné sa prijíma jednotne, rýchlosťou od podmienečného peňažných jednotiek na jednotku... ... Wikipedia

    Levy-Khinchinov vzorec pre nekonečne deliteľné rozdelenie- Nekonečne deliteľné rozdelenie v teórii pravdepodobnosti je také rozdelenie náhodnej premennej, ktoré môže byť reprezentované ako ľubovoľný počet nezávislých, identicky rozdelených členov. Obsah 1 Definícia 2 ... ... Wikipedia

    Model Cramer- Tento článok by mal byť wikiifikovaný. Naformátujte ho podľa pravidiel formátovania článku. Model Cramer Lundberg je matematický model, ktorý umožňuje posúdiť riziká bankrotu poisťovne... Wikipedia

    Štatistická kontrola prijatia- totalita štatistické metódy kontrola hromadných výrobkov s cieľom zistiť, či sú v súlade so špecifikovanými požiadavkami. P.S. j. účinný prostriedok na zabezpečenie dobrej kvality masových produktov. P.S. sa vykonáva dňa ... ... Veľká sovietska encyklopédia

    Multinomické rozdelenie- Multinomické (polynomické) rozdelenie v teórii pravdepodobnosti je zovšeobecnenie binomické rozdelenie v prípade nezávislé testy náhodný experiment s niekoľkými možnými výsledkami. Definícia Nechať nezávislé... ... Wikipedia

    Polynomické rozdelenie- Multinomické (polynomické) rozdelenie v teórii pravdepodobnosti je zovšeobecnením binomického rozdelenia na prípad nezávislých testov náhodného experimentu s niekoľkými možnými výsledkami. Definícia: Nech sú nezávislí rovnocenní... ... Wikipedia

Vyššie sme zvážili otázku nájdenia PDF pre súčet štatisticky nezávislých náhodných premenných. V tejto časti sa opäť pozrieme na množstvo štatisticky nezávislé veličiny, ale náš prístup bude odlišný a nezávisí od čiastkových PDF náhodných premenných v súčte. Predpokladajme najmä, že súčtové členy sú štatisticky nezávislé a identicky rozdelené náhodné premenné, z ktorých každá má ohraničený priemer a ohraničený rozptyl.

Nech je definovaný ako normalizovaný súčet, nazývaný výberový priemer

Najprv určíme hornú hranicu pravdepodobnosti chvosta a potom dokážeme veľmi dôležitú vetu, ktorá určuje PDF v limite, keď má tendenciu k nekonečnu.

S náhodnou premennou definovanou (2.1.187) sa často stretávame pri odhadovaní priemeru náhodnej premennej v priebehu niekoľkých pozorovaní, . Inými slovami, môže sa považovať za nezávislé uskutočnenie vzorky z distribúcie a je odhadom priemeru.

Matematické očakávanie je

.

Rozptyl je

Ak to považujeme za odhad priemeru, vidíme, že jeho matematické očakávanie sa rovná , a jeho disperzia klesá so zvyšujúcou sa veľkosťou vzorky. Ak sa zvyšuje bez obmedzenia, rozptyl má tendenciu k nule. Odhad parametra (v v tomto prípade), ktorý spĺňa podmienky, že to očakávaná hodnota usiluje o skutočný význam parameter a rozptyl je striktne nulový, sa nazýva konzistentný odhad.

Pravdepodobnosť konca náhodnej premennej sa dá odhadnúť zhora pomocou hraníc uvedených v časti. 2.1.5. Čebyševova nerovnosť vo vzťahu k má tvar

,

. (2.1.188)

V limite kedy , z (2.1.188) vyplýva

. (2.1.189)

V dôsledku toho pravdepodobnosť, že sa odhad priemeru líši od skutočnej hodnoty o viac ako , má tendenciu k nule, ak rastie neobmedzene. Toto ustanovenie je formou zákona veľké čísla. Keďže horná hranica konverguje k nule relatívne pomaly, t.j. inverzne . výraz (2.1.188) sa nazýva slabý zákon veľkých čísel.

Ak aplikujeme Chernoffovu väzbu na náhodnú premennú, ktorá obsahuje exponenciálnu závislosť od , potom získame tesnú hornú hranicu pre pravdepodobnosť jedného chvosta. Podľa postupu uvedeného v ods. 2.1.5 zistíme, že koncová pravdepodobnosť pre je určená výrazom

kde a . Sú však štatisticky nezávislé a identicky rozdelené. teda

kde je jedna z veličín. Parameter , ktorý dáva najpresnejšiu hornú hranicu, sa získa deriváciou (2.1.191) a prirovnaním derivácie k nule. To vedie k rovnici

(2.1.192)

Označme riešenie (2.1.192) . Potom je hranica pre hornú hranicu pravdepodobnosti

, . (2.1.193)

Podobne zistíme, že nižšia pravdepodobnosť má hranicu

, . (2.1.194)

Príklad 2.1.7. Nech je séria štatisticky nezávislých náhodných premenných definovaných takto:

Chceme definovať tesnú hornú hranicu pravdepodobnosti, že súčet je väčší ako nula. Od , suma bude mať negatívny význam pre matematické očakávanie (priemer) preto budeme hľadať hornú koncovú pravdepodobnosť. Lebo v (2.1.193) máme

, (2.1.195)

kde je riešenie rovnice

teda

. (2.1.197)

Preto pre hranicu v (2.1.195) dostaneme

To vidíme Horná hranica klesá exponenciálne s , ako sa očakávalo. Na rozdiel od toho, podľa Chebyshevovej väzby, pravdepodobnosť chvosta klesá inverzne s .

Centrálne limitná veta. V tejto časti zvážime mimoriadne užitočnú vetu týkajúcu sa IDF súčtu náhodných premenných v limite, keď počet členov súčtu rastie neobmedzene. Existuje niekoľko verzií tejto vety. Dokážme vetu pre prípad, keď náhodné sčítateľné premenné , , sú štatisticky nezávislé a identicky rozdelené, každá z nich má obmedzený priemer a obmedzený rozptyl.

Pre pohodlie definujeme normalizovanú náhodnú premennú

Má teda nulový priemer a jednotkový rozptyl.

Teraz nechajme

Keďže každý súčet súčtu má nulový priemer a jednotkový rozptyl, hodnota normalizovaná (faktorom ) má nulový priemer a jednotkový rozptyl. Chceme definovať FMI pre hranicu, kedy .

Charakteristická funkcia sa rovná

, (2.1.200).

,

alebo ekvivalentne,

. (2.1.206)

Ale to je práve ono charakteristickú funkciu Gaussova náhodná premenná s nulovým priemerom a jednotkovým rozptylom. Takto máme dôležitý výsledok; PDF súčtu štatisticky nezávislých a identicky rozdelených náhodných premenných s obmedzeným priemerom a rozptylom sa približuje k gaussovskej . Tento výsledok je známy ako centrálna limitná veta.

Hoci sme predpokladali, že náhodné premenné sú v súčte rovnomerne rozdelené, tento predpoklad možno zmierniť za predpokladu, že na vlastnosti sčítaných náhodných premenných sú stále kladené určité dodatočné obmedzenia. Existuje jedna variácia vety, napríklad, keď sa upustí od predpokladu identického rozdelenia náhodných premenných v prospech podmienky uloženej na tretí absolútny moment náhodných premenných súčtu. Pre diskusiu o tejto a ďalších verziách centrálnej limitnej vety sa čitateľ odvoláva na Cramera (1946).

Už je známe, že podľa distribučného zákona sa dá nájsť číselné charakteristiky náhodná premenná. Z toho vyplýva, že ak má viacero náhodných premenných rovnaké rozdelenia, potom sú ich číselné charakteristiky rovnaké.

Uvažujme n vzájomne nezávislé náhodné premenné X 1 , X 2 , …,Xn, ktoré majú rovnaké distribúcie, a teda aj rovnaké charakteristiky (matematické očakávanie, disperzia atď.). Najväčší záujem je o štúdium numerických charakteristík aritmetického priemeru týchto veličín.

Označme aritmetický priemer náhodných premenných:

.

Nasledujúce tri ustanovenia vytvárajú spojenie medzi numerickými charakteristikami aritmetického priemeru a zodpovedajúcimi charakteristikami každej jednotlivej veličiny.

1. Matematické očakávanie priemeru aritmetický kodistribuované vzájomne nezávislé náhodné premenné sa rovná matematickému očakávaniu každej z hodnôt:

Dôkaz. Použitie vlastností matematického očakávania ( konštantný faktor možno vyňať ako znak matematického očakávania; matematické očakávanie súčtu sa rovná súčtu matematických očakávaní výrazov), máme

Berúc do úvahy, že matematické očakávanie každej z veličín podľa podmienky sa rovná A, dostaneme

.

2. Rozptyl aritmetického priemeru n identicky rozdelené vzájomne nezávislé náhodné premenné v n krát menší rozptyl D každé z množstiev:

Dôkaz. Pomocou vlastností disperzie (konštantný faktor možno zo znamienka disperzie vyňať jeho kvadratúrou; disperzia súčtu nezávislých veličín sa rovná súčtu disperzií členov)

Berúc do úvahy, že rozptyl každej z veličín podľa podmienky je rovný D, dostaneme

.

3. Priemer smerodajná odchýlka aritmetický priemer n identicky rozdelené vzájomne nezávislé náhodné premenné sú krát menšie ako štandardná odchýlka každej z hodnôt:

Dôkaz. Od , potom sa štandardná odchýlka rovná

.

Všeobecný záver zo vzorcov (7.3) a (7.4): pripomínajúc, že ​​rozptyl a smerodajná odchýlka slúžia ako miera rozptylu náhodnej premennej, sme dospeli k záveru, že aritmetický priemer je dostatočný veľké číslo vzájomne nezávislé náhodné premenné majú výrazne menší rozptyl ako každá jednotlivá premenná.

Vysvetlime si na príklade význam tohto záveru pre prax.

Príklad. Zvyčajne nejaké merať fyzikálne množstvo vykonajte niekoľko meraní a potom nájdite aritmetický priemer získaných čísel, ktorý sa berie ako približná hodnota nameranej hodnoty. Za predpokladu, že sa merania vykonávajú za rovnakých podmienok, dokážte:

a) aritmetický priemer poskytuje spoľahlivejší výsledok ako jednotlivé merania;

b) s nárastom počtu meraní sa zvyšuje spoľahlivosť tohto výsledku.

Riešenie. a) Je známe, že jednotlivé merania dávajú rôzne hodnoty meranej veličiny. Výsledok každého merania závisí od mnohých náhodných príčin (zmeny teploty, kolísanie prístroja atď.), ktoré nie sú vopred plne zohľadnené.

Z tohto dôvodu sme oprávnení zvážiť možné výsledky n jednotlivé merania ako náhodné veličiny X 1 , X 2 , …,Xn(index označuje číslo merania). Tieto veličiny majú rovnaké rozdelenie pravdepodobnosti (merania sa vykonávajú rovnakou metódou a rovnakými prístrojmi), a teda rovnaké číselné charakteristiky; navyše sú navzájom nezávislé (výsledok každého jednotlivého merania nezávisí od iných meraní).

Ako sa ukázalo, aritmetický priemer takýchto veličín má menší rozptyl ako každá jednotlivá veličina. Inými slovami, ukazuje sa, že aritmetický priemer je bližšie k skutočnej hodnote nameranej hodnoty ako výsledok samostatného merania. To znamená, že aritmetický priemer niekoľkých meraní poskytuje spoľahlivejší výsledok ako jedno meranie.

b) Je známe, že so zvyšujúcim sa počtom jednotlivých náhodných premenných klesá rozptyl aritmetického priemeru. To znamená, že so zvyšujúcim sa počtom meraní sa aritmetický priemer niekoľkých meraní stále menej líši od skutočnej hodnoty nameranej hodnoty. Zvýšením počtu meraní sa však získa spoľahlivejší výsledok.

Napríklad, ak je smerodajná odchýlka jednotlivého merania s = 6 m a všetko sa vykoná n= 36 meraní, potom je štandardná odchýlka aritmetického priemeru týchto meraní skutočne iba 1 m.

.

Je zrejmé, že aritmetický priemer niekoľkých meraní, ako by sa dalo očakávať, sa ukázal byť bližšie k skutočnej hodnote nameranej hodnoty ako výsledok samostatného merania.

Nech sú známe smerodajné odchýlky niekoľkých vzájomne nezávislých náhodných premenných. Ako nájsť smerodajnú odchýlku súčtu týchto veličín? Odpoveď na túto otázku dáva nasledujúca veta.

Veta. Smerodajná odchýlka súčtu konečné číslo vzájomne nezávislé náhodné premenné sa rovnajú odmocnina zo súčtu druhých mocnín štandardných odchýlok týchto veličín.“

Dôkaz. Označme podľa X súčet vzájomne nezávislých uvažovaných veličín:

Rozptyl súčtu viacerých vzájomne nezávislých náhodných veličín sa rovná súčtu rozptylov členov (pozri § 5, záväzok 1), preto

alebo nakoniec

Identicky rozdelené vzájomne nezávislé náhodné premenné

Je už známe, že podľa distribučného zákona možno nájsť číselné charakteristiky náhodnej premennej. Z toho vyplýva, že ak má viacero náhodných premenných rovnaké rozdelenia, potom sú ich číselné charakteristiky rovnaké.

Uvažujme P vzájomne nezávislé náhodné premenné X v X v ..., Xfi, ktoré majú rovnaké distribúcie, a teda aj rovnaké charakteristiky (matematické očakávanie, disperzia atď.). Najväčší záujem je o štúdium numerických charakteristík aritmetického priemeru týchto veličín, čomu sa budeme venovať v tejto časti.

Označme aritmetický priemer uvažovaných náhodných premenných pomocou X:

Nasledujúce tri ustanovenia vytvárajú súvislosť medzi numerickými charakteristikami aritmetického priemeru X a zodpovedajúce charakteristiky každej jednotlivej veličiny.

1. Matematické očakávanie aritmetického priemeru identicky rozdelených vzájomne nezávislých náhodných premenných sa rovná matematickému očakávaniu a každej z premenných:

Dôkaz. Pomocou vlastností matematického očakávania (konštantný faktor možno vyňať zo znamienka matematického očakávania; matematické očakávanie súčtu sa rovná súčtu matematických očakávaní členov)


Berúc do úvahy, že matematické očakávanie každej z veličín podľa podmienky sa rovná A, dostaneme

2. Disperzia aritmetického priemeru n identicky rozdelených vzájomne nezávislých náhodných premenných je n-krát menšia ako disperzia D každej z premenných:

Dôkaz. Pomocou vlastností disperzie (konštantný faktor možno zo znamienka disperzie vyňať jeho kvadratúrou; disperzia súčtu nezávislých veličín sa rovná súčtu disperzií členov)

§ 9. Identicky rozdelené vzájomne nezávislé náhodné premenné 97

Ak vezmeme do úvahy, že rozptyl každého z veličín podľa podmienky sa rovná D, dostaneme

3. Smerodajná odchýlka aritmetického priemeru n identicky rozdelených vzájomne nezávislých náhodných

hodnoty sú 4n-krát menšie ako štandardná odchýlka a každej z hodnôt:

Dôkaz. Pretože D(X) = D/n potom štandardná odchýlka X rovná sa

Všeobecný záver zo vzorcov (*) a (**): pamätajúc na to, že disperzia a smerodajná odchýlka slúžia ako miery disperzie náhodnej premennej, sme dospeli k záveru, že aritmetický priemer dostatočne veľkého počtu vzájomne nezávislých náhodných premenných má

podstatne menší rozptyl ako každá jednotlivá hodnota.

Vysvetlime si na príklade význam tohto záveru pre prax.

Príklad. Zvyčajne sa na meranie určitej fyzikálnej veličiny vykoná niekoľko meraní a potom sa zistí aritmetický priemer získaných čísel, ktorý sa berie ako približná hodnota meranej veličiny. Za predpokladu, že sa merania vykonávajú za rovnakých podmienok, dokážte:

  • a) aritmetický priemer poskytuje spoľahlivejší výsledok ako jednotlivé merania;
  • b) s nárastom počtu meraní sa zvyšuje spoľahlivosť tohto výsledku.

Riešenie, a) Je známe, že jednotlivé merania dávajú nerovnaké hodnoty meranej veličiny. Výsledok každého merania závisí od mnohých náhodných príčin (zmeny teploty, kolísanie prístrojov a pod.), ktoré nie je možné vopred plne zohľadniť.

Preto máme právo zvážiť možné výsledky P jednotlivé merania ako náhodné veličiny X v X 2,..., X str(index označuje číslo merania). Tieto množstvá majú rovnomerné rozdelenie pravdepodobnosti (merania sa vykonávajú pomocou rovnakej metodiky a rovnakých nástrojov), a teda rovnakých číselných charakteristík; navyše sú navzájom nezávislé (výsledok každého jednotlivého merania nezávisí od iných meraní).

Už vieme, že aritmetický priemer takýchto veličín má menší rozptyl ako každá jednotlivá veličina. Inými slovami, ukazuje sa, že aritmetický priemer je bližšie k skutočnej hodnote nameranej hodnoty ako výsledok samostatného merania. To znamená, že aritmetický priemer niekoľkých meraní poskytuje viac prípadov ako jedno meranie.

b) Už vieme, že so zvyšujúcim sa počtom jednotlivých náhodných premenných klesá rozptyl aritmetického priemeru. To znamená, že so zvyšujúcim sa počtom meraní sa aritmetický priemer niekoľkých meraní stále menej líši od skutočnej hodnoty nameranej hodnoty. Zvýšením počtu meraní sa teda získa spoľahlivejší výsledok.

Napríklad, ak je smerodajná odchýlka jednotlivého merania a = 6 m, a spolu P= 36 meraní, potom je štandardná odchýlka aritmetického priemeru týchto meraní skutočne iba 1 m.

Vidíme, že aritmetický priemer niekoľkých meraní, ako by sa dalo očakávať, sa ukázal byť bližšie k skutočnej hodnote nameranej hodnoty ako výsledok samostatného merania.



Páčil sa vám článok? Zdieľajte so svojimi priateľmi!