Empirická míra - Empirical measure

V teorii pravděpodobnosti , An empirický opatření je náhodná opatření vyplývající z konkrétní realizaci (obvykle konečný) posloupnosti náhodných proměnných . Přesná definice je uvedena níže. Empirické míry jsou relevantní pro matematickou statistiku .

Motivací ke studiu empirických opatření je, že je často nemožné znát skutečnou základní míru pravděpodobnosti . Sbíráme pozorování a počítáme relativní frekvence . Můžeme odhadnout nebo související distribuční funkci pomocí empirické míry nebo empirické distribuční funkce. Jedná se o jednotně dobré odhady za určitých podmínek. Věty v oblasti empirických procesů poskytují míry této konvergence. ${\ displaystyle P}$${\ displaystyle X_ {1}, X_ {2}, \ tečky, X_ {n}}$${\ displaystyle P}$${\ displaystyle F}$

Definice

Nechť je posloupnost nezávislých stejně rozdělené náhodné proměnné s hodnotami ve stavovém prostoru S s rozdělení pravděpodobnosti P . ${\ displaystyle X_ {1}, X_ {2}, \ tečky}$

Definice

Empirický opatření P _n je definován pro měřitelné podmnožiny S a dán

${\ displaystyle P_ {n} (A) = {1 \ nad n} \ součet _ {i = 1} ^ {n} I_ {A} (X_ {i}) = {\ frac {1} {n}} \ sum _ {i = 1} ^ {n} \ delta _ {X_ {i}} (A)}$

kde je indikátorová funkce a je Diracova míra .${\ displaystyle I_ {A}}$${\ displaystyle \ delta _ {X}}$

Vlastnosti

• Pro pevně měřitelnou množinu A je nP _n ( A ) binomická náhodná proměnná se střední hodnotou nP ( A ) a odchylkou nP ( A ) (1 -  P ( A )).
  • Zejména, P _n ( ) je objektivní odhad z P ( A ).
• Za pevnou přepážkou z S , náhodné veličiny tvoří multinomiální rozložení s pravděpodobností událostí${\ displaystyle A_ {i}}$${\ displaystyle X_ {i} = nP_ {n} (A_ {i})}$ ${\ displaystyle P (A_ {i})}$
  • Kovarianční matice tohoto multinomiálního distribuce je .${\ displaystyle Cov (X_ {i}, X_ {j}) = nP (A_ {i}) (\ delta _ {ij} -P (A_ {j}))}$

Definice

${\ displaystyle {\ bigl (} P_ {n} (c) {\ bigr)} _ {c \ v {\ mathcal {C}}}}$je empirický opatření indexovány , sbírka měřitelných podmnožin S .${\ displaystyle {\ mathcal {C}}}$

Chcete-li tento pojem dále zobecnit, pozorujte, že empirická míra mapuje měřitelné funkce na jejich empirický průměr , ${\ displaystyle P_ {n}}$ ${\ displaystyle f: S \ to \ mathbb {R}}$

${\ displaystyle f \ mapsto P_ {n} f = \ int _ {S} f \, dP_ {n} = {\ frac {1} {n}} \ součet _ {i = 1} ^ {n} f ( X_ {i})}$

Zejména je empirická míra A je prostě empirické střední funkci přístroje, P _n ( ) = P _n I _A .

Za fixní měřitelné funkce , je náhodná veličina s průměrem a rozptylem . ${\ displaystyle f}$${\ displaystyle P_ {n} f}$${\ displaystyle \ mathbb {E} f}$${\ displaystyle {\ frac {1} {n}} \ mathbb {E} (f- \ mathbb {E} f) ^ {2}}$

Silným zákona velkých čísel , P _n ( konverguje) až P ( A ) téměř jistě pro pevné A . Podobně konverguje téměř jistě pro pevnou měřitelnou funkci . Problém stejnoměrné konvergence P _n o P byla otevřena až do Vapnik a Chervonenkis ji vyřešena v roce 1968.${\ displaystyle P_ {n} f}$${\ displaystyle \ mathbb {E} f}$${\ displaystyle f}$

Pokud je třída (nebo ) Glivenko – Cantelli vzhledem k P, pak P _n konverguje k P rovnoměrně nad (nebo ). Jinými slovy, s pravděpodobností 1 máme ${\ displaystyle {\ mathcal {C}}}$${\ displaystyle {\ mathcal {F}}}$${\ displaystyle c \ in {\ mathcal {C}}}$${\ displaystyle f \ in {\ mathcal {F}}}$

${\ displaystyle \ | P_ {n} -P \ | _ {\ mathcal {C}} = \ sup _ {c \ v {\ mathcal {C}}} | P_ {n} (c) -P (c) | \ na 0,}$

${\ displaystyle \ | P_ {n} -P \ | _ {\ mathcal {F}} = \ sup _ {f \ in {\ mathcal {F}}} | P_ {n} f- \ mathbb {E} f | \ do 0.}$

Empirická distribuční funkce

Distribuční funkce empirické poskytuje příklad empirických opatření. U náhodných proměnných iid se skutečnou hodnotou je dáno vztahem ${\ displaystyle X_ {1}, \ tečky, X_ {n}}$

${\ displaystyle F_ {n} (x) = P_ {n} ((- \ infty, x]) = P_ {n} I _ {(- \ infty, x]}.}$

V tomto případě jsou empirické míry indexovány třídou. Ukázalo se, že jde zejména o jednotnou třídu Glivenko – Cantelli , ${\ displaystyle {\ mathcal {C}} = \ {(- \ infty, x]: x \ in \ mathbb {R} \}.}$${\ displaystyle {\ mathcal {C}}}$

${\ displaystyle \ sup _ {F} \ | F_ {n} (x) -F (x) \ | _ {\ infty} \ až 0}$

s pravděpodobností 1.

Viz také

• Poissonovo náhodné měřítko

Reference

Další čtení

• Billingsley, P. (1995). Pravděpodobnost a míra (třetí vydání). New York: John Wiley and Sons. ISBN  0-471-80478-9 .
• Donsker, MD (1952). „Ospravedlnění a rozšíření Doobova heuristického přístupu k větám Kolmogorov – Smirnov “. Annals of Mathematical Statistics . 23 (2): 277–281. doi : 10,1214 / aoms / 1177729445 .
• Dudley, RM (1978). "Centrální limitní věty pro empirická opatření". Annals of Probability . 6 (6): 899–929. doi : 10.1214 / aop / 1176995384 . JSTOR  2243028 .
• Dudley, RM (1999). Jednotné centrální limitní věty . Cambridge studia pokročilé matematiky. 63 . Cambridge, Velká Británie: Cambridge University Press. ISBN  0-521-46102-2 .
• Wolfowitz, J. (1954). "Zobecnění věty o Glivenkovi-Cantelli". Annals of Mathematical Statistics . 25 (1): 131–138. doi : 10,1214 / aoms / 1177728852 . JSTOR  2236518 .