Центральная предельная теорема

Центра́льные преде́льные теоре́мы (Ц.П.Т.) — класс теорем в теории вероятностей, утверждающих, что сумма большого количества независимых случайных величин имеет распределение близкое к нормальному. Так как многие случайные величины в приложениях являются суммами нескольких случайных факторов, центральные предельные теоремы обосновывают популярность нормального распределения.

Классическая формулировка Ц.П.Т.

Пусть $X_1,\ldots,X_n,\ldots$ суть бесконечная последовательность независимых одинаково распределённых случайных величин, имеющих конечное математическое ожидание и дисперсию. Обозначим последние $\mu$ и $\sigma^2$ соответственно. Пусть $S_n = \sum\limits_{i=1}^n X_i$. Тогда

${\frac {S_{n}-\mu n}{\sigma {\sqrt {n}}}}\to N(0,1)$ по распределению при $n \to \infty$.

Обозначив символом $\bar{X}$ выборочное среднее первых $n$ величин, то есть $\bar{X} = \frac{1}{n} \sum\limits_{i=1}^n X_i$, мы можем переписать результат центральной предельной теоремы в следующем виде:

${\frac {{\bar {X}}-\mu }{\sigma /{\sqrt {n}}}}\to N(0,1)$ по распределению при $n \to \infty$.

Замечания

• Неформально говоря, классическая центральная предельная теорема утверждает, что сумма $n$ независимых одинаково распределённых случайных величин имеет распределение близкое к $N(n\mu ,n\sigma ^{2})$. Эквивалентно, $\bar{X}$ имеет распределение близкое к $N(\mu ,\sigma ^{2}/n)$.
• Случайные величины $\{ X_i \}_{i=1}^\infty$ могут быть определены на разных вероятностных пространствах. Они лишь должны принимать значение в одной и той же вещественной прямой.
• Так как функция распределения стандартного нормального распределения непрерывна, сходимость к этому распределению эквивалентна поточечной сходимости функций распределения к функции распределения стандартного нормального распределения. Положив $Z_{n}={\frac {S_{n}-\mu n}{\sigma {\sqrt {n}}}}$, получаем $F_{Z_{n}}(x)\to \Phi (x),\;\forall x\in \mathbb {R}$, где $\Phi(x)$ — функция распределения стандартного нормального распределения.
• Центральная предельная теорема в классической фоормулировке доказывается методом характеристических функций (теорема Леви о непрерывности).
• Вообще говоря, из сходимости функций распределения не вытекает сходимость плотностей. Тем не менее в данном классическом случае имеет место

Локальная Ц.П.Т.

В предположениях классической формулировки, допустим в дополнение, что распределение случайных величин $\{ X_i \}_{i=1}^\infty$ абсолютно непрерывно, то есть оно имеет плотность. Тогда распределение $Z_n$ также абсолютно непрерывно, и более того

$f_{Z_{n}}(x)\to {\frac {1}{\sqrt {2\pi }}}\,e^{-{\frac {x^{2}}{2}}}$ при $n \to \infty$,

где $f_{Z_{n}}(x)$ - плотность случайной величины $Z_n$, а в правой части стоит плотность стандартного нормального распределения.

Некоторые обобщения

Результат классической центральной предельной теоремы справедлив для ситуаций гораздо более общих, чем полная независимость и одинаковая распределённость.

Ц.П.Т. Линдберга

Пусть независимые случайные величины $X_1,\ldots,X_n,\ldots$ определены на одном и том же вероятностном пространстве и имеют конечные математические ожидания и дисперсии: $\mathbb {E} [X_{i}]=\mu _{i},\;\mathrm {D} [X_{i}]=\sigma _{i}^{2}$. Как и прежде построим частичные суммы $S_n = \sum\limits_{i=1}^n X_i$. Тогда в частности, $\mathbb {E} [S_{n}]=m_{n}=\sum \limits _{i=1}^{n}\mu _{i},\;\mathrm {D} [S_{n}]=s_{n}^{2}=\sum \limits _{i=1}^{n}\sigma _{i}^{2}$. Наконец, пусть выполняется условие Линдеберга:

$\forall \varepsilon >0,\;\lim \limits _{n\to \infty }\sum \limits _{i=1}^{n}\mathbb {E} \left[{\frac {(X_{i}-\mu _{i})^{2}}{s_{n}^{2}}}\,\mathbf {1} _{\{|X_{i}-\mu _{i}|>\varepsilon s_{n}\}}\right]=0.$

Тогда

${\frac {S_{n}-m_{n}}{s_{n}}}\to N(0,1)$ по распределению при $n \to \infty$.

Ц.П.Т. Ляпунова

Пусть выполнены базовые предположения Ц.П.Т. Линдеберга. Пусть случайные величины $\{X_{i}\}$ имеют конечный третий момент. Тогда определена последовательность

$r_{n}^{3}=\sum _{i=1}^{n}\mathbb {E} \left[|X_{i}-\mu _{i}|^{3}\right]$. Если предел

$\lim \limits _{n\to \infty }{\frac {r_{n}}{s_{n}}}=0$ (условие Ляпунова),

то

${\frac {S_{n}-m_{n}}{s_{n}}}\to N(0,1)$ по распределению при $n \to \infty$.

Ц.П.Т. для мартингалов

Пусть процесс

$(X_n)_{n \in \N}$ является мартингалом. Введём случайные процессы

$\sigma_n^2$ и

$\tau _{n}$ следующим образом:

$\sigma _{n}^{2}=\mathbb {E} \left[(X_{n+1}-X_{n})^{2}\mid X_{1},\ldots ,X_{n}\right]$

и

$\tau _{n}=\min \left\{n\left\vert \;\sum _{i=1}^{n}\sigma _{i}^{2}\geq n\right.\right\}$.

Тогда

${\frac {X_{\tau _{n}}}{\sqrt {n}}}\to N(0,1)$по распределению при$n \to \infty$.

ca:Teorema del límit central cs:Centrální limitní věta he:משפט הגבול המרכזי is:Höfuðsetning tölfræðinnar nl:Centrale limietstelling no:Sentralgrenseteoremet pl:Centralne twierdzenie graniczne su:Central limit theorem sv:Centrala gränsvärdessatsen vi:Định lý giới hạn trung tâm