Центральна гранична теорема
![](http://upload.wikimedia.org/wikipedia/commons/thumb/b/b7/CLTBinomConvergence.svg/350px-CLTBinomConvergence.svg.png)
Центральна гранична теорема — теорема теорії ймовірностей про збіжність розподілу суми незалежних однаково розподілених випадкових величин до нормального розподілу. Ця теорема підкреслює особливість нормального розподілу в теорії ймовірностей.
Наприклад, отримано вибірку, яка містить велику кількість спостережень, кожне з яких було отримано випадковим чином і вони не залежать від інших спостережень, і на основі значень цих спостережень розраховують арифметичне середнє. Якщо цю процедуру повторити багато разів, центральна гранична теорема стверджує, що розраховані середні значення будуть мати нормальний розподіл. Простим прикладом цього є багаторазове підкидання монети при яких імовірність випадіння заданої кількості гербів у всій послідовності подій буде наближатися до нормальної кривої, із середнім, що знаходитиметься по середині від загальної кількості випадань монети на кожну сторону. (Граничне значення для нескінченної кількості підкидань, буде дорівнювати нормальному розподілу.)
Центральна гранична теорема має декілька варіантів. У своїй загальній формі, випадкові величини повинні бути однаково розподілені. У деяких варіантах, збіжність середнього значення прямує до нормального розподілу також і у випадку не однаково розподілених величин, або не лише при незалежних спостереженнях, що буде здійснюватися за умови виконання певних умов.
У перших версіях цієї теореми, нормальний розподіл може використовуватися як апроксимація біноміального розподілу, що відомо як локальна теорема Муавра — Лапласа.
![](http://upload.wikimedia.org/wikipedia/commons/thumb/7/7b/IllustrationCentralTheorem.png/400px-IllustrationCentralTheorem.png)
Нехай — послідовність взаємно незалежних випадкових величин з однаковими розподілами, які мають скінченне математичне сподівання та скінченну дисперсію .
Нехай . Тоді
А для довільних фіксованих справедливо:
Де — нормальна функція розподілу[2][3].
Теорема названа на честь російського математика Олександра Ляпунова. У цьому варіанті центральної граничної теореми випадкові величини мають бути незалежними, але не обов'язково однаково розподіленими. Теорема також вимагає щоб випадкові величини мали скінченні моменти деякого порядку (2 + δ) і швидкість зростання цих моментів має бути обмежена умовою Ляпунова.
ЦГТ Ляпунова[4]: Нехай {Xi} — послідовність незалежних випадкових величин, таких, що кожна з них має скінченне математичне сподівання і дисперсію . Позначимо . Якщо для деякого виконується умова Ляпунова
Тоді сума прямує за розподілом до стандартного нормального розподілу, при
На практиці зазвичай найлегше перевірити умову Ляпунова для . Якщо послідовність випадкових величин задовольняє умову Ляпунова, то вона задовольняє також умову Лінденберга. Зворотне твердження не правильне.
Використовуючи ті позначення що й у попередньому параграфі, замінюючи умову Ляпунова на слабшу (запропоновану фінським математиком Ліндебергом у 1920 році) можна отримати нове формулювання центральної граничної теореми.
- Якщо для кожного виконується
- де — характеристична функція. Тоді розподіл стандартизованої суми Zn прямує до стандартного нормального розподілу N(0,1).
Доведемо, що характеристичні функції можна розширити до випадку, коли кожна окрема величина Xi є випадковим вектором у ℝk, із вектором середніх значень μ = E(Xi) і матрицею коваріацій Σ (між компонентами вектора), і ці випадкові вектори є незалежними і однаково розподіленими. Сумування цих векторів виконується поелементно. Багатовимірна центральна гранична теорема стверджує, що при масштабуванні, суми збігаються до багатовимірного нормального розподілу.[5]
Припустимо, що
це k-вимірний вектор. Виділення жирним шрифтом для Xi означає, що це випадковий вектор, а не випадкова (одновимірна) величина. Тоді сума випадкових векторів дорівнюватиме
а середнє дорівнюватиме
і таким чином
Багатовимірна центральна гранична теорема стверджує, що
де коваріаційна матриця Σ дорівнює
А швидкість збіжності задається наступним результатом Беррі-Ессіна[en]:
Теорема.[6] Нехай незалежні випадкові вектори із області значень , кожний з яких має нульове середнє. Запишемо і припустимо є зворотньою. Нехай буде -вимірним Гаусовим розподілом із тим самим середнім і коваріаційною матрицею як у . Тоді для всіх опуклих множин ,
де це універсальна стала, , і позначає Евклідову норму для .
Не відомо чи множник є необхідним.[7]
Центральна гранична теорема стверджує, що сума деякої кількості незалежних і однаково розподілених випадкових величин із скінченною дисперсією буде прямувати до нормального розподілу із збільшенням кількості цих величин. Узагальнена її версія, яку запропонували Гнєденко і Колмогоров стверджує, що сума деякої кількості випадкових величин із розподілами, що мають хвіст, який відповідає степеневому закону (Хвіст розподілу Парето), зменшується як |x|−α − 1 де 0 < α < 2 (і таким чином має нескінченну дисперсію) буде прямувати до стійкого розподілу f(x;α,0,c,0) із тим як кількість елементів суми збільшується.[8][9] Якщо α > 2, тоді сума збігається до стійкого розподілу із параметром стабільності який дорівнює 2, тобто Гауссового розподілу.[10]
Центральна гранична теорема має просте доведення за допомогою характеристичних функцій.[11] Воно подібне до доведення (слабкого) закону великих чисел.
Припустимо {X1, …, Xn} є незалежними і однаково розподіленими випадковими величинами, кожна з яких має середнє µ і скінченну дисперсію σ2. Сума X1 + … + Xn має середнє nµ і дисперсію nσ2. Розглянемо випадкову величину
де в останньому кроці ми визначили нові випадкові величини Yi = Xi − μ/σ, кожна з яких має нульове середнє і одиничну дисперсію (var(Y) = 1). Характеристична функція для Zn має вигляд
Де в останньому кроці ми застосували факт, що всі Yi однаково розподілені. Відповідно до теореми Тейлора характеристична функція для Y1 матиме вигляд,
де o(t2) є "нотацією маленького o" для деякої функції від t, яка прямує до нуля набагато швидше ніж t2. Відповідно до границі показникової функції (ex= lim(1 + x/n)n), характеристична функція для Zn дорівнює
Зауважимо, що всі терми старшого порядку в даному виразі зникають при границі де n → ∞. Права сторона виразу дорівнює характеристичній функції стандартного нормального розподілу N(0,1), із чого разом із теоремою Леві про неперервність[en] випливає, що розподіл Zn буде наближатися до N(0,1) з тим як n → ∞. Таким чином, сума X1 + … + Xn буде наближатися до нормального розподілу N(nµ,nσ2), і значення вибіркового середнього
збігається до нормального розподілу N(µ,σ2/n), з чого випливає центральна гранична теорема.
![](http://upload.wikimedia.org/wikipedia/commons/thumb/2/2d/Empirical_CLT_-_Figure_-_040711.jpg/500px-Empirical_CLT_-_Figure_-_040711.jpg)
Простим прикладом центральної граничною теореми є підкидання великої кількості ідентичних гральних кісток. Розподіл суми (або середнього) від тих чисел що випадуть буде добре апроксимуватися за допомогою нормального розподілу. Оскільки величини реального світу часто є збалансованою сумою багатьох неспостережувальних випадкових подій, центральна гранична теорема також частково пояснює те, що нормальний розподіл зустрічається досить часто. Вона також виправдовує застосування апроксимації для великих статистичних вибірок до нормального розподілу у контрольованих експериментах.
![](http://upload.wikimedia.org/wikipedia/commons/thumb/8/8c/Dice_sum_central_limit_theorem.svg/250px-Dice_sum_central_limit_theorem.svg.png)
![](http://upload.wikimedia.org/wikipedia/commons/thumb/1/12/Central_Limit_Theorem.png/640px-Central_Limit_Theorem.png)
У літературі можна знайти велику кількість корисних і цікавих прикладів застосувань, пов'язаних із центральною граничною теоремою.[12] Одним із таких прикладів[13] є наступні ситуації:
- Розподіл імовірності загальної пройденої відстані у випадковому блуканні (зміщеної або незміщеної) буде прямувати до нормального розподілу.
- Підкидання великої кількості монет буде мати нормальний розподіл для загальної кількості випадання аверсів (або реверсів).
З іншої точки зору, центральна гранична теорема пояснює common appearance "дзвоноподібної кривої" при оцінках функції густини застосованих до даних реального світу. В таких випадках як електричний шум, екзаменаційні оцінки, і так далі, ми часто можемо розглядати одне конкретне вимірюване значення як зважене середнє великої кількості малих випадкових впливів. Використавши узагальнення центральної граничної теореми, ми можемо побачити, що дуже часто (хоча не завжди) це утворюватиме в результаті розподіл, що наближений до нормального.
В загальному розумінні, чим більше вимірювання є подібним до суми випадкових величин із однаковим впливом на результат, тим ближче воно буде до нормального розподілу. Це обґрунтовує поширене використання цього розподілу як такого, що відповідає впливам неспостережувальних змінних у моделях, таких як лінійні моделі[en].
- Карташов М. В. Імовірність, процеси, статистика. — Київ : ВПЦ Київський університет, 2007. — 504 с.
- Гнеденко Б. В. Курс теории вероятностей. — 6-е изд. — Москва : Наука, 1988. — 446 с.(рос.)
- Гихман И. И., Скороход А. В., Ядренко М. В. Теория вероятностей и математическая статистика. — Київ : Вища школа, 1988. — 436 с.(рос.)
- Billingsley, Patrick (1995), Probability and Measure (вид. 3), John Wiley & sons, ISBN 0-471-00710-2(англ.)
- ↑ Rouaud, Mathieu (2013). Probability, Statistics and Estimation (PDF). с. 10. Архів оригіналу (PDF) за 3 квітня 2017. Процитовано 11 березня 2019.
- ↑ В. Феллер (1964). Введение в теорию вероятностей и ее приложения, т. 1. М.: Мир. с. 249.
- ↑ J. W. Lindeberg. Eine neue Herleitung des Exponentialgesetzes in der Warscheinlichkeitsrechnung // Mathematische Zeitschrift. — 1922. — Т. 15. — С. 211-225.
- ↑ Billingsley, (1995, с. 362)
- ↑ Van der Vaart, A. W. (1998). Asymptotic statistics. New York: Cambridge University Press. ISBN 978-0-521-49603-2. LCCN 98015176.
- ↑ Ryan O’Donnell (2014, Theorem 5.38) http://www.contrib.andrew.cmu.edu/~ryanod/?p=866 [Архівовано 8 квітня 2019 у Wayback Machine.]
- ↑ Bentkus, V. (2005). A Lyapunov-type Bound in . Theory Probab. Appl. 49 (2): 311—323. doi:10.1137/S0040585X97981123.
- ↑ Voit, Johannes (2003). Section 5.4.3. The Statistical Mechanics of Financial Markets. Texts and Monographs in Physics. Springer-Verlag. ISBN 3-540-00978-7. Архів оригіналу за 8 квітня 2019. Процитовано 14 березня 2019.
- ↑ Gnedenko, B. V.; Kolmogorov, A. N. (1954). Limit distributions for sums of independent random variables. Cambridge: Addison-Wesley.
{{cite book}}
: Обслуговування CS1: Сторінки з параметром url-status, але без параметра archive-url (посилання) - ↑ Uchaikin, Vladimir V.; Zolotarev, V. M. (1999). Chance and stability: stable distributions and their applications. VSP. с. 61—62. ISBN 90-6764-301-7.
- ↑ An Introduction to Stochastic Processes in Physics. jhupbooks.press.jhu.edu. Архів оригіналу за 15 грудня 2018. Процитовано 11 серпня 2016.
- ↑ Dinov, Christou & Sánchez (2008)
- ↑ SOCR EduMaterials Activities GCLT Applications - Socr. Wiki.stat.ucla.edu. 24 травня 2010. Архів оригіналу за 8 квітня 2019. Процитовано 23 січня 2017.
![]() |
Це незавершена стаття з математики. Ви можете допомогти проєкту, виправивши або дописавши її. |