7. Граничні теореми

• Нерівність Чебишева. Якщо випадкова величина має скінченну дисперсію, то для будь-якогомає місце нерівність

(38)

Узагальнення. Нехай – це борелівська функція, визначена на, причомудля будь-якогота– монотонно неспадна функція на. Якщо , то для будь-якого має місце нерівність

Приклад 1. По мішені було зроблено 1000 пострілів. Ймовірність влучення при кожному пострілі дорівнює 0.7. Оцінити за допомогою нерівності Чебишева ймовірність того, що кількість влучень знаходиться в межах від 670 до 730 включно.

Розв’язання. Позначимо через кількість влучень. Очевидно, щомає розподіл Бернуллі з кількістю випробуваньта ймовірністю успіху. У цьому випадку . Скориставшись формулою (38), маємо

тобто з імовірністю не меншою, ніж 0.767, можна стверджувати, що кількість влучень буде знаходитись у вказаних межах.

Приклад 2. Випадкова величина має щільність розподілу

Довести нерівність

Доведення. Скористаємось нерівністю Чебишева (38). Випадкова величина має щільність розподілу Ерланга з параметром, тобто, де– незалежні експоненціально розподілені випадкові величини з параметром. В цьому випадку, тобто. Таким чином,

що і треба було довести.

• Послідовність випадкових величин збігається до випадкової величиниза ймовірністю, якщо для будь-якого

Теорема Чебишева про закон великих чисел. Нехай – це послідовність попарно незалежних випадкових величин із скінченними дисперсіями, які є рівномірно обмеженими, тобтодля деякого. Тоді для будь-якогомає місце співвідношення

(39)

Теорема Маркова. Нехай – це послідовність випадкових величин (можливо залежних) така, що

(40)

Тоді має місце закон великих чисел (39).

Теорема Бернуллі. Нехай – це кількість появи подіїунезалежних випробуваннях, а– це ймовірність появи подіїу кожному випробуванні. Тоді для будь-якогомає місце співвідношення

Теорема Пуассона. Нехай – це кількість появи подіїунезалежних випробуваннях, а– це ймовірність появи подіїу-му випробуванні. Тоді для будь-якогомає місце співвідношення

Приклад 3. Нехай – це послідовність незалежних випадкових величин така, щоприймає значеннявідповідно з ймовірностямиде. Чи може бути застосована теорема Чебишева до цієї послідовності?

Розв’язання. Згідно з теоремою Чебишева достатньо перевірити, чи виконана умова рівномірної обмеженості дисперсій . Очевидно, що. Тому

.

Функція досягає свого максимуму при. Оскільки– ціле число, то треба порівняти значенняприта– найближчих цілих доМаємо:Тому , і теорема Чебишева може бути застосована до послідовності випадкових величин із вказаними властивостями.

Приклад 4. Нехай – це послідовність незалежних випадкових величин така, щоприймає значенняіз однаковою ймовірністю 0.5. Довести, що середнє арифметичне послідовності незалежних випадкових величинзадовольняє закон великих чисел (39).

Доведення. Скористаємось теоремою Маркова. Очевидно, що . Тому . Враховуючи незалежність випадкових величин , співвідношення (40) матиме вигляд

,

тобто виконана достатня умова теореми Маркова і має місце співвідношення (39).

• Теорема Хінчина. Нехай – послідовність незалежних і однаково розподілених випадкових величин із скінченним математичним сподіванням. Тоді для будь-якогомає місце співвідношення

Теорема (необхідна та достатня умова виконання закону великих чисел). Для того, щоб послідовність (як завгодно залежних) випадковихвеличин задовольняла закону великих чисел (39) необхідно і достатньо, щоб було виконано співвідношення

Нехай – це імовірнісний простір.Послідовність випадкових величин збігається до випадкової величиниз ймовірністю 1 (або майже напевно), якщо для будь-якого , деі, виконується співвідношення

Із збіжності з ймовірністю 1 випливає збіжність за ймовірністю.

Теорема Колмогорова (посилений закон великих чисел). Якщо послідовність взаємно незалежних випадкових величин задовольняє умову

,

то виконується посилений закон великих чисел:

з ймовірністю 1.

Теорема (також належить А.М.Колмогорову). Для послідовності незалежних однаково розподілених випадкових величин виконується посилений закон великих чисел

з ймовірністю 1

тоді і лише тоді, коли існує скінчене математичне сподівання

Приклад 5. Чи можна застосувати теорему Хінчина до послідовності незалежних випадкових величин, що мають одну й ту ж саму функцію розподілу?

Розв’язання. Достатньою умовою застосування теореми Хінчина є скінченність Перевіримо цю умову. Маємо

тобто математичне сподівання не існує і теорему Хінчина не можна застосовувати.

Приклад 6. Чи можливо наближено обчислити інтеграл методом Монте-Карло за формулою

,

де – це послідовність незалежних рівномірно розподілених увипадкових величин.

Розв’язання. Величина вважається наближеним значенням, якщодля будь-якого має місце співвідношення

тобто має місце закон великих чисел. Оскільки випадкові величини мають однаковий розподіл, то і функціївід них також мають однаковий розподіл. Перевіримо, чи виконана умова теореми Хінчина, яка полягає у тому, що , де – це випадкова величина, рівномірно розподілена у. Маємо

Оскільки

,

то , тобто метод Монте-Карло не можна застосовувати для наближеного обчислення величини.

• Узагальнення схеми Бернуллі з незалежними випробуваннями. Нехай проводяться незалежних випробувань, в результаті кожного з яких може відбутися одна зподій, що утворюють повну групу подій. Подіяможе відбутися з ймовірністю,. Якщо, то отримуємо схему Бернуллі. Позначимо черезймовірність того, що віспитах подіївідбудуться відповідноразів,Очевидно, що

Позначимо

Локальна гранична теорема. Якщо то примає місце співвідношення

рівномірно для всіх , для якихзнаходяться в довільних скінчених проміжках.

Розглянемо випадок, коли

Локальна гранична теорема Муавра-Лапласа. Якщо ймовірність появи деякої події внезалежних випробовуваннях не змінюється і дорівнює,, то ймовірністьтого, що ввипробуваннях подіявідбудетьсяразів задовольняє співвідношення

(41)

рівномірно для всіх , для якихзнаходяться в довільному скінченому проміжку.

Приклад 7. Підприємство виробляє деякі деталі. Ймовірність того, що деталь виявиться бракованою дорівнює 0.005. Знайти ймовірність того, що серед 10 000 навмання взятих деталей виявиться 40 бракованих?

Розв’язання. Застосуємо теорему Маувра-Лапласа. В нашому випадку . Згідно з (41) ймовірність оцінюється за наближеною формулою

.

Оскільки , то .

• Гранична теорема для послідовності незалежних однаково розподілених випадкових величин. Якщо – це незалежні однаково розподілені випадкові величини з математичним сподіваннямта скінченною дисперсією, то прирівномірно відносно

де

(42)

– це функція Лапласа, значення якої задаються відповідною таблицею.

Інтегральна гранична теорема Муавра-Лапласа. Нехай проводиться серія незалежних випробувань, результатом кожного з яких є “успіх” з ймовірністю ,, і “невдача” з ймовірністю. Якщо– це кількість “успіхів” у випробуваннях, то рівномірно відносноіпри має місце співвідношення

Нехай – це послідовність взаємно незалежних випадкових величин, які мають скінченні математичні сподівання та дисперсії. Позначимо:

Умова Ліндеберга. Для будь-якого

(43)

де – це функція розподілу випадкової величини.

Центральна гранична теорема. Якщо послідовність взаємно незалежних випадкових величин задовольняє умову Ліндеберга (43), то при рівномірно відносно має місце співвідношення

(44)

Теорема Ляпунова. Достатньою умовою виконання співвідношення (44) є існування деякого такого, що

Приклад 8. Ймовірність виходу з ладу деякого приладу під час його випробувань на надійність дорівнює . Чому дорівнює ймовірність того, що під час випробувань 1 000 приладів вийдуть з ладу:a) не менше 10 приладів; b) не більше 10 приладів; c) від 7 до 12 приладів?

Розв’язання. Для наближеного обчислення ймовірностей вказаних подій скористаємось інтегральною граничною теоремою Муавра-Лапласа. У нашому випадку . Оскільки значенняє скінченним, то наближена формула має такий вигляд:

де – це кількість відмов. Тому

Приклад 9. Скільки потрібно провести незалежних випробувань для того, щоб з ймовірністю 0.9 подія відбулась не менше 10 разів, якщо відомо, що ймовірність її появи у одному випробуванні дорівнює 0.05?

Розв’язання. Якщо позначити через кількість появ подіїувипробуваннях, то згідно з теоремою Муавра-Лапласа (див. також попередній приклад) маємо

Враховуючи те, що маємо

вже при . Тому

З таблиці для функції Лапласа знаходимо, що

Функція монотонно зростає за. Найменше ціле число, при якомудорівнює 161, тобтовипробування буде досить для того, щоб з ймовірністю 0.9 подіявідбулась не менше 10 разів.

Приклад 10. Скільки потрібно провести незалежних випробувань для обчислення інтеграла

методом Монте-Карло для того, щоб з ймовірністю 0.95 відносна похибка не перевищувала 2%?

Розв’язання. Зробивши заміну змінної , інтегралможна подати у такому вигляді:

.

Зауважимо, що є щільністю розподілу випадкової величини , де– нормально розподілена випадкова величина з параметрами 0 та 1. Тому інтеграл можна розглядати, як математичне сподівання:

.

Згідно загальної схеми метода Монте-Карло наближене значення інтегралу обчислюється за формулою

, ,

де – це незалежні нормально розподілені випадкові величини з параметрами 0 та 1, а– це загальна кількість проведених випробувань.

Скористаємось граничною теоремою для послідовності незалежних однаково розподілених випадкових величин. Позначимо

Згідно цієї теореми

(45)

Відносна похибка визначається виразом . Оскільки , то співвідношення (45) можна переписати у такому вигляді:

Прирівнюючи праву частину до заданої ймовірності і розв’язуючи рівняння , знаходимо . Для того, щоб відносна похибкабула меншою, ніж 2%, потрібно, щоб , тобто

Оскільки точні значення танам невідомі, то можна скористуватись елементарними оцінками

.

Таким чином, робимо остаточний висновок, що кількість випробувань

буде цілком достатньою для оцінки інтеграла методом Монте-Карло з відносною похибкою, меншою, ніж 2%. Оскільки длятабули використані відповідно оцінки знизу та зверху, тоє завищеною оцінкою кількості випробувань (для отримання оцінки з вказаною точністю насправді потрібно зробити у декілька разів меншу кількість випробувань). Тому на практиці замість аналітичних оцінок використовують незміщені оцінкита.

10. Елементи математичної статистики

• Емпірична функція розподілу. Набір значень випадкової величини, який отримано в результаті експерименту, називаєтьсявибіркою з генеральної сукупності. Значення вибірки, впорядковані у зростаючому порядку, називаються варіаційним рядом: .Емпіричною функцією розподілу називається функція :

Приклад 1. Знайти емпіричну функцію розподілу вибірки

4 1 7 12 5

5 2 4 6 3

(значення у вибірці зустрічаєтьсяразів).

Розв’язання. Перш за все треба побудувати варіаційний ряд:

1 4 5 7 12

2 5 3 4 6 .

Об’єм вибірки дорівнює . Оскільки у вибірці з 20 спостережень одні й ті ж самі значення зустрічаються по декілька разів, то приріст функції у відповідних точках буде пропорційним до кратності цих точок, тобто

• Незміщена оцінка. Оцінка деякого невідомого параметраназиваєтьсянезміщеною, якщо . Незміщеною оцінкою дляє вибіркове середнє. Якщовідомо, то незміщеною оцінкою дляє. Якщо жневідомо, то незміщеною оцінкою дляє.

Приклад 2. В результаті експерименту була отримана вибірка з спостережень:

2 5 9 11 15 20

7 15 16 21 12 9

Знайти незміщене значення середнього.

Розв’язання. Незміщена оцінка математичного сподівання знаходиться за формулою:

де – це кількість різних значень, що спостерігались (у даному прикладі).

Приклад 3. Для визначення точності вимірювального приладу, систематична похибка якого практично дорівнює нулю, було зроблено п’ять незалежних вимірювань, які дали такі результати: ,,,,м. Визначити незміщену оцінку дисперсії похибки вимірювального приладу, якщо значення величини, що вимірюється:a) відомо і дорівнює м;b) невідомо.

Розв’язання. Розглянемо спочатку випадок, коли відомо . Тоді незміщену оцінкудисперсії знаходимо за формулою

.

Якщо ж точне значення величини, що вимірюється, невідоме, то будуємо спочатку вибіркове середнє

.

Незміщену оцінкудисперсії знаходимо за формулою

.

• Метод найбільшої правдоподібності. Нехай за спостереженнями випадкової величини із щільністю розподілубула отримана вибірка, де– невідомий параметр. Припустимо, що функціядиференційована за. Оцінка параметрабудується з умови максимізаціїфункції правдоподібності

,

тобто оцінка задовольняє рівняння правдоподібності

або .

Дискретний випадок. Припустимо, що випадкова величина приймає значенняз ймовірностями, де– невідомий параметр. Спостерігається вибірка, в яку значеннявходитьразів,. Ймовірність отримання саме цієї вибірки (з точністю до постійного множника) визначаєтьсяфункцією правдоподібності

.

Оцінка є розв’язком рівняння правдоподібності

.

Приклад 4. Відомо, що випадкова величина має рівномірний розподіл на.В результаті експерименту була отримана вибірка з спостережень: