На рис. 2 наведені умовні щільності X для деяких значень Y та пряма регресії для r>0.

9. Середня квадратична регресія.

Розглянемо систему випадкових величин (X, Y). Підберемо таку функцію f(x), щоб середній квадрат відхилення випадкової величини Y цієї функції випадкової величини X був мінімальним, тобто. щоб ця функція забезпечувала мінімум математичного очікування відхилення квадрата Y від f(X). Іншими словами, стоїть завдання з усіх можливих функцій вибрати таку, що забезпечує

(9.1)

Доведено, що цей мінімум досягається, якщоf(x) , Яка визначається рівнянням регресії Y на X (4.9). Однак, якщо рівняння регресії невідоме, знайти таку функцію з (9.1) неможливо. Тому вирішують завдання пошуку мінімуму виразу (9.1) для функцій даного виду f(A,x), де A= ( a 1 ,…. a) - Вектор коефіцієнта цієї функції, тобто. шукається не сама функція, що забезпечує мінімум середнього квадрата відхилення Y від f(X) , а визначаються коефіцієнти наперед обраної функції (наприклад, лінійної визначаються коефіцієнти наперед обраної функції (наприклад, лінійної y= x+ b, або квадратичноїy= ax 2 + bx+ c, або функції якогось іншого виду) так, щоб з усіх функцій обраного виду, функція з цими коефіцієнтами забезпечувала мінімум середнього квадрата відхилення Yвідf(A, X). Іншими словами, потрібно знайти такий вектор коефіцієнта А, щоб функціязмінних

S = (A) = S ( ) = M((Y-f(A,X)) 2) (9.2)

достигаламінімуму.

Нехай A * = (a,……, a) забезпечує цей мінімум, тобто. є точкою мінімуму функції S(A). Тоді рівняння y=f(A * , x) називається рівнянням середньої квадратичної регресії,а випадкова величина Y * =f(A * , X) наближенням випадкової величини Y функцій даного виду випадкової величини X,знайденої за методом найменших квадратів(МНК). Коефіцієнти цієї функції А * = (a,……, a) називається коефіцієнтами регресії.

Числові характеристики системи випадкових величин

Закон розподілу повністю характеризує систему випадкових величин, але використовувати його практично не завжди зручно в силу складності. Найчастіше буває досить знати числові характеристики складових систему випадкових величин, яких ставляться: математичні очікування M[X], M[Y], дисперсії D[X], D[Y] і среднеквадратические отклонения. Вони обчислюються за такими формулами.

Дисперсії складових можна обчислювати і за укороченими формулами

Важливу роль теорії двовимірних випадкових величин грає кореляційний момент (коваріація), що характеризує лінійний зв'язок між складовими системи

Кореляційний момент обчислюється за такими формулами.

Для дискретних систем випадкових величин

Для безперервних систем випадкових величин

Поряд із кореляційним моментом використовується безрозмірна характеристика кореляційного зв'язку – коефіцієнт кореляції.

Для будь-яких систем випадкових величин

Випадкові величини Х і Y називаються некорельованими, якщо

Незалежні величини завжди некорельовані.

Умовним законом розподілу випадкової величини, що входить до системи, називається закон її розподілу, обчислений за умови, що інша випадкова величина набула певного значення. Для систем безперервних випадкових величин умовні закони виражаються умовними щільностями розподілу складових

При цьому (6.9)

При цьому

Закони рівномірного та нормального розподілу систем випадкових величин

Рівномірний закон. Якщо всі значення випадкових величин, що входять до системи, розташовані всередині області D, і щільність ймовірності системи має наступний вигляд

то (Х,У) підпорядкована рівномірному закону розподілу.

Нормальний Закон. Якщо щільність розподілу системи (Х,У) має вигляд

де – математичні очікування; - середньоквадратичні відхилення, а - коефіцієнт кореляції, то система підпорядкована нормальному закону розподілу.

Для некорельованих випадкових величин нормальна густина розподілу

Приклад 6.2. Планується діяльність 3 підприємств на черговий рік. Система (X, Y)

де - номер підприємства

Розміри вкладень (у тис. ум. ден. од.),

Задана таблицею

Закон розподілу складової Х означає, що незалежно від обсягу вкладень перше підприємство матиме вкладення з ймовірністю 0,3, друге – з ймовірністю 0,2 та третє – з ймовірністю 0,5. Складовою Y відповідає закон розподілу

і це означає, що незалежно від номера підприємства обсяг вкладень може дорівнювати 3 тис. ум. ден. од. з ймовірністю 0,5 або 4 тис. ум.ден.од. із ймовірністю 0,5.

Для визначення числових характеристик складових скористаємося знайденими законами розподілу Х та У та формулами для визначення числових характеристик дискретних систем

Середній обсяг вкладень;

Відхилення від середнього обсягу вкладень

Зв'язок між номером підприємства та обсягом вкладень

Приклад 6.3. На виробництві за певний період використовувалося два види сировини. Випадкові величини X та Y - відповідно обсяги сировини, виражені в умовних одиницях. Щільність розподілу ймовірностей системи має вигляд

Вступ

Теорія ймовірностей одна із класичних розділів математики. Вона має тривалу історію. Основи цього розділу науки було закладено великими математиками. Назву, наприклад, Ферма, Бернуллі, Паскаля. Пізніше розвиток теорії ймовірностей визначилися на роботах багатьох учених. Великий внесок у теорію ймовірностей зробили вчені нашої країни: П.Л.Чебишев, А.М.Ляпунов, А.А.Марков, А.М.Колмогоров. Імовірнісні та статистичні методи в даний час глибоко проникли у додатки. Вони використовуються у фізиці, техніці, економці, біології та медицині. Особливо зросла їх у зв'язку з розвитком обчислювальної техніки.

Наприклад, вивчення фізичних явищ проводять спостереження чи досліди. Їхні результати зазвичай реєструють у вигляді значень деяких спостережуваних величин. При повторенні дослідів виявляємо розкид їх результатів. Наприклад, повторюючи вимірювання однієї і тієї ж величини одним і тим же приладом при збереженні певних умов (температура, вологість тощо), ми отримуємо результати, які хоч трохи, але все ж таки відрізняються один від одного. Навіть багаторазові виміри не дають змоги точно передбачити результат наступного виміру. У цьому сенсі кажуть, що результат виміру є випадковою. Ще більш наочним прикладом випадкової величини може бути номер виграшного квитка в лотереї. Можна навести багато інших прикладів випадкових величин. Все ж таки у світі випадковостей виявляються певні закономірності. Математичний апарат вивчення таких закономірностей і дає теорія ймовірностей. Отже, теорія ймовірностей займається математичним аналізом випадкових подій пов'язаних із нею випадкових величин.

1. Випадкові величини

Поняття випадкової величини є основним у теорії ймовірностей та її додатках. Випадковими величинами, наприклад, є число очок, що випали при одноразовому киданні гральної кістки, число розпалися атомів радію за даний проміжок часу, число викликів на телефонній станції за деякий проміжок часу, відхилення від номіналу деякого розміру деталі при правильно налагодженому технологічному процесі і т.д.

Таким чином, випадковою величиною називається величина, яка в результаті досвіду може набувати того чи іншого значення, причому заздалегідь відомо яке саме.

Випадкові величини можна поділити на дві категорії.

Дискретною випадковою величиною називається така величина, яка в результаті досвіду може набувати певних значень з певною ймовірністю, що утворюють лічильну множину (множина, елементи якої можуть бути занумеровані).

Ця множина може бути як кінцевою, так і нескінченною.

Наприклад, кількість пострілів до попадання в ціль є дискретною випадковою величиною, т.к. ця величина може приймати і нескінченну, хоч і лічильну кількість значень.

Безперервною випадковою величиною називається така величина, яка може приймати будь-які значення деякого кінцевого або нескінченного проміжку.

Очевидно, що кількість можливих значень безперервної випадкової величини нескінченна.

Для завдання випадкової величини недостатньо просто вказати її значення, необхідно вказати ймовірність цього значення.

2. Рівномірний розподіл

Нехай сегмент осі Ox є шкалою деякого приладу. Припустимо, що можливість попадання покажчика в певний відрізок шкали пропорційна довжині цього відрізка і залежить від місця відрізка на шкалі. Позначка вказівника приладу є випадковою величиною

Таким чином

Тепер легко знайти функцію F(x) розподілу ймовірностей випадкової величини

Зрештою, якщо

Графік функції

Щільність розподілу ймовірностей знайдемо за такою формулою. Якщо

Теоретично ймовірностей та її додатках велику роль грає двовимірне нормальне розподіл. Щільність двовимірної нормальної випадкової величини (X,Y) має вигляд

Тут
- математичні очікування величин X та Y;
- Середні квадратичні відхилення величин X та Y; r – коефіцієнт кореляції величин X та Y.

Припустимо, що випадкові величини X і Y не корельовані, тобто r=0. Тоді маємо:

(53)

Отримали, що щільність розподілу системи двох випадкових величин (X,Y) дорівнює добутку щільностей розподілу компонентів X і Y, а це означає, що X і Y - незалежні випадкові величини.

Таким чином, доведено таку теорема: з некорелюваності нормально розподілених випадкових величин випливає їхня незалежність . Оскільки з незалежності будь-яких випадкових величин випливає їхня некорельованість, то можна зробити висновок, що терміни «некорельовані» та «незалежні» величини для нормального розподілу еквівалентні.

Наведемо формули для ймовірності попадання нормально розподіленої двовимірної випадкової величини різні області на площині.

Нехай випадковий вектор (X,Y), компоненти якого є незалежними, розподілений за нормальним законом (53). Тоді ймовірність попадання випадкової точки (X,Y) у прямокутник R, сторони якого паралельні координатним осям, дорівнює

де
- Функція Лапласа. Ця функція табульована.

Нехай густина розподілу нормального закону системи випадкових величин (X,Y) задана у вигляді (52). Зрозуміло, що ця щільність зберігає постійне значення на еліпсах:

де З - Постійна; на цій підставі такі еліпси звуться еліпсів рівних ймовірностей. Можна показати, що ймовірність попадання точки (X,Y) всередину еліпса рівної ймовірності дорівнює

(56)

приклад 10 . Випадкові величини X і Y незалежні та нормально розподілені з Знайти ймовірність того, що випадкова точка (X,Y) потрапить у кільце

Рішення:Так як випадкові величини X і Y незалежні, то вони не корельовані і, отже, r = 0. Підставляючи (С), отримуємо

,

тобто еліпс рівної ймовірності виродився у коло рівної ймовірності. Тоді

Відповідь: 0,1242.

3.2. Загальний випадок n-мірного нормального розподілу

Щільність нормального розподілу системи n випадкових величин має вигляд:

де - визначник матриці З - зворотної до коварійної матриці;
- математичне очікування випадкової величини Х i - i-тої компоненти n -вимірного нормального випадкового вектора.

Із загального виразу випливають усі форми нормального закону будь-якого числа вимірів і будь-яких видів залежності між випадковими величинами. Зокрема, при n = 2 ковараційна матриця має вигляд:

(58)

її визначник
; матриця С, зворотна до коварійної матриці, має вигляд

. (59)

Підставляючи та елементи матриці С у загальну формулу (57), отримуємо формулу для нормального розподілу на площині (52).

Якщо випадкові величини
незалежні, то щільність розподілу системи
дорівнює

При n = 2 ця формула набуває вигляду (53).

Теоретично ймовірностей та її додатках велику роль грає двовимірне нормальне розподіл. Щільність двовимірної нормальної випадкової величини (X,Y) має вигляд

Тут - математичні очікування величин X та Y; - Середні квадратичні відхилення величин X та Y; r – коефіцієнт кореляції величин X та Y.

Припустимо, що випадкові величини X і Y не корельовані, тобто r=0. Тоді маємо:

(53)

Отримали, що щільність розподілу системи двох випадкових величин (X,Y) дорівнює добутку щільностей розподілу компонентів X і Y, а це означає, що X і Y - незалежні випадкові величини.

Таким чином, доведено таку теорема: з некорелюваності нормально розподілених випадкових величин випливає їхня незалежність . Оскільки з незалежності будь-яких випадкових величин випливає їхня некорельованість, то можна зробити висновок, що терміни «некорельовані» та «незалежні» величини для нормального розподілу еквівалентні.

Наведемо формули для ймовірності попадання нормально розподіленої двовимірної випадкової величини різні області на площині.

Нехай випадковий вектор (X,Y), компоненти якого є незалежними, розподілений за нормальним законом (53). Тоді ймовірність попадання випадкової точки (X,Y) у прямокутник R,сторони якого паралельні координатним осям, дорівнює

y R d c х a b

(54)

де - Функція Лапласа. Ця функція табульована.

Нехай густина розподілу нормального закону системи випадкових величин (X,Y) задана у вигляді (52). Зрозуміло, що ця щільність зберігає постійне значення на еліпсах:

де З - Постійна; на цій підставі такі еліпси звуться еліпсів рівних ймовірностей. Можна показати, що ймовірність попадання точки (X,Y) всередину еліпса рівної ймовірності дорівнює

(56)

Приклад 10. Випадкові величини X і Y незалежні та нормально розподілені з Знайти ймовірність того, що випадкова точка (X,Y) потрапить у кільце

Рішення:Так як випадкові величини X і Y незалежні, то вони не корельовані і, отже, r = 0. Підставляючи (С), отримуємо

тобто еліпс рівної ймовірності виродився у коло рівної ймовірності. Тоді

Відповідь: 0,1242.

3.2. Загальний випадок n-мірного нормального розподілу

Щільність нормального розподілу системи n випадкових величин має вигляд:

де - визначник матриці З - зворотної до ковариационной матриці; - математичне очікування випадкової величини Х i - i-тої компоненти n -вимірного нормального випадкового вектора.

Із загального виразу випливають усі форми нормального закону будь-якого числа вимірів і будь-яких видів залежності між випадковими величинами. Зокрема, при n = 2 ковараційна матриця має вигляд:

(58)

її визначник ; матриця С, зворотна до матриці коварійної, має вигляд

. (59)

Підставляючи і елементи матриці в загальну формулу (57), отримуємо формулу для нормального розподілу на площині (52).

Якщо випадкові величини незалежні, то щільність розподілу системи дорівнює

При n = 2 ця формула набуває вигляду (53).

3.2. Функції нормально розподілених випадкових величин. Розподіли хі-квадрат, Стьюдента, Фішера-Снедекору

Розглянемо загальний випадок: лінійну функцію від розподілених аргументів. Нехай дано n-мірний нормально розподілений випадковий вектор , Випадкова величина Y являє собою лінійну функцію від цих величин:

(61)

Можна показати, що випадкова величина Y також нормально розподілена з параметрами

(62)

(63)

де - Математичне очікування випадкової величини - Дисперсія випадкової величини - Коефіцієнт кореляції між і .

Приклад 11.Записати густину розподілу випадкової величини , якщо випадкові величини і мають нормальний розподіл з параметрами , , їх коефіцієнт кореляції .

Рішення. За умовою завдання маємо: n=2; . Використовуючи формулу (62), отримуємо: . Використовуючи формулу (63), отримуємо: .

Тоді потрібна функція розподілу випадкової величини Y має вигляд:

Нехай - незалежні випадкові величини, що підкоряються нормальному розподілу з нульовим математичним очікуванням та одиничною дисперсією, тобто стандартного нормального розподілу. Розподіл випадкової величини, що є сумою квадратів цих величин

. (64)

називається “ розподілом ХІ - квадрат з n ступенями свободи ”.

Щільність розподілу ХІ – квадрат з n=2 ступенями свободи дорівнює

(65)

Щільність ХІ – квадрат розподілу з n ступенями свободи має вигляд:

(66)

де - Гамма-функція Ейлера. Зі зростанням числа ступенів свободи розподіл наближається до нормального закону розподілу (при n >30 розподіл практично відрізняється від нормального). Математичне очікування - розподілу c n ступенями свободи дорівнює n , а дисперсія дорівнює 2 n .

Розподіл Стьюдента з n ступенями свободи St(n)визначається як розподіл випадкової величини

де Z - Стандартна нормальна величина, незалежна від розподілу.

Щільність розподілу Стьюдента з n ступенями свободи має вигляд:

(68)

Математичне очікування при дорівнює 0, дисперсія при рівні При розподілі Стьюдента наближається до нормального (вже при n >30 майже збігається з нормальним розподілом).

розподілом Фішера-Снедекору (або F-розподілом)з і ступенями свободи називається розподіл випадкової величини

(69)

де і - випадкові величини, що мають - розподіл з і ступенями свободи, відповідно.

4. Письмовий Д.Т. Конспект лекцій з теорії ймовірностей та математичної статистики. - М.: Айріс-прес, 2004.

1. Основні відомості про системи випадкових величин та способи їх завдання. . 3

1.1. Поняття системи випадкових величин. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3

1.2. Функція розподілу ймовірностей двовимірної випадкової величини та її

властивості. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 4

1.3. Закон розподілу ймовірностей дискретної двовимірної випадкової величини. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 7

1.4. Щільність розподілу ймовірностей безперервної двовимірної випадкової величини та її властивості. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 9

1.5. Система випадкових величин. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 13

2. Залежність та незалежність випадкових величин. . . . . . . . . . . . . . . . . . . . . . . 14

2.1. Незалежні випадкові величини. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 14

2.2. Умовні закони розподілу. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 15

2.3. Числові характеристики залежності. . . . . . . . . . . . . . . . . . . . . . . . . . . . . 19

3. Нормальний розподіл системи випадкових величин. . . . . . . . . . . . . . . . 22

3.1. Двовимірний нормальний розподіл. . . . . . . . . . . . . . . . . . . . . . . . . . . . . 22

3.2. Загальний випадок n-вимірного нормального розподілу. . . . . . . . . . . . . . . . 24

3.3. Функції нормально розподілених випадкових величин. Розподіли ХІ – квадрат, Стьюдента, Фішера – Снедекору. . . . . . . . . . . . . . . . . . . 25

Список літератури. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 27

Упорядник Бобкова Віра Олександрівна

Системи випадкових величин

Методичні вказівки для самостійної роботи студентів

Редактор Г.В.Куликова

Підписано до друку 02.03.2010. Формат 60х84. Папір письмовий. Усл.печ.л.1,63.

Уч.-вид.л.1,81. Тираж 50 екз.

ГОУ ВПО Іванівський державний хіміко-технологічний університет

Надруковано на поліграфічному обладнанні кафедри економіки та фінансів ГОУ ВПО «ІДХТУ»

153000, м.Іванове, пр. Ф.Енгельса, 7