Глава IV Теорія випадкових процесів. Основні поняття теорії випадкових процесів

Конспект лекцій з дисципліни «Теорія випадкових процесів»

ТЕМА 1. ОСНОВНІ ПОНЯТТЯ ТЕОРІЇ ВИПАДКОВИХ ПРОЦЕСІВ 2
1.1. Визначення випадкового процесу. Основні підходи до завдання випадкових процесів. Поняття реалізації та перерізу. Елементарні довільні процеси. 2
1.2. Деякі класи та види випадкових процесів 3
ТЕМА 2. ЕЛЕМЕНТИ КОРРЕЛЯЦІЙНОЇ ТЕОРІЇ ВИПАДКОВИХ ПРОЦЕСІВ 4
2.1. Поняття кореляційної теорії випадкових процесів 4
2.2. Математичне очікування та дисперсія випадкового процесу. Середньоквадратичне відхилення 5
2.3. Кореляційна функція випадкового процесу та її властивості. Нормована кореляційна функція 5
2.4. Взаємна кореляційна функція та нормована взаємна кореляційна функція двох випадкових процесів 6
2.5 Імовірнісні характеристики суми двох випадкових величин 6
ТЕМА 3. ЕЛЕМЕНТИ ВИПАДКОВОГО АНАЛІЗУ 7
3.1. Східність та безперервність 7
3.2. Похідна випадкового процесу та її властивості 8
3.3. Інтеграл від випадкового процесу та його властивості 9
ТЕМА 4. КАНОНІЧНІ РОЗКЛАДАННЯ ВИПАДКОВИХ ПРОЦЕСІВ 10
4.1. Поняття канонічного розкладання випадкового процесу 10
4.2. Концепція узагальненої функції. Дельта-функція Дірака. Інтегральне канонічне уявлення випадкових процесів. 11
4.3. Лінійні та нелінійні перетворення випадкових процесів 12
ГЛАВА 5. СТАЦІОНАРНІ ВИПАДКОВІ ПРОЦЕСИ 14
5.1. Концепція стаціонарного випадкового процесу. Стаціонарність у вузькому та широкому сенсах 14
5.2 Властивості ймовірнісних характеристик стаціонарного випадкового процесу 15
5.3. Стаціонарно пов'язані випадкові процеси. Похідна та інтеграл від стаціонарного випадкового процесу 15
5.4. Ергодичні стаціонарні випадкові процеси та їх характеристики 16
5.5. Потоки подій 17
ТЕМА 6. ЛАНЦЮГИ МАРКОВА 19
6.1. Ланцюги Маркова. 19

ТЕМА 1. ОСНОВНІ ПОНЯТТЯ ТЕОРІЇ ВИПАДКОВИХ ПРОЦЕСІВ

1.1. Визначення випадкового процесу. Основні підходи до завдання випадкових процесів. Поняття реалізації та перерізу. Елементарні довільні процеси.

Випадковим (стохастичним, імовірнісним) процесом називається функція дійсного змінного t, значеннями якої є відповідні випадкові величини X(t).
Теоретично випадкових процесів t трактується як час, що приймає значення з деякого підмножини Т безлічі дійсних чисел (t T, T R).
У рамках класичного математичного аналізу під функцією y=f(t) розуміється такий тип залежності змінних величин t і y, коли конкретного числового значення аргументу t відповідає і до того ж єдине числове значення функції y. Для випадкових процесів ситуація принципово інша: завдання конкретного аргументу t призводить до появи випадкової величини X(t) з відомим законом розподілу (якщо це дискретна випадкова величина) або із заданою щільністю розподілу (якщо це безперервна випадкова величина). Іншими словами, досліджувана характеристика в кожний момент часу має випадковий характер з невипадковим розподілом.
Значення, які набуває звичайна функція y=f(t) у кожний момент часу, повністю визначає структуру та властивості цієї функції. Для випадкових процесів справа інакше: тут зовсім мало знати розподіл випадкової величини X(t) при кожному значенні t, необхідна інформація про очікувані зміни та їх ймовірності, тобто інформація про ступінь залежності майбутнього значення випадкового процесу від його передісторії.

Найбільш загальний підхід в описі випадкових процесів полягає у завданні всіх його багатовимірних розподілів, коли визначено можливість одночасного виконання наступних подій:

T1, t2,...,tn T, n N: X(ti)≤xi; i=1,2,…,n;

F(t1;t2;…;tn;x1;x2;…;xn)=P(X(t1)≤ x1; X(t2)≤x2;…; X(tn)≤xn).

Такий спосіб опису випадкових процесів універсальний, але дуже громіздкий. Для отримання суттєвих результатів виділяють найважливіші окремі випадки, що допускають застосування більш досконалого аналітичного апарату. Зокрема, зручно розглядати випадковий процес X(t, ω) як функцію двох змінних: t T, ω Ω, яка за будь-якого фіксованого значення t T стає випадковою величиною, визначеною на ймовірнісному просторі (Ω, A, P), де Ω - непорожнє безліч елементарних подій ω; A - σ-алгебра підмножин множини Ω, тобто безліч подій; P - імовірнісна міра, визначена на A.

Невипадкова числова функція x(t)=X(t,ω0) називається реалізацією (траєкторією) випадкового процесу X(t, ω).
Перерізом випадкового процесу X(t, ω) називається випадкова величина, що відповідає значенню t=t0.

Якщо аргумент t приймає всі дійсні значення або всі значення деякого інтервалу T дійсної осі, то говорять про випадковий процес з безперервним часом. Якщо t набуває лише фіксованих значень, то говорять про випадковий процес з дискретним часом.
Якщо переріз випадкового процесу - дискретна випадкова величина, такий процес називається процесом з дискретними станами. Якщо ж будь-яке перетин - безперервна випадкова величина, то випадковий процес називається процесом з безперервними станами.
Загалом задати випадковий процес аналітично неможливо. Виняток становлять звані елементарні випадкові процеси, вид яких відомий, а випадкові величини входять як параметри:
X(t)=Х(t,A1,…,An), де Ai, i=1,…,n - довільні випадкові величини з конкретним розподілом.

1.2. Деякі класи та види випадкових процесів

1.1.1. Гауссівські випадкові процеси

Випадковий процес X(t) називається гауссовським, якщо всі його кінцеві розподіли є нормальними, тобто
t1, t2, ..., tn T
випадковий вектор
(X(t1); X(t2);…; X(tn))
має наступну щільність розподілу:

Де ai = MX (ti); = M(X(ti)-ai)2; сij = M((X(ti)-ai)(X(tj)-aj)); ;
-Алгебраїчне доповнення елемента сij.

1.1.2. Випадкові процеси із незалежними приростами

Випадковий процес X(t) називається процесом з незалежними прирощеннями, якщо його прирощення на тимчасових проміжках, що не перетинаються, не залежать один від одного:
t1, t2,…,tn T: t1 ≤t2 ≤…≤tn,
випадкові величини
X(t2)-X(t1); X(t3)-X(t2); …; X(tn)-X(tn-1)
незалежні.

1.1.3. Випадкові процеси з некорельованими приростами

Випадковий процес X(t) називається процесом з некорельованими приростами, якщо виконуються такі умови:
1) t T: МX2(t)< ∞;
2) t1, t2, t3, t4 T: t1 ≤t2 ≤ t3≤ t4: М((X(t2)-X(t1))(X(t4)-X(t3)))=0.

1.1.4. Стаціонарні випадкові процеси (див. Розділ 5)

1.1.5. Марківські випадкові процеси

Обмежимося визначенням марковського випадкового процесу з дискретними станами та дискретним часом (ланцюг Маркова).

Нехай система А може бути в одному з несумісних станів А1; А2;…;Аn, і навіть ймовірність Рij(s) те, що у s-ом випробуванні система перетворюється із стану у стан Аj, залежить від стану системи у випробуваннях, попередніх s-1-ому. Випадковий процес цього типу називається ланцюгом Маркова.

1.1.6. Пуассонівські випадкові процеси

Випадковий процес X(t) називається пуассонівським процесом з параметром а (а>0), якщо він має наступні властивості:
1) t T; Т= називається межа в середньоквадратичному при λ→0 (n→0)

Інтегральних сум де si (ti; ti+1); λ=max(ti+1 - ti), i=0,…,n-1.

Теорема 4. Математичне очікування інтеграла від випадкового процесу дорівнює інтегралу з його математичного очікування: , .
Теорема 5. Кореляційна функція інтеграла від випадкового процесу X(t) дорівнює подвійному інтегралу з його кореляційної функції: .
Теорема 6. Взаємна кореляційна функція випадкового процесу X(t) та його інтеграла дорівнює інтегралу від кореляційної функції випадкового процесу X(t):

ТЕМА 4. КАНОНІЧНІ РОЗкладання ВИПАДКОВИХ ПРОЦЕСІВ

4.1. Поняття канонічного розкладання випадкового процесу

Випадкова величина V називається центрованою, якщо її математичне очікування дорівнює 0. Елементарним центрованим випадковим процесом називається добуток центрованої випадкової величини V на невипадкову функцію φ(t): X(t)=V φ(t). Елементарний центрований випадковий процес має такі характеристики:

Вираз виду, де φk(t), k=1;2;…-невипадкові функції; , k=1;2;…-некорельовані центровані випадкові величини, називається канонічним розкладанням випадкового процесу X(t), у своїй випадкові величини називаються коефіцієнтами канонічного розкладання; а невипадкові функції φk(t) – координатними функціями канонічного розкладання.

Розглянемо характеристики випадкового процесу

Бо за умовою то

Очевидно, що той самий випадковий процес має різні види канонічного розкладання залежно від вибору координатних функцій. Більше того, навіть при виборі координатних функцій існує свавілля в розподілі випадкових величин Vк. Насправді за підсумками експериментів отримують оцінки для математичного очікування і кореляційної функции: . Після розкладання у подвійний ряд Фур'є за координатними функціями φк(t):

Отримують значення дисперсій випадкових величин Vk.
4.2. Концепція узагальненої функції. Дельта-функція Дірака. Інтегральне канонічне уявлення випадкових процесів.

Узагальненою функцією називається межа послідовності однопараметричного сімейства безперервних функцій.
Дельта-функція Дірака - це узагальнена функція, що є результатом граничного переходу при сімействі функцій

Серед властивостей функції відзначимо наступне:
1.
2.
3. Якщо f(t) - безперервна функція, то

Випадковий процес Х(t), кореляційна функція якого має вигляд називається нестаціонарним «білим шумом». Якщо W(t1)=W – const, то Х(t)-стаціонарний «білий шум».

Як випливає з визначення, ніякі два, навіть як завгодно близькі, перерізи «білого шуму» не корелювані. Вираз W(t) називається інтенсивністю "білого шуму".

Інтегральним канонічним уявленням випадкового процесу Х(t) називається вираз виду де – випадкова центрована функція; - невипадкова функція безперервних аргументів

Кореляційна функція такого випадкового процесу має вигляд:
.
Можна показати, що існує невипадкова функція G(λ) така, що

Де G(λ1) – щільність дисперсії; δ(х) - дельта-функція Дірака. Отримуємо
Отже, дисперсія випадкового процесу Х(t):
.

4.3. Лінійні та нелінійні перетворення випадкових процесів

Розглядається таке завдання: на вхід системи (пристрою, перетворювача) S подається «вхідний сигнал», що має характер випадкового процесу Х(t). Система перетворює їх у «вихідний сигнал» Y(t):
.
Формально перетворення випадкового процесу Х(t) на Y(t) може бути описано за допомогою так званого оператора системи Аt:
Y(t)=At(Х(t)).
Індекс t показує, що цей оператор здійснює перетворення за часом. Можливі такі постановки завдання перетворення випадкового процесу.
1. Відомі закони розподілу або загальні характеристики випадкового процесу Х(t) на вході в систему S, заданий оператором Аt системи S, потрібно визначити закон розподілу або загальні характеристики випадкового процесу Y(t) на виході системи S.
2. Відомі закони розподілу (загальні характеристики) випадкового процесу Х(t) та вимоги до випадкового процесу Y(t); треба визначити вид оператора Аt системи S, що найкраще задовольняє заданим вимогам до Y(t).
3. Відомі закони розподілу (загальні характеристики) випадкового процесу Y(t) та заданий оператор Аt системи S; потрібно визначити закони розподілу чи загальні характеристики випадкового процесу Х(t).
Прийнято таку класифікацію операторів Аt системи S:

Оператори системи

Лінійні L Нелінійні N

Лінійні однорідні L0 Лінійні неоднорідні Lн

1. Розглянемо вплив лінійної неоднорідної системи
Lн(...)=L0(…)+φ(t)
на випадковий процес Х(t), що має наступне канонічне розкладання:
.
Отримуємо:

Введемо позначення

Тоді канонічне розкладання Y(t) набуває вигляду:
.
Математичне очікування випадкового процесу Y(t):

Кореляційна функція випадкового процесу Y(t):

Отже,
.
З іншого боку

Дисперсія випадкового процесу Y(t):

На закінчення цього пункту зазначимо, що оператори диференціювання та інтегрування випадкових процесів є лінійними однорідними.
2. Розглядається квадратичне перетворення:
Y(t)=(X(t))2,
Vk-центровані випадкові величини, що мають симетричний щодо нуля розподіл; будь-які чотири з них незалежні в сукупності. Тоді

Введемо невипадкові функції

І випадкові величини

Тоді випадковий процес Y(t) набуває вигляду

Отримано канонічне розкладання довільного процесу Y(t). Кореляційна функція Y(t):

Дисперсія:

РОЗДІЛ 5. СТАЦІОНАРНІ ВИПАДКОВІ ПРОЦЕСИ

5.1. Концепція стаціонарного випадкового процесу. Стаціонарність у вузькому та широкому сенсах

Стаціонарним (однорідним у часі) називають випадковий процес, статистичні характеристики якого не змінюються з часом, тобто є інваріантними щодо тимчасових зрушень.
Розрізняють випадкові процеси стаціонарні у широкому та вузькому значенні.

Стаціонарним випадковим процесом у вузькому значенні називається випадковий процес Х(t), всі ймовірнісні характеристики якого не змінюються з часом, тобто таких, що виконується умова
F(t1; t2;… ;tn; x1; x2;…; xn)=F(t1+τ; t2+τ;… ;tn+τ; x1; x2;…; xn), і, отже, все n -мірні розподіли залежать не від моментів часу t1; t2;… ;tn, як від тривалості часових проміжків τi:

Зокрема, одномірна щільність розподілу взагалі залежить від часу t:

Двовимірна щільність перерізів у моменти часу t1 та t2

N-вимірна щільність перерізів у моменти часу t1; t2...; tn:

Випадковий процес Х(t) називається стаціонарним у широкому значенні, якщо його моменти першого та другого порядку інваріантні щодо тимчасового зсуву, тобто його математичне очікування не залежить від часу t і є константою, а кореляційна функція залежить тільки від довжини часового проміжку між перерізами:
Вочевидь, що стаціонарний випадковий процес у вузькому значенні є стаціонарним випадковим процесом й у сенсі; зворотне твердження не так.

5.2 Властивості ймовірнісних характеристик стаціонарного випадкового процесу
1.

3. Кореляційна функція стаціонарного випадкового процесу парна:

4. Дисперсія стаціонарного випадкового процесу є константа, яка дорівнює
значення її кореляційної функції в точці:

5.
6. Кореляційна функція стаціонарного випадкового процесу є
позитивно визначеною, тобто

Нормована кореляційна функція стаціонарного випадкового процесу також парна, позитивно визначена і при цьому

5.3. Стаціонарно пов'язані випадкові процеси. Похідна та інтеграл від стаціонарного випадкового процесу

Випадкові процеси X(t) і Y(t) називаються стаціонарно пов'язаними, якщо їхня взаємна кореляційна функція залежить тільки від різниці аргументів τ = t2-t1: RXY(t1; t2) = rXY (τ).

Стаціонарність самих випадкових процесів X(t) і Y(t) не означає їхньої стаціонарної зв'язаності.
Відзначимо основні властивості стаціонарно пов'язаних випадкових процесів, похідної та інтеграла від стаціонарних випадкових процесів,
1) rXY(τ)=rYX(-τ).
2)
3)
4)
де
5) де
6) ;

5.4. Ергодичні стаціонарні випадкові процеси та їх характеристики

Серед стаціонарних випадкових процесів є особливий клас процесів, званих ергодичними, які мають наступну властивість: їх характеристики, отримані усередненням безлічі всіх реалізацій, збігаються з відповідними характеристиками, отриманими усередненням за часом однієї реалізації, що спостерігається на інтервалі (0, T) досить великий продовження. Тобто на досить великому часовому проміжку будь-яка реалізація проходить через будь-який стан незалежно від того, яким був вихідний стан системи при t=0; й у сенсі будь-яка реалізація повністю представляє всю сукупність реалізацій.

Ергодична теорема Біркгофа-Хінчина
Для будь-якого стаціонарного випадкового процесу у вузькому сенсі X(t), що має кінцеве математичне очікування з ймовірністю 1, існує межа
для ССП з безперервним часом,
для ССП із дискретним часом.
Якщо при цьому X(t) – ергодичний стаціонарний випадковий процес, то
У разі теореми - умовне математичне очікування випадкового процесу X(t) щодо Jx; Jx - -алгебра інваріантних по відношенню до X(t) подій; подія А називається інваріантною щодо X(t), якщо B таке, що A=(ω: X(ω,t) B).

Достатні умови ергодичності
Теорема 1. Стаціонарний випадковий процес X(t) ергодичний щодо
математичного очікування, якщо його кореляційна функція
прагне нуля при τ→∞;
при цьому: .

Теорема 2. Стаціонарний випадковий процес X(t) ергодичний щодо
дисперсії, якщо кореляційна функція стаціонарного слу-
чайного процесу Y(t)=X2(t) прагне нуля при τ→∞;
при цьому:

Теорема 3. Стаціонарний випадковий процес X(t) ергодичний щодо
кореляційної функції, якщо прагне нуля при τ→∞ кор-
реляційна функція стаціонарного випадкового процесу
Z(t, τ)=;
при цьому:

При практичних розрахунках інтервал (0; Т) розбивається на n рівних частин у кожному проміжку вибирається точка ti (наприклад, середина). Якщо обмежитися формулою прямокутників, отримуємо

5.5. Потоки подій
Потоком подій називається послідовність подій, що з'являються у довільний момент часу.

Властивості потоків подій:
1) Стаціонарність потоку.
Потік називається стаціонарним, якщо ймовірність m подій на будь-якому проміжку часу залежить тільки від кількості подій m і від протяжності інтервалу і не залежить від моменту часу, в який цей проміжок почався
2) Відсутність післядії.
Говорять, що потік подій має властивість відсутності післядії, якщо ймовірність появи m подій на будь-якому проміжку часу не залежить від того, з'являлися чи ні події в моменти часу, що безпосередньо передують даному проміжку.
Передісторія потоку не впливає на появу подій у найближчому майбутньому. Якщо потік має властивість відсутності післядії, то випадкові величини появи подій на проміжках, що не перетинаються, є незалежними один від одного.
3) Ординарність.
Кажуть, що потік має властивість ординарності, якщо за нескінченно мінімальний проміжок часу може статися трохи більше однієї події, тобто. Поява 2-х і більше подій за мінімальний проміжок часу практично неможливо.
4) Пуасонівський потік
Якщо потік одночасно має властивості стаціонарності, відсутності післядії та ординарності, то він називається найпростішим (Пуассонівським) потоком.

Теорема. Якщо потік є сумою великої кількості незалежних стаціонарних потоків, вплив кожного з яких мізерно мало, то сумарний потік за умови його ординарності близький до найпростішого.
Інтенсивністю потоку - називається середня кількість подій, що відбуваються в одиницю часу.
Якщо потік має постійну інтенсивність, то ймовірність появи m подій на проміжки часу тривалістю обчислюється за формулою Пуассона.
– Пуасонівський потік.
Завдання про просту телеграфну хвилю.
Є деякий пристрій, який подається сигнал. Ці сигнали утворюють найпростіший потік.
X(t) a -a
P 1/2 1/2
Дослідити характеристики СП X(t), який набуває значення ±a у довільні моменти часу. Дискретний СП із безперервним часом. M(X(t)) = 0

X(t1)X(t2) a2 -a2
P Рахунок
Нехай t1< t2 => τ > 0

Отже, телеграфна хвиля ергодичний ССП.
Обґрунтування – повинні виконатися такі властивості
1) Стаціонарність – немає залежність від вибору проміжку часу.
2) Відсутність післядії – у формулі не фігурують моменти часу.
3) Ординарність
Імовірність не однієї події
Імовірність 1-ї події
Ймовірність більше двох подій
при =>
при малих ? прагнути до нуля зі швидкістю не менше квадрата.

ТЕМА 6. ЛАНЦЮГИ МАРКОВА

6.1. Ланцюги Маркова.

Ланцюг Маркова - це послідовність подій, у кожному з яких з'являються і при тому тільки одна з несумісних подій A1, A2 ... Якщо при цьому умовна ймовірність pij (s) в s-му випробування настане подія Ai і умова, що в s-1 випробування сталася подія Aj е залежить від результату попередніх подій.
Ланцюгом Маркова з дискретними часом називають ланцюг, зміна станів якого відбувається у фіксовані моменти часу.
Ланцюгом Маркова з безперервним часом називають ланцюг зміна станів якого відбувається у довільний момент часу.
Ланцюг Маркова називається однорідним, якщо умовна ймовірність pij(s) переходу в стан з Ai до Aj не залежить від номера випробування, від s.
Імовірність того, що система в результаті випробування переходить з Ai в Aj називається перехідними ймовірностями однорідного ланцюга Маркова.
Перехідні ймовірності утворюють матрицю перехідних ймовірностей i=1;...;k
Рівність Маркова
Pij(n) – ймовірність переходу системи зі стану Ai до Aj за n випробувань

Наслідки
1) n = 2; m=1
; Pij(1)=pi,j; P2=(Pi,j(2))=P1P1=P2
2) n = 3; m=2
; P3=P3
3) Pn = P12.

1. Поняття випадкової функції, стохастичні процеси

При вивченні багатьох явищ систематично доводиться мати справу з випадковими величинами, що змінюються у процесі проведення випробування протягом певного часу. Ми вже зустрічалися з прикладами таких явищ у параграфах 6.2. та 9.2. у зв'язку із законом розподілу Пуассона.

Прикладами таких с. є: розпад радіоактивної речовини при хімічній реакції, сигнал на виході радіоприймача під впливом перешкод, довжина черги за квитком на футбольний матч, коливання цін у системі торгівлі товарів першої необхідності, завантаженість студентів протягом навчального семестру, траєкторія частинок у броунівському русі, рейтинг претендентів у виборчих процесах, кількість викликів, що надходять на телефонну станцію, і т.д.

Такі випадкові величини, що змінюються у процесі досвіду (спостереження, випробування) називають випадковими процесами (випадковими функціями). В даний час ряд галузей техніки і науки (фізична статистика, процес дифузії, процеси хімічної реакції тощо) поставило перед теорією ймовірностей нові завдання, що не укладаються в рамки класичної теорії ймовірностей. Тоді багато галузей людської діяльності цікавлять вивчення процесів, тобто явищ, які у часі. Вони вимагали від науки теорії ймовірностей розробку загальної теорії, про, випадкових процесів. Іншими словами, розробки теорії, яка вивчала б випадкові величини, що залежать від одного або декількох тимчасових параметрів, що безперервно змінюються. Наведемо приклади таких завдань, що ілюструють необхідність побудови теорії випадкових процесів.

Уявімо, що ми хочемо простежити за рухом якоїсь молекули газу чи рідини. Ця молекула у випадкові моменти часу стикається з іншими молекулами і змінює у своїй свої швидкість і становище. Очевидно, що стан молекули схильний до випадкових змін у кожний момент часу. Багато явищ природи вимагають для свого вивчення вміння обчислювати ймовірність того, що певна кількість явищ (молекул, зміна цін, надходження радіосигналів і т.д.) змінює те чи інше становище. На всі ці та інші питання дає відповідь статистична теорія випадкових процесів або, як прийнято її називати « теорія стохастичних процесів ». Очевидно, що подібні завдання виникають у фізиці, хімії, астрономії, економіці, генетиці та ін. Наприклад, коли вивчають процес хімічної реакції, виникає законне питання:

Яка частина молекули вже вступила в реакцію,

Як відбувається ця реакція у часі,

Коли фактично реакція вже закінчилася?

Багато явищ протікає за принципом радіоактивного розпаду. Суть цього явища у тому, що атоми радіоактивної речовини розпадаються миттєво, перетворюючись на атоми іншого хімічного елемента. Розпад кожного атома відбувається за часом швидко і з великою швидкістю, подібно до вибуху, з виділенням певної кількості енергії. Як правило, численні спостереження показують, що розпад різних атомів для спостерігача відбувається у випадково взяті моменти часу. При цьому розташування цих моментів часу не залежить один від одного в сенсі теорії ймовірностей. Для вивчення процесу радіоактивного розпаду суттєво визначити, яка ймовірність того, що за певний проміжок часу розпадеться деяка кількість атомів? Формально, якщо задаватися лише з'ясуванням математичної картини подібних явищ, можна знайти просте рішення таких математичних завдань, яких призводять подібні явища.

Коротко викладемо як, виходячи з розгляду проблеми блукання частинок прямою, вченими Планком і Фоккером було отримано диференціальне рівняння в теорії дифузії.

Нехай частка в момент часу в точці
, у моменти
відчуває випадкові поштовхи, внаслідок яких вона щоразу переміщається з ймовірністю на величину вправо та з ймовірністю
також на величину ліворуч.

Позначимо через
ймовірність того, що частка в результаті поштовхів виявиться в момент часу
у положенні (зрозуміло, що при парному числі поштовхів величина може дорівнювати лише парному числу кроків , а при непарному – лише непарному числу кроків . Якщо через
позначити кількість кроків, зроблених частинкою вправо (тоді

є число кроків, які частка зробила вліво), то згідно з формулою Бернуллі ця ймовірність дорівнює

Зрозуміло, що ці величини пов'язані між собою рівністю
Безпосередньо можна переконатися, що функція
задовольняє різницеве ​​рівняння

з початковими умовами
і при

. Фізична природа завдання змусить нас піти на певні природні обмеження щодо параметрів
. Недотримання деяких необхідних умов, про які йтиметься далі, може призвести до того, що за кінцевий проміжок часу частка з ймовірністю рівної одиниці може піти в нескінченність. Для того щоб виключити таку можливість, накладаємо на параметри наступні умови при

де величина висловлює швидкості течії, а
коефіцієнт дифузії.

Віднімемо від обох частин рівності (1) величину
, отримаємо

Припустимо, що функція
диференційована по двічі та один раз по . Тоді маємо

Після підстановки отриманих рівностей у (3) маємо

Звідси, переходячи до межі
і на підставі умов (2) отримаємо остаточно

(4)

Таким чином, ми отримали відоме рівняння, що носить в теорії дифузії назву рівняння Фоккера – Планка.

Початок загальної теорії стохастичних процесів було покладено у фундаментальних роботах О.М. Колмогорова та А.Я. Хінчина на початку 30-х років. У статті О.М. Колмогорова «Про аналітичні методи теорії ймовірностей» було дано систематичну та сувору побудову основ теорії стохастичних процесів без післядіїчи, як часто кажуть, процесів Марковського типу. У низці робіт Хінчина було створено теорію, про, стаціонарних процесів.

Таким чином, розділ математики, що вивчає випадкові явища в динаміці їх

розвитку, називається теорією випадкових процесів(випадкових функцій). Її методи часто використовуються: в теорії автоматичного управління, при аналізі та плануванні фінансової діяльності підприємств та господарств, при обробці та передачі необхідних інформацій (сигналів у радіотехнічних пристроях, супутникових зв'язків та ін), в економіці та теорії масового обслуговування.

Стисло розглянемо основні поняття теорії випадкових процесів (СП).

Якщо кожному значенню
, де позначає кілька дійсних чисел, поставлена ​​у відповідність с.в.
, то кажуть, що на безлічі задана випадкова функція (с.ф.)
. Випадкові процеси, у яких
особливо важливі в додатках. У тих випадках, коли параметр інтерпретується як часовий параметр, то випадкова функція називається випадковим процесом, тобто. випадковим процесомназивається сімейство с.в.
залежних від параметра
і заданих на тому самому просторі елементарних подій
Позначається
або

Випадковий процес можна поставити у вигляді формули (аналітичного запису), якщо вид випадкової функції відомий. Наприклад, с.ф. є с.п., де випадкова величина
має рівномірний розподіл. При фіксованому значенні
, с.п.
,то с.п. звертається до с.в.
яку називають перетином випадкового процесу.

Реалізацієюабо траєкторієювипадкового процесу
називається невипадковафункція часу
при фіксованому
, тобто. внаслідок випробування с.п. набуває конкретного вигляду
, у своїй реалізації с.п. позначають через
,
де індекси вказують номер випробування.

На рис.59 показано три реалізації
випадкового процесу при
;

Вони нагадують види трьох синусоїдальних коливальних явищ у деякому механічному процесі, при цьому кожна така реалізація (траєкторія) є звичайною функцією

Рис.59 (Письмовий).

У цьому прикладі с.в. у трьох дослідах набула відповідно три значення: 1, 2, 0,5, тобто. констатується три реалізації СП:. Усі три функції є невипадковими. Якщо в цьому прикладі зафіксувати момент часу,
, то отримаємо перетин:
- випадкова величина або при
,-Випадкові величини. Зазначимо, що так званий одновимірний закон розподілу випадкового процесу
не є вичерпною характеристикою с.п.Випадковий процес
є сукупністю всіх перерізів при різних значеннях
тому для повного його опису слід розглядати спільну функцію розподілу перерізів процесу:

так званий кінцевий закон розподілу с.п. у моменти
. Тобто з'являються багатовимірні с.в.

Отже, поняття с.п. є прямим узагальненням поняття системи випадкових величин, коли цих величин – безліч.

Вступ

Теорія випадкових процесів (випадкових функцій) - це розділ математичної науки, що вивчає закономірності випадкових явищ у поступовій динаміці розвитку.

В даний час з'явилася велика кількість літератури, присвяченої безпосередньо теорії масового обслуговування, розвитку її математичних аспектів, а також різних сфер її застосування – військової, медичної, транспортної, торгівлі, авіації та ін.

Теорія масового обслуговування спирається на теорію ймовірностей та математичну статистику. Початковий розвиток теорії масового обслуговування пов'язаний з ім'ям датського вченого А.К. Ерланга (1878-1929), з його працями в галузі проектування та експлуатації телефонних станцій.

Теорія масового обслуговування - область прикладної математики, що займається аналізом процесів у системах виробництва, обслуговування, управління, у яких однорідні події повторюються багаторазово, наприклад, на підприємствах побутового обслуговування; у системах прийому, переробки та передачі інформації; автоматичних лініях виробництва та ін. Великий внесок у розвиток цієї теорії зробили російські математики А.Я. Хінчін, Б.В. Гнєденко, О.М. Колмогоров, Є.С. Вентцель та ін.

Предметом теорії масового обслуговування є встановлення залежностей між характером потоку заявок, числом каналів обслуговування, продуктивністю окремого каналу та ефективним обслуговуванням з метою знаходження найкращих шляхів управління цими процесами. Завдання теорії масового обслуговування носять оптимізаційний характер і в кінцевому підсумку включають економічний аспект визначення такого, варіанта системи, при якому буде забезпечений мінімум сумарних витрат від очікування обслуговування, втрат часу і ресурсів на обслуговування і від простоїв каналів обслуговування.

У комерційній діяльності застосування теорії масового обслуговування поки що не знайшло бажаного поширення.

Здебільшого це з труднощами постановки завдань, необхідністю глибокого розуміння змісту комерційної діяльності, і навіть надійного і точного інструментарію, що дозволяє прораховувати у комерційної діяльності різні варіанти наслідків управлінських рішень.

1. Визначення випадкового процесу та його характеристики

Випадковим процесом X(t) називається процес, значення якого за будь-якого значення аргументу t є випадковою величиною.

Іншими словами, випадковий процес є функцією, яка в результаті випробування може прийняти той чи інший конкретний вид, невідомий заздалегідь. При фіксованому t = to X(to) є звичайну випадкову величину, тобто. переріз випадкового процесу на момент tо.

Реалізацією випадкового процесу X (t, w) називається невипадкова функція x (t), яку перетворюється випадковий процес X (t) в результаті випробування (при фіксованому w), тобто. конкретний вид, який приймається випадковим процесом X(t), його траєкторія.

Таким чином, випадковий процес X (t, w) поєднує в собі риси випадкової величини та функції. Якщо зафіксувати значення аргументу t, випадковий процес перетворюється на звичайну випадкову величину, якщо зафіксувати w, то в результаті кожного випробування він перетворюється на звичайну невипадкову функцію.

Як і випадкова величина, випадковий процес може бути описаний числовими характеристиками.

Математичним очікуванням випадкового процесу X(t) називається невипадкова функція a x (t), яка за будь-якого значення змінної t дорівнює математичному очікуванню відповідного перерізу випадкового процесу X(t), тобто. ax (t) = M.

Дисперсією випадкового процесу X(t) називається невипадкова функція. D x (t), за будь-якого значення змінної t дорівнює дисперсії відповідного перерізу випадкового процесу X(t), тобто. Dx (t) = D.

Середнім квадратичним відхиленням випадкового процесу X(t) називається арифметичне значення кореня квадратного із його дисперсії, тобто.

Математичне очікування випадкового процесу характеризує середню траєкторію всіх можливих його реалізацій, а його дисперсія або середнє квадратичне відхилення - розб реалізацій щодо середньої траєкторії.

Кореляційною функцією випадкового процесу X(t) називається невипадкова функція

двох змінних t1 та t 2, яка при кожній парі змінних t1 і t2 дорівнює коваріації відповідних перерізів X(t1) та X(t 2) випадкового процесу.

Нормованою кореляційною функцією випадкового процесу X(t) називається функція

Випадкові процеси можна класифікувати в залежності від того, плавно або стрибкоподібно змінюються стани системи, в якій вони протікають, звичайно (лічильна) або безліч цих станів і т.п. Серед випадкових процесів особливе місце належить марківському випадковому процесу. Але насамперед познайомимося з основними поняттями теорії масового обслуговування

2. Основні поняття теорії масового обслуговування

Насправді часто доводиться зіштовхуватися із системами, призначеними для багаторазового використання під час вирішення однотипних завдань. Виникають у своїй процеси отримали назву процесів обслуговування, а системи - систем масового обслуговування (СМО). Прикладами таких систем є телефонні системи, ремонтні майстерні, обчислювальні комплекси, квиткові каси, магазини, перукарні тощо.

Кожна СМО складається з певної кількості обслуговуючих одиниць (приладів, пристроїв, пунктів, станцій), які називатимемо каналами обслуговування. Каналами можуть бути лінії зв'язку, робочі точки, обчислювальні машини, продавці та ін. За кількістю каналів СМО поділяють на одноканальні та багатоканальні.

Заявки надходять у СМО зазвичай не регулярно, а випадково, утворюючи так званий випадковий потік заявок (вимог). Обслуговування заявок, взагалі кажучи, також продовжується якийсь випадковий час. Випадковий характер потоку заявок і часу обслуговування призводить до того, що СМО виявляється завантаженою нерівномірно: в якісь періоди часу накопичується дуже велика кількість заявок (вони або стають в чергу, або залишають СМО необслуженими), в інші періоди СМО працює з недовантаженням або простоює.

Предметом теорії масового обслуговування є побудова математичних моделей, що пов'язують задані умови роботи СМО (кількість каналів, їх продуктивність, характер потоку заявок тощо) з показниками ефективності СМО, що описують її здатність справлятися з потоками заявок.

Як показники ефективності СМО використовуються: середня кількість заявок, що обслуговуються в одиницю часу; середня кількість заявок у черзі; середній час очікування на обслуговування; ймовірність відмови в обслуговуванні без очікування; ймовірність того, що кількість заявок у черзі перевищить певне значення, тощо.

СМО ділять на два основні типи (класу): СМО з відмовами та СМО з очікуванням (чергою). У СМО з відмовами заявка, що надійшла в момент, коли всі канали зайняті, отримує відмову, залишає СМО і в подальшому процесі обслуговування не бере участі (наприклад, заявка на телефонну розмову в момент, коли всі канали зайняті, отримує відмову та залишає СМО необслуженою). У СМО з очікуванням заявка, яка прийшла в момент, коли всі канали зайняті, не йде, а стає на чергу на обслуговування.

СМО з очікуванням поділяються на різні види залежно від того, як організовано чергу: з обмеженою або необмеженою довжиною черги, з обмеженим часом очікування тощо.

3. Поняття марковського випадкового процесу

Процес роботи СМО є випадковим процесом.

Процес називається процесом з дискретними станами, якщо його можливі стани S1, S2, S3 ... можна заздалегідь перерахувати, а перехід системи зі стану в стан відбувається миттєво (стрибком). Процес називається процесом з безперервним часом, якщо моменти можливих переходів системи зі стану не фіксовані заздалегідь, а випадкові.

Процес роботи СМО є випадковим процесом з дискретними станами і безперервним часом. Це означає, що стан СМО змінюється стрибком у випадкові моменти появи якихось подій (наприклад, приходу нової заявки, закінчення обслуговування тощо).

Математичний аналіз роботи СМО значно спрощується, якщо процес цієї роботи - марківський. Випадковий процес називається марківським чи випадковим процесом без післядії, якщо для будь-якого моменту часу to імовірнісні характеристики процесу в майбутньому залежать тільки від його стану в даний момент to і не залежать від того, коли і як система прийшла в цей стан.

Приклад марковського процесу: система S – лічильник у таксі. Стан системи в момент t характеризується числом кілометрів (десятих кілометрів), пройдених автомобілем до цього моменту. Нехай у момент to лічильник показує So. Імовірність того, що в момент t > to лічильник покаже те чи інше число кілометрів (точніше, відповідне число рублів) S1 залежить від So, але не залежить від того, в які моменти часу змінювалися показання лічильника до моменту to.

Багато процесів можна приблизно вважати марківськими. Наприклад, процес гри у шахи; система S – група шахових фігур. Стан системи характеризується числом постатей противника, що збереглися на дошці в момент to. Імовірність того, що в момент t > to матеріальна перевага буде на боці одного з противників, залежить в першу чергу від того, в якому стані знаходиться система в даний момент to, а не від того, коли і в якій послідовності зникли фігури з дошки до моменту to.

У ряді випадків передісторією аналізованих процесів можна просто знехтувати і застосовувати для вивчення марківські моделі.

При аналізі випадкових процесів із дискретними станами зручно користуватися геометричною схемою - так званим графом станів. Зазвичай стани системи зображуються прямокутниками (кружками), а можливі переходи зі стану - стрілками (орієнтованими дугами), що з'єднують стани.

Для математичного опису марковського випадкового процесу з дискретними станами та безперервним часом, що протікає в СМО, познайомимося з одним із важливих понять теорії ймовірностей – поняттям потоку подій.

. Потоки подій

Під потоком подій розуміється послідовність однорідних подій, наступних одне одним у якісь випадкові моменти часу (наприклад, потік викликів телефонної станції, потік відмов ЕОМ, потік покупців тощо.).

Потік характеризується інтенсивністю X - частотою появи подій чи середнім числом подій, які у СМО в одиницю часу.

Потік подій називається регулярним, якщо події йдуть одна одною через певні рівні проміжки часу. Наприклад, потік виробів на конвеєрі складального цеху (з постійною швидкістю руху) є регулярним.

Потік подій називається стаціонарним, якщо його ймовірні характеристики не залежать від часу. Зокрема, інтенсивність стаціонарного потоку є постійна: Наприклад, потік автомобілів на міському проспекті не є стаціонарним протягом доби, але цей потік можна вважати стаціонарним у певний час доби, скажімо, в години пік. У цьому випадку фактична кількість автомобілів, що проходять в одиницю часу (наприклад, у кожну хвилину) може помітно відрізнятися, але середня їх кількість постійно і не залежатиме від часу.

Потік подій називається потоком без післядії, якщо для - будь-яких-двох ділянок часу Т1 і Т2, що не перетинаються, число подій, що потрапляють на один з них, не залежить від числа подій, що потрапляють на інші. Наприклад, потік пасажирів, які входять до метро, ​​практично не має післядії. А, скажімо, потік покупців, які відходять із покупками від прилавка, вже має післядію (хоча б тому, що інтервал часу між окремими покупцями не може бути меншим, ніж мінімальний час обслуговування кожного з них).

Потік подій називається ординарним, якщо ймовірність попадання на малу (елементарну) ділянку часу At двох і більше подій зневажливо мала в порівнянні зймовірністю попадання однієї події. Іншими словами, потік подій ординарний, якщо події з'являються в ньому поодинці, а не групами. Наприклад, потік поїздів, що підходять до станції, ординарен, а потік вагонів не ординарен.

Потік подій називається найпростішим(або стаціонарним пуассонівським), якщо він одночасно стаціонарний, ординарний і не має післядії. Назва «найпростіший» пояснюється тим, що СМО з найпростішими потоками має найпростіший математичний опис. Регулярний потік не є найпростішим, оскільки має післядію: моменти появи подій у такому потоці жорстко зафіксовані.

Найпростіший потік як граничний виникає в теорії випадкових процесів настільки ж природно, як у теорії ймовірностей нормальний розподіл виходить як граничний для суми випадкових величин: при накладенні (суперпозиції) досить великої кількості п незалежних, стаціонарних і ординарних потоків (порівняних між собою за інтенсивністю Аi (i=1,2…п)) виходить потік, близький до найпростішого з інтенсивністю X, що дорівнює сумі інтенсивностей вхідних потоків, тобто:

Біноміальний закон розподілу:

з параметрами

Біноміальний розподіл прагне розподілу Пуассона з параметром

для якого математичне очікування випадкової величини дорівнює її дисперсії:

Зокрема, ймовірність того, що за час т не станеться жодної події (т = 0), дорівнює

Розподіл, який задається щільністю ймовірності або функцією розподілу, є показовим (експоненціальним). Таким чином, інтервал часу між двома сусідніми довільними подіями найпростішого потоку має показовий розподіл, для якого математичне очікування дорівнює середньому відхиленню квадратичного випадкової величини:

і назад за величиною інтенсивності потоку

Найважливіша властивість показового розподілу (притаманна лише показовому розподілу) полягає в наступному: якщо проміжок часу, розподілений за показовим законом, уже тривав деякий час т, то це ніяк не впливає на закон розподілу частини проміжку (Т - т), що залишилася: він буде таким же , Як і закон розподілу всього проміжку Т.

Іншими словами, для інтервалу часу Т між двома послідовними сусідніми подіями потоку, що має показовий розподіл, будь-які відомості про те, скільки часу протікав цей інтервал, не впливають на закон розподілу частини, що залишилася. Ця властивість показового закону є, по суті, інше формулювання для «відсутності післядії» - основної властивості найпростішого потоку.

Для найпростішого потоку з інтенсивністю можливість попадання на елементарний (малий) відрізок часу At хоча б однієї події потоку дорівнює:

(Ця наближена формула, що отримується заміною функції лише двома першими членами її розкладання в ряд за ступенями At, тим точніше, чим менше At).

5. Рівняння Колмогорова. Граничні ймовірності станів

Відповідний граф станів процесу зображено на рис. до завдання. Вважатимемо, що всі переходи системи зі стану Si в Sj відбуваються під впливом найпростіших потоків подій з інтенсивностями (i , j = 0, 1, 2,3); так, перехід системи зі стану S0 в S1 відбуватиметься під впливом потоку відмов першого вузла, а зворотний перехід зі стану S0 S1 - під впливом потоку «закінчень ремонтів» першого вузла і т.п.

Граф станів системи з проставленими у стрілок інтенсивностями називатимемо розміченим (див. рис. вище). Розглянута система S має чотири можливі стани: S0 , S1 S2, S3. Імовірністю i-го стану називається ймовірність pi(t) того, що в момент t система перебуватиме в стані Si. Очевидно, що для будь-якого моменту t сума ймовірностей усіх станів дорівнює одиниці:

Розглянемо систему в останній момент t і, задаючи малий проміжок At, знайдемо можливість po (t + At) те, що система в останній момент t+At перебуватиме у стані S0. Це досягається різними способами.

1.Система в момент t з ймовірністю po(t) перебувала у стані S0, а за час At не вийшла з нього.

Вивести систему із цього стану (див. граф на рис. до завдання) можна сумарним найпростішим потоком з інтенсивністю , з ймовірністю, приблизно рівною

А ймовірність того, що система не вийде зі стану S0, дорівнює . Імовірність того, що система перебуватиме в стані S0 і не вийде з нього за час At, дорівнює теоремі множення ймовірностей:

Система в момент t з ймовірністю p1(t) (або p2(t)) знаходилася в стані S1 або S2 і за час At перейшла в стан

Потоком інтенсивністю система перейде в стан So з ймовірністю, приблизно рівною . Імовірність того, що система перебуватиме в стані So, за цим способом дорівнює (або )

Застосовуючи теорему складання ймовірностей, отримаємо:

Переходячи до межі у At 0 (наближені рівності перейдуть у точні), отримаємо в лівій частині рівняння похідну (позначимо її для простоти):

Отримано диференціальне рівняння першого ладу, тобто. рівняння, що містить як саму невідому функцію, і її похідну першого порядку.

Розмірковуючи аналогічно до інших станів системи S, можна отримати систему диференціальних рівнянь Колмогорова для ймовірностей станів:

Сформулюємо правило складання рівнянь Колмогорова. У лівій частині кожного з них стоїть похідна ймовірності i-го стану. У правій частині - сума творів ймовірностей всіх станів (з яких йдуть стрілки в даний стан) на інтенсивності відповідних потоків подій мінус сумарна інтенсивність всіх потоків, що виводять систему з даного стану, помножена на ймовірність даного (і стану

У системі, зазначеній вище, незалежних рівнянь на одиницю менше від загальної кількості рівнянь. Тому для вирішення системи необхідно додати рівняння

Особливість розв'язання диференціальних рівнянь взагалі полягає в тому, що потрібно задавати так звані початкові умови, в даному випадку - ймовірності станів системи в початковий момент t = 0. Так, наприклад, систему рівнянь природно вирішувати за умови, що в початковий момент обидва узда справні і система перебувала у стані So, тобто. за початкових умов

Рівняння Колмогорова дають можливість визначити всі можливості станів як функції часу. Особливий інтерес становлять ймовірності системи p i (t) у граничному стаціонарному режимі, тобто. при , Які називаються граничними (фінальними) ймовірностями станів

Теоретично випадкових процесів доводиться, що й кількість станів системи звісно і з кожного їх можна (за кінцеве число кроків) перейти у будь-який інший стан, то граничні ймовірності існують.

Гранична ймовірність стану Si має чітке значення: вона показує середнє відносне час перебування у цьому стані. Наприклад, якщо гранична можливість стану So, тобто. р0=0,5, це означає, що у середньому половину часу система перебуває у стані S0.

Так як граничні ймовірності постійні, то, замінюючи в рівняннях Колмогорова їх похідні нульовими значеннями, отримаємо систему лінійних рівнянь алгебри, що описують стаціонарний режим.

Процеси загибелі та розмноження

У теорії масового обслуговування поширений спеціальний клас випадкових процесів - звані процеси загибелі та розмноження.Назва це пов'язано з низкою біологічних завдань, де цей процес є математичною моделлю зміни чисельності біологічних популяцій.

Розглянемо впорядковану множину станів системи S 0, S1, S2, ..., Sk. Переходи можуть здійснюватися з будь-якого стану лише у стану із сусідніми номерами, тобто. зі стану Sk-1 можливі переходи або стан або стан S k +11 .

Відповідно до правила складання таких рівнянь (рівнянням Колмогорова) отримаємо: для стану S0

Висновок

У цьому рефераті розкрито поняття, що призводять до системи, елементи теорії випадкового процесу масового обслуговування, а саме: випадковий процес, обслуговування, система обслуговування, система масового обслуговування.

Використана література

випадковий масовий марківський колмогорів

1. Н.Ш. Кремер «Теорія ймовірностей та математична статистика» Юніті, м. Москва, 2003 р.

Репетиторство

Потрібна допомога з вивчення якоїсь теми?

Наші фахівці проконсультують або нададуть репетиторські послуги з цікавої для вас тематики.
Надішліть заявкуіз зазначенням теми прямо зараз, щоб дізнатися про можливість отримання консультації.