Глава IV Теория случайных процессов. Основные понятия теории случайных процессов

Конспект лекций по дисциплине «Теория случайных процессов»

ТЕМА 1. ОСНОВНЫЕ ПОНЯТИЯ ТЕОРИИ СЛУЧАЙНЫХ ПРОЦЕССОВ 2
1.1. Определение случайного процесса. Основные подходы к заданию случайных процессов. Понятие реализации и сечения. Элементарные случайные процессы. 2
1.2. Некоторые классы и виды случайных процессов 3
ТЕМА 2. ЭЛЕМЕНТЫ КОРРЕЛЯЦИОННОЙ ТЕОРИИ СЛУЧАЙНЫХ ПРОЦЕССОВ 4
2.1. Понятие корреляционной теории случайных процессов 4
2.2. Математическое ожидание и дисперсия случайного процесса. Среднеквадратическое отклонение 5
2.3. Корреляционная функция случайного процесса и ее свойства. Нормированная корреляционная функция 5
2.4. Взаимная корреляционная функция и нормированная взаимная корреляционная функция двух случайных процессов 6
2.5 Вероятностные характеристики суммы двух случайных величин 6
ТЕМА 3. ЭЛЕМЕНТЫ СЛУЧАЙНОГО АНАЛИЗА 7
3.1. Сходимость и непрерывность 7
3.2. Производная случайного процесса и ее свойства 8
3.3. Интеграл от случайного процесса и его свойства 9
ТЕМА 4. КАНОНИЧЕСКИЕ РАЗЛОЖЕНИЯ СЛУЧАЙНЫХ ПРОЦЕССОВ 10
4.1. Понятие канонического разложения случайного процесса 10
4.2. Понятие обобщенной функции. Дельта-функция Дирака. Интегральное каноническое представление случайных процессов. 11
4.3. Линейные и нелинейные преобразования случайных процессов 12
ГЛАВА 5. СТАЦИОНАРНЫЕ CЛУЧАЙНЫЕ ПРОЦЕССЫ 14
5.1. Понятие стационарного случайного процесса. Стационарность в узком и широком смыслах 14
5.2 Свойства вероятностных характеристик стационарного случайного процесса 15
5.3. Стационарно связанные случайные процессы. Производная и интеграл от стационарного случайного процесса 15
5.4. Эргодические стационарные случайные процессы и их характеристики 16
5.5. Потоки событий 17
ТЕМА 6. ЦЕПИ МАРКОВА 19
6.1. Цепи Маркова. 19

ТЕМА 1. ОСНОВНЫЕ ПОНЯТИЯ ТЕОРИИ СЛУЧАЙНЫХ ПРОЦЕССОВ

1.1. Определение случайного процесса. Основные подходы к заданию случайных процессов. Понятие реализации и сечения. Элементарные случайные процессы.

Случайным (стохастическим, вероятностным) процессом называется функция действительного переменного t, значениями которой являются соответствующие случайные величины X(t).
В теории случайных процессов t трактуется как время, принимающее значения из некоторого подмножества Т множества действительных чисел (t T, T R).
В рамках классического математического анализа под функцией y=f(t) понимается такой тип зависимости переменных величин t и y, когда конкретному числовому значению аргумента t соответствует и притом единственное числовое значение функции y. Для случайных процессов ситуация принципиально иная: задание конкретного аргумента t приводит к появлению случайной величины X(t) с известным законом распределения (если это дискретная случайная величина) или с заданной плотностью распределения (если это непрерывная случайная величина). Другими словами, исследуемая характеристика в каждый момент времени носит случайный характер с неслучайным распределением.
Значения, которые принимает обычная функция y=f(t) в каждый момент времени, полностью определяет структуру и свойства этой функции. Для случайных процессов дело обстоит иным образом: здесь совершенно не достаточно знать распределение случайной величины X(t) при каждом значении t, необходима информация об ожидаемых изменениях и их вероятностях, то есть информация о степени зависимости предстоящего значения случайного процесса от его предыстории.

Наиболее общий подход в описании случайных процессов состоит в задании всех его многомерных распределений, когда определена вероятность одновременного выполнения следующих событий:

T1, t2,…,tn T, n N: X(ti)≤xi; i=1,2,…,n;

F(t1;t2;…;tn;x1;x2;…;xn)=P(X(t1)≤ x1; X(t2)≤x2;…; X(tn)≤xn).

Такой способ описания случайных процессов универсален, но весьма громоздок. Для получения существенных результатов выделяют наиболее важные частные случаи, допускающие применение более совершенного аналитического аппарата. В частности, удобно рассматривать случайный процесс X(t, ω) как функцию двух переменных: t T, ω Ω, которая при любом фиксированном значении t T становится случайной величиной, определенной на вероятностном пространстве (Ω, A, P), где Ω - непустое множество элементарных событий ω; A - σ-алгебра подмножеств множества Ω, то есть множество событий; P - вероятностная мера, определенная на A.

Неслучайная числовая функция x(t)=X(t,ω0) называется реализацией (траекторией) случайного процесса X(t, ω).
Сечением случайного процесса X(t, ω) называется случайная величина, которая соответствует значению t=t0.

Если аргумент t принимает все действительные значения или все значения из некоторого интервала T действительной оси, то говорят о случайном процессе с непрерывным временем. Если t принимает только фиксированные значения, то говорят о случайном процессе с дискретным временем.
Если сечение случайного процесса - дискретная случайная величина, то такой процесс называется процессом с дискретными состояниями. Если же любое сечение - непрерывная случайная величина, то случайный процесс называется процессом с непрерывными состояниями.
В общем случае задать случайный процесс аналитически невозможно. Исключение составляют так называемые элементарные случайные процессы, вид которых известен, а случайные величины входят как параметры:
X(t)=Х(t,A1,…,An), где Ai, i=1,…,n - произвольные случайные величины с конкретным распределением.

1.2. Некоторые классы и виды случайных процессов

1.1.1. Гауссовские случайные процессы

Случайный процесс X(t) называется гауссовским, если все его конечномерные распределения являются нормальными, то есть
t1, t2,…,tn T
случайный вектор
(X(t1); X(t2);…; X(tn))
имеет следующую плотность распределения:

Где ai=MX(ti); =M(X(ti)-ai)2; сij= M((X(ti)-ai)(X(tj)-aj)); ;
-алгебраическое дополнение элемента сij.

1.1.2. Случайные процессы с независимыми приращениями

Случайный процесс X(t) называется процессом с независимыми приращениями, если его приращения на непересекающихся временных промежутках не зависят друг от друга:
t1, t2,…,tn T: t1 ≤t2 ≤…≤tn,
случайные величины
X(t2)-X(t1); X(t3)-X(t2); …; X(tn)-X(tn-1)
независимы.

1.1.3. Случайные процессы с некоррелированными приращениями

Случайный процесс X(t) называется процессом с некоррелированными приращениями, если выполняются следующие условия:
1) t T: МX2(t) < ∞;
2) t1, t2, t3, t4 T: t1 ≤t2 ≤ t3≤ t4: М((X(t2)-X(t1))(X(t4)-X(t3)))=0.

1.1.4. Стационарные случайные процессы (см. Глава 5)

1.1.5. Марковские случайные процессы

Ограничимся определением марковского случайного процесса с дискретными состояниями и дискретным временем (цепь Маркова).

Пусть система А может находиться в одном из несовместных состояний А1; А2;…;Аn, и при этом вероятность Рij(s) того, что в s-ом испытании система переходит из состояния в состояние Аj, не зависит от состояния системы в испытаниях, предшествующих s-1-ому. Случайный процесс данного типа называется цепью Маркова.

1.1.6. Пуассоновские случайные процессы

Случайный процесс X(t) называется пуассоновским процессом с параметром а (а>0), если он обладает следующими свойствами:
1) t T; Т= называется предел в среднеквадратичном при λ→0 (n→0)

Интегральных сумм где si (ti; ti+1); λ=max(ti+1 - ti), i=0,…,n-1.

Теорема 4. Математическое ожидание интеграла от случайного процесса равно интегралу от его математического ожидания: , .
Теорема 5. Корреляционная функция интеграла от случайного процесса X(t) равна двойному интегралу от его корреляционной функции: .
Теорема 6. Взаимная корреляционная функция случайного процесса X(t) и его интеграла равна интегралу от корреляционной функции случайного процесса X(t):

ТЕМА 4. КАНОНИЧЕСКИЕ РАЗЛОЖЕНИЯ СЛУЧАЙНЫХ ПРОЦЕССОВ

4.1. Понятие канонического разложения случайного процесса

Случайная величина V называется центрированной, если ее математическое ожидание равно 0. Элементарным центрированным случайным процессом называется произведение центрированной случайной величины V на неслучайную функцию φ(t): X(t)=V φ(t). Элементарный центрированный случайный процесс имеет следующие характеристики:

Выражение вида, где φk(t), k=1;2;…-неслучайные функции; , k=1;2;…-некоррелированные центрированные случайные величины, называется каноническим разложением случайного процесса X(t), при этом случайные величины называются коэффициентами канонического разложения; а неслучайные функции φk(t) - координатными функциями канонического разложения.

Рассмотрим характеристики случайного процесса

Так как по условию то

Очевидно, что один и тот же случайный процесс имеет различные виды канонического разложения в зависимости от выбора координатных функций. Более того, даже при состоявшемся выборе координатных функций существует произвол в распределении случайных величин Vк. На практике по итогам экспериментов получают оценки для математического ожидания и корреляционной функции: . После разложения в двойной ряд Фурье по координатным функциям φк(t):

Получают значения дисперсий случайных величин Vk.
4.2. Понятие обобщенной функции. Дельта-функция Дирака. Интегральное каноническое представление случайных процессов.

Обобщенной функцией называется предел последовательности однопараметрического семейства непрерывных функций.
Дельта-функция Дирака - это обобщенная функция, являющаяся результатом предельного перехода при в семействе функций

Среди свойств -функции отметим следующее:
1.
2.
3. Если f(t)- непрерывная функция, то

Случайный процесс Х(t), корреляционная функция которого имеет вид называется нестационарным «белым шумом». Если W(t1)=W - const, то Х(t)-стационарный «белый шум».

Как следует из определения, никакие два, даже сколь угодные близкие, сечения «белого шума» не коррелированны. Выражение W(t) называется интенсивностью «белого шума».

Интегральным каноническим представлением случайного процесса Х(t) называется выражение вида где - случайная центрированная функция; - неслучайная функция непрерывных аргументов

Корреляционная функция такого случайного процесса имеет вид:
.
Можно показать, что существует неслучайная функция G(λ) такая, что

Где G(λ1) - плотность дисперсии; δ(х) - дельта-функция Дирака. Получаем
Следовательно, дисперсия случайного процесса Х(t):
.

4.3. Линейные и нелинейные преобразования случайных процессов

Рассматривается следующая задача: на вход системы (устройства, преобразователя) S подается «входной сигнал», имеющий характер случайного процесса Х(t). Система преобразовывает его в «выходной сигнал» Y(t):
.
Формально преобразование случайного процесса Х(t) в Y(t) может быть описано с помощью так называемого оператора системы Аt:
Y(t)=At(Х(t)).
Индекс t показывает, что данный оператор осуществляет преобразование по времени. Возможны следующие постановки задачи о преобразовании случайного процесса.
1. Известны законы распределения или общие характеристики случайного процесса Х(t) на входе в систему S, задан оператор Аt системы S, требуется определить закон распределения или общие характеристики случайного процесса Y(t) на выходе системы S.
2. Известны законы распределения (общие характеристики) случайного процесса Х(t) и требования к случайному процессу Y(t); надо определить вид оператора Аt системы S, наилучшим образом удовлетворяющего заданным требованиям к Y(t).
3. Известны законы распределения (общие характеристики) случайного процесса Y(t) и задан оператор Аt системы S; требуется определить законы распределения или общие характеристики случайного процесса Х(t).
Принята следующая классификация операторов Аt системы S:

Операторы системы

Линейные L Нелинейные N

Линейные однородные L0 Линейные неоднородные Lн

1. Рассмотрим воздействие линейной неоднородной системы
Lн(...)=L0(…)+φ(t)
на случайный процесс Х(t), имеющий следующее каноническое разложение:
.
Получаем:

Введем обозначения

Тогда каноническое разложение Y(t) приобретает вид:
.
Математическое ожидание случайного процессаY(t):

Корреляционная функция случайного процесса Y(t):

Следовательно,
.
С другой стороны

Дисперсия случайного процесса Y(t):

В заключении этого пункта отметим, что операторы дифференцирования и интегрирования случайных процессов являются линейными однородными.
2. Рассматривается квадратичное преобразование:
Y(t)=(X(t))2,
Vk-центрированные случайные величины, имеющие симметричное относительно нуля распределение; любые четыре из них независимы в совокупности. Тогда

Введем неслучайные функции

И случайные величины

Тогда случайный процесс Y(t) приобретает вид

Получено каноническое разложение случайного процесса Y(t). Корреляционная функция Y(t):

Дисперсия:

ГЛАВА 5. СТАЦИОНАРНЫЕ CЛУЧАЙНЫЕ ПРОЦЕССЫ

5.1. Понятие стационарного случайного процесса. Стационарность в узком и широком смыслах

Стационарным (однородным во времени) называют случайный процесс, статистические характеристики которого не меняются с течением времени, то есть являются инвариантными относительно временных сдвигов.
Различают случайные процессы стационарные в широком и узком смысле.

Стационарным случайным процессом в узком смысле называется случайный процесс Х(t), все вероятностные характеристики которого не меняются со временем, то есть таких, что выполняется условие
F(t1; t2;… ;tn; x1; x2;…; xn)=F(t1+τ; t2+τ;… ;tn+τ; x1; x2;…; xn), и, следовательно, все n-мерные распределения зависят не от моментов времени t1; t2;… ;tn, а от длительности временных промежутков τi:

В частности, одномерная плотность распределения вообще не зависит от времени t:

Двумерная плотность сечений в моменты времени t1 и t2

N-мерная плотность сечений в моменты времени t1; t2...; tn:

Случайный процесс Х(t) называется стационарным в широком смысле, если его моменты первого и второго порядка инвариантны относительно временного сдвига, то есть его математическое ожидание не зависит от времени t и является константой, а корреляционная функция зависит только от длины временного промежутка между сечениями:
Очевидно, что стационарный случайный процесс в узком смысле является стационарным случайным процессом и в широком смысле; обратное утверждение не верно.

5.2 Свойства вероятностных характеристик стационарного случайного процесса
1.

3. Корреляционная функция стационарного случайного процесса четна:

4. Дисперсия стационарного случайного процесса есть константа, равная
значению ее корреляционной функции в точке:

5.
6. Корреляционная функция стационарного случайного процесса является
положительно определенной, то есть

Нормированная корреляционная функция стационарного случайного процесса также четна, положительно определена и при этом

5.3. Стационарно связанные случайные процессы. Производная и интеграл от стационарного случайного процесса

Cлучайные процессы X(t) и Y(t) называются стационарно связанными, если их взаимная корреляционная функция зависит только от разности аргументов τ =t2-t1: RXY(t1;t2)=rXY(τ).

Стационарность самих случайных процессов X(t) и Y(t) не означает их стационарной связанности.
Отметим основные свойства стационарно связанных случайных процессов, производной и интеграла от стационарных случайных процессов,
1) rXY(τ)=rYX(-τ).
2)
3)
4)
где
5) где
6) ;

5.4. Эргодические стационарные случайные процессы и их характеристики

Среди стационарных случайных процессов есть особый класс процессов, называемых эргодическими, которые обладают следующим свойством: их характеристики, полученные усреднением множества всех реализаций, совпадают с соответствующими характеристиками, полученными усреднением по времени одной реализации, наблюдаемой на интервале (0, T) достаточно большой продолжительности. То есть на достаточно большом временном промежутке любая реализация проходит через любое состояние независимо от того, каково было исходное состояние системы при t=0; и в этом смысле любая реализация полностью представляет всю совокупность реализаций.

Эргодическая теорема Биркгофа-Хинчина
Для любого стационарного случайного процесса в узком смысле X(t), имеющего конечное математическое ожидание с вероятностью 1 существует предел
для ССП с непрерывным временем,
для ССП с дискретным временем.
Если при этом X(t) – эргодический стационарный случайный процесс, то
В условии теоремы - условное математическое ожидание случайного процесса X(t) относительно Jx; Jx – -алгебра инвариантных по отношению к X(t) событий; событие А называется инвариантным относительно X(t), если B такое, что A={ω: X(ω,t) B}.

Достаточные условия эргодичности
Теорема 1. Стационарный случайный процесс X(t) эргодичен относительно
математического ожидания, если его корреляционная функция
стремится к нулю при τ→∞;
при этом: .

Теорема 2. Стационарный случайный процесс X(t) эргодичен относительно
дисперсии, если корреляционная функция стационарного слу-
чайного процесса Y(t)=X2(t) стремится к нулю при τ→∞;
при этом:

Теорема 3. Стационарный случайный процесс X(t) эргодичен относительно
корреляционной функции, если стремится к нулю при τ→∞ кор-
реляционная функция стационарного случайного процесса
Z(t, τ)= ;
при этом:

При практических расчетах интервал (0;Т) разбивается на n равных частей в каждом промежутке выбирается точка ti (например, середина). Если ограничиться формулой прямоугольников, получаем

5.5. Потоки событий
Потоком событий называется последовательность событий, которые появляются в случайный момент времени.

Свойства потоков событий:
1) Стационарность потока.
Поток называется стационарным, если вероятность m событий на любом промежутке времени τ зависит только от количества событий m и от протяженности интервала τ и не зависит от момента времени, в который этот промежуток начался
2) Отсутствие последействия.
Говорят, что поток событий обладает свойством отсутствия последействия, если вероятность появления m событий на любом промежутке времени не зависит от того, появлялись или нет события в моменты времени непосредственно предшествующие данному промежутку.
Предыстория потока не оказывает влияние на появление событий в ближайшем будущем. Если поток обладает свойством отсутствия последействия, то случайные величины появления событий на непересекающихся промежутках являются независимыми друг от друга.
3) Ординарность.
Говорят, что поток обладает свойством ординарности, если за бесконечно малый промежуток времени может произойти не более 1-го события, т.е. появление 2-х и более событий за малый промежуток времени практически не возможно.
4) Пуассоновский поток
Если поток одновременно обладает свойствами стационарности, отсутствия последействия и ординарности, то он называется простейшим (Пуассоновским) потоком.

Теорема. Если поток представляет собой сумму большого числа независимых стационарных потоков, влияние каждого из которых ничтожно мало, то суммарный поток при условии его ординарности близок к простейшему.
Интенсивностью потока - называется среднее число событий происходящих в единицу времени.
Если поток обладает постоянной интенсивностью, то вероятность появлений m событий на промежутки времени длительностью τ вычисляется по формуле Пуассона.
– Пуассоновский поток.
Задача о простой телеграфной волне.
Имеется некоторое устройство, на которое подается сигнал. Эти сигналы образуют простейших поток.
X(t) a -a
P 1/2 1/2
Исследовать характеристики СП X(t), который принимает значения ±a в произвольные моменты времени. Дискретный СП с непрерывным временем. M(X(t)) = 0

X(t1)X(t2) a2 -a2
P Pчет Pнечет
Пусть t1 < t2 => τ > 0

Следовательно, телеграфная волна эргодический ССП.
Обоснование – должны выполниться следующие свойства
1) Стационарность – нет зависимости от выбора промежутка времени.
2) Отсутствие последействия – в формуле не фигурируют моменты времени.
3) Ординарность
Вероятность не одного события
Вероятность 1-го события
Вероятность более 2-ух событий
при =>
при малых τ стремиться к нулю со скоростью не мене квадрата.

ТЕМА 6. ЦЕПИ МАРКОВА

6.1. Цепи Маркова.

Цепь Маркова – это последовательность событий, в каждом из которых появляются и при том только одно из несовместных событий A1,A2…Ak при этом условная вероятность pij(s) в s-ом испытание наступит событие Ai и условие, что в s-1 испытание произошло событие Aj е зависит от результата предшествующих событий.
Цепью Маркова с дискретными временами называют цепь, изменение состояний которой происходит в фиксированные моменты времени.
Цепью Маркова с непрерывным временем называют цепь изменение состояний которой происходит в произвольный момент времени.
Цепь Маркова называется однородной, если условная вероятность pij(s) перехода в состояние из Ai в Aj не зависит от номера испытания, от s.
Вероятности того, что система в результате испытания переходит из Ai в Aj называется переходными вероятностями однородной цепи Маркова.
Переходные вероятности образуют матрицу переходных вероятностей i=1;…;k
Равенство Маркова
Pij(n) – вероятность перехода системы из состояния Ai в Aj за n испытаний

Следствия
1) n=2; m=1
; Pij(1)=pi,j; P2=(Pi,j(2))=P1P1=P2
2) n=3; m=2
; P3=P3
3) Pn=P12.

1. Понятие случайной функции, стохастические процессы

При изучении многих явлений систематически приходится иметь дело со случайными величинами, изменяющимися в процессе проведения испытания в течение определённого времени. Мы уже встречались с примерами таких явлений в пунктах 6.2. и 9.2. в связи с законом распределения Пуассона.

Примерами таких с.в. являются: распад радиоактивного вещества при химической реакции, сигнал на выходе радиоприёмника под воздействием помех, длина очереди за билетом на футбольный матч, колебания цен в системе торговли товаров первой необходимости, загруженность студентов в течение учебного семестра, траектория частиц в броуновском движении, рейтинг претендентов в избирательных процессах, число вызовов поступающих на телефонную станцию, и т.д.

Такие случайные величины, изменяющиеся в процессе опыта (наблюдения, испытания) называют случайными процессами (случайными функциями ). В настоящее время ряд отраслей техники и науки (физическая статистика, процесс диффузии, процессы химической реакции и т.д.) поставило перед теорией вероятностей новые задачи, не укладывающиеся в рамки классической теории вероятностей. В то время многие отрасли человеческой деятельности интересуют изучение процессов, то есть явлений, протекающих во времени. Они потребовали от науки теории вероятностей разработку общей теории, так называемых, случайных процессов. Другими словами, разработки теории, которая изучала бы случайные величины, зависящие от одного или нескольких непрерывно изменяющихся временных параметров. Приведём примеры таких задач, иллюстрирующих необходимость построения теории случайных процессов.

Представим себе, что мы хотим проследить за движением какой-либо молекулы газа или жидкости. Эта молекула в случайные моменты времени сталкивается с другими молекулами и меняет при этом свои скорость и положение. Очевидно, что состояние молекулы подвержено случайным изменениям в каждый момент времени. Многие явления природы требуют для своего изучения умения вычислять вероятности того, что определённое число явлений (молекул, изменение цен, поступление радиосигналов и т.д.) изменяет то или иное положение. На все эти и многие другие вопросы даёт ответ статистическая теория случайных процессов или, как принято её называть «теория стохастических процессов ». Очевидно, что подобные задачи возникают в физике, химии, астрономии, экономике, генетике и др. Например, когда изучают процесс химической реакции, возникает законный вопрос:

Какая часть молекулы уже вступила в реакцию,

Как происходит эта реакция во времени,

Когда практически реакция уже закончилась?

Большое число явлений протекает по принципу радиоактивного распада. Суть этого явления состоит в том, что атомы радиоактивного вещества распадаются мгновенно, превращаясь в атомы другого химического элемента. Распад каждого атома происходит по времени быстро и с большой скоростью, подобно взрыву, с выделением определённого количества энергии. Как правило, многочисленные наблюдения показывают, что распад различных атомов для наблюдателя происходит в случайно взятые моменты времени. При этом расположение этих моментов времени не зависят друг от друга в смысле теории вероятностей. Для изучения процесса радиоактивного распада существенно определить какова вероятность того, что за определённый промежуток времени распадётся некоторое количество атомов? Формально, если задаваться только выяснением математической картины подобных явлений, то можно найти простое решение таких математических задач, к которым приводят подобные явления.

Вкратце изложим как, исходя из рассмотрения проблемы блуждания частиц по прямой, учёными Планком и Фоккером было получено дифференциальное уравнение в теории диффузии.

Пусть частица в момент времени в точке
, в моменты
испытывает случайные толчки, в результате которых она каждый раз перемещается с вероятностьюна величинувправо и с вероятностью
также на величинувлево.

Обозначим через
вероятность того, что частица в результатетолчков окажется в момент времени
в положении(ясно, что при чётном числе толчков величинаможет равняться лишь чётному числу шагов, а принечётном – лишь нечётному числу шагов. Если через
обозначить число шагов, сделанных частицей вправо (тогда

есть число шагов, которые частица совершила влево), то согласно формуле Бернулли эта вероятность равна

Ясно, что эти величины связаны между собой равенством
Непосредственно, можно убедиться, что функция
удовлетворяет разностному уравнению

с начальными условиями
и при

. Физическая природа задачи заставит нас пойти, на определённые естественные ограничения по отношению параметров
. Несоблюдение некоторых необходимых условий, о которых далее пойдёт речь, может привести к тому, что за конечный промежуток времени частица с вероятностью равной единице может уйти в бесконечность. Для того чтобы исключить такую возможность, накладываем на параметры следующие условия при

где величина выражаетскорости течения , а
коэффициент диффузии.

Отнимем от обеих частей равенства (1) величину
, получим

Предположим, что функция
дифференцируема подважды и один раз по. Тогда имеем

После подстановки полученных равенств в (3) имеем

Отсюда, переходя к пределу
и на основании условий (2) получим окончательно

(4)

Таким образом, мы получили известное уравнение, носящее в теории диффузии название уравнения Фоккера – Планка .

Начало общей теории стохастических процессов было положено в фундаментальных работах А.Н. Колмогорова и А.Я. Хинчина в начале 30 – х годов. В статье А.Н. Колмогорова «Об аналитических методах теории вероятностей» было дано систематическое и строгое построение основ теории стохастических процессов без последействия или, как часто говорят, процессов Марковского типа. В ряде работ Хинчина была создана теория, так называемых, стационарных процессов.

Таким образом, раздел математики, изучающий случайные явления в динамике их

развития, называется теорией случайных процессов (случайных функций ). Её методы часто используются: в теории автоматического управления, при анализе и планировании финансовой деятельности предприятий и хозяйств, при обработке и передаче необходимых информаций (сигналов в радиотехнических устройствах, спутниковых связей и др.), в экономике и в теории массового обслуживания.

Кратко рассмотрим основные понятия теории случайных процессов (СП).

Если каждому значению
, гдеобозначает некоторое множество действительных чисел, поставлена в соответствие с.в.
, то говорят, что на множествезадана случайная функция (с.ф.)
. Случайные процессы, у которых
, особенно важны в приложениях. В тех случаях, когда параметринтерпретируется как временной параметр, то случайная функция называетсяслучайным процессом, т.е. случайным процессом называется семейство с.в.
зависящих от параметра
и заданных на одном и том же пространстве элементарных событий
Обозначается
или

Случайный процесс можно задать в виде формулы (аналитической записи), если вид случайной функции известен. Например, с.ф. является с.п., где случайная величина
имеет равномерное распределение. При фиксированном значении
, с.п.
,то с.п. обращается в с.в.
которую называют сечением случайного процесса.

Реализацией илитраекторией случайного процесса
называетсянеслучайная функция времени
при фиксированном
, т.е. в результате испытания с.п. принимает конкретный вид
, при этом реализации с.п. обозначают через
,
где индексы указывают на номер испытания.

На рис.59 показаны три реализации
случайного процесса при
;

Они напоминают виды трёх синусоидальных колебательных явлений в некотором механическом процессе, при этом каждая такая реализация (траектория) является обычной функцией

Рис.59 (Письменный).

В данном примере с.в.в трёх опытах приняла соответственно три значения: 1, 2, 0,5, т.е. констатируется три реализации СП:. Все три функции являются неслучайными. Если в этом примере зафиксировать момент времени, при
, то получим сечение:
- случайная величина или при
,-случайные величины. Отметим, чтотак называемыйодномерный закон распределения случайного процесса
не является исчерпывающей характеристикой с.п. Случайный процесс
представляет собой совокупность всех сечений при различных значениях
, поэтому для полного его описания следует рассматривать совместную функцию распределения сечений процесса:

так называемый конечномерный закон распределения с.п. в моменты
. Другими словами возникают многомерные с.в..

Таким образом, понятие с.п. является прямым обобщением понятия системы случайных величин, когда этих величин – бесконечное множество.

Введение

Теория случайных процессов (случайных функций) - это раздел математической науки, изучающий закономерности случайных явлений в динамике их развития.

В настоящее время появилось большое количество литературы, посвященной непосредственно теории массового обслуживания, развитию ее математических аспектов, а также различных сфер ее приложения - военной, медицинской, транспортной, торговле, авиации и др.

Теория массового обслуживания опирается на теорию вероятностей и математическую статистику. Первоначальное развитие теории массового обслуживания связано с именем датского ученого А.К. Эрланга (1878-1929), с его трудами в области проектирования и эксплуатации телефонных станций.

Теория массового обслуживания - область прикладной математики, занимающаяся анализом процессов в системах производства, обслуживания, управления, в которых однородные события повторяются многократно, например, на предприятиях бытового обслуживания; в системах приема, переработки и передачи информации; автоматических линиях производства и др. Большой вклад в развитие этой теории внесли российские математики А.Я. Хинчин, Б.В. Гнеденко, А.Н. Колмогоров, Е.С. Вентцель и др.

Предметом теории массового обслуживания является установление зависимостей между характером потока заявок, числом каналов обслуживания, производительностью отдельного канала и эффективным обслуживанием с целью нахождения наилучших путей управления этими процессами. Задачи теории массового обслуживания носят оптимизационный характер и в конечном итоге включают экономический аспект по определению такого, варианта системы, при котором будет обеспечен минимум суммарных затрат от ожидания обслуживания, потерь времени и ресурсов на обслуживание и от простоев каналов обслуживания.

В коммерческой деятельности применение теории массового обслуживания пока не нашло желаемого распространения.

В основном это связано с трудностью постановки задач, необходимостью глубокого понимания содержания коммерческой деятельности, а также надежного и точного инструментария, позволяющего просчитывать в коммерческой деятельности различные варианты последствий управленческих решений.

1. Определение случайного процесса и его характеристики

Случайным процессом X(t) называется процесс, значение которого при любом значении аргумента t является случайной величиной.

Другими словами, случайный процесс представляет собой функцию, которая в результате испытания может принять тот или иной конкретный вид, неизвестный заранее. При фиксированном t = to X(to) представляет собой обычную случайную величину, т.е. сечение случайного процесса в момент tо.

Реализацией случайного процесса X (t, w) называется неслучайная функция x(t), в которую превращается случайный процесс X(t) в результате испытания (при фиксированном w), т.е. конкретный вид, принимаемый случайным процессом X(t), его траектория.

Таким образом, случайный процесс X (t, w) совмещает в себе черты случайной величины и функции. Если зафиксировать значение аргумента t, случайный процесс превращается в обычную случайную величину, если зафиксировать w, то в результате каждого испытания он превращается в обычную неслучайную Функцию.

Как и случайная величина, случайный процесс может быть описан числовыми характеристиками.

Математическим ожиданием случайного процесса X(t) называется неслучайная функция ax(t), которая при любом значении переменной t равна математическому ожиданию соответствующего сечения случайного процесса X(t), т.е. ax(t) = M .

Дисперсией случайного процесса X(t) называется неслучайная функция. Dx(t), при любом значении переменной t равная дисперсии соответствующего сечения случайного процесса X(t), т.е. Dx(t) = D .

Средним квадратическим отклонением случайного процесса X(t) называется арифметическое значение корня квадратного из его дисперсии, т.е.

Математическое ожидание случайного процесса характеризует среднюю траекторию всех возможных его реализаций, а его дисперсия или среднее квадратическое отклонение - р а з б р о с реализаций относительно средней траектории.

Корреляционной функцией случайного процесса X(t) называется неслучайная функция

двух переменных t1 и t2, которая при каждой паре переменных t1и t2 равна ковариации соответствующих сечений X(t1) и X(t2) случайного процесса.

Нормированной корреляционной функцией случайного процесса X(t) называется функция

Случайные процессы можно классифицировать в зависимости от того, плавно или скачкообразно меняются состояния системы, в которой они протекают, конечно (счетно) или бесконечно множество этих состояний и т.п. Среди случайных процессов особое место принадлежит марковскому случайному процессу. Но прежде познакомимся с основными понятиями теории массового обслуживания

2. Основные понятия теории массового обслуживания

На практике часто приходится сталкиваться с системами, предназначенными для многоразового использования при решении однотипных задач. Возникающие при этом процессы получили название процессов обслуживания, а системы - систем массового обслуживания (СМО). Примерами таких систем являются телефонные системы, ремонтные мастерские, вычислительные комплексы, билетные кассы, магазины, парикмахерские и т.п.

Каждая СМО состоит из определенного числа обслуживающих единиц (приборов, устройств, пунктов, станций), которые будем называть каналами обслуживания. Каналами могут быть линии связи, рабочие точки, вычислительные машины, продавцы и др. По числу каналов СМО подразделяют на одноканальные и многоканальные.

Заявки поступают в СМО обычно не регулярно, а случайно, образуя так называемый случайный поток заявок (требований). Обслуживание заявок, вообще говоря, также продолжается какое-то случайное время. Случайный характер потока заявок и времени обслуживания приводит к тому, что СМО оказывается загруженной неравномерно: в какие-то периоды времени скапливается очень большое количество заявок (они либо становятся в очередь, либо покидают СМО необслуженными), в другие же периоды СМО работает с недогрузкой или простаивает.

Предметом теории массового обслуживания является построение математических моделей, связывающих заданные условия работы СМО (число каналов, их производительность, характер потока заявок и т.п.) с показателями эффективности СМО, описывающими ее способность справляться с потоками заявок.

В качестве показателей эффективности СМО используются: среднее число заявок, обслуживаемых в единицу времени; среднее число заявок в очереди; среднее время ожидания обслуживания; вероятность отказа в обслуживании без ожидания; вероятность того, что число заявок в очереди превысит определенное значение, и т.п.

СМО делят на два основных типа (класса): СМО с отказами и СМО с ожиданием (очередью). В СМО с отказами заявка, поступившая в момент, когда все каналы заняты, получает отказ, покидает СМО и в дальнейшем процессе обслуживания не участвует (например, заявка на телефонный разговор в момент, когда все каналы заняты, получает отказ и покидает СМО необслуженной). В СМО с ожиданием заявка, пришедшая в момент, когда все каналы заняты, не уходит, а становится в очередь на обслуживание.

СМО с ожиданием подразделяются на разные виды в зависимости от того, как организована очередь: с ограниченной или неограниченной длиной очереди, с ограниченным временем ожидания и т.п.

3. Понятие марковского случайного процесса

Процесс работы СМО представляет собой случайный процесс.

Процесс называется процессом с дискретными состояниям, если его возможные состояния S1, S2, S3… можно заранее перечислить, а переход системы из состояния в состояние происходит мгновенно (скачком). Процесс называется процессом с непрерывным временем, если моменты возможных переходов системы из состояния в состояние не фиксированы заранее, а случайны.

Процесс работы СМО представляет собой случайный процесс с дискретными состояниями и непрерывным временем. Это означает, что состояние СМО меняется скачком в случайные моменты появления каких-то событий (например, прихода новой заявки, окончания обслуживания и т.п.).

Математический анализ работы СМО существенно упрощается, если процесс этой работы - марковский. Случайный процесс называется марковским или случайным процессом без последействия, если для любого момента времени to вероятностные характеристики процесса в будущем зависят только от его состояния в данный момент to и не зависят от того, когда и как система пришла в это состояние.

Пример марковского процесса: система S - счетчик в такси. Состояние системы в момент t характеризуется числом километров (десятых долей километров), пройденных автомобилем до данного момента. Пусть в момент to счетчик показывает So. Вероятность того, что в момент t > to счетчик покажет то или иное число километров (точнее, соответствующее число рублей) S1, зависит от So, но не зависит от того, в какие моменты времени изменялись показания счетчика до момента to.

Многие процессы можно приближенно считать марковскими. Например, процесс игры в шахматы; система S - группа шахматных фигур. Состояние системы характеризуется числом фигур противника, сохранившихся на доске в момент to. Вероятность того, что в момент t > to материальный перевес будет на стороне одного из противников, зависит в первую очередь от того, в каком состояний находится система в данный момент to, а не от того, когда и в какой последовательности исчезли фигуры с доски до момента to.

В ряде случаев предысторией рассматриваемых процессов можно просто пренебречь и применять для их изучения марковские модели.

При анализе случайных процессов с дискретными состояниями удобно пользоваться геометрической схемой - так называемым графом состояний. Обычно состояния системы изображаются прямоугольниками (кружками), а возможные переходы из состояния в состояние - стрелками (ориентированными дугами),соединяющими состояния.

Для математического описания марковского случайного процесса с дискретными состояниями и непрерывным временем, протекающего в СМО, познакомимся с одним из важных понятий теории вероятностей - понятием потока событий.

. Потоки событий

Под потоком событий понимается последовательность однородных событий, следующих одно за другим в какие-то случайные моменты времени (например, поток вызовов на телефонной станции, поток отказов ЭВМ, поток покупателей и т.п.).

Поток характеризуется интенсивностью X - частотой появления событий или средним числом событий, поступающих в СМО в единицу времени.

Поток событий называется регулярным, если события следуют одно за другим через определенные равные промежутки времени. Например, поток изделий на конвейере сборочного цеха (с постоянной скоростью движения) является регулярным.

Поток событий называется стационарным, если его вероятностные характеристики не зависят от времени. В частности, интенсивность стационарного потока есть величина постоянная: Например, поток автомобилей на городском проспекте не является стационарным в течение суток, но этот поток можно считать стационарным в определенное время суток, скажем, в часы пик. В этом случае фактическое число проходящих автомобилей в единицу времени (например, в каждую минуту) может заметно различаться, но среднее их число постоянно и не будет зависеть от времени.

Поток событий называется потоком без последействия, если для - любых-двух непересекающихся участков времени Т1 и Т2 число событий, попадающих на один из них, не зависит от числа событий, попадающих на другие. Например, поток пассажиров, входящих в метро, практически не имеет последействия. А, скажем, поток покупателей, отходящих с покупками от прилавка, уже имеет последействие (хотя бы потому, что интервал времени между отдельными покупателями не может быть меньше, чем минимальное время обслуживания каждого из них).

Поток событий называется ординарным, если вероятностьпопадания на малый (элементарный) участок времени At двух и более событий пренебрежимо мала по сравнению с вероятностью попадания одного события. Другими словами, поток событий ординарен, если события появляются в нем поодиночке, а не группами. Например, поток поездов, подходящих к станции, ординарен, а поток вагонов не ординарен.

Поток событий называется простейшим (или стационарным пуассоновским ), если он одновременно стационарен, ординарен и не имеет последействия. Название «простейший» объясняется тем, что СМО с простейшими потоками имеет наиболее простое математическое описание. Регулярный поток не является простейшим, так как обладает последействием: моменты появления событий в таком потоке жестко зафиксированы.

Простейший поток в качестве предельного возникает в теории случайных процессов столь же естественно, как в теории вероятностей нормальное распределение получается в качестве предельного для суммы случайных величин: при наложении (суперпозиции) достаточно большого числа п независимых, стационарных и ординарных потоков (сравнимых между собой по интенсивностям Аi (i=1,2…п)) получается поток, близкий к простейшему с интенсивностью X, равной сумме интенсивностей входящих потоков, т.е.:

Биномиальный закон распределения:

с параметрами

Биномиальное распределение стремится к распределению Пуассона с параметром

для которого математическое ожидание случайной величины равно ее дисперсии:

В частности, вероятность того, что за время т не произойдет ни одного события (т = 0), равна

Распределение, задаваемое плотностью вероятности или функцией распределения, является показательным (экспоненциальным). Таким образом, интервал времени между двумя соседними произвольными событиями простейшего потока имеет показательное распределение, для которого математическое ожидание равно среднему квадратическому отклонению случайной величины:

и обратно по величине интенсивности потока

Важнейшее свойство показательного распределения (присущее только показательному распределению) состоит в следующем: если промежуток времени, распределенный по показательному закону, уже длился некоторое время т, то это никак не влияет на закон распределения оставшейся части промежутка (Т - т): он будет таким же, как и закон распределения всего промежутка Т.

Другими словами, для интервала времени Т между двумя последовательными соседними событиями потока, имеющего показательное распределение, любые сведения о том, сколько времени протекал этот интервал, не влияют на закон распределения оставшейся части. Это свойство показательного закона представляет собой, в сущности, другую формулировку для «отсутствия последействия» - основного свойства простейшего потока.

Для простейшего потока с интенсивностью вероятность попадания на элементарный (малый) отрезок времени At хотя бы одного события потока равна:

(Эта приближенная формула, получаемая заменой функции лишь двумя первыми членами ее разложения в ряд по степеням At, тем точнее, чем меньше At).

5. Уравнения Колмогорова. Предельные вероятности состояний

Соответствующий граф состояний процесса изображен на рис. к задаче. Будем полагать, что все переходы системы из состояния Si в Sj происходят под воздействием простейших потоков событий с интенсивностями (i, j =0, 1, 2,3); так, переход системы из состояния S0 вS1 будет происходить под воздействием потока отказов первого узла, а обратный переход из состояния S0 в S1 - под воздействием потока «окончаний ремонтов» первого узла и т.п.

Граф состояний системы с проставленными у стрелок интенсивностями будем называть размеченным (см. рис. выше). Рассматриваемая система S имеет четыре возможных состояния: S0, S1 S2, S3. Вероятностью i-го состояния называется вероятность pi(t) того, что в момент t система будет находиться в состоянии Si. Очевидно, что для любого момента t сумма вероятностей всех состояний равна единице:

Рассмотрим систему в момент t и, задав малый промежуток At, найдем вероятность po (t + At) того, что система в момент t+At будет находиться в состоянии S0. Это достигается разными способами.

1.Система в момент t с вероятностью po (t) находилась в состоянии S0, а за время At не вышла из него.

Вывести систему из этого состояния (см. граф на рис. к задаче) можно суммарным простейшим потоком с интенсивностью , с вероятностью, приближенно равной

А вероятность того, что система не выйдет из состояния S0, равна . Вероятность того, что система будет находиться в состоянии S0 и не выйдет из него за время At, равна по теореме умножения вероятностей:

Система в момент t с вероятностью p1 (t) (или p2 (t)) находилась в состоянии S1 или S2 и за время At перешла в состояние

Потоком интенсивностью система перейдет в состояние So с вероятностью, приближенно равной . Вероятность того, что система будет находиться в состоянии So, по этому способу равна (или )

Применяя теорему сложения вероятностей, получим:

Переходя к пределу при At 0 (приближенные равенстваперейдут в точные), получим в левой части уравнения производную (обозначим ее для простоты ):

Получено дифференциальное уравнение первого порядка, т.е. уравнение, содержащее как саму неизвестную функцию, так и ее производную первого порядка.

Рассуждая аналогично для других состояний системы S, можно получить систему дифференциальных уравнений Колмогорова для вероятностей состояний:

Сформулируем правило составления уравнений Колмогорова. В левой части каждого из них стоит производная вероятности i-го состояния. В правой части - сумма произведений вероятностей всех состояний (из которых идут стрелки в данное состояние) на интенсивности соответствующих потоков событий минус суммарная интенсивность всех потоков, выводящих систему из данного состояния, умноженная на вероятность данного (i-го состояния

В системе, указанной выше, независимых уравнений на единицу меньше общего числа уравнений. Поэтому для решения системы необходимо добавить уравнение

Особенность решения дифференциальных уравнений вообще состоит в том, что требуется задавать так называемые начальные условия, в данном случае - вероятности состояний системы в начальный момент t = 0. Так, например, систему уравнений естественно решать при условии, что в начальный момент оба узда исправны и система находилась в состоянии So, т.е. при начальных условиях

Уравнения Колмогорова дают возможность найти все вероятности состояний как функции времени. Особый интерес представляют вероятности системы pi(t) в предельном стационарном режиме, т.е. при , которые называются предельными (финальными) вероятностями состояний.

В теории случайных процессов доказывается, что если число состояний системы конечно и из каждого из них можно (за конечное число шагов) перейти в любое другое состояние, то предельные вероятности существуют.

Предельная вероятность состояния Si имеет четкий смысл: она показывает среднее относительное время пребывания системы в этом состоянии. Например, если предельная вероятность состояния So, т.е. р0=0,5, то это означает, что в среднем половину времени система находится в состоянии S0.

Так как предельные вероятности постоянны, то, заменяя в уравнениях Колмогорова их производные нулевыми значениями, получим систему линейных алгебраических уравнений, описывающих стационарный режим.

Процессы гибели и размножения

В теории массового обслуживания широко распространен специальный класс случайных процессов - так называемые процессы гибели и размножения. Название это связано с рядом биологических задач, где этот процесс служит математической моделью изменения численности биологических популяций.

Рассмотрим упорядоченное множество состояний системы S0, S1, S2,…, Sk. Переходы могут осуществляться из любого состояния только в состояния с соседними номерами, т.е. из состояния Sk-1 возможны переходы либо в состояние либо в состояние S k+11.

В соответствии с правилом составления таких уравнений (уравнением Колмогорова) получим: для состояния S0

Заключение

В этом реферате раскрыты понятия приводящие к системе элементы теории случайного процесса массового обслуживания, а именно: случайный процесс, обслуживание, система обслуживания, система массового обслуживания.

Использованная литература

случайный массовый марковский колмогоров

1. Н.Ш. Кремер «Теория вероятностей и математическая статистика» Юнити, г. Москва, 2003 г.

Репетиторство

Нужна помощь по изучению какой-либы темы?

Наши специалисты проконсультируют или окажут репетиторские услуги по интересующей вас тематике.
Отправь заявку с указанием темы прямо сейчас, чтобы узнать о возможности получения консультации.