Синтеза оптимального рішення за критерієм нейману пірсона. Послідовні процедури розпізнавання

Критерій Неймана-Пірсона

Критерій Неймана-Пірсона застосовується в двійкових системаху ситуаціях, коли неможливо визначити апріорні ймовірності окремих повідомлень, а наслідки помилок різного родунеоднакові. Така ситуація типова для радіолокації, де здійснюється зондування простору вузьким радіопроменем та прийом відбитого від мети сигналу. При цьому мають місце дві ситуації: 1) наявність мети - коливання на вході приймача містить сигнал в адитивній суміші з перешкодою (з невідомою апріорною ймовірністю P(b 1)); 2) відсутність мети – на вході приймача діє одна перешкода (з ймовірністю P(b 0) = 1 –P(b 1)). Завдання прийому – виявлення сигналу і натомість перешкод. При її реалізації можливі два види помилок:

1) пропуск мети(мета є, але відбитий сигнал не виявлено) з умовною ймовірністю;

2) помилкова тривога(Мета відсутня, але прийнято рішення про наявність відбитого сигналу) з умовною ймовірністю.

Очевидно, що наслідки цих помилок дуже різняться.

У разі доцільно прагнути зменшення умовної ймовірності помилки, що викликає особливо важкі наслідки (перепустка мети), що можна зробити лише рахунок збільшення ймовірності помилки іншого виду (хибної тривоги). Ясно, що це можна робити певною мірою, тому що занадто велика ймовірність помилкової тривоги призведе до відчутних економічних втратта до підриву довіри до системи загалом. Розумний вихід – зафіксувати ймовірність хибної тривоги на вибраному рівні ε

, (6.8)

а потім мінімізувати ймовірність пропуску мети

Мінімізація (6.9) при заданій величині(6.8) досягається, якщо рішення про наявність мети приймається під час виконання нерівності

,

де λ(ε) – пороговий рівень, який визначається заданою ймовірністю помилкової тривоги.

Контрольні питання

1. Сформулюйте завдання оптимального прийому дискретних повідомлень.

2. Дайте геометричне трактування задачі оптимального прийому дискретних повідомлень.

3. Що називають правилом рішення ( вирішальною схемою) демодулятора?

4. Що таке ідеальний (оптимальний) приймач дискретних повідомлень?

5. Що розуміють під потенційною завадостійкістю прийому дискретних повідомлень?

6. У чому суть теорії потенційної завадостійкості? Коли та ким було закладено її основи?

7. Який зміст вкладають у поняття критерію якості прийому дискретних повідомлень? Перерахуйте відомі Вам критерії.

8. У чому суть критерію ідеального спостерігача (критерію Котельникова)?

9. Вкажіть особливості критерію Котельникова.

10. Що являє собою критерій максимальної правдоподібності? Як він співвідноситься з критерієм Котельникова?

Критерій МП виходить із критерію мінімального середнього ризику, якщо прийняти, що П 12 = 1/P(S 1 ), П 21 = 1/P(S 2 ).

При цьому оптимальний приймач приймає рішення таким чином, що мінімізується значення

l п = P(y 2 /S 1 ) + P(y 1 /S 2 ) . (2.3)

Критерій МП іноді називається критерієм мінімуму втрат інформації, так як оптимальне правило рішення в цьому випадку встановлює межу підпростору (рис.1.2) так, щоб зменшити ймовірність спотворення сигналу, ймовірність передачі якого менше (отже, цей сигнал містить більше інформації).

Критерій МП застосовується в системах зв'язку також у випадках, коли апріорні ймовірності Р(S 1 ) і P(S 2 ) невідомі.

3. Критерій ідеального спостерігача.

Якщо вагові коефіцієнти П 12 = П 21 =1, то критерій мінімального середнього ризику мінімізує середню ймовірність помилки

p ош = P(S 1 )P(y 2 /S 1 ) + P(S 2 )P(y 1 /S 2 ) (2.4)

і називається критерієм ідеального спостерігача.

Критерій ідеального спостерігача широко застосовується в системах зв'язку, коли спотворення будь-якого сигналу однаково небажані і збігаються з критерієм МП, якщо ймовірності Р(S 1 ) = P(S 2 ) = 0,5 .

4. Критерій Неймана-Пірсона.

У деяких системах передачі інформації (системах радіолокації, деяких системах сигналізації) є необхідність фіксування (завдання) однієї з умовних ймовірностей Р(у 1 /S 2 ) або Р(у 2 /S 1 ). При цьому оптимальний приймач приймає рішення таким чином, щоб мінімізувати ту умовну ймовірність, яка не задано. Критерій оптимальності, який використовується таким приймачем, називається критерієм Неймана-Пірсона.

Наприклад, задана можливість пропуску сигналу S 1 , тобто Р(у 2 /S 1 ) =  .. Тоді критерій Неймана-Пірсона вимагає мінімізації умовної ймовірності Р(у 1 /S 2 ), забезпечуючи задане значення . Ймовірність Р(у 1 /S 2 ) зазвичай позначається  , тоді (1-  ) = Р(у 2 /S 2 ) називається якістю рішення.Правило рішення Неймана-Пірсона забезпечує (min ) або мах(1- ) при  = const.

Приймач при використанні критерію Неймана-Пірсона будується таким чином, щоб отримати досить малу ймовірність пропуску сигналу (мети) Р(у 2 /S 1 )=  .. З тим, що при цьому може (попри мінімізацію = Р(у 1 /S 2 ) ) виявитися багато помилкових тривог, доводиться миритися. У цьому полягає сутність цього критерію.

3. Ставлення правдоподібності

Розрізнення сигналів у приймальному пристрої зазвичай здійснюють шляхом встановлення деякого "порога" на виході приймача, що фактично грає роль "кордону підпросторів" сигналів S 1 і S 2 .

На рис. 3.1. наведено деякий дискретний сигнал х(t)(імпульси постійного струму), на який накладається флюктуаційна перешкода та проведено пунктирну лінію, що відповідає обраному порогу х п .

Якщо величина x(t)< x п, приймач видає сигнал S 1 , якщо ж x(t)>x п , приймач видає сигнал S 2 . Як видно з малюнка, на відрізку часу t 1 , t 2 під дією сильної перешкоди величина х > x п, тобто в цьому випадку приймач може видати сигнал S 2 , хоча передавався S 1 .

Різні критерії прийому дискретних сигналів практично відрізняються методом встановлення величини порога. Це завдання найпростіше вирішується за допомогою " відносини правдоподібностіДля розгляду цього питання звернемося до рис. 3. 2.

Якби на вході приймача були відсутні перешкоди, ми мали б справу з "чистими" сигналами S 1 і S 2 і завдання поділу сигналів було б дуже просте. За наявності перешкод сигнали спотворюються і для їх опису доводиться використовувати імовірнісне простір. Самі сигнали разом із перешкодами описуються вже функціями щільності ймовірності w (x/S 1 ) і w (x/S 2 ), які зображені на рис. 3.2. (ці функції помножені також на вагові коефіцієнти П 12 Р(S 1 ) і П 21 Р(S 2 )). На цьому ж малюнку показано поріг х п .

Заштрихована частина малюнка ліворуч х п має площу, рівну

П 21 Р(S 2 )w(x/S 2 )dx =П 21 Р(S 2 )P(x/S 2 ), (3.1)

а заштрихована частина правіше х пмає площу, рівну

П 12 Р(S 1 )w(x/S 1 )dx =П 12 Р(S 1 )P(x/S 1 ), (3.2)

Сума цих величин, відповідно до формули (2.1), є середнім ризиком R ср. З рис. 3.2. видно що R србуде мінімальною, коли мінімальна сумарна площа під кривими. Це буде у тому випадку, якщо величина х п відповідає точці перетину кривих на рис. 3.2. Отже, умовою отримання min(R ср } є такий поріг х п , у якому настає рівність ординат наведених кривих, тобто.

П 12 Р(S 1 )w(x/S 1 )dx =П 21 Р(S 2 )w(x/S 2 ), (3.3)

звідки отримуємо наступне співвідношення:

. (3.4)

Вираз, що стоїть зліва, називається ставленням правдоподібності

(х) = ,(3.5)

а w (x/S i ), яка є щільністю ймовірності того, що прийнятий сигнал хутворився під час передачі сигналу S iзазвичай називається функцією правдоподібності(функцією правдоподібності є також будь-яка монотонна функція від w(x/S i ), наприклад log[ w(x/S i )]).

Чим більше значення w(x/S i ), тим більше ймовірно, що хмістить сигнал S i(це очевидно з рис. 3.2). Праворуч вираз називається пороговим ставленням правдоподібності

 0 = . (3.6)

Приймач, який використовує ставлення правдоподібності, працює в такий спосіб.

1. Аналізуючи сигнал, що надходить на його вхід, обчислює ставлення правдоподібності  (х).

2. За відомим значеннямапріорних ймовірностей Р(S 1 ) і P(S 2 ), а також заданим ваговим коефіцієнтом П 21 і П 12 , обчислюється граничне ставлення правдоподібності  0 .

3. Величина  (х)порівнюється з  0 ,

якщо (х) > 0 , приймач видає сигнал S 1 ,

в іншому випадку сигнал S 2 . (3.7)

Вираз (3.7) є правилом рішення Ф(х)вирішального пристрою, показаного на рис.1.3.

Правило рішення (3.7) є загальним для двійкових систем зв'язку, які використовують будь-який критерій оптимального прийому; відмінність лише у значенні порога  0 .

Якщо приймач працює за критерієм мінімального середнього ризику, величина  0 визначається формулою (3.6).

Для критерію ідеального спостерігача, у цій формулі коефіцієнти

П 12 = П 21 = 1 і тоді  0 = P(S 2 )/ P(S 1 ) , (3.8)

Для критерію максимальної правдоподібності

П 12 = 1/ P(S 1 ) , П 21 = 1/ Р(S 2 ), тоді  0 =1. (3.9)

Якщо приймач використовує критерій Неймана-Пірсона, то ставлення правдоподібності (х) стає випадковою величиною, оскільки у рівності (3.1) Р(у 1 /S 2 ) =  (задається споживачем). Порогове ставлення правдоподібності визначається як верхня межа інтегралу

(3.10)

де w( ) - щільність розподілу відносин правдоподібності  (х).

Правило ухвалення рішення приймачем з використанням відношення правдоподібності розглянемо на таких прикладах.

Умови завдання.

Нехай на вхід приймача надходить адитивна суміш сигналу (дискретна амплітудна модуляція) та перешкоди:

Де i=1,2;

n(t)флюктуаційна перешкода типу гаусівського шуму з дисперсією .

Протягом тривалості однієї елементарної посилки у вирішальній схемі приймача у синхронні моменти часу t 1 і t 2 зроблено два відліки (виміру) сигналу x(t), причому  t = t 2 -t 1 більше інтервалу кореляції перешкоди n(t). Виміряні значення x(t 1 )= x 1 = 0,2 B; x(t 2 )= x 2 = 0,3 B. Амплітуда сигналу A=0,4 B.

Визначити ставлення правдоподібності та прийняти рішення за критерієм ідеального спостерігача, який із двох сигналів (S 1 або S 2 ) надійшов на вхід приймача для двох випадків:

б);.

Розв'язання задачі (когерентний прийом).

1. Знайдемо ставлення правдоподібності.

Щільність ймовірності сигналу x(t)=S 1 (t)+n(t)має вигляд

.

Оскільки протягом елементарного сигналу виробляються два відліки, то знаходження ставлення правдоподібності потрібно знайти двомірну щільність ймовірностей w 2 (x 1 x 2 /s 1 ) . Враховуючи, що відліки некорельовані (  tбільше інтервалу кореляції), а перешкода розподілена за гауссівським законом, ці відліки можна вважати незалежними. У цьому випадку двовимірна щільність ймовірностей дорівнює добутку одномірних щільностей

.

Аналогічно

.

Ставлення правдоподібності

.

Підставляючи чисельні значення A, n , x 1 , x 2 , отримаємо:  ( 0,2;0,3)= 2,7.

2. Застосовуємо правило рішення (3.7).

а) Порогове відношення правдоподібності при P(s 1 )=P(s 2 )=0,5

.

У нашому випадку  (x 1 x 2 )=2,7 >  0 =1 та приймач видає сигнал S 1 .

б)Порогове ставлення правдоподібності при P(s 1 )=0,2 та P(s 2 )=0,8

.

В цьому випадку  (x 1 x 2 )=2,7 <  0 =4 та приймач видає сигнал S 2 .

Отримані результати цілком зрозумілі: у разі a)виміряне значення x(t 1 )=0,2Bвідповідає половині амплітуди А=0,4В, а виміряне значення x(t 2 )=0,3Bближче до сигналу S 1 тому при рівній ймовірності сигналів приймач видає рішення на користь сигналу S 1 ; в разі б) виміряні значення сигналу ближче до S 1 , але сигнал S 2 (t)зустрічається у 4 рази частіше, ніж сигнал S 1 (t),і точне вирішення задачі з урахуванням усіх обставин у другому випадку виходить на користь сигналу S 2 .

Розв'язання задачі (некогерентний прийом).

Вирішимо це завдання у припущенні, що у приймачі використовується звичайний амплітудний детектор.

Знайдемо ставлення правдоподібності для цього випадку. Щільність ймовірності x(t)під час передачі сигналу S 1 (t)визначається узагальненим законом Релея

,

а щільність ймовірності x(t)під час передачі сигналу S 2 (t)визначається простим закономРелея

.

Як і в попередньому прикладі, ставлення правдоподібності визначатиметься ставленням двомірних густин ймовірності. Після простих перетворень отримуємо

.

Підставляючи сюди чисельні значення А, n , x 1 , x 2 , отримаємо

Як і в попередньому прикладі, а) 0 =1 і б) 0 =4 .

В обох випадках  (x 1 x 2 )<  0 і в обох випадках приймач видає рішення на користь сигналу S 2 (t).

Порівнюючи випадки прийняття рішення вирішальною схемою приймача при когерентному та некогерентному прийомі, мимоволі виникає питання: чому виходять різні результати у разі а).

Справа в тому, що при когерентному прийомі сигнали x(t)розподілені за гауссівським законом і оптимальний поріг x o, який визначається точкою перетину функцій P(S 1 )  w(x/s 1 ) і P(S 2 )  w(x/s 2 ) (Рис. 3.3) , у цьому випадку (коли P(S 1 ) = P (S 2 ) і  0 =1) відповідає половині амплітуди сигналу S 1 (t); виміряні значення сигналу x(t)близькі до порогового значення та ближче до сигналу S 1 (t). Однак при некогерентному прийомі сигнали x(t)розподілені за законами Релея та оптимальний поріг x oзначно вище, ніж половина амплітуди сигналу S 1 (t)(Рис. 3.4). Тому ті ж виміряні значення x(t 1 ) і x(t 2 ) виявляються далі від порога в області сигналу S 2 (t)і вирішальна схема приймача за заданих в умовах завдання ймовірностей сигналів S 1 (t)і S 2 (t)видає рішення на користь сигналу S 2 (t).

Враховуючи, що при когерентному прийомі рівень перешкод на вході вирішальної схеми суттєво нижчий, ніж при некогерентному, ймовірніше, що помилкове рішення прийняв некогерентний приймач.

5.2. Критерій Неймана – Пірсона

Якщо є деяка вибірка x 1 ,x 2 ,...,x n , то за допомогою заданих помилок першого та другого роду α і β можна вирішувати задачу про найкращий критерій. Саме по заданому значеннюрівня значущості α шукається такий критерій, щоб його потужність 1-β була максимальною. Введемо

попередньо кілька позначень та визначень.

Розміром α0 критерію називається максимальне значенняймовірності помилки першого роду під час використання даного критерію, тобто.

Поступово найбільш потужні критерії існують у вкрай рідкісних слу-

функції розподілу. І тут рівномірно найпотужніший критерій називається критерієм відношення правдоподібності і описується так. Введемо статистику

є відношенням ймовірностей (або щільностей розподілу) отримати вибірку x 1 x 2 x x n за умови справедливості гіпотез H 0 і H 1 .

Природно припустити, що більше відношення правдоподібності, тим більше перевагу ми маємо надати гіпотезі H 1 . Про це го-

злодіяти в лемі Неймана - Пірсона.

Лемма Неймана - Пірсона.Серед усіх критеріїв заданого рівня значущостіα, що перевіряють дві прості гіпотезиH 0 іH 1 , кри-

терій відношення правдоподібності є найпотужнішим.

При практичній реалізації критерію відношення правдоподібності зазвичай зручно користуватися не ставленням правдоподібності, а його лога-

> C . Відповідно до загальним правиломрівень значущості α та потужність 1− β критерію відношення правдоподібності залежно від крити-

чеського значення C визначаються за формулами:

H1: m = a1> a0. Скористаємося критерієм Неймана Пірсона. Крити-

Спростимо останній вираз:

∑ n [(xi −a 0 )2 − (xi −a 1 )2 ]=∑ n (xi 2

− 2 x i a 0 +a 0 2 −x i 2 +2 x i a 1 2 −a 1 2 )=

C 1− a 0

Таким чином, α знаходиться C 1 з

можна знайти і β

Φ C 1− a 1. D n

рішення рівняння

з аналогічного дорівнює-

5.3. Перевірка гіпотез про числові значення параметрів нормального розподілу

Позначимо через X випадкову величину, що має нормальний законрозподілу з параметрами m X іD X , тобто. X N (m X ,D X ) , при-

Чим числові значення або одного, або обох параметрів невідомі. Дізнатися, яке чисельне значення невідомого параметра, можна, обстеживши всю генеральну сукупність, Що зробити, як правило, не можна.

Зазвичай натомість проводять вибіркові спостереження, припускаючи у своїй, що вони незалежні й у однакових умовах. Тоді

Виділимо критичну область статистики z , при якій H 0 відкидається. Розмір і розташування критичної області залежать від форми-

2. Перевірка гіпотези про числовому значенні математичного очікуваннянормального розподілу за невідомої дисперсії.

У цьому випадку, відмінність від попередніх формул і припущень стосуватиметься лише статистики критерію z та її розподілу. Виберемо у

як статистику величину z = (m X ) - a 0). Як було показано

раніше (див. підрозд. 4.7, п. 2), ця статистика має розподіл Стьюдента з (n - 1) - й ступенем свободи, тобто z S n - 1 (t). Всі інші пункти

ти перевірки залишаються без змін. Наприклад, якщо обрано альтернативну гіпотезу 2-го виду H 1 :m X = a 1< a 0 (рис. 5.7), критическая об-

ласть буде лівосторонньою, її утворює один інтервал (−∞ ,z лев,α ) ,

P (z< z лев,α= t α,n − 1)= α

t α,n − 1

∫ s (t) dt = α, тобто.

t α,n − 1= S

−1

(α )

t α,n − 1

W\ω

Мал. 5.7. Лівостороння критична область

для маточіння

3. Перевірка гіпотези про числове значення дисперсії нормаль-

ного розподілу.

у цьому випадку відомо, що X N (m X ,D ) , але числове значення

ня дисперсії невідомо. За вибіркою спостережень x 1 x 2 x x n

обчислимо

точкові оцінки m X =

∑x i

та D X =

∑ (x i −m X )

і перевіримо гі-

n i = 1

n − 1 i = 1

H 0 :D X = D 0 де D 0 - заздалегідь задане число. Як стати-

гіпотези

випадкову

величину

D X (n − 1) D 0 . Раніше (див. підрозд. 4.7) було показано, що ця випадок-

величина

має χ2 -розподіл

n − 1

ступенем свободи, тобто.

z χ n 2 − 1 .

z та визначення її розподілу всі ос-

Після вибору статистики

Тальні питання перевірки гіпотези носять технічний характер. Задамося рівнем значущості α, сформулюємо альтернативну гіпотезу та

перейдемо до побудови критичної області та перевірки H0. Розглянемо правосторонній критерій, тобто. альтернативна гіпотеза має бути

z п р,1 - α

Ситуація, в якій практично неможливо визначити апріорну ймовірність передачі окремих елементарних повідомлень, а наслідки помилок різного роду неоднакові, типова для радіолокації, коли приймач, аналізуючи ухвалене коливання z(t) (відбитий сигнал плюс перешкода), повинен визначити, чи є в даному напрямкуі на даній відстані об'єкт спостереження (ціль) чи ні. Як правило, апріорна ймовірність наявності відбитого від мети сигналу (передачі 1) наперед не відома. Наслідки двох пологів помилок - помилкової тривоги (приймач фіксує, що мета існує, тоді як насправді її немає) і пропуску мети (приймач зазначає відсутність мети, тоді як вона є) - нерівноцінні.

У цій та інших подібних ситуаціях найчастіше користуються критерієм прийому, відомим за назвою критерію Неймана-Пірсона. Суть його полягає в тому, що вирішальна схема вважається оптимальною, якщо при заданій ймовірності помилкової тривоги р ЛТзабезпечується мінімальна ймовірність пропуску мети рпрц . Введемо на розгляд функції правдоподібності гіпотези про відсутність мети w(z|0)і про наявність мети w(z|1)

Очевидно, що можна у різний спосіброзбити простір коливань z( t) на дві області: B 0 (область рішення про відсутність мети) та B 1 , (про наявність мети) -так, щоб ймовірність помилкової тривоги

дорівнювала заданій величині. Оскільки в локації символ 0 (відсутність мети) передається паузою, то w(z|о) - це щільність розподілу перешкоди. Отже, ймовірність помилкової тривоги визначається ймовірнісними характеристиками перешкоди та вибором області B 1 . Але від вибору цієї області залежить і можливість правильного виявлення мети:

де pпрц - можливість пропуску мети.

Інтеграли в (16), (17) та в аналогічних інших формулах, взяті за векторною змінною, очевидно, багаторазові.

Максимізація (17) за заданої величини (16) досягається, якщо рішення про наявність мети приймається при виконанні нерівності

,

де l - пороговий рівень, який визначається заданою ймовірністю помилкової тривоги р ЛТ.

Існують і інші критерії якості прийому, що не потребують знання апріорних ймовірностей символів.

У техніці зв'язку переважно застосовують правило максимальної правдоподібності (12) (13). Якщо всі символи передаються рівноймовірно, правило максимальної правдоподібності реалізує критерій ідеального спостерігача. Однак дуже часто це правило рішення застосовують і за невідомих або відомих, але не однакових апріорних ймовірностей символів. Звичайно, воно не забезпечує у цих випадках максимуму ймовірності правильного прийому. Змінивши вирішальну схему на схему, побудовану за правилом максимальної апостеріорної ймовірності (6), що реалізує критерій ідеального спостерігача, можна було б зменшити ймовірність помилок. При цьому, очевидно, довелося б скоротити сфери прийому малоймовірних і розширити сфери високо ймовірних символів. В результаті символи, що рідко передаються, приймалися б менш надійно, ніж часто передані. Але рідкісні символи мають більше інформації, ніж часті. Тому перехід від правила максимальної правдоподібності до правила максимальної апостеріорної ймовірності, хоч і зменшує безумовну ймовірністьпомилки може призвести до збільшення втрати інформації при демодуляції. Легко показати, що правило максимальної правдоподібності реалізує критерій мінімуму середнього ризику (15), якщо покласти L ij = 0 при i=jі L ij = 1/p(b i) при j¹i.

Висновок

Вибір критерію якості прийому визначає порядок розбиття простору сигналів, що приймаються, тобто. вибір оптимальної вирішальної схеми приймального устрою.

У техніці зв'язку переважно застосовують правило максимальної правдоподібності, вирішальну схему якого називають оптимальною.

Розробив

Доктор військових наук, професор

Зазвичай у приймальних пристроях демодулятор передують підсилювачі і перетворювачі частоти. Тут усі вони вважаються включеними до складу каналу. У ряді випадків саме вони є основними джерелами адитивних перешкод каналу.

Початок цього відрізка для зручності сумісний із початком координат. У принципі інтервал аналізу на прийомі який завжди збігається з тактовим інтервалом Т(див.нижче). Сигнали на тактовому інтервалі часто називатимемо елементом сигналу.

У математичної теоріїзв'язку це розбиття і називають вирішальною схемою. Зауважимо, що в деяких випадках користуються вирішальною схемою зі стиранням або відмовою від рішення. Це означає що mобластей не охоплюють всього простору сигналів і якщо приходить сигнал не потрапляє в жодну з цих областей, то приймається рішення про стирання або про неможливість визначити символ, що передається.

Замість нерівностей (12) можна було б просто записати w(z| b i)> w(z| b j) Порівняння відносин правдоподібності замість порівняння умовних щільностей ймовірностей викликано тим, що поняття відносини правдоподібності можна поширити і на сигнали з нескінченномірного гільбертового простору, для яких поняття щільності ймовірності w(z| b i,), w(z| b j) втрачає сенс.