Кореляційна функція.

1. Математичне очікування невипадкового процесу j( t) дорівнює самому невипадковому процесу:

З виразу (1.9) випливає, що будь-яка невипадкова центрована функція дорівнює нулю, оскільки

2. Якщо випадкова величина Y(t) являє собою лінійну комбінацію функцій X i(t):

, (1.11)

де - невипадкові функції t, то

. (1.12)

Останнє співвідношення випливає з того, що операція визначення математичного очікування є лінійною.

3. Кореляційна функція невипадкового процесу тотожно дорівнює нулю. Ця властивість випливає безпосередньо з (1.10).

4. Кореляційна функція не змінюється від додавання до випадкової функції будь-якої невипадкової функції. Справді, якщо , то

Звідси випливає, що кореляційні функції випадкових процесів та

Збігаються. Тому щодо кореляційних функцій завжди вважатимуться, що аналізований процес є центрованим.

5. Якщо випадковий процес Y(t) являє собою лінійну комбінацію випадкових процесів X i(t):

де - невипадкові функції, то

, (1.14)

де - власна кореляційна функція процесу X i(t), - взаємна кореляційна функція процесів та .

Дійсно:

, =

Якщо випадкові процеси попарно некорельовані, то

. (1.15)

Вважаючи (1.14) , отримаємо вираз для дисперсії лінійної комбінації випадкових процесів:

В окремому випадку некорельованих випадкових процесів

. (1.17)

6. Кореляційна функція є невід'ємно визначеною функцією:

. (1.18)

Справді, представимо (1.18) у вигляді:

Оскільки інтеграл є межа інтегральної суми, то останнє вираз можна у вигляді межі суми математичних очікувань, яка, своєю чергою, дорівнює математичному очікуванню суми. Тому операції інтегрування та математичного очікування можна міняти місцями. В результаті отримаємо:

7. Кореляційна функція симетрична щодо своїх аргументів. Взаємна кореляційна функція цією властивістю не має.

Симетричність кореляційної функції випливає безпосередньо з її визначення:

У той же час для взаємної кореляційної функції маємо:

Взаємна кореляційна функція задовольняє наступне співвідношення:

8. Кореляційна функція та взаємна кореляційна функція задовольняють такі нерівності:

Часто замість власної та взаємної кореляційних функцій розглядають нормовані кореляційні функції :

, (1.23)

. (1.24)

На підставі (1.21) та (1.22) для нормованих кореляційних функцій справедливі нерівності:

. (1.25)

приклад Заданий випадкових процес є сумою випадкового і невипадкового процесів: . Задані , визначити

Використовуючи (1.9) та (1.12), матимемо:

Згідно (1.15)

і, нарешті, відповідно (1.17) .

КЛАСИФІКАЦІЯ ВИПАДКОВИХ ПРОЦЕСІВ

Стаціонарні процеси

Випадковий процес називається стаціонарним , якщо його багатовимірний закон розподілу залежить лише від взаємного розташування моментів часу t 1 , t 2 , . . .t n, тобто. не змінюється при одночасному зрушенні цих моментів часу на однакові величини:

Якщо вираз (2.1) задовольняється за будь-якого n, то такий процес називається стаціонарним у вузькому значенні.

При n=1 вираз (2.1) набуває вигляду:

І при , 2.2)

тобто. одномірний закон розподілу стаціонарного процесу залежить від часу. Отже, від часу не залежатимуть і характеристики випадкового процесу, що залежать від одновимірного закону розподілу: математичне очікування та дисперсія випадкового процесу:

, . (2.3)

При n=2 вираз (2.1) листується так:

Отже, кореляційна функція стаціонарного процесу, яка визначається двовимірним законом розподілу, залежатиме лише від інтервалу часу t

За визначенням А.Я.Хінчина процес є стаціонарним у широкому розумінні , якщо умова стаціонарності (2.1) задовольняється лише за n= 1 та 2.

Отже, умови стаціонарності процесу у сенсі можна сформулювати як:

· Математичне очікування та дисперсія такого процесу не залежать від часу - і D X;

· Кореляційна функція процесу залежить лише від інтервалу між перерізами за часом.

До XX(t) є парною функцією свого аргументу:

Слід пам'ятати, що взаємна кореляційна функція є непарною функцією:

, (). (2.7)

Нормальні процеси

Випадковий процес є нормальним , якщо нормальним є будь-який багатовимірний закон:

× ), (2.8)

де (2.9)

Відносні власні та взаємні кореляційні функції, та два значення випадкової величини Y – y 1 і y 2 . З малюнка видно, що математичне очікування реалізації при Y=y 1 одно y 1 , а при Y=y 2 – y 2 .

Рис.2.1. Приклад стаціонарного неергодичного процесу

Таким чином, за єдиною реалізацією стаціонарного, але неергодичного процесу не можна судити про характеристики процесу в цілому.

Марківські процеси

Якщо ймовірнісні властивості випадкового процесу повністю визначаються значенням його ординати в заданий момент часу і не залежать від значень ординат процесу в попередні моменти часу, такий випадковий процес називається Марківським. Іноді такі процеси називають процесами без післядії.

Перешкоди у системах зв'язку описуються методами теорії випадкових процесів.

Функція називається випадковою, якщо в результаті експерименту вона набуває того чи іншого вигляду, заздалегідь невідомо, який саме. Випадковим процесом називається випадкова функція часу. Конкретний вид, який набуває випадкового процесу в результаті експерименту, називається реалізацією випадкового процесу.

На рис. 1.19 показано сукупність кількох (трьох) реалізацій випадкового процесу , , . Така сукупність називається ансамблем реалізацій. При фіксованому значенні моменту часу першому експерименті отримаємо конкретне значення , у другому – , у третьому – .

Випадковий процес має двоїстий характер. З одного боку, у кожному конкретному експерименті він представлений своєю реалізацією – невипадковою функцією часу. З іншого боку, випадковий процес описується сукупністю випадкових величин.

Дійсно, розглянемо випадковий процес у фіксований момент часу. Тоді в кожному експерименті набуває одного значення, причому заздалегідь невідомо, яке саме. Таким чином, випадковий процес, що розглядається у фіксований момент часу, є випадковою величиною. Якщо зафіксовано два моменти часу і , то в кожному експерименті отримуватимемо два значення і . У цьому спільне розгляд цих значень призводить до системі двох випадкових величин. При аналізі випадкових процесів у N моментів часу приходимо до сукупності або системи N випадкових величин .

Математичне очікування, дисперсія та кореляційна функція випадкового процесу. Оскільки випадковий процес, що розглядається у фіксований момент часу, є випадковою величиною, то можна говорити про математичне очікування та дисперсія випадкового процесу:

, .

Як і для випадкової величини, дисперсія характеризує розкид значень випадкового процесу щодо середнього значення . Чим більше, тим більше ймовірність появи дуже великих позитивних та негативних значень процесу. Більше зручною характеристикою є середнє квадратичне відхилення (СКО), що має ту ж розмірність, що і сам випадковий процес.

Якщо випадковий процес визначає, наприклад, зміна дальності до об'єкта, то математичне очікування – середня дальність у метрах; дисперсія вимірюється у квадратних метрах, а Ско – у метрах та характеризує розкид можливих значень дальності щодо середньої.

Середнє значення та дисперсія є дуже важливими характеристиками, що дозволяють судити про поведінку випадкового процесу у фіксований час. Однак, якщо необхідно оцінити «швидкість» зміни процесу, то спостережень в один момент недостатньо. Для цього використовують дві випадкові величини, що розглядаються спільно. Так само, як і для випадкових величин, вводиться характеристика зв'язку або залежності між . Для випадкового процесу ця характеристика залежить від двох моментів часу і називається кореляційною функцією: .

Стаціонарні випадкові процеси. Багато процесів у системах управління протікають однорідно у часі. Їхні основні характеристики не змінюються. Такі процеси називаються стаціонарними. Точне визначення можна дати в такий спосіб. Випадковий процес називається стаціонарним, якщо будь-які його ймовірні характеристики не залежать від зсуву початку відліку часу. Для стаціонарного випадкового процесу математичне очікування, дисперсія та СКО постійні: , .

Кореляційна функція стаціонарного процесу залежить від початку відліку t, тобто. залежить тільки від різниці моментів часу:

Кореляційна функція стаціонарного випадкового процесу має такі властивості:

1) ; 2) ; 3) .

Часто кореляційні функції процесів у системах зв'язку мають вигляд, показаний на рис. 1.20.

Рис. 1.20. Кореляційні функції процесів

Інтервал часу , у якому кореляційна функція, тобто. величина зв'язку між значеннями випадкового процесу, що зменшується в М разів, називається інтервалом або часом кореляції випадкового процесу. Зазвичай або . Можна сказати, що значення випадкового процесу, що відрізняються за часом на інтервал кореляції, слабко пов'язані один з одним.

Таким чином, знання кореляційної функції дозволяє судити про швидкість зміни довільного процесу.

Інший важливою характеристикою є енергетичний спектр довільного процесу. Він визначається як перетворення Фур'є від кореляційної функції:

Очевидно, справедливе та зворотне перетворення:

Енергетичний спектр показує розподіл потужності випадкового процесу, наприклад, перешкоди, на осі частот.

При аналізі САУ дуже важливо визначити характеристики випадкового процесу на виході лінійної системи за відомих характеристик процесу на вході САУ. Припустимо, що лінійна система задана імпульсною перехідною характеристикою. Тоді вихідний сигнал на момент часу визначається інтегралом Дюамеля:

де – процес вході системи. Для знаходження кореляційної функції запишемо і після перемноження знайдемо математичне очікування

9. Кореляційна функція та її основні властивості.

Для повного опису випадкових процесів вводиться поняття корел ф-і.

рівних математичному очікуванню, дисперсії, СКО

Припустимо, що закон розподілу нормальний. На графіках видно різку відмінність процесів, незважаючи на їх рівні імовірнісні хар-ки.

(t) m		(t),

(t) D		(t),

(t)	(t).

Наприклад, стеження за літаком. Якщо він у момент часу t зайняв положеннях 1, то цим самим його можливе положеннях 2 в наступний момент t 2 обмежено, тобто події (x 1, t 1) і (x 2, t 2) не будуть незалежними. Чим більш інерційний об'єкт, що вивчається, тим більше ця взаємозалежність, або кореляція. Корр ф-я математично висловлює кореляцію двох функцій чи кореляцію функції із собою (автокорр-я функція ). Корфункція описується в наступному вигляді:

де t 1 і t 2 - будь-які моменти часу, тобто t 1 і t 2 Т

Кореляція - статистичний взаємозв'язок двох чи кількох випадкових величин.

Кореляційна функція– така невипадкова функція R x (t 1 , t 2 ) двох аргументів, яка для будь-якої пари фіксованих значень аргументів t 1 і t 2 дорівнює кореляційному моменту, що відповідають цим перерізам випадкових величин x (t 1) і x (t 2).

Кореляційна функція – функція часу, яка задає кореляцію в системах із випадковими процесами.

При збігу моментів t 1 і t 2 кореляційна функція дорівнює дисперсії. Нормована кореляційна функція обчислюється за такою формулою:

) 1,

де x (t 1) і x (t 2) с.к.о. випадкової функції x (t) при t = t 1 і t = t 2 відповідно. Для обчислення

кореляційної функції потрібно

щільність (двовимірну)

ймовірності

(x, x

; t, t

) dx dx

Властивості кореляційних функцій

1. Кореляційна функція R x (t 1 , t 2 ) симетрична щодо своїх аргументів:

R x (t 1, t 2) = R x (t 2, t 1)

відповідно до визначення кореляційної функції X (t ).

2. При додаванні до випадкової функції X (t ) довільного невипадкового доданка

(t), кореляційна функція Z (t) X (t) (t),

то R z (t 1, t 2) = R x (t 1, t 2).

3. При множенні випадкової функції X (t ) на довільний невипадковий множник ψ(t ) кореляційна функція R x (t 1 , t 2 ) множиться на ψ(t 1 )ψ(t 2 ).

При дослідженні питань залежності чи незалежностідвох або більше перерізів випадкових процесів знання лише математичного очікування та дисперсії с.п. мало.

Для визначення зв'язку між різними випадковими процесами використовують поняття кореляційної функції – аналог поняття коваріації випадкових величин (див. Т.8)

Кореляційної (ковариаційної, автоковарійної, автокореляційної)функцією випадкового процесу
називається невипадкова функція двох аргументів

дорівнює кореляційному моменту відповідних перерізів
і
:

або (з урахуванням позначення центрованої випадкової функції
) маємо

Наведемо основні властивості кореляційної функції
випадкового процесу
.

1. Кореляційна функція за однакових значень аргументів дорівнює дисперсії с.п.

Справді,

Доведена властивість дозволяє обчислити м.о. та кореляційну функцію, що є основними характеристиками випадкового процесу, необхідність у підрахунку дисперсії відпадає.

2. Кореляційна функція змінюється щодо заміни аргументів, тобто. є симетричною функцією щодо аргументів: .

Ця властивість безпосередньо виводиться із визначення кореляційної функції.

3. Якщо до випадкового процесу додати невипадкову функцію, то кореляційна функція змінюється, тобто. якщо
, те. Іншими словами

є періодичною функцією щодо будь-якої невипадкової функції.

Справді, з ланцюжка міркувань

випливає, що . Звідси отримаємо необхідну властивість 3.

4. Модуль кореляційної функції вбирається у твори с.к.о., тобто.

Доказ якості 4. проводиться аналогічно як у пункті 12.2. (Теорема 12..2), з урахуванням першої властивості кореляційної функції с.п.
.

5. При множенні п.п.
на невипадковий множник
її кореляційна функція помножиться на твір
, тобто, якщо
, то

5.1. Нормована кореляційна функція

Поряд із кореляційною функцією с.п. розглядається також нормована кореляційна функція(або автокореляційнафункція)
обумовлена рівністю

Слідство.На підставі властивості 1 має місце рівність

За своїм змістом
аналогічний коефіцієнту кореляції для С.В., але не є постійною величиною, а залежить від аргументів і .

Перерахуємо властивості нормованої кореляційної функції:

3.
.

приклад 4.Нехай с.п. визначається формулою, тобто.
с.в.,

розподілено за нормальним законом

Знайти кореляційну та нормовану функції випадкового процесу

Рішення.За визначенням маємо

тобто.
Звідси з урахуванням визначення нормованої кореляційної функції та результатів вирішення попередніх прикладів отримаємо
=1, тобто.
.

5.2. Взаємна кореляційна функція випадкового процесу

Для визначення ступеня залежності перерізівдвох випадкових процесів використовують кореляційну функцію зв'язку чи взаємну кореляційну функцію.

Взаємною кореляційною функцією двох випадкових процесів
і
називається невипадкова функція
двох незалежних аргументів і яка при кожній парі значень і дорівнює кореляційному моменту двох перерізів
і

Два с.п.
і
називаються некорельованими,якщо взаємна кореляційна функція тотожно дорівнює нулю, тобто. якщо для будь-яких і має місце
Якщо ж для будь-яких і виявиться
, то випадкові процеси
і
називаються корельованими(або пов'язаними).

Розглянемо властивості взаємної кореляційної функції, які безпосередньо виводяться з її визначення та властивостей кореляційного моменту (див. 12.2):

1.При одночасної перестановки індексів та аргументів взаємна кореляційна функція не змінюється, тобто

2. Модуль взаємної кореляційної функції двох випадкових процесів вбирається у твори їх середніх квадратичних відхилень, тобто.

3. Кореляційна функція не зміниться, якщо до випадкових процесів
і
додати невипадкові функції
і
відповідно, тобто
, де відповідно
і

4. Невипадкові множники
можна винести за знак кореляції, тобто якщо
і то

5. Якщо
, те.

6. Якщо випадкові процеси
і
некорельовані, то кореляційна функція їхньої суми дорівнює сумі їх кореляційних функцій, тобто.

Для оцінки ступеня залежності перерізів двох п.п. використовують також нормовану взаємну кореляційну функцію
, що визначається рівністю:

Функція
має ті ж властивості, що і функція
але властивість 2

замінюється на наступну подвійну нерівність
, тобто. модуль нормованої взаємної кореляційної функції не перевищує одиниці.

Приклад 5.Знайти взаємну кореляційну функцію двох п.п.
і
, де
випадкова величина, причому

Рішення.Так як,.

Щоб певною мірою охарактеризувати внутрішню структуру випадкового процесу, тобто. врахувати зв'язок між значеннями випадкового процесу в різні моменти часу або, іншими словами, врахувати ступінь мінливості випадкового процесу, вводять поняття про кореляційну (автокореляційну) функцію випадкового процесу.

Кореляційною (або автокореляційною) функцією випадкового процесу називають невипадкову функцію двох аргументів, яка для кожної пари довільно вибраних значень аргументів (моментів часу) дорівнює математичному очікуванню добутку двох випадкових величин. відповідних перерізів випадкового процесу:

Кореляційну функцію для центрованої випадкової складової називають центрованою та визначають із співвідношення

(1.58)

Часто функцію називають коваріаційною, а – автокореляційної .

Різні випадкові процеси залежно від цього, як змінюються їх статистичні характеристики з часом, ділять на стаціонарніі нестаціонарні.Розрізняють стаціонарність у вузькому значенні та стаціонарність у широкому значенні.

Стаціонарним у вузькому значенні називають випадковий процес, якщо його - мірні функції розподілу та щільності ймовірності за будь-якого не залежатьвід положення початку відліку часу. Це означає, що два процеси мають однакові статистичні властивості для будь-якого, тобто статистичні характеристики стаціонарного випадкового процесу незмінні в часі. Стаціонарний випадковий процес - це свого роду аналог усталеного процесу в динамічних системах.

Стаціонарним у широкому розумінні називають випадковий процес, математичне очікування якого постійно:

а кореляційна функція залежить тільки від однієї змінної - різниці аргументів:

Поняття випадкового процесу, стаціонарного у сенсі, вводиться тоді, як статистичних характеристик випадкового процесу використовуються лише математичне очікування і кореляційна функція. Частина теорії випадкових процесів, яка описує властивості випадкового процесу через його математичне очікування та кореляційну функцію, називають кореляційною теорією.

Для випадкового процесу з нормальним законом розподілу математичне очікування та кореляційна функція повністю визначають його n-мірну густину ймовірності. Тому для нормальних випадкових процесів поняття стаціонарності у широкому та вузькому значенні збігаються.

Теорія стаціонарних процесів розроблена найповніше і дозволяє порівняно легко проводити розрахунки багатьом практичних випадків. Тому припущення про стаціонарності іноді доцільно робити також і для тих випадків, коли випадковий процес хоч і нестаціонарний, але на аналізованому відрізку часу роботи системи статистичні характеристики сигналів не встигають суттєво змінитися.

Теоретично випадкових процесів користуються двома поняттями середніх значень. Перше поняття про середнє значення – це середнє значення по множині (або математичне очікування), яке визначається на основі спостереження над безліччю реалізацій випадкового процесу в той самий момент часу. Середнє значення по множині прийнято позначати хвилястої рисоюнад виразом, що описує випадкову функцію:

У загальному випадку середнє значення по множині є функцією часу.

Інше поняття про середнє значення – це середнє значення за часом що визначається на основі спостереження за окремою реалізацією випадкового процесу протягом досить тривалого часу. Середнє значення за часом позначають прямий рисоюнад відповідним виразом випадкової функції та визначають за формулою

, (1.62)

якщо ця межа існує.

Середнє значення за часом у випадку різне окремих реалізацій безлічі, визначальних випадковий процес.

Взагалі для одного й того ж випадкового процесу середнє за множиною і середнє за часом різні, проте для так званих ергодичних стаціонарних випадкових процесів середнє значення по множині збігається із середнім значенням за часом:

Відповідно до ергодичної теореми для стаціонарного випадкового процесу кореляційну функцію можна визначити як середнє за часом однієї реалізації

(1.64)

де - будь-яка реалізація випадкового процесу.

Центрована кореляційна функція ергодичного стаціонарного випадкового процесу

З виразу (1.65) можна помітити, що дисперсія стаціонарного випадкового процесу дорівнює початковому значенню центрованої кореляційної функції: