5.2. Перетворення сигналів

Для перетворення неперервних сигналів в дискретні неперервний сигнал підлягає операціям квантування в часі (дискретизація) і по рівню. Під дискретизацією розуміють перетворення неперервного часу у функцію дискретного часу з координатами, за значеннями яких вихідна неперервна функція може бути відтворена з заданою точністю. Під квантуванням розуміють перетворення деякої величини з неперевною шкалою значень у величину з дискретною шкалою значень. Воно зводиться до заміни довільного миттєвого значення одним із скінченної множини дозволених значень, які називаються рівнями квантування.

Правило вибору граничного кроку при рівномірній дискретизації з використанням моделі сигналу з обмеженим спектром сформульовано і доведено В.А. Котельниковим у вигляді теореми. Теорема встановлює принципову можливість повного відтворення детермінованої функції з обмеженим спектром за її відліками і вказує граничне значення інтервалу часу між відліками, при якому таке відновлення ще можливе. Вона формулюється таким чином: функція u(t),яка допускає перетворення Фур’є і має неперервний спектр, обмежений смугою частот від 0 до F_c = _c/(2), повністю визначається дискретним рядом своїх дискретних значень з відліком через інтервали часу

t = 1/(2F_c). (5.14)

Доведення теореми базується на зображенні функції u(t) рядом Котельникова

_

u(t)=u(nt)[sin_c(t-nt)/_c(t-nt)]. (5.15)

^n=-

Теорема Котельникова розповсюджується на неперервний в середньоквадратичному сенсі стаціонарний випадковий процес з обмеженим енергетичним спектром.

5.3. Інформаційні характеристики джерела

дискретних повідомлень

При доведенні основних положень теорії інформації Шенноном використовувалась модель ергодичного джерела повідомлень. Вважається, що повідомлення джерела можна подати у вигляді ергодичної випадкової послідовності. Така послідовність задовольняє умовам стаціонарності і ергодичності Це означає, що імовірності окремих знаків і їх сполучень не залежать від розміщення останніх по довжині повідомлення, а статистичні закономірності, одержані при дослідженні одного достатньо довгого повідомлення з імовірністю, близькою до одиниці, справедливі для всіх повідомлень. На практиці, однак, часто зустрічаються джерела, у яких імовірність вибора одного знака повідомлення залежить від того, які знаки були вибрані джерелом раніше. Такий зв’язок, як правило, розповсюджується на обмежене число попередніх знаків, тому для опису функціонування джерела використовуваються ланцюги Маркова. Ланцюг Маркова порядку п характеризує послідовність подій, імовірності яких залежать від того, які п подій передували даному. Ці п подій визначають стан джерела, в якому він знаходиться при видачі чергового знака. При об’ємі алфавіту знаків l число R різних станів джерела не перевищує lⁿ. Позначимо ці стани через S₁…S_q…S_R, а імовірності вибору у стані S_q знака z_i через p_q(z_i). Якщо джерело перебуває у стані S_q, його часткова ентропія H(S_q) визначається співвідношенням

_l

H(S_q) = - p_q(z_i)logp_q(z_i). (5.16)

ⁱ⁼¹