5.5 Потенційні можливості безперервних каналів зв'язку при передачі дискретних повідомлень

5.5.1 Кодування й декодування в безперервному каналі зв'язку

Переходячи від дискретного каналу зв'язку до безперервного, ми фактично відмовляємося від деяких обмежень, а точніше кажучи – від вибору фіксованих способів модуляції й демодуляції, які визначають умовні ймовірності переходів у дискретному каналі зв'язку з завадами.

Тому ми вправі очікувати збільшення пропускної спроможності безперервного каналу в порівнянні з будь-яким відображенням його дискретним каналом. Однак і при завданні безперервного каналу також повинні існувати певні обмеження, які накладаються на вхідні і вихідні безперервні сигналы.

Визначимо формально безперервний канал зв'язку з завадами як пару простірів S^T = {s(t)} й Z^T = {z(t)} відповідно вхідних s(t), , і вихідних z(t), ,безперервних сигналів і заданого на них умовного імовірнісного розподілу P(z|s), . Простим, але досить важливим для додатка окремим случаєм безперервного каналу зв'язку є безперервний канал з аддитивным шумом, для якого простір вихідних сигналів задається наступним чином:

z(t) = s(t) + n(t), (5.59)

де n(t) – випадковий сигнал (аддитивна завада), що не залежить від вхідного сигналу s(t).

Для повного опису такого каналу досить задати обмеження на припустиму множину вхідних сигналів S^T й імовірнісні розподіли Р(п) для аддитивної завади. Існують різні способи завдання обмежень на вхідні сигнали.

Найчастіше для цього використаються такі поняття, як середня або пікова потужності сигналів, смуга частот, форма спектра сигналів. У даному розділі ми так само, як й у попередніх розділах цієї глави, вивчаємо дискретні джерела повідомлень, і тому під кодуванням у безперервному каналі будемо розуміти зіставлення послідовностей, складених із символів джерела повідомлень, з безперервними сигналами тривалості Т, що належать простору S^T, а під декодуванням у безперервному каналі – зіставлення будь-якого безперервного сигналу тривалості Т, що належить простору Z^T, послідовностям символів джерела.

Будемо множину таких обраних безперервних сигналів s₁(t),..., s_М(t) називати Т-кодом, а розбивку Z^T на М підмножин , що відповідає декодуванню, – вирішальною схемою. Очевидно, що завдання Т-кода, вирішальній схеми й каналу зв'язку буде повністю визначати ймовірність помилкового декодування р_пд. У цьому випадку процедури кодування й декодування називають також модуляцією й демодуляцією.

Так само як й у випадку дискретного каналу, завдання кодування й декодування складається: по-перше, в узгодженні різних алфавітів джерела й каналу; по-друге, у забезпеченні максимально можливої швидкості передачі повідомлень джерела при одночасному досягненні як завгодно високої вірності прийому, яка розуміється як імовірність помилкового декодування р_пд.

5.5.2 Пропускна спроможність безперервного каналу зв'язку

5.5.2.1 Взаємна інформація пари відликів для аддитивної гауссовскої завади

Розглянемо спочатку канал зв'язку із сигналами, що мають дискретний час і безперервну амплітуду на вході й виході. Припустимо, що кожен такий «імпульс» передається незалежно від всіх інших, тобто в каналі відсутня пам'ять і задана умовна щільність імовірності w(z|s), де ,, аZ й S – простори припустимих значень амплітуд відповідно вихідних і вхідних сигналів.

Нехай відома також щільність імовірності w(s), вхідних амплітуд. Тоді такий безперервний канал можна перетворити до дискретного, роблячи квантування множин S й Z з інтервалами Δs й Δz відповідно. У цьому випадку вхідний розподіл імовірностей буде мати вигляд

(5.60)

а умовні ймовірності переходів вхідних символів у вихідні

. (5.61)

Спільна ймовірність появи вхідних s_i і вихідних z_j символів у такому дискретизованому каналі буде дорівнювати

. (5.62)

Для розрахунку кількості інформації ,переданої по такому каналі, скористаємося отриманим раніше вираженням (5.21), що перетворимо наступним чином:

(5.63)

причому підсумовування в (5.63) поширюється на всі ,. Спрямувавши Δs й Δz в (5.63) до нуля, перейдемо від дискретного по амплітуді каналу до каналу з безперервною амплітудою. Тоді кількість інформації, яка передана по такому каналу, буде

(5.64)

Для кількості інформації ,переданої по такому каналу з безперервною амплітудою, будуть справедливі наступні властивості:

1. , причому=0 тоді, і тільки тоді, коли вхід і вихід каналу статистично незалежні, тобтоw(s,z)=w(s)w(z). (Ця властивість виходить з (5.64) і властивостей 2 й 3 кількості інформації для дискретного каналу.)

2. , що дозволяє назвати взаємною інформацією пари випадкових величин. (Випливає з (5.64).)

3. , якщо завади в каналі відсутні, тобто коли z=s.

Дійсно, при відсутності завад ,

де – ентропія джерела, отриманого після квантування вхідних сигналів з інтервалом Δs, тобто

(5.65)

Спрямовуючи Δs до нуля, одержуємо, що перший член у правій частині (5.65) наближається до кінцевої величини

, (5.66)

а другий завжди наближається до нескінченності незалежно від виду щільності розподілу ймовірностей w(s) вхідного сигналу.

Наочний сенс цієї властивості полягає в тому, що канал зв'язку, що дозволяє як завгодно точно передавати нескінченну множину значень амплітуди, передає нескінченну кількість інформації. Дійсно, як би не було великим значення ентропії Н(А) деякого дискретного джерела повідомлень, ці повідомлення завжди можна закодувати безперервним сигналом у вигляді одного імпульсу й абсолютно точно передати по безперервному каналу зв'язку, якщо в ньому повністю відсутні завади.