- •1.1. Повідомлення та інформація
- •1.2. Моделі інформаційних систем
- •1.4. Предмет теорії інформації та кодування
- •2.2. Кількісна міра інформації
- •2.3. Ентропія та її властивості
- •2.4. Безумовна ентропія
- •2.5. Умовна ентропія
- •2.6. Ентропія об'єднання двох джерел
- •3.1. Продуктивність дискретного джерела та швидкість передачі інформації
- •4.1. Квантування сигналів
- •4.2. Інформаційні втрати
- •4.3. Продуктивність неперервного джерела та швидкість передачі інформації
- •IhlilhM
- •4.4. Пропускна здатність . . . .
- •5.1. Класифікація кодів і характеристики їх
- •5.4. Способи подання кодів
- •5.6. Основні теореми кодування для каналів
- •6.1. Класифікація первинних кодів
- •6.2. Нерівномірні двійкові первинні коди
- •6.2.1. Код морзе
- •6.2.2. Число-імпульсні коди
- •6.3. Рівномірні двійкові первинні коди
- •6.3.1. Числові двійкові коди
- •6.3.2. Двійково-десяткові коди
- •6.3.4. Двійково-шістнадцятковий код ;;.-,-.
- •6.3.5. Рефлексні коди
- •7.1. Двійкові коди,
- •7.1.2. Код із перевіркою на непарність
- •7.1.3. Код із простим повторенням
- •7.2. Недвійкові коди, що виявляють помилки
- •7.2.1. Код із перевіркою за модулем q
- •7.2.2. Код із повторенням
- •8"6 90472 "100562 І' • шТрИховє зОбраЖєння кодового сло-
- •8.1. Двійкові групові коди
- •8.1.1. Лінійний систематичний груповий (блоковий) код
- •8.1.2. Коди хеммінга
- •8.1.4. Коди боуза - чоудхурі - хоквінгема
- •8.1.5. Код файра
- •8.1.6. Код із багатократним повторенням
- •8.3.2. Узагальнений код хеммінга
- •8.3.3. Коди боуза - чоудхурі - хоквінгема
- •8.3.4. Коди ріда - соломона
- •8.3.6. Недвійковий ланцюговий код
- •9.1. Вірогідність передачі кодованих повідомлень
- •9.2. Стиснення інформації"
- •9.2.1. Способи стиснення даних при передачі
- •9.2.2. Способи стиснення даних при архівації
- •Збіжного рядка
- •9.3. Збільшення основи коду
- •0Сзезс99е8с0е1с10d1c242d5c3d2c6d8cbd6e8c0
- •VosooooooooooooooooOvJvJ
4.1. Квантування сигналів
При передачі повідомлень за допомогою неперервних сигналів стикаються з труднощами, пов'язаними з виникненням апаратурних похибок, а також похибок від нестабільності параметрів ліній і каналів зв'язку та ін. В той же час передача неперервних сигналів з використанням дискретних значень їх дає змогу усунути ці похибки повною регенерацією імпульсів у проміжних пунктах і на приймальному боці системи передачі. Тому при передачі неперервних сигналів їх, як правило, перетворюють на дискретні. Крім зазначеного вище, дискретна форма подання сигналів дає також значні переваги при зберіганні та обробленні інформації.
Процес перетворення неперервних сигналів на дискретні, який називається квантуванням, має кілька різновидів. При цьому розрізняють: дискретизацію (квантування за часом), квантування (квантування за рівнем) і квантизацію (квантування за часом і рівнем, або комбіноване квантування).
Дискретизація. Для того щоб краще зрозуміти, як виконується дискретизація неперервних сигналів, розглянемо теорему відліків, яку сформулював В. О. Котельников. Це основна теорема, що доводить можливість передачі неперервних сигналів за допомогою дискретних.
Теорема стверджує: якщо неперервна в часі функція має обмежений частотний спектр, який не містить складових з часто-
60
т
ами,
що перевищують Fm,
то вона повністю визначається
сукупністю
своїх миттєвих значень (дискрет),
які відлічуються через інтервали
часу А/ = (\/2)Fm,
де Fm
—максимальна
частота спек-
т
тра неперервного сигналу.
Дискрети ще визначаються відліками (визначальними орди- Рис* 4Л
натами), а моменти відліку — тактовими точками. Інтервал між відліками (дискретами) А/ називається інтервалом (або кроком) дискретизації (кроком квантування за часом). Доведення теореми наведено в [31, 38].
Таким чином, якщо є потреба передачі неперервного сигналу з обмеженим спектром, то досить передати його окремі дискретні значення, відлічені через проміжки часу А/ < FJ2 (рис. 4.1). Чим менші інтервали Аг, тим точніше буде передана функція s(t). Тривалість тд дискрет теоретично може бути дуже малою, але практично вона вибирається з урахуванням ширини смуги пропускання А/каналу зв'язку, оскільки А/= &д/тд, де ІсД — стала величина, близька до 1.
Відповідно до теореми відліків неперервна детермінована функція часу s(t), що має обмежений спектр, може бути подана рядом [28, 31]
(4.1)
s(t)= £ s(kAt) -1,0,+1,...
sincow(r-/:A/)
(Om(t-kAt) '
де k - .. com = 2nF,
відліки миттєвих значень функції s(t); максимальна частота спектра неперервного сигналу. З (4.1) випливає, що неперервна функція з обмеженим спектром може бути подана у вигляді суми нескінченного числа членів, кожний з яких є добутком функції відліку виду 5irLZ і кое-
У фіцієнта s(kAt), який визначає значення функції s(t) в точках відліку. Графічно функцію відліків зображено на рис. 4.2, де т = t - kAt. Максимального значення, що дорівнює одиниці, ця функція досягає в момент часу / = kAt, а в моменти часу t = (k + + і)At, де і = 1,2,3,...,<*>, вона дорівнює нулю.
sin ш т • • •
Функція виду т є не що інше, як реакція ідеального
фільтра нижніх частот з граничною частотою а)ш на дельта-функцію. Якщо через такий фільтр пропустити дискретизова-ний сигнал з частотою дискретизації/д = 2Fm = (от/тг, то підсу-
61
sin-b>nX- і мовуючи сигнали на виході фільт-
°
^^
Л\ ра,
можна дістати неперервний
первинний сигнал s(t).
Рис. 4.2
Теорема відліків визначає теоретичний підхід до перетворення неперервних функцій на дискретні. Так, для точного відтворення неперервної первинної функції s(t) необхідно підсумувати реакції фільтра на вхідні імпульси в часі від -©о до +оо. Проте на практиці використовуються обмежені в часі сигнали, що, як наслідок, мають нескінченно широкий спектр. Останній чинник суперечить головній умові теореми відліків.
Тому з деякими втратами точності відтворення, які допускаються на практиці при дискретизації, реальний спектр сигналу, що простягається від нуля до нескінченності, умовно обмежують діапазоном частот, в якому зосереджено основну частину енергії спектра сигналу з максимальною частотою сот. При цьому енергія частини спектра сигналу, що залишилася поза обмеженим частотним діапазоном, визначає похибку при відтворенні форми первинної функції s(t). Для зменшення цієї похибки в разі високих вимог до точності відтворення форми первинного повідомлення частоту дискретизації/д вибирають значно більшою, ніж 2Fm.
Квантування за рівнем. При квантуванні за рівнем неперервна функція s(t) замінюється множиною дискретних значень (дискрет) шкали рівнів, які виникають у моменти часу, коли значення неперервного сигналу досягає певного рівня, що віддалений від попереднього на певну величину As, яка називається інтервалом (кроком) квантування за рівнем (рис. 4.3).
|
f >г |
|
|
|||||||||
< |
|
|
|
\ |
/ГО |
|||||||
|
і ^-^ |
|
|
|
|
\ |
|
|||||
/ |
|
|
|
|
|
|
|
|
||||
\J |
|
|
|
|
|
|
|
|
|
|
||
у |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Рис. 4.3
62
Рис. 4.4
Таким чином, при квантуванні за рівнем частота проходження дискретних сигналів визначається крутістю функції неперервного сигналу s(t) та інтервалом квантування As, а кількість дозволених рівнів квантування т — максимальним рівнем сиг-
налу W^max' Апах'Лт
^max
х) та інтервалом квантування As, тобто
Розрізняють рівномірне (As - const) і нерівномірне (As Ф const) квантування за рівнем. На практиці найпоширенішим є рівномірне (лінійне) квантування (див. рис. 4.3) завдяки більш простій його технічній реалізації.
При неоднаковій імовірності розподілу значень функції s(t) за шкалою рівнів ефективніше застосовувати нерівномірне квантування, оскільки його основною метою є зменшення усередненої за параметром дисперсії похибки квантування. При такому квантуванні значення неперервної функції s(t), які мають велику ймовірність виникнення, передаються з меншою похибкою квантування, а менш імовірні — з більшою.
Для нерівномірного квантування можна застосовувати різні принципи побудови шкали рівнів. Так, на рис. 4.4 показано перетворення неперервного сигналу s(t) з логарифмічною шкалою квантування за рівнем, де малі значення сигналу s(t) перетворюються на дискретні з меншою похибкою, а великі сплески, що мають малу ймовірність, — з більшою похибкою.
Квантизація. При квантизації (комбінованому квантуванні, тобто квантуванні за часом і рівнем) неперервна функція s(t) квантується за часом і рівнем, тобто замінюється множиною дискретних значень (дискрет) шкали рівнів, які виникають у моменти часу, що відстоять один від одного на інтервал (крок) дискретизації At, причому значення дискрет визначається найближчим до значення неперервної функції s(t) рівнем квантування в момент відліку (рис. 4.5, а).
63
5 і |
|
|
|
|
|
|
|
|
чч |
J |
Ю |
|
|
|
6 |
|
|
|
|
|
|
^К |
|||||||
5 k 3 |
зі і |
|
"~3^ |
|
|
|
|
|
|
|
|
|
||
2 |
|
|
|
At |
|
|
|
|
|
|
|
|
|
л |
і 0 |
|
|
|
|
|
f |
||||||||
6*6
4~> -
уТ~"Ч. ^-f-^
*"X
7
T^
Рис. 4.5
Квантизований сигнал не може бути відтворений на приймальному боці повною мірою навіть за відсутності завад. Це пояснюється тим, що під час квантизації вносяться спотворення, усунути які неможливо. Ці спотворення називаються шумом квантування, а визначаються вони різницею між значеннями кван-тованих дискретних сигналів s'(t) та функцією неперервного сигналу s(t) у відповідних точках відліку (тактових точках). Похибка (або шум) квантування (рис. 4.5, б) приблизно оцінюється потужністю шуму квантування
де As — інтервал квантування за рівнем.
Для зниження акв необхідно зменшувати інтервал квантування As, але при цьому знижується завадостійкість передачі, оскільки під впливом завад рівень сумарного сигналу (сигнал + завада) може опинитися ближче до іншого рівня квантування, ніж до рівня, що передається. Тому вибір As залежить як від потрібної точності відтворення функції s(t) на приймальному боці, так і від рівня завад у каналі зв'язку.
При квантизації, як і при квантуванні за рівнем, також використовують нерівномірне квантування, при якому зі збільшенням номера амплітудної градації зростає також інтервал квантування за рівнем. Це дає змогу при певній похибці (шумі) квантування суттєво зменшити кількість рівнів квантування, необхідних для дискретного подання неперервної функції з заданою точністю.
64
Квантизація широко застосовується в системах телевимірювання. До недоліків таких систем можна віднести складність декодування квантизованих сигналів на приймальному боці. Тому квантизація частіше використовується як проміжний етап при імпульсно-кодовій модуляції [7, 8], коли замість дискрет у канал зв'язку надсилаються кодові комбінації, яким однозначно відповідають ці дискрети. Це значно поліпшує завадостійкість систем передачі, але потребує розширення частотної смуги пропускання каналу при збереженні первинної швидкості передачі повідомлень.
