шпори / теорія / Білет 4 (4,15,28)

1. Міра Хартлі. Пояснити її властивості. Обґрунтувати застосування для вимірювання інформації.

Міра Хартлі – логарифмічна міра кількості інформації, яка дозволяє оцінити кількість інформації, яка міститься в повідомленні, логарифмом числа можливих повідомлень:

I log L log mn n log m ,

де m – кількість символів алфавіту, n – довжина повідомлення,

L – кількість можливих повідомлень.

Властивості:

При об’єднанні джерел повідомлень кількість можливих повідомлень

дорівнює добутку кількості можливих повідомлень кожного джерела, тобто при об’єднанні k джерел: L L1 L2 ... Lk .

Зі збільшенням числа елементів повідомлення пропорційно збільшується кількість інформації I. Таким чином, логарифмічна міра має властивість адитивності по відношенню кількості елементів повідомлення. Якщо загальне число джерел інформації дорівнює k, то кількість інформації від всіх джерел:

I I1 I2 ... Ik

Таким чином, логарифмічна міра володіє адитивністю по відношенню до кількості елементів повідомлення і по відношенню до кількості джерел повідомлень.

Вибір в якості міри кількості інформації незручний тим, що при додаванні

кількості інформації декількох незалежних джерел повідомлень не виконується умова лінійного додавання кількостей інформації, тобто умова адитивності.

Застосування логарифмічної міри кількості інформації є більш зручним. Так, як, в такому випадку, зберігається властивість адитивності.

15. Пояснити основні властивості та навести характеристики завади типу «надлишковий шум» або «флікер ефект»

Флікер-шум ( 1f - шум) спостерігають у електронних лампах та транзисторах.

Уелектронних лампах – це широко відомий ефект мерехтіння катода.

Унапівпровідниках 1f - шум виникає через повільні флуктуації концентрації

носіїв заряду поблизу p-n-переходу. Шумові процеси, викликані цими ефектами, відрізняються повільністю протікання, спектральна щільність

потужності 1f - шуму зворотно пропорційна частоті S c , де с – константа,

що не залежить від частоти.

Умовно вважається, що 1f - шум починає проявлятись на частотах порядку 103 – 102 Гц та нижче, на вищих частотах 1f - шум маскують теплові та дробові шуми.

31. Як здійснити узгодження швидкості видавання інформації комплексного джерела з пропускною спроможністю каналу зв’язку. Визначення необхідної смуги частот.

буде здійснюватися без втрат у тому випадку, коли кількість інформації, що отримується від джерела в одиницю часу, не буде перевершувати пропускної

часу рівним, тоді з урахуванням вишенапісанного отримаємо

Виходячи з отриманого нерівності, можна визначити мінімальну смугу частот

Таким чином, чим вище клас точності джерела, тим ширше повинна бути смуга частот каналу зв'язку і більше пропускна здатність.