Самостійна тема 3 Інформація. Кількісна оцінка інформації. Одиниці виміру інформації

Знати, та розуміти про одиницю виміру та вміти підраховувати кількість інформації в символьному повідомленні

План

Підходи до вимірювання інформації

Змістовний підхід

Алфавітний підхід

Одиниці виміру інформації

При проектуванні технологічних процесів орієнтуються на режими їх реалізації. Режим реалізації технології залежить від об'ємно-часових особливостей вирішуваних завдань: періодичності і терміновості, вимог до швидкості обробки повідомлень, а також від режимних можливостей технічних засобів, і в першу чергу ЕОМ.

Існують: пакетний режим, режим реального масштабу часу, режим поділу часу; регламентний режим; Запитальний, діалоговий, телеобробки; інтерактивний; однопрограмний; багатопрограмний (мультиобробки).

Для користувачів фінансово-кредитної системи найбільш актуальні наступні режими: пакетний, діалоговий і режим реального часу.

Пакетний режим. При використанні цього режиму користувач не має безпосереднього спілкування з ЕОМ. Збір і реєстрація інформації, введення та обробка не збігаються за часом. Спочатку користувач збирає інформацію, формуючи її в пакети згідно з видом завдань або якимось ін ознакою. (Як правило, це завдання неоперативного характеру, з довготривалим строком дії результатів рішення). Після завершення прийому інформації проводиться її введення та обробка, таким чином, відбувається затримка обробки. Цей режим використовується, як правило, при централізованому способі обробки інформації.

Діалоговий режим (Запитальний) режим, при якому існує можливість користувача безпосередньо взаємодіяти з обчислювальною системою в процесі роботи користувача. Програми обробки даних знаходяться в пам'яті ЕОМ постійно, якщо ЕОМ доступна в будь-який час, або протягом певного проміжку часу, коли ЕОМ доступна користувачеві. Взаємодія користувача з обчислювальною системою у вигляді діалогу може бути багатоаспектним і визначатися різними факторами: мовою спілкування, активної або пасивної роллю користувача; хто є ініціатором діалогу - користувач або ЕОМ; часом відповіді; структурою діалогу і т.д. Якщо ініціатором діалогу є користувач, то він повинен володіти знаннями по роботі з процедурами, форматами даних і т.п. Якщо ініціатор - ЕОМ, то машина сама повідомляє на кожному кроці, що потрібно робити з різноманітними можливостями вибору. Цей метод роботи називається "вибором меню". Він забезпечує підтримку дій користувача і наказує їх послідовність. При цьому від користувача потрібно менша підготовленість.

Діалоговий режим вимагає певного рівня технічної оснащеності користувача, тобто наявність терміналу або ПЕОМ, пов'язаних з центральною обчислювальною системою каналами зв'язку. Цей режим використовується для доступу до інформації, обчислювальним або програмних ресурсів. Можливість роботи в діалоговому режимі може бути обмежена в часі початку і кінця роботи, а може бути і необмеженою.

Режим реального масштабу часу означає здатність обчислювальної системи взаємодіяти з контрольованими або керованими процесами в темпі протікання цих процесів. Час реакції ЕОМ повинно задовольняти темпу контрольованого процесу або вимогам користувачів і мати мініРисьну затримку. Як правило, цей режим використовуються при децентралізованою і розподіленої обробки даних. Приклад: на робочому столі операціоніста встановлений ПК, через який вся інформація по операціях вводиться в ЕОМ по мірі її надходження.

Відрізняються такі способи обробки даних: централізована, децентралізована, розподілена і інтегрована.

Централізована передбачає наявність ОЦ. При цьому способі користувач доставляє на ВЦ вихідну інформацію і отримують результати обробки у вигляді результативних документів. Особливістю такого способу обробки є складність і трудомісткість налагодження швидкої, безперебійної зв'язку, велика завантаженість ВЦ інформацією (тому що великий її обсяг), регламентацією термінів виконання операцій, організація безпеки системи від можливого несанкціонованого доступу.

Децентралізована обробка. Цей спосіб пов'язаний з появою ПЕОМ, що дають можливість автоматизувати конкретне робоче місце. У теперішній час існують три види технологій децентралізованої обробки даних.

Перша грунтується на персональних комп'ютерах, не об'єднаних в локальну мережу. (Дані зберігаються в окремих файлах і на окремих дисках). Для отримання показників виробляється перезапис інформації на комп'ютер. Недоліки: відсутність взаємоув'язки завдань, неможливість обробки великих обсягів інформації, низька зашита від несанкціонованого доступу.

Другий: ПК об'єднані в локальну мережу, що веде до створення єдиних файлів даних (але він не розрахований на великі обсяги інформації).

Третій: ПК об'єднані в локальну мережу, до якої включаються спеціальні сервери (з режимом "клієнт-сервер").

Розподілений спосіб обробки даних заснований на розподілі функцій обробки між різними ЕОМ, включеними в мережу. Цей спосіб може бути реалізований двома шляхами: перший припускає установку ЕОМ в кожному вузлі мережі (або на кожному рівні системи), при цьому обробка даних здійснюється однією або кількома ЕОМ залежно від реальних можливостей системи та її потреб на поточний момент часу. Другий шлях - розміщення великої кількості різних процесорів всередині однієї системи. Такий шлях застосовується в системах обробки банківської та фінансової інформації, там, де необхідна мережа обробки даних (філії, відділення і т.д.). Переваги розподіленого способу: можливість обробляти в заданий термін будь-який обсяг даних, висока ступінь надійності, тому що при відмові одного технічного засобу є можливість моментальної заміни його на інший; скорочення часу і витрат на передачу даних, підвищення гнучкості систем, спрощення розробки та експлуатації програмного. забезпечення і т.д. Розподілений спосіб грунтується на комплексі спеціалізованих процесорів, тобто кожна ЕОМ призначена для вирішення певних завдань, або завдань свого рівня

Наступний спосіб обробки даних - інтегрований. Він передбачає створення інформаційної моделі керованого об'єкта, тобто створення розподіленої бази даних. Такий спосіб забезпечує максиРисьну зручність для користувача. З одного боку, бази даних передбачають колективне користування і централізоване управління. З іншого боку, обсяг інформації, різноманітність вирішуваних завдань вимагають розподілу бази даних. Технологія інтегрованої обробки інформації дозволяє поліпшити якість, достовірність і швидкість обробки, тому що обробка проводиться на основі єдиного інформаційного масиву, одноразово введеного в ЕОМ. Особливістю цього способу є відділення технологічно і за часом процедури обробки від процедур збору, підготовки і введення даних.

Підходи до вимірювання інформації

Як виміряти інформацію? Часто ми говоримо, що, прочитавши статтю в журналі або переглянувши новини, не отриРиси ніякої інформації, або навпаки, коротке повідомлення може виявитися для нас інформативним. У той же час для іншої людини та ж сама стаття може виявитися надзвичайно іноформатівной, а повідомлення - ні. Інформативними повідомлення є тоді, коли вони нові, зрозумілі, своєчасні, корисні. Але те, що для одного зрозуміло, для іншого - немає. Те, що для одного корисно, нове, для іншого - немає. У цьому проблема визначення та вимірювання інформації.

При всьому різноманітті підходів до визначення поняття інформації, з позиції виміру інформації нас будуть цікавити два з них: визначення К. Шеннона, що застосовується у математичній теорії інформації (змістовний підхід), і визначення А. Н. Колмогорова, що застосовується в галузях інформатики, пов'язаних з використанням комп'ютерів (алфавітний підхід).

Змістовний підхід

Згідно Шеннону, інформативність повідомлення характеризується міститься в ньому корисною інформацією - тією частиною повідомлення, яка знімає повністю або зменшує невизначеність будь-якої ситуації.

За Шеннону, інформація - зменшення невизначеності наших знань.

Невизначеність деякої події - це кількість можливих результатів даної події.

Так, наприклад, якщо з колоди карт навмання вибирають карту, то невизначеність дорівнює кількості карт в колоді. При киданні монети невизначеність дорівнює 2.

Змістовний підхід часто називають суб'єктивним, тому що різні люди (суб'єкти) інформацію про один і той самий предмет оцінюють по-різному.

Але якщо число випадків не залежить від суджень людей (випадок кидання кубика або монети), то інформація про настання одного з можливих результатів є об'єктивною.

Якщо повідомлення зменшити невизначеність знань рівно в два рази, то говорять, що повідомлення несе 1 біт інформації.

1 біт - об'єм інформації такого повідомлення, яке зменшує невизначеність знання в два рази.

Розглянемо, як можна підрахувати кількість інформації в повідомленні, використовуючи змістовний підхід.

Нехай в деякому повідомленні містяться відомості про те, що відбулося одне з N рівноймовірно (равновозможних) подій. Тоді кількість інформації я, укладену в цьому повідомленні, і число подій N пов'язані формулою: 2i = N. Ця формула має назву формули Хартлі. Отримано вона в 1928 р. американським інженером Р. Хартлі.

Якщо N дорівнює цілій степені двійки (2, 4, 8, 16 і т.д.), то обчислення легко зробити "в умі". В іншому випадку кількість інформації стає нецілої величиною, і для вирішення завдання доведеться скористатися таблицею логарифмів або визначати значення логарифма приблизно (найближче ціле число, більше).

Наприклад, якщо з 256 однакових, але різнобарвних куль навмання обрали один, то повідомлення про те, що вибрали червоний куля несе 8 біт інформації (28 = 256).

Для вгадування числа (напевно) в діапазоні від 0 до 100, якщо дозволяється задавати тільки виконавчі питання (з відповіддю "так" або "ні"), потрібно задати 7 питань, так як обсяг інформації про загаданном числі більше 6 і менше 7 (26 <100> 27)

Алфавітний підхід

Алфавітний підхід заснований на тому, що всяке повідомлення можна закодувати за допомогою кінцевої послідовності символів деякого алфавіту.

Алфавіт - впорядкований набір символів, використовуваний для кодування повідомлень на деякій мові.

Потужність алфавіту - кількість алфавіту символів.

Двійковий алфавіт містить 2 символу, його потужність дорівнює двом.

Повідомлення, записані за допомогою символів ASCII, використовують алфавіт з 256 символів. Повідомлення, записані по системі UNICODE, використовують алфавіт з 65 536 символів.

З позицій інформатики носіями інформації є будь-які послідовності символів, які зберігаються, передаються і обробляються за допомогою комп'ютера. Згідно Колмогорова, інформативність послідовності символів не залежить від змісту повідомлення, алфавітний підхід є об'єктивним, тобто він не залежить від суб'єкта, що сприймає повідомлення. Щоб визначити обсяг інформації в повідомленні при алфавітному підході, потрібно послідовно вирішити завдання:

Визначити кількість інформації (I) в одному символо за формулою 2i = N, де N - потужність алфавіту

Визначити кількість символів у повідомленні (м)

Обчислити об'єм інофрмації за формулою: V = я * м.

Наприклад, якщо текстове повідомлення, закодоване за системою ASCII, містить 100 символів, то його інформаційний обсяг становить 800 біт.

Для двійкового повідомлення тієї ж довжини інформаційний обсяг становить 100 біт. У комп'ютерній техніці біт відповідає фізичному стану носія інформації: намагнічене - не намагнічене, є отвір - немає отвору. При цьому один стан прийнято позначати цифрою 0, а інше - цифрою 1.

Одиниці виміру інформації

Як вже було сказано, основна одиниця виміру інформації - біт. 8 біт становлять 1 байт.

Поряд з байтами для вимірювання кількості інформації використовуються більші одиниці:

1 Кбайт (один кілобайт) = 210 байт = 1024 байта;

1 Мбайт (один мегабайт) = 210 Кбайт = 1024 Кбайта;

1 Гбайт (один гігабайт) = 210 Мбайт = 1024 Мбайта.

Останнім часом у зв'язку зі збільшенням обсягів оброблюваної інформації входять у вжиток такі похідні одиниці, як:

1 Терабайт (Тб) = 1024 Гбайта = 240 байта,

1 Петабайт (Пб) = 1024 Тбайта = 250 байта.

Питання:

Які підходи до вимірювання інформації вам відомі?

Яка основна одиниця виміру інформації?

Скільки байт містить 1 Кб інформації?

Наведіть формулу підрахунку кількості інформації при зменшенні невизначеності знання.

Як підрахувати кількість інформації, що передається в символьному повідомленні?

Література:

1) Курс користувачів персональним комп'ютером.

Автори : Г.В.Саєнко та Т.Б.Волобуєва.1994 рік.

2) http://school.ort.spb.ru/library/exam_help/inform_izm.html