Лабораторная работа № 11 "Количество информации (вероятностный подход)"
Порядок выполнения работы:
Задание 1
Запустить Мiсrоsоft Ехсеl 2007.
Создать чистую рабочую книгу и присвоить ей название "Количество информации".
Листу рабочей книги присвоить название "Расчет".
Подсчитать количество информации (энтропию) по формуле Хартли (в битах, натах и хартли (дитах)) и формуле Шеннона в текстовом сообщении "Данные - это зарегистрированные сигналы".
Основные формулы для расчета:
-
(1)
(2)
(3)
-
в битах
в натах
в хартли (дитах)
Длина сообщения "Данные - это зарегистрированные сигналы" составляет 39 символов. N (алфавит сообщения) равен 17 символам ("д", "а", "н", "ы", "е", "-", "пробел", "э", "т", "о", "з", "р", "г", "и", "с", "в", "л").
На листе создать таблицу для расчета. Вставить в таблицу заголовки столбцов. Для объединения ячеек необходимо выделить ячейки, вызвать контекстное меню правой кнопкой мыши (команда "Формат ячеек"), выбрать в диалоговом окне вкладку "Выравнивание" и включить отображение "Объединение ячеек". Нумерацию символов произвести с помощью автозаполнения по арифметической прогрессии (на ленте вкладка "Главная", диалоговое окно "Редактирование", кнопка "Заполнить", опция "Прогрессия", шаг 1, прогрессия "Арифметическая", заполнение по столбцам)
В столбец "Символ" вставить символы алфавита сообщения.
Данные - это зарегистрированные сигналы |
|||||||
№ |
Символ |
Частота |
Pi |
log2(1/Pi) |
Pi*log2(1/Pi) |
log2(Pi) |
Pi*log2(Pi) |
1 |
д |
|
|
|
|
|
|
2 |
а |
|
|
|
|
|
|
3 |
н |
|
|
|
|
|
|
4 |
ы |
|
|
|
|
|
|
5 |
е |
|
|
|
|
|
|
6 |
- |
|
|
|
|
|
|
7 |
пробел |
|
|
|
|
|
|
8 |
э |
|
|
|
|
|
|
9 |
т |
|
|
|
|
|
|
10 |
о |
|
|
|
|
|
|
11 |
з |
|
|
|
|
|
|
12 |
р |
|
|
|
|
|
|
13 |
г |
|
|
|
|
|
|
14 |
и |
|
|
|
|
|
|
15 |
с |
|
|
|
|
|
|
16 |
в |
|
|
|
|
|
|
17 |
л |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Сумма |
|
|
|
|
|
|
Подсчитать частоту для каждого символа сообщения (например, буква "д" встречается в сообщении 1 раз, буква "а" - 4 раза и т.д.). Результаты внести в столбец "Частота".
Рассчитать вероятность появления каждого символа. заполнив столбец Pi, по формуле:
Для этого необходимо выполнить следующие действия:
Установить курсор в строку формул и набрать с клавиатуры знак "=".
Щелкнуть на ячейку с частотой появления символа и разделить результат на длину сообщения, использовав для этого текстовую функцию ДЛСТР из раскрывающегося списка (если в списке ее нет, то нужно выбрать "Другие функции", категория "Текстовые", функция ДЛСТР).
Применить для ячейки. содержащей сообщение, абсолютную адресацию (знак $ ввести с клавиатуры или использовать клавишу F4).
Распространить формулу на весь столбец.
Пример из строки формул: =C3/ДЛСТР($A$1)
Заполнить оставшиеся столбцы таблицы, используя функцию LOG (на ленте вкладка "Формулы", диалоговое окно "Библиотека функций", кнопка "Математические", функция "LOG"), знак умножения "*" и распространяя (копируя) формулы по столбцам таблицы.
Пример из строки формул: =LOG(1/D3;2)
Пример из строки формул: =D3*E3
Строку "Сумма" подсчитать с помощью математической функции СУММ (на ленте вкладка "Формулы", диалоговое окно "Библиотека функций", кнопка "Математические", функция "СУММ").
Пример из строки формул: =СУММ(C3:C20)
Отформатируйте таблицу. Округлите результаты до 4-х знаков после запятой, вызвав контекстное меню правой кнопкой мыши (команда "Формат ячеек") и выбрав вкладку "Число", тип данных - числовой, число десятичных знаков - 4.
Проверьте результаты работы. Сумма вероятностей должна получиться равной 1, а сумма частот - длине сообщения (39 символов). Заполненная таблица № 1 должна иметь следующий вид:
Данные - это зарегистрированные сигналы |
|||||||
№ |
Символ |
Частота |
Pi |
log2(1/Pi) |
Pi*log2(1/Pi) |
log2(Pi) |
Pi*log2(Pi) |
1 |
д |
1 |
0,0256 |
5,2854 |
0,1355 |
-5,2854 |
-0,1355 |
2 |
а |
4 |
0,1026 |
3,2854 |
0,3370 |
-3,2854 |
-0,3370 |
3 |
н |
5 |
0,1282 |
2,9635 |
0,3799 |
-2,9635 |
-0,3799 |
4 |
ы |
3 |
0,0769 |
3,7004 |
0,2846 |
-3,7004 |
-0,2846 |
5 |
е |
3 |
0,0769 |
3,7004 |
0,2846 |
-3,7004 |
-0,2846 |
6 |
- |
1 |
0,0256 |
5,2854 |
0,1355 |
-5,2854 |
-0,1355 |
7 |
пробел |
4 |
0,1026 |
3,2854 |
0,3370 |
-3,2854 |
-0,3370 |
8 |
э |
1 |
0,0256 |
5,2854 |
0,1355 |
-5,2854 |
-0,1355 |
9 |
т |
2 |
0,0513 |
4,2854 |
0,2198 |
-4,2854 |
-0,2198 |
10 |
о |
2 |
0,0513 |
4,2854 |
0,2198 |
-4,2854 |
-0,2198 |
11 |
з |
1 |
0,0256 |
5,2854 |
0,1355 |
-5,2854 |
-0,1355 |
12 |
р |
3 |
0,0769 |
3,7004 |
0,2846 |
-3,7004 |
-0,2846 |
13 |
г |
2 |
0,0513 |
4,2854 |
0,2198 |
-4,2854 |
-0,2198 |
14 |
и |
3 |
0,0769 |
3,7004 |
0,2846 |
-3,7004 |
-0,2846 |
15 |
с |
2 |
0,0513 |
4,2854 |
0,2198 |
-4,2854 |
-0,2198 |
16 |
в |
1 |
0,0256 |
5,2854 |
0,1355 |
-5,2854 |
-0,1355 |
17 |
л |
1 |
0,0256 |
5,2854 |
0,1355 |
-5,2854 |
-0,1355 |
|
|
|
|
|
|
|
|
|
Сумма |
39 |
1,0000 |
|
3,8847 |
|
-3,8847 |
Сохраните результаты работы.
Создать таблицу № 2 для результатов. Вставить в таблицу заголовки строк и величины: длину сообщения и алфавит N.
Результаты |
||
Длина сообщения |
39 |
символов |
Алфавит (N) |
17 |
символов |
Энтропия |
||
Количество информации по формуле Шеннона (вариант 1)
|
|
|
Количество информации по формуле Шеннона (вариант 2)
|
|
|
Количество информации по формуле Хартли в битах (вариант 1)
|
|
|
Количество информации по формуле Хартли в битах (вариант 2)
|
|
|
Количество информации по формуле Хартли в натах |
|
|
Количество информации по формуле Хартли в хартли (дитах) |
|
|
Вставить величину энтропии по формуле Шеннона (вариант 1) как ссылку, щелкнув на уже полученный результат в таблице № 1.
Пример из строки формул: =F21
Рассчитать и вставить в таблицу величину энтропии по формуле Шеннона (вариант 2). используя уже полученный результат в таблице № 1.
Пример из строки формул: =-H21
Результаты расчета по формуле Шеннона для двух вариантов должны совпасть.
Заполнить строку расчета по формуле Хартли (вариант 1), используя функцию LOG (на ленте вкладка "Формулы", диалоговое окно "Библиотека функций", кнопка "Математические", функция "LOG").
Пример из строки формул: =LOG(L4;2)
Аналогично заполнить строку расчета по формуле Хартли (вариант 2), используя функцию LOG (на ленте вкладка "Формулы", диалоговое окно "Библиотека функций", кнопка "Математические", функция "LOG").
Пример из строки формул: =-LOG(1/L4;2)
Результаты расчета по формуле Хартли для двух вариантов должны совпасть.
Заполнить строку расчета по формуле Хартли в натах, используя функцию LN (на ленте вкладка "Формулы", диалоговое окно "Библиотека функций", кнопка "Математические", функция "LN").
Пример из строки формул: =LN(L4)
Заполнить строку расчета по формуле Хартли в хартли (дитах), используя функцию LOG10 (на ленте вкладка "Формулы", диалоговое окно "Библиотека функций", кнопка "Математические", функция "LOG10").
Пример из строки формул: =LOG10(L4)
Проверьте результаты работы. Итоговая таблица должна иметь следующий вид:
Результаты |
||
Длина сообщения |
39 |
символов |
Алфавит (N) |
17 |
символов |
Энтропия |
||
Количество информации по формуле Шеннона (вариант 1)
|
3,88 |
бит |
Количество информации по формуле Шеннона (вариант 2)
|
3,88 |
бит |
Количество информации по формуле Хартли в битах (вариант 1)
|
4,09 |
бит |
Количество информации по формуле Хартли в битах (вариант 2)
|
4,09 |
бит |
Количество информации по формуле Хартли в натах |
2,83 |
нат |
Количество информации по формуле Хартли в хартли (дитах) |
1,23 |
хартли (дит) |
Отформатируйте таблицу и сохраните результаты работы.