- •Содержание
- •1.2 Требования к выполнению самостоятельной работы
- •Цель самостоятельной работы студентов – развитие познавательных способностей, самостоятельного мышления и творческой активности студентов.
- •Тема 1 – Информация, ее виды и свойства. Измерение информации.
- •2.2 Свойства информации
- •2.3 Виды информации
- •2.4 Измерение количества информации
- •2.5 Задачи и упражнения для самостоятельного выполнения
- •2.6 Примеры решения задач
- •2.7 Темы рефератов
- •3. Тема 2 - Носители данных. Операции с данными
- •3.1 Носители данных
- •3.2 Операции с данными
- •3. 3 Кодирование данных двоичным кодом
- •3.4 Кодирование целых и действительных чисел
- •3.5 Кодирование текстовых данных
- •3.6 Кодирование графических данных
- •3.7 Кодирование звуковой информации
- •3.8 Темы для рефератов
- •3.9 Задачи и упражнения для самостоятельного выполнения
- •3.10 Примеры решения задач
2.6 Примеры решения задач
Пример 1. Определить количество информации, связанное с появлением каждого символа в сообщениях, записанных на русском языке.
Решение:
Возьмем русский алфавит, который содержит 33 буквы и знак «пробел» для разделения слов.
По формуле Хартли
Но в словах русского языка различные буквы встречаются неодинаково часто. Ниже приведем таблицу 2 вероятностей частоты употребления различных знаков русского алфавита, полученную на основе анализа больших объемов текстов.
Таблица 2 – Частотность букв русского алфавита
-
i
символ
символ
i
символ
1
_
0,175
Л
0,035
Б
0,014
2
О
0,090
К
0,028
Г
0,012
3
Е
0,072
М
0,026
Ч
0,012
4
Е
0,072
Д
0,025
Й
0,010
5
А
0,062
П
0,023
Х
0,009
6
И
0,062
У
0,021
Ж
0,007
7
Т
0,053
Я
0,018
Ю
0,006
8
Н
0,053
Ы
0,016
Ш
0,006
9
С
0,045
З
0,016
Ц
0,004
10
Р
0,040
Ь
0,014
Щ
0,003
11
В
0,038
Ъ
0,014
Э
0,003
Ф
0,002
В случае, когда вероятности результатов опыта неодинаковы, применим формулу Шеннона:
В случае равновероятности событий: и формула Шеннона переходит в формулу Хартли.
Возьмем формулу Шеннона для подсчета :
Ответ: 4,72 бита
Пример 2. В коробке 3 синих и 21 красных кубиков. Какое количество информации несет сообщение, что из коробки достали синий кубик?
Для решения этой задачи можно использовать следующие формулы:
Вероятность события: p=K/N,
где N - общее число возможных исходов
K - число возможных исходов интересующего нас события
Количество информации: i=log2(1/p)
N/K= 2i
Решение:
N=3+21=24 всего кубиков
K=3 – синих (его достали)
N/K=24/3=8
2i=8
i=3 бита
Ответ: 3 бита.
Пример 3. В колоде содержится 32 карты. Из колоды случайным образом вытянули туза, потом его положили обратно и перетасовали колоду. После этого из колоды опять вытянули этого же туза. Какое количество бит информации в сумме содержат эти два сообщения?
Решение:
N=32
K1=4 (4 туза в колоде)
K2=1(в колоде один туз определенной масти, который был вытянут в первый раз)
N/ K1=32/4=8
2i1=8
i1=3 бита
N/ K2=32/1=32
2i2=32
i2=5 бита
i1+ i2=3+5=8 бит
Ответ: 8 бит
2.7 Темы рефератов
1. Передача информации.
2. Аналоговые ЭВМ.
3. Непрерывная и дискретная информация.
4. Вероятность и информация.
5. Проблема измерения информации.
6.Информационные процессы в неживой природе.
7. Свойства информационных ресурсов.
8. Единицы количества информации.