
- •Единицы измерения количества информации
- •Формула Хартли
- •Формула Шеннона
- •Алфавитный подход
- •Приближение равной вероятности символов в тексте
- •«Без труда не вытащишь рыбку из пруда.»
- •Приближение разной вероятности встречаемости символов в тексте
- •Частотный словарь русского языка – словарь вероятностей (частот) появления букв в произвольном тексте – приведен ниже. Определите, какое количество информации несет каждая буква этого словаря.
- •Содержательный подход
- •Неравновероятные события (вероятностный подход)
- •Пример 4. В корзине лежат 32 клубка шерсти, из них 4 красных. Сколько бит информации несет сообщение о том, что достали клубок красной шерсти?
- •Задачи для самостоятельного решения
Пример 4. В корзине лежат 32 клубка шерсти, из них 4 красных. Сколько бит информации несет сообщение о том, что достали клубок красной шерсти?
1) 2 2) 3 3) 4 4) 32
Решение (вариант 1):
красные клубки шерсти составляют 1/8 от всех, …
поэтому сообщение о том, что первый вынутый клубок шерсти – красный, соответствует выбору одного из 8 вариантов
выбор 1 из 8 вариантов – это информация в 3 бита (по таблице степеней двойки)
правильный ответ – 2.
Решение (вариант 2, использование формулы Шеннона):
красные клубки шерсти составляют 1/8 от всех, поэтому вероятность
того, что первый вынутый клубок шерсти – красный, равна 1/8
по формуле Шеннона находим количество информации в битах:
бита.
правильный ответ – 2.
Задачи для самостоятельного решения
(Информатика. Задачник – практикум в 2 т. / Л. А. Залогова, М. А. Плаксин, С. В. Русаков и др. Под ред. И. Г. Семакина, Е. К. Хеннера: Том 1. – 2-е изд. – М.: БИНОМ. Лаборатория знаний, 2005. – 304 с.: ил.)
В корзине лежат 8 черных шаров и 24 белых. Сколько информации несет сообщение о том, что достали черный шар?
В коробке лежат 64 цветных карандаша. Сообщение о том, что достали белый карандаш, несет 4 бита информации. Сколько белых карандашей было в корзине?
В ящике лежат перчатки (белые и черные). Среди них – 2 пары черных. Сообщение о том, что из ящика достали пару черных перчаток, несет 4 бита информации. Сколько всего пар перчаток было в ящике?
В классе 30 человек. За контрольную работу по математике получено 6 пятерок, 15 четверок, 8 троек и 1 двойка. Какое количество информации в сообщении о том, что Иванов получил четверку?
Известно, что в ящике лежат 20 шаров. Из них 10 – черных, 5 – белых, 4 – желтых и 1 красный. Какое количество информации несут сообщения о том, что из ящика случайным образом достали черный шар, белый шар, желтый шар, красный шар?
За четверть ученик получил 100 оценок. Сообщение о том, что он получил четверку, несет 2 бита информации. Сколько четверок ученик получил за четверть?
Для ремонта школы использовали белую, синюю и коричневую краски. Израсходовали одинаковое количество банок белой и синей краски. Сообщение о том, что закончилась банка белой краски, несет 2 бита информации. Синей краски израсходовали 8 банок. Сколько банок коричневой краски израсходовали на ремонт школы?
В корзине лежат белые и черные шары. Среди них 18 черных шаров. Сообщение о том, что из корзины достали белый шар, несет 2 бита информации. Сколько всего в корзине шаров?