
Г
АПОУ
«Липецкий медицинский колледж»
Цмк предметов общеобразовательного цикла
Информатика и ИКТ
Раздел 2.«Информация и информационные процессы»
Теоретическое занятие№ 3
«Подходы к понятию
и измерению информации»
Преподаватель:
Королева Е.Н.
г.Липецк
2014-2015 уч.год
Цель занятия:
сформировать следующие знания
Студент должен знать:
основные определения: информация (различные виды), язык, неопределенность знаний, алфавитный подход, мощность алфавита, скорость информационного потока, информационные объекты, дискретизация, система счисления;
сущность содержательного подхода к измерению информации;
уравнение определения количества информации;
основные единицы измерения информации;
классификацию видов информационных объектов;
основные свойства информации;
сущность аналогового и дискретного представления информации;
виды систем счисления и их определение;
основные принципы перевода чисел из одной системы счисления в другую.
Подходы к понятию и измерению информации.
Информационные объекты различных видов.
Универсальность дискретного представления информации.
Представление информации в различных системах счисления.
Подходы к понятию и измерению информации
К слову «информация» люди привыкли очень давно. Если спросить вас, что такое информация, то, наверное, прежде всего вы вспомните газеты, радио, телевидение, то есть все то, что называют средствами массовой информации. Именно здесь чаще всего употребляются такие выражения, как «информационное сообщение» или «оперативная информация». Цель таких сообщений — довести до читателей или слушателей сведения о каких-то событиях. До получения сообщения мы не знали о данном событии, а в результате — стали знать.
Все, что мы с вами знаем, мы когда-то узнали от родителей, учителей, из книг, из личного практического опыта и сохранили в своей памяти. В свою очередь все, что написано в книгах, журналах, газетах, отражает знания авторов этих текстов, а потому это тоже информация.
ИНФОРМАЦИЯ
ДЛЯ ЧЕЛОВЕКА
Учеба в колледже — это целенаправленный процесс получения знаний, а значит — получения информации. Чем больше вы учитесь, тем больше информации содержит ваша память.
Термин "информация" происходит от латинского слова "informatio", что означает сведения, разъяснения, изложение.
Информация — это настолько общее и глубокое понятие, что его нельзя объяснить одной фразой. В это слово вкладывается различный смысл в технике, науке и в житейских ситуациях.
В обиходе информацией называют любые данные или сведения, которые кого-либо интересуют. Например, сообщение о каких-либо событиях, о чьей-либо деятельности и т.п. "Информировать" в этом смысле означает "сообщить нечто, неизвестное раньше". В науке существует следующее определение.
ИНФОРМАЦИЯ
Одно и то же информационное сообщение (статья в газете, объявление, письмо, телеграмма, справка, рассказ, чертёж, радиопередача и т.п.) может содержать разное количество информации для разных людей — в зависимости от их предшествующих знаний, от уровня понимания этого сообщения и интереса к нему.
Так, сообщение, составленное на японском языке, не несёт никакой новой информации человеку, не знающему этого языка, но может быть высокоинформативным для человека, владеющего японским. Никакой новой информации не содержит и сообщение, изложенное на знакомом языке, если его содержание непонятно или уже известно.
Информация есть характеристика не сообщения, а соотношения между сообщением и его потребителем. Без наличия потребителя, хотя бы потенциального, говорить об информации бессмысленно.
В случаях, когда говорят об автоматизированной работе с информацией посредством каких-либо технических устройств, обычно в первую очередь интересуются не содержанием сообщения, а тем, сколько символов это сообщение содержит.
ИНФОРМАЦИЯ
(
применительно
к компьютерной обработке данных)
Каждый новый символ в такой последовательности символов увеличивает информационный объём сообщения.
С
ИМВОЛЬНАЯ
ИЛИ ЗНАКОВАЯ ИНФОРМАЦИЯ
В письменном тексте содержатся буквы, знаки препинания, цифры и другие символы. Устная речь тоже складывается из знаков. Только эти знаки не письменные, а звуковые — фонемы. Из фонем складываются слова, из слов — фразы. Между письменными знаками и звуками есть прямая связь. Сначала появилась речь, а потом — письменность. Письменность для того и нужна, чтобы зафиксировать на бумаге человеческую речь. Отдельные буквы или сочетания букв обозначают звуки речи, а знаки препинания — паузы, интонацию.
Человеческая речь и письменность тесно связаны с понятием языка. Конечно, имеется в виду не орган речи, а форма общения между людьми. У каждого народа свой национальный разговорный язык. Эти языки — русский, английский, китайский, французский — называются естественными языками. Естественные языки имеют устную и письменную формы.
Кроме разговорных (естественных) языков существуют формальные языки. Как правило, это языки какой-нибудь профессии или области знаний. Например, математическую символику можно назвать формальным языком математики; нотная грамота — формальный язык музыки.
Я
ЗЫК
Общение на языках — это процесс передачи информации в знаковой форме.
Можно привести примеры разных способов знакового обмена информацией, заменяющих речь. Например, глухонемые люди речь заменяют жестикуляцией. Жесты дирижера передают информацию музыкантам. Судья на спортивной площадке пользуется определенным языком жестов, понятным игрокам.
Однако запахи, вкусовые и осязательные ощущения не могут быть переданы с помощью знаков. Безусловно, они несут информацию, поскольку мы их запоминаем, узнаем. Такую информацию будем называть образной информацией. К образной относится также информация, воспринимаемая зрением и слухом: шум ветра, пение птиц, картины природы, живопись.
Содержательный подход к измерению информации.
Вопрос «как измерить информацию?» очень непростой. Ответ на него зависит от того, что понимать под информацией. Но поскольку определять информацию можно по-разному, то испособы измерения тоже могут быть разными.
Выше мы подошли к информации только с одной стороны: выяснили, чем она является для человека. Другую точку зрения на информацию, объективную, то есть не связанную с ее отношением к человеку, мы обсудим несколько позже.
Итак, пока остаемся на прежней позиции: информация — это знания человека. Отсюда следует вывод, что сообщение информативно (содержит ненулевую информацию), если оно пополняет знания человека. Например, прогноз погоды на завтра — информативное сообщение, а сообщение о вчерашней погоде неинформативно: нам это уже известно.
Нетрудно понять, что информативность одного и того же сообщения может быть разной для разных людей. Например: 2x2 = 4 информативно для первоклассника, изучающего таблицу умножения, и неинформативно для старшеклассника. Отсюда, казалось бы, следует вывод, что сообщение информативно для человека, если оно содержит новые сведения, и неинформативно, если сведения старые, известные.
Но вот вы читаетенаучную статью по высшей математике. Пополнил этот текст ваши знания? Скорее всего, нет. Он вам непонятен, а поэтому — неинформативен. Быть понятным, значит быть логически связанным с предыдущими знаниями человека. Для того, чтобы понять данныйтекст, нужно изучить элементарную математику и знать хотя бы начала высшей.
Получение всяких знаний должно идти от простого к сложному. И тогда каждое новое сообщение будет понятным, а значит, будет нести информацию для человека.
Сообщение несет информацию для человека, если содержащиеся в нем сведения являются для него новыми и понятными.
Пока мы с вами научились различать лишь две ситуации: «нет информации» — «есть информация», то есть количество информации равно нулю или не равно нулю. Но, очевидно, для измерения информации этого недостаточно. Нужна единица измерения, тогда мы сможем определять, в каком сообщении информации больше, в каком — меньше.
Единица измерения информации была определена в науке, которая называется теорией информации. Эта единица называется «бит». Ее определение звучит так:
Сообщение, уменьшающее неопределенность знаний в два раза, несет 1 бит информации.
В этом определении есть понятия, которые требуют пояснения.
Что такое «неопределенность знаний»? Лучше всего это объяснить на примерах.
Допустим, вы бросаете монету, загадывая, что выпадет: орел или решка? Есть всего два варианта возможного результата бросания монеты. Причем, ни один из этих вариантов не имеет преимущества перед другим. В таком случае говорят, что они равновероятны.Так вот, в этом случае перед подбрасыванием монеты неопределенность знаний о результате равна двум.
Игральный кубик с шестью гранями может с равной вероятностью упасть на любую из них. Значит, неопределенность знаний о результате бросания кубика равна шести.
Еще пример: спортсмены-лыжники перед забегом путем жеребьевки определяют свой порядковый номер на старте. Допустим, неопределенность знаний спортсменом своего номера до жеребьевки равна ста.
НЕОПРЕДЕЛЕННОСТЬ ЗНАНИЙ
(
о
некотором событии)
Вернемся к примеру с монетой. После того, как вы бросили монету и посмотрели на нее, вы получили зрительное сообщение, что выпал, например, орел. Произошло одно из двух возможных событий. Неопределенность знаний уменьшилась в два раза: было два варианта, остался один. Значит, узнав результат бросания монеты, вы получили 1 бит информации.
Сообщение о том, что произошло одно событие из двух равновероятных, несет 1 бит информации.
А теперь такая задача: студент на экзамене может получить одну из четырех оценок: «5» — «отлично», «4» — «хорошо», «3» — «удовлетворительно», «2» — «неудовлетворительно». Ваш товарищ сдавал экзамен. На ваш вопрос: «Ну, что получил?» — он ответил: «Четверку!».
Вопрос. Сколько бит информации содержится в его ответе?
Если сразу сложно ответить на этот вопрос, то давайте подойдем к ответу постепенно. Будем отгадывать оценку, задавая вопросы, на которые можно ответить только «да» или «нет».
Вопросы будем ставить так, чтобы каждый ответ уменьшал количество вариантов в два раза и, следовательно, приносил 1 бит информации.
Первый вопрос:
- Оценка выше тройки?
- Да!
После этого ответа число вариантов уменьшилось в два раза. Остались только «4» и «5». Получен 1 бит информации.
Второй вопрос:
- Ты получил пятерку? - Нет!
Выбран один вариант из двух оставшихся: оценка — «четверка». Получен еще 1 бит информации. В сумме имеем 2 бита.
Сообщение о том, что произошло одно из четырех равновероятных событий, несет 2 бита информации.
Метод поиска, на каждом шаге которого отбрасывается половина вариантов, называется методом половинного деления.
Решим еще одну частную задачу, применив этот метод, а потом выведем общее правило.
На книжном стеллаже восемь полок. Книга может быть поставлена на любую из них. Сколько информации содержит сообщение о том, где находится книга?
Задаем вопросы:
Книга лежит выше четвертой полки?
Нет.
Книга лежит ниже третьей полки?
Да.
Книга — на второй полке?
Нет.
Ну, теперь всеясно! Книга лежит на первой полке!
Каждый ответ уменьшал неопределенность в два раза. Всего было задано три вопроса. Значит, набрано 3 бита информации. И если бы сразу было сказано, что книга лежит на первой полке, то этим сообщением были бы переданы те же 3 бита информации.
А сейчас попробуем получить формулу, по которой вычисляется количество информации, содержащейся в сообщении о том, что произошло одно из множества равновероятных событий.
Обозначим буквой N количество возможных событий, или, как мы это еще называли, — неопределенность знаний. Буквой i будем обозначать количество информации в сообщении о том, что произошло одно из N событий.
В примере с монетой N = 2, i = 1.
В примере с оценками N = 4, i = 2.
В примере со стеллажом N = 8, i = 3.
Нетрудно заметить, что связь между этими величинами выражается формулой:
2i = N
Действительно: 21 = 2; 22 = 4; 23 = 8.
Если величина N известна, ai — неизвестно, то формула становится показательным уравнением для определения i.
Например, пусть на стеллаже не 8, а 16 полок. Чтобы ответить на вопрос, сколько информации содержится в сообщении о том, где лежит книга, нужно решить уравнение:
2i = 16.
Поскольку 16 = 24 , то i = 4.
Количество информации i, содержащееся в сообщении о том, что произошло одно из N равновероятных событий, определяется из решения показательного уравнения:
2 i= N i = log2N
Если значение N равно целой степени числа 2 (4, 8, 16, 32, 64 и т.д.), то такое уравнение решается просто: i будет целым числом.
А чему равно количество информации в сообщении о результате бросания игральной кости, у которой имеется шесть граней и, следовательно, N = 6? Решение уравнения 2i = 6 будет дробным числом, лежащим между числами 2 и 3, поскольку 22 = 4, а 23 = 8. С точностью до пяти знаков после запятой решение такое: 2,58496. По таблице 1 можно определить i для различных значений N в диапазоне от 1 до 64.
Таблица 1. Количество информации в сообщении