- •«Калининградский государственный технический университет»
- •230100.62 «Информатика и вычислительная техника» и
- •230700.62 «Прикладная информатика»
- •Оглавление
- •Введение
- •1. Основные понятия информатики и информации
- •1.1. Информатизация общества
- •1.2. Понятие информатики
- •1.3. Понятие и характерные черты информации
- •1.4. Классификация информации
- •1.5. Свойства информации
- •2. Кодирование информации
- •2.1. Виды сигнала как материального носителя информации
- •2.2. Преобразования сигнала
- •2.3. Системы счисления
- •2.4. Правила перевода чисел
- •2.4.1. Правила перевода целых чисел
- •2.4.2. Правила перевода правильных дробей
- •2.4.3. Правило перевода неправильных дробей
- •2.5. Правила выполнения простейших арифметических действий
- •2.6. Кодирование дискретного сигнала
- •2.7. Кодирование по образцу
- •2.7.1. Прямые коды
- •2.7.2.Ascii-коды
- •2.7.3. Коды, учитывающие частоту информационных элементов
- •2.7.4. Коды Грея
- •2.8. Криптографическое кодирование
- •2.8.1. Метод простой подстановки
- •2.8.2. Метод Виженера
- •2.9. Эффективное кодирование
- •2.9.1. Универсальные методы
- •2.9.1.1. Метод Шеннона-Фано
- •2.9.1.2. Метод Хаффмена
- •2.9.1.3. Повышение эффективности кодирования универсальными кодами
- •2.9.1.4. Декодирование эффективных кодов
- •2.9.2. Специальные методы эффективного кодирования
- •2.9.2.1. Методы эффективного кодирования числовых последовательностей
- •2.9.2.2. Методы эффективного кодирования словарей
- •Основной вспомогательный
- •2.9.2.3. Методы эффективного кодирования естественно-языковых текстов
- •2.10. Помехозащитное кодирование
- •2.10.1. Искажение кодовых комбинаций
- •2.10.2. Кодовое расстояние и корректирующая способность кода
- •2.10.3. Коды, исправляющие ошибки
- •3. Измерение дискретного сигнала
- •3.1. Структурный подход к измерению информации
- •3.1.1. Геометрическая мера
- •3.1.2. Комбинаторная мера
- •3.1.3. Аддитивная мера
- •3.2. Статистический подход к измерению информации
- •3.3. Семантический подход к измерению информации
- •3.3.1. Целесообразность информации
- •3.3.2. Полезность информации
- •3.3.3. Истинность информации
- •3.4. Качество информации
- •Технические средства информатики
- •4.1. Структура компьютера и принципы его функционирования
- •4.2. Виды современных компьютеров
- •4.3. Структурные элементы компьютера
- •4.3.1. Память
- •4.3.1.1. Внутренняя память
- •4.3.1.2. Внешняя память
- •4.3.2. Устройство управления
- •4.3.3. Арифметико-логическое устройство
- •4.3.3.1. Формы представления целых чисел
- •4.3.3.2. Формы представления вещественных чисел
- •4.3.3.3. Коды представления числовых данных
- •4.3.3.4. Принципы выполнения арифметической операции сложения
- •Приложение 1. Положения комбинаторики, используемые в измерении информации
3.3. Семантический подход к измерению информации
В рамках этого подхода рассмотрим такие меры, как целесообразность, полезность (учитывают прагматику информации) и истинность информации (учитывает семантику информации).
3.3.1. Целесообразность информации
Количество Iполучаемой вместе с сообщением информации с позиций ее целесообразности определяется по формуле:
где p1,p2– вероятности достижения цели после и до получения сообщения, соответственно.
Пример 3.9. Пусть вероятность сдачи экзамена по информатике до получения сообщения (подсказки от соседа) оценивается студентом с вероятностьюp2=0,2. После того, как ему удалось получить подсказку, вероятность сдачи увеличилась:p1=0,8. Определить количество информации, содержащейся в подсказке, с точки зрения ее целесообразности:
I =log2(0,8/0,2) =log24 = 2.
Пример 3.10. Пусть положение студента до получения подсказки оценивается аналогично примеру 3.9. После получения подсказки, вопреки ожиданиям, вероятность сдачи еще уменьшилась, поскольку подсказка содержала неверную информацию: p1=0,1. Определить количество информации, содержащейся в подсказке, с точки зрения ее целесообразности:I =log2(0,1/0,2) =log20,5 = -1.
Таким образом, полученная информация является дезинформацией, поскольку имеет отрицательный знак при измерении.
3.3.2. Полезность информации
Количество усваиваемой потребителем информации Iусвтесно связано с теми знаниями, которые имеет потребитель к моменту получения информации – стезаурусом (ТЗ) потребителя. Этим определяется полезность информации. В самом деле, для усвоения тех знаний, которые получаются в ВУЗе, требуется среднее образование - иначе студент ничего не поймет. С другой стороны, любая учебная дисциплина ориентируется на знания, которые учащийся должен приобрести в предыдущих курсах. Этим объясняется последовательность учебных дисциплин по годам обучения.
Зависимость усваиваемой потребителем информации от его тезауруса выражается графически следующей кривой:
усваиваемая
потребителем
информация Iусв=f(ТЗ)
Iусв
0 opt maxтезаурус (ТЗ)
Как видно из графика, при тезаурусе, равном нулю и максимальному значению в точке max, информация не усваивается: в первом случае, потребителю непонятна принимаемая информация, во втором – она ему уже известна. Максимально усваивается информация (т.е. она наиболее полезна) в точкеopt, когда потребитель обладает достаточным (но не максимально возможным) тезаурусом для понимания получаемой информации. При значении тезаурусаi-го потребителя ТЗiколичество усваиваемой им информации определяется какIусв=f(ТЗi). Сам тезаурус ТЗiможет быть практически определен как результат интеллектуального тестирования, которое проводится, например, в некоторых западных странах. При таком тестировании человеку выставляется некоторый балл, который и может расцениваться как его ТЗi.
3.3.3. Истинность информации
Пусть r(mess) – функция, оценивающая истинность сообщенияmess как соответствие его реальному положению вещей: 0r(mess) 1, причем приr(mess) = 1 сообщение истинно, а приr(mess) = 0 сообщение ложно.
Например,
r(«данное пособие посвящено информатике») = 1,
r(«данное пособие имеет объем 5 страниц») = 0.
Оценить истинность сложного сообщения можно, разбив его на простые. Например, сообщение mess: «данный конспект посвящен информатике и имеет объем 5 страниц» можно представить как два простых сообщенияmess1иmess2: «данный конспект посвящен информатике» и «данный конспект имеет объем 5 страниц».
Тогда можно предложить рассчитывать истинность сложного сообщения как среднее арифметическое значение истинностей сообщений, его составляющих (что называют «истинно лишь наполовину»). В таком случае имеем:
r(mess) = ½ (r(mess1) +r(mess2)) = ½ (1 + 0) = 0,5.
Количество информации I, получаемое с сообщениемmess, можно рассчитать какI= 2*r(mess) –1, гдеr(mess) – истинность сообщенияmess.