- •М.Г. Юдина Измерение количества информации. Кодирование информации
- •Составитель м.Г.Юдина
- •Измерение количества информации
- •Вероятностный (энтропийный) подход
- •Объемный (технический) подход
- •Кодирование информации Кодирование и декодирование
- •Системы счисления
- •Кодирование и декодирование числовой информации
- •Двоичная арифметика
- •Кодирование символьной (текстовой) информации
- •Кодирование графической информации
- •Задания для самостоятельного решения
- •Контрольные вопросы
- •Используемая литература
Кодирование информации Кодирование и декодирование
Информация передается в виде сообщений. В канале связи сообщение, составленное из символов (букв) одного алфавита, может преобразовываться в сообщение из символов (букв) другого алфавита. Правило, описывающее однозначное соответствие букв алфавитов при таком преобразовании называют кодом. Саму процедуру преобразования сообщения называют перекодировкой. Подобное преобразование сообщения может осуществляться в момент поступления сообщения из источника в канал связи (кодирование) и в момент приема сообщения получателем (декодирование). Устройства, обеспечивающие кодирование и декодирование, будем называть соответственно кодировщиком и декодировщиком.
На рис. 1 приведена схема, иллюстрирующая процесс передачи информации в случае перекодировки, а также воздействия помех.
Рис.1 Процесс передачи сообщения от источника к приемнику
Системы счисления
Под системой счисления понимается способ представления любого числа с помощью некоторого алфавита символов, называемых цифрами.
Все системы счисления делятся на позиционные и непозиционные.
Непозиционными системами являются такие системы счисления, в которых каждый символ сохраняет свое значение независимо от места его положения в числе. Примером непозиционной системы счисления является римская система. В этой системе используется 7 знаков (I, V, X, L, С, D, М), которые соответствуют следующим величинам:
I (1), V (5), X (10), L (50), С (100), D (500), М (1000).
Например: III (три), LIX (пятьдесят девять), DLV (пятьсот пятьдесят пять).
Недостатком непозиционных систем, из-за которых они представляют лишь исторический интерес, является отсутствие формальных правил записи чисел и, соответственно, арифметических действий над ними (хотя по традиции римскими числами часто пользуются при нумерации глав в книгах, веков в истории и др.).
Система счисления называется позиционной, если одна и та же цифра имеет различное значение (вес), определяющееся позицией цифры в последовательности цифр, изображающей число.
Количество различных цифр, употребляемых в позиционной системе, определяет название системы счисления и называется основанием (обозначается р) системы счисления.
Примером позиционной системы счисления является десятичная система, используемая в повседневной жизни. В десятичной системе используются десять арабских цифр: 0, 1, 2, 3, 4, 5, 6, 7, 8, 9. Эта система имеет основание р=10. Следует отметить, что последняя цифра любой позиционной системы счисления равна р1. Для десятичной системы эта цифра равна 9 (р1=101).
Десятичная система счисления основана на том, что десять единиц каждого разряда объединяются в одну единицу соседнего старшего разряда, поэтому каждый разряд имеет вес, равный степени 10. Следовательно, значение одной и той же цифры определяется ее местоположением в изображении числа, характеризуемым степенью числа 10. Например, в изображении числа 222.22 цифра 2 повторяется пять раз, при этом первая цифра 2 означает количество сотен (ее вес равен 102), вторая – количество десятков (ее вес равен 101), третья – количество единиц (ее вес равен 100), четвертая – количество десятых долей единицы (ее вес равен 10-1), пятая цифра – количество сотых долей единицы (ее вес равен 10-2). То есть число 222.22 может быть разложено по степеням числа 10:
222.22 = 2×102 + 2×101 + 2×100 + 2×10-1 + 2×10-2.
Аналогичным образом, в виде полинома от основания p можно пред-ставить любое число N в позиционной системе счисления с основанием p:
N = anpn+an-1pn-1+ ... +a1p+a0+a-1p-1+a-2p-2+ ... ,
где N число,
ai коэффициенты (цифры числа),
p основание системы счисления (p>1).
Сокращенная запись представляет число в виде последовательности цифр:
N = anan-1 ... a1a0 . a-1a-2 ... .
В этой последовательности точка отделяет целую часть числа от дробной (коэффициенты при положительных степенях, включая нуль, от коэффициентов при отрицательных степенях). Точка опускается, если нет отрицательных степеней (число целое).
В общем случае для задания р-ичной системы счисления необходимо определить основание р и алфавит, состоящий из р различных символов (цифр) аi, i = 1, 2, …, p. За основание системы можно принять любое натуральное число – два, три, четыре и т.д. Для примера в табл. 2 приведены алфавиты некоторых систем счисления.
Таблица 2
Алфавиты систем счисления
Основание |
Система счисления |
Алфавит системы счисления |
2 |
Двоичная |
0, 1 |
3 |
Троичная |
0, 1, 2 |
4 |
Четверичная |
0, 1, 2, 3 |
5 |
Пятеричная |
0, 1, 2, 3, 4 |
8 |
Восьмеричная |
0, 1, 2, 3, 4, 5, 6, 7 |
10 |
Десятичная |
0, 1, 2, 3, 4, 5, 6, 7, 8, 9 |
12 |
Двенадцатеричная |
0, 1, 2, 3, 4, 5, 6, 7, 8, 9, А, В |
16 |
Шестнадцатеричная |
0, 1, 2, 3, 4, 5, 6, 7, 8, 9, А, В, С, D, E, F |
Таким образом, возможно бесчисленное множество позиционных систем: двоичная, троичная, четверичная и т.д.
В вычислительной технике применяют позиционные системы счисления с недесятичным основанием: двоичную, восьмеричную, шестнадцатеричную.
Двоичная система счисления. Используется две цифры: 0 и 1. В аппа-ратной основе ЭВМ лежат двухпозиционные элементы, которые могут нахо-диться только в двух состояниях; одно из них обозначается 0, а другое 1. Поэтому двоичная система является основной системой счисления, применяемой в ЭВМ.
Восьмеричная система счисления. Используется восемь цифр: 0, 1, 2, 3, 4, 5, 6, 7. Употребляется в ЭВМ как вспомогательная для записи информации в сокращенном виде. Для представления одной цифры восьмеричной системы используется три двоичных разряда – триада (табл. 2).
Шестнадцатеричная система счисления. Для изображения чисел употребляются 16 цифр. Первые десять цифр этой системы обозначаются цифрами от 0 до 9, а старшие шесть цифр латинскими буквами: 10A, 11B, 12C, 13D, 14E, 15F. Шестнадцатеричная система используется для записи информации в сокращенном виде. Для представления одной цифры шестнадцатеричной системы счисления используется четыре двоичных разряда – тетрада (табл. 2).
Таблица 2
Системы счисления
Десятич-ная |
Двоичная |
Восьме-ричная |
Шестнад-цатеричная |
Десятич-ная |
Двоичная |
Восьме-ричная |
Шестнад-цатеричная |
0 |
000 |
0 |
0 |
8 |
1000 |
10 |
8 |
1 |
001 |
1 |
1 |
9 |
1001 |
11 |
9 |
2 |
010 |
2 |
2 |
10 |
1010 |
12 |
А |
3 |
011 |
3 |
3 |
11 |
1011 |
13 |
В |
4 |
100 |
4 |
4 |
12 |
1100 |
14 |
C |
5 |
101 |
5 |
5 |
13 |
1101 |
15 |
D |
6 |
110 |
6 |
6 |
14 |
1110 |
16 |
E |
7 |
111 |
7 |
7 |
15 |
1111 |
17 |
F |