Измерение информации.

Информация измеряется как любой материальный объект, однако не существует специальных приборов для ее измерения. Основными единицами измерения информации являются бит и байт. Существует два подхода к измерению информации: алфавитный и вероятностный.

Вероятностный подход

Вероятностный подход опирается на понятие "сообщение" - последовательность сигналов, обладающая смыслом и новизной, но имеющее некоторую неопределенность.

Бит - сообщение, уменьшающее неопределенность знания ровно наполовину.  N=2^x - формула для нахождения количества информации для N равновероятных исходов, x - количество информации об одном событии. 

x=logN

x=log (1/p) - для неравновероятных исходов. x - количество информации об одном событии, p - вероятность события.

p=n/m. m - общее количество событий, n - число интересующих событий.

Алфавитный подход

Сообщение - последовательность сигналов, не учитывающее смысл и новизну сообщения, записанное символами определенного алфавита. Символ - знак. Алфавит - набор символов, достаточный для передачи сообщения. Количество символов в этом наборе называется мощностью алфавита.

• появление символа в алфавите равновероятно

• последовательность символов в алфавите неважна

• символы в алфавите не повторяются

A={*,~} N=2

2^x=N

2^x=2

x= 1 бит

Бит - символ из алфавита, в котором 2 знака. Компьютерный алфавит N=256, x=8 бит=1 байт.

Байт - символ из компьютерного алфавита (256 знаков).

1 кибибайт = 2^10 байт

1 кб = 1000 байт.

3

Основные понятия темы.

Система счисления - набор знаков и операций, необходимых и достаточных для счета. Различают позиционные и непозиционные системы счисления.

В позиционных системах счисления вес цифры зависит от места в числе, в непозиционных не зависит.

Цифра - знак, обозначающий количество.

Число - мера количества.

Основание системы счисления - количество цифр, необходимых для счета.

Разряд числа - место цифры в числе.

Перевод чисел из одной системы счисления в другую.

Для перевода из какой либо системы счисления в десятичную необходимо вычислить развернутую запись числа:

1. определить основание системы счисления k

2. подписать разряды

3. записать сумму цифр, умноженную на основание системы счисления в степени разряда.

Для перевода из десятичной системы счисления в систему счисления k необходимо выделить целую и дробную часть числа.

 1) Перевод целой части из десятичной системы счисления в k систему счисления.

1. делим число десятичной системы счисления на основание системы счисления,выделяем целую часть и остаток от деления

2. продолжать деление целой части на основание системы счисления до тех пор, пока целая часть не будет равно нулю

3. собрать остатки в обратном порядке от деления и записать число в k системе счисления

 2) Для перевода дробной части числа десятичной системы счисления необходимо умножать это число на основание k, выделяя целую и дробную части. Отбросив целую часть, продолжать умножение до тех пор, пока дробная часть не будет равна нулю, либо до определенного количества знаков после запятой.

Для перевода числа из k системы счисления в n систему счисления необходимо:

1. перевести число из k системы счисления в десятичную систему счисления

2. перевести число из десятичной системы счисления в n систему счисления