Продолжение таблицы 1.12

~

Математическое ожидание количества символов из алфавита B при кодировании равно nср = åni Pi = 4 . Этому среднему числу символов соответствует максимальная

Hmax = nср log2 q ³ H = -åPi log2 Pi . В этом случае закодированное сообщение имеет

i

избыточность. Коэффициент избыточности определяется следующим образом:

Kи = (Hmax - H ) = (nср - nmin ), (1.12.1)

nср

nmin = H log2 q . В нашем случае Kи = 0.0039 , т. е. код практически не имеет избыточности.

Видно, что среднее число двоичных символов стремится к энтропии сообщения.

Вторая теорема Шеннона устанавливает принципы помехоустойчивого кодирования. Оказывается, что даже при наличии помех в канале связи всегда можно найти такую систему кодирования, при которой сообщение будет передано с заданной достоверностью. Основная идея всех таких кодов такова: для исправления возможных ошибок вместе с основным сообщением нужно передавать какую-то дополнительную информацию. Для реализации контроля возможных ошибок используются так называемые самокорректирующие коды, а по каналу связи вместе с n символами основного сообщения передаются ещё k дополнительных символов, обеспечивающих избыточность кодирования и позволяющих противодействовать помехам.

1.13.Математические основы информатики

1.13.1.Алгебра высказываний (алгебра логики). Учение о высказываниях – алгебра высказываний или алгебра логики является простейшей логической теорией. Она рассматривает конечные конфигурации символов и взаимоотношения между ними.

Высказывание – это всякое повествовательное предложение, утверждающее что-либо

очем-либо, при этом непременно истинное или ложное. Логическими значениями высказываний являются “истина” и “ложь”, обозначаемые 1 и 0. Высказывания, представляющие собой одно утверждение, называются простыми или элементарными, высказывания, получающиеся из элементарных с помощью грамматических связок “не”, “и”, “или”, “если… , то…”, называются сложными. Эти названия не носят абсолютного характера, высказывания, которые в одной ситуации можно считать простыми, в другой ситуации будут сложными. В алгебре логики все высказывания рассматриваются только с точки зрения их логического значения, житейское содержание игнорируется. Каждое высказывание может быть либо истинным, либо ложным, ни одно высказывание не может быть одновременно истинным и ложным. Элементарные высказывания обозначаются

31

строчными буквами латинского алфавита: а, b, с. Из высказываний с помощью логических связок образуются новые высказывания. Рассмотрим наиболее употребительные логические связки.

Отрицанием высказывания x называется новое высказывание, которое является истинным, если высказывание x ложно, и ложным, если x – истинно. Обозначается x , читается “не x ” или “неверно, что x ”. Все логические значения высказывания x можно описать с помощью табл. 1.13. Если x – высказывание, то x - противоположное высказывание. Тогда можно образовать х , которое называется двойным отрицанием

высказывания. Логические значения х , очевидно, совпадают со значениями x . Эта операция одноместная – в том смысле, что из одного данного простого высказывания x строится

новое высказывание x .

Логическое умножение (конъюнкция). Конъюнкцией двух высказываний x и y

называется новое высказывание z , которое истинно только когда оба высказывания x и y истинны, и ложно, когда хотя бы одно из x и y ложно. Обозначается x & y или x y , читается “ x и y ”. Таблица истинности конъюнкции дана в табл. 1.14. Из определения

операции конъюнкции видно, что союз “и” в алгебре логики употребляется в том же смысле, что и в повседневной речи. Однако в алгебре логики этой связкой можно связывать любые, сколь угодно далекие по смыслу высказывания. Конъюнкцию часто называют логическим умножением.

Логическое сложение (дизъюнкция). Дизъюнкцией двух высказываний x и y

называется новое высказывание, которое считается истинным, если хотя бы одно из высказываний x и y истинно, и ложным, если они оба ложны. Обозначается x y , читается

“ x или y ”. Логические значения дизъюнкции описываются в табл.1.15.

Таблица 1.15 Таблица 1.16

Импликация или логическое следование. Импликацией двух высказываний x и y

называется новое высказывание, которое считается ложным, когда x истинно, а y ложно, и истинным во всех остальных случаях. Обозначается x → y , читается “если x , то y ” или “из x следует y ”. Высказывание x называется условием или посылкой, высказывание y

следствием или заключением. Таблица истинности этой операции приведена в табл. 1.16. Из таблицы истинности видно, что если условие x - истинно, и истинна импликация x → y , то

верно, и заключение y . Это классическое правило вывода, постоянно используется в

математике, при переходе от одних высказываний к другим, с помощью доказываемых теорем, которые, как правило, имеют форму импликаций.

32

В случае импликации несоответствие между обычным пониманием истинности сложного высказывания и идеализированной точкой зрения алгебры высказываний еще заметнее, чем для других логических операций. Здесь истинность импликации в некоторой ситуации означает лишь, что если в этой ситуации истинна посылка, то истинно и заключение.

Эквиваленция (эквивалентность, логическая эквивалентность). Эквиваленцией двух высказываний x и y называется новое высказывание, которое истинно, когда оба

высказывания x и y либо одновременно истинны, либо одновременно ложны, и ложно во всех остальных случаях. Обозначается x ↔ y , читается “для того, чтобы x , необходимо и достаточно, чтобы y ” или “ x тогда и только тогда, когда y ”. Эквивалентность играет значительную роль в математических доказательствах. Известно, что большое число теорем

Таблица 1.17

формулируется в форме необходимых и достаточных условий. Это так называемые теоремы существования. Логические значения операции эквиваленции описываются в табл. 1.17.

С помощью логических операций над высказываниями можно строить различные новые, более сложные высказывания. Всякое сложное высказывание, которое может быть получено из элементарных высказываний с помощью логических связок, называется формулой алгебры логики. Формулы алгебры логики обозначаются большими буквами латинского алфавита А, В, С,… Две формулы алгебры логики A и B называются равносильными, если они принимают одинаковые логические значения при любом наборе значений входящих в формулы элементарных высказываний. Равносильность обозначается знаком “ ≡ ”.

Для любых формул A, B, C справедливы следующие равносильности.

I.Основные равносильности:

1.A Ù A º A,ü

ý- законы идемпотентности конъюнкции и дизъюнкции,

2.A Ú A º A,þ

3.A 1 ≡ A, 1 - истина,

4.A 1 ≡ 1,

5.A 0 ≡ 0, 0 - ложь,

6.A 0 ≡ A,

8.A Ú A º 1 - закон исключенного третьего,

9.A º A - закон снятия двойного отрицания, 10. A Ù (B Ú A) º A - первый закон поглощения,

11.A Ú (B Ù A) º A - второй закон поглощения,

12.A º (A Ù B)Ú (A Ù B) - первая формула расщепления,

13.A º (A Ú B)Ù (A Ú B) - вторая формула расщепления. Все эти соотношения легко проверяются по таблицам истинности.

33

II.Равносильности, выражающие одни логические операции через другие:

5.A B ≡ A B - первый закон де Моргана ,

6.A B ≡ A B - второй закон де Моргана,

7.A B ≡ A B,

8.A B ≡ A B.

Именно из равносильностей этой группы формул следует, что всякую формулу алгебры логики можно заменить равносильной ей формулой, содержащей только две логические операции: конъюнкцию и отрицание или дизъюнкцию и отрицание.

III. Равносильности, выражающие основные законы алгебры логики:

1.A B ≡ B A - коммутативный закон конъюнкции,

2.A B ≡ B A - коммутативный закон дизъюнкции,

называется тождественно ложной или противоречивой, если она равна 0 при всех значениях входящих в нее переменных.

Формула алгебры логики является функцией входящих в нее элементарных высказываний, ее аргументы принимают два значения 0 и 1, при этом значение формулы может быть равно 0 или 1.

Функцией алгебры логики n переменных (или функцией Буля) называется функция n

Огастес Морган (де Морган)(1806 – 1875) – шотландский математик и логик.

34