Пак Г.К. - Дискретная математика

Решение. Двигаемся от корня каждый раз по новому ребру, если в коде встретится 0, вправо от уже построенных рёбер, и возвращаясь по ребру, в случае, если в коде встретили 1.

ТЕОРЕМА. h 4h .

Доказательство. Число укладок равно числу кодов длины 2h, поэтому

* h меньше числа кортежей длины 2h из нулей и единиц, в которых

нулей и единиц поровну, а оно меньше числа размещений с повторениями из 2 по 2h. Отсюда

h * h 22h 4h.

Упражнения

1.Построить код дерева, изображённого на рис. 5.18.

2.Перечислить все четырехреберные а) корневые деревья; б) укладки корневых деревьев.

5.13.Сильносвязные сети

Вдальнейшем под словом сеть будем подразумевать двухполюсную сеть. Сеть называется связной, если соответствующий граф связный. Вместо слов «цепь, соединяющая полюса», будем говорить «цепь». Связная цепь называется сильносвязной, если через каждое её ребро проходит цепь.

шины c и c можно соединить маршрутом, то существует цепь, проходящая через c и c .

Доказательство. Составим цепь из части первой от полюса а до c маршрута c c и части второй цепи от c до b.

Пусть в сети Г(а,b) выделено подмножество рёбер, которое оп-

ределяет подграф. Вершина подграфа называется граничной, если она полюс сети, либо конец ребра, не принадлежащего подграфу. Подграф с единственной граничной вершиной называется отростком.

ТЕОРЕМА. Связная сеть сильносвязна не содержит отростков. Доказательство. Пусть связная сеть сильно связна и содержит отросток. Маршрут, соединяющий полюса и проходящий через ребро отростка, должен, по крайней мере, дважды пройти через граничную вершину отростка. Такой маршрут не является цепью (по определению цепь не проходит через вершины дважды).

Пусть связная сеть Г(а, b) не содержит отростков и предположим, что она не сильно связна. Тогда в ней есть рёбра, через которые

61

сетей, отличных от Г2s и Г2р , обозначим через H и сеть, принадлежащую H, будем называть H-сетью.

Пусть Гhp – сеть, представляющая собой параллельное соедине-

ние h рёбер, Гhs – последовательное соединение h рёбер, h 2. Если сеть Г(а,b)– суперпозиция сетей с внешней сетью Гhp , то она называется p-разложимой. Если сеть – суперпозиция сетей с внешней сетью

Гhs , то она называется s-разложимой. Если сеть – суперпозиция сетей с

внешней H-сетью, то она называется H-разложимой. Подсеть называется сквозной, если её полюса – это полюса основной сети.

Упражнение

Докажите, что

1)H-сеть не имеет разделяющей вершины, т.е. вершины, через которую проходит каждая цепь;

2)сеть s-разложима имеет разделяющую вершину;

3)сеть р-разложима имеет собственную сквозную подсеть.

5.15. -сети

Суперпозиция сетей Г2p и Г2s называется -сетью. Каждой

-сети можно поставить во взаимнооднозначное соответствие укладку дерева, неконцевым вершинам которого сопоставлены символы p и s. Сопоставление производится по правилу:

Сети Гh (a,b) ставим в соответствие пучок из h рёбер, корень ко-

торого помечен символом , где s или p. Пусть Г a,b имеет в

качестве внешней сети Гh (a,b) . Такая сеть кодируется пучком из h рё-

бер, корень которого помечен символом и каждое ребро соответствует внутренней подсети (каждая из которых уже не является суперпозицией

с внешней сетью Гh ). Пример:

Лемма. Сеть с h рёбрами кодируется деревом с числом рёбер 2h 2. Доказательство. Индукция по h. Для h = 2 очевидно. Предположим, что для сетей с числом рёбер меньше h, утверждение верно.

Пусть сеть Г a,b имеет h рёбер и кодируется деревом m исхо-

дящими из корня рёбрами, из которых t не концевые (рис. 5.27), m 2. Деревья D1, ,Dt соответствуют нетривильным внутренним сетям.

Пусть i число рёбер в Di , hi – число рёбер в соответствующей внут-

ренней сети Г a,b .

i 1

ТЕОРЕМА. Число всех различных попарно неизоморфных сетей с h рёбрами h 42h.

Доказательство. Число таких сетей равно числу кодовых деревьев. В каждой укладке дерева символы p и s расставляются двумя способами

(при чередовании их по ярусам). Отсюда h 2 42h 2 42h .■

ГЛАВА 6. ТЕОРИЯ КОДИРОВАНИЯ

Кодирование позволяет изучение одних объектов сводить к изучению других. В связи с изучением управляющих систем появилась необходимость систематических исследований в области теории кодирования. Основной круг задач этой теории может быть прослежен на примере из области связи.

Выбор кодов связан с различными обстоятельствами:

–с удобством передачи кодов (например, двоичный код технически легче использовать);

–с обеспечением удобства восприятия (например, машинные коды удобны для работы процессора);

–с обеспечением максимальной пропускной способности канала;

–с обеспечением помехоустойчивости;

–с простотой кодирования, возможностью обнаружения ошибки, исправления ошибки и т.п.

6.1. Алфавитное кодирование

Пусть даны алфавиты = a1,...,ar , b1,...,bq .Обозначим

через S( ) и S( ) множества всех непустых слов в этих алфавитах. Соответствие между буквами алфавита и некоторыми словами в алфавите :

: а1 —B1

а2 —B2

…… …

аr —Br

называют схемой. Тогда каждому слову A ai1 ...ain ставится в соответ-

ствие слово B Bi1 ...Bin – код слова A . Слова B1,...,Br называются эле-

ментарными кодами. В случае, если из текста ясно, о какой схеме идёт речь, то мы будем говорить: Код C B1,...,Br . Если соответствие между словами A и их кодами взаимнооднозначное, то возможно деко65

дирование, т.е. восстановление по коду исходного сообщения A. В этом случае говорят, что алфавитное кодирование является взаимно-

однозначным, однозначно декодируемым или разделимым. Возникает вопрос: возможно ли по схеме узнать, обладает ли она свойством взаимной однозначности?

слова В. При этом пустое слово Λ и само слово В считаются началами. Все начала и концы слова В, отличные от В и Λ, называются, собственными. Схема обладает свойствам префикса (задаёт префиксный код), если никакой элементарный код не является префиксом другого элементарного кода.

ТЕОРЕМА 1. Если схема обладает свойством префикса, то алфавитное кодирование взаимнооднозначное.

Доказательство. По условию i j Bi Bj. Предположим, что неко-

торое слово В допускает две расшифровки, т.е.

свойством префикса и поэтому алфавитное кодирование взаимнооднозначное.

6.2. Алгоритм Маркова Ал.А. распознавания однозначности

в которых и отличны от элементарных кодов. Обозначим через S

множество, содержащее Λ и все , встречающиеся в таких разложени-

ях элементарных кодов как в качестве префиксов, так и собственных суффиксов. Сопоставим каждому слову из S точку на плоскости. Вершины и соединяем направленным отрезком от к для каждо-

66

S Λ,b1,b2 ,b2b2,b2b2b2,b1b2b2

S1 Λ,b1,b2 ,b2b1,b1b2,b1b2b2,b2b1b2 ,b2b1b2b2 ,b2b2 ,b2b2b2,b2b2b2b2 , S2 b1,b2,b2b2,b1b2b2 ,b2b2b2 .

Получим граф, не содержащий ориентированного нетривиального цикла, проходящего через вершину. Следовательно, алфавитное кодирование со схемой обладает свойством взаимной однозначности.

6.3. Неравенство Макмиллана

a1 — B1

ar — Br

пусть i (Bi ), i 1, ,r.

ТЕОРЕМА. Если алфавитное кодирование со схемой обладает свой-

Доказательство. Все слова длины n в алфавите порождены выражением

В силу взаимной однозначности алфавитного кодирования, все слагаемые в сумме (2) различны. Всем слагаемым правой части

Из взаимной однозначности кодирования следует:

r 1 n

Отсюда n .

i 1 q i

Это неравенство справедливо для всех n и, следовательно, устремив n к бесконечности, получим утверждение теоремы. ■

Имеет место и обратное утверждение.

ТЕОРЕМА. Если числа 1,..., r удовлетворяют неравенству Макмил-

Следствие. Если существует взаимнооднозначное алфавитное кодирование, то существует также алфавитное кодирование со схемой, обладающей свойством префикса, и теми же длинами элементарных кодов.

Доказательство. Пусть 1,..., r – длины элементарных кодов взаимно-

однозначного кодирования. Эти числа удовлетворяют неравенству Макмиллана, а поэтому существует схема, обладающая свойством префикса, с этими же длинами элементарных кодов. ■

6.4. Коды с минимальной избыточностью

Пусть имеется источник сообщений, который случайным образом последовательно порождает буквы алфавита a1,...,ar . Появления букв статистически независимы и подчинены распределению веро-

1 * [logq r]. Это следует из того, что всегда можно взять в качестве кодов слова в алфавите одинаковой длины [logq r], а для такой схемы cр .

ТЕОРЕМА. Величина * достигается на некоторой схеме .

Доказательство. Для схемы, близкой к * , в силунеравенства * [logq r]

значит, существует лишь конечное число вариантов значений ср, для ко-

торых * ср [logq r] min ср *.■

Коды стоимости * называются оптимальными или кодами с минимальной избыточностью.

ТЕОРЕМА. Если С B1,...,Br оптимальный двоичный код при рас-

Пусть C оптимальный код при распределении (2). Тогда в

На эту теорему опирается алгоритм построения оптимального кода Хафмана.

Пример. Построить оптимальный код по алгоритму Хафмана для распределения вероятностей 0,4; 0,2; 0,2; 0,1; 0,1.

Упражнение

Построить оптимальный код для распределения вероятностей и найти его стоимость: (1) 0,3; 0,2; 0,2; 0,2; 0,1;

(2) 0,3; 0,3; 0,1; 0,1; 0,1; 0,1.

6.5. Код Хэмминга

Код Хэмминга исправляет одну ошибку, т.е. относится к классу самокорректирующихся кодов. В алфавите 0;1 записываются все сообщения в виде слов длины m. Эти сообщения кодируются двоичными наборами 1... ,где длина кода, m. Пусть m k. Предпо-

ложим, что при прохождении кодового слова через канал связи произошла одна ошибка, в таком случае код сообщения на выходе может иметь вид:

1 2 3 ...

1 2 3 ...

1 2 3 ...

Для того, чтобы дополнительных разрядов в коде 1... хватало для

ют контрольными, а остальные – информационными. Слово 1 m ко-

2 3 6 7 10 11 14 15 18 ... mod 2 ,

4 5 6 7 12 13 14 15 20 ... mod2 ,

8 9 10 11 12 13 14 15 24 ... mod 2 ,

... ... ... ... ... ... ...

Обнаружение ошибки в кодах Хэмминга. Пусть при передаче

кода 1... произошла ошибка в S-м члене, т.е. на выходе принято сло-

S1 1 3 5 7 9 ... 1 0 1 mod 2 S1 1. Следова-

тельно, для обнаружения и исправления ошибки достаточнопостроить S . Декодирование. Требуется по коду 1... построить слово

1... m. Для этого достаточно взять информационные члены в 1... .

Пример 1. Закодировать по Хэммингу слово (111011100).

Решение. Заполнив информационные ячейки, получим ??1?110?11100.

Ответ: (0010110111100).

Пример2. Вкодебыла допущена одна ошибка: 0010100111100. Найти её.

Решение.

S0 0 1 1 0 1 1 0 0

S1 0 1 0 0 1 1 1

S2 0 1 0 0 0 1

S3 1 1 1 1 0 0 0 Ответ:01102 6.

6.6. Самокорректирующиеся коды

Пусть В = 0; 1 . Рассматриваем единичный n-мерный куб Bn как

это число координат, в которых различаются наборы и . Обозна-

чим через U p c x B : x,c p шар радиуса p с центром c. Множество С кодовых слов будем коротко называть кодом С. Код C обнаруживает p ошибок, если ни одно кодовое слово не принадлежит шару радиуса p с центром в другом кодовом слове. Код исправляет p ошибок, если любые два шара радиуса p с центрами в кодовых словах не пересекаются.

ТЕОРЕМА. Код H B исправляет p ошибок, расстояние между двумя любыми кодовыми словами 2p 1.

Доказательство. Условие , 2p 1 эквивалентно тому, что шары

U p иU p с центрами в и радиуса p, не пресекаются. Если код исправляет p ошибок, тошары непересекаются, ибодля точек пересечения неясно, в каком из слов или допущены ошибки. Если шары не пере-

секаются, то любому слову из шара U p ставится в соответствие един-

ственная точка , т.е. код исправляет любыеp ошибки. ■

Упражнения

1. Для того, чтобы код обнаружил p ошибок, необходимо и достаточно, чтобы расстояние между любыми двумя кодовыми словами было p 1. Докажите это.

2. Булева функция f x1,...,xn называется характеристической

функцией двоичного кода С, если она принимает значение 1 на С и 0 вне С. Сколько ошибок обнаруживает и исправляет код с характеристической функцией а) х1 … хn; б) х1 … хn х1 … хn?

ГЛАВА 7. ТЕОРИЯ АЛГОРИТМОВ

Пусть имеется бесконечное множество задач и указано, что понимается под решением каждой. Алгоритм для решения этих задач существует, если существует единый способ, позволяющий для каждой задачи в конечное число шагов найти её решение, т.е. алгоритм – это набор точных предписаний, позволяющий решить определенную задачу. Важный специальный класс алгоритмов – машина Тьюринга.

Тьюринг Алан (1912–1954) – английский математик.

мой машины Тьюринга называется совокупность команд, обладающая свойствами qi,qj ! команда с левой частью qi , pj . Всего разных

команд возможно n m 1 .

Машина Тьюринга (МТ) состоит из бесконечной в обе стороны ленты и автомата с управляющим устройством. Бесконечная лента разделена на ячейки. Автомат может находиться в одном из состояний qi . Управляющее устройство в каждый из моментов времени t обозревает одну ячейку ленты. По символу pj , прочитанному на ленте, и по внут-

реннему состоянию qi автомат вырабатывает новое состояние qi и

некоторый символ pj , который вписывается в ту же ячейку вместо

прочитанного. После этого управляющее устройство сдвигается по ленте на одну ячейку вправо или влево или останавливается. Все это дела-

Обычно в качестве алфавита A берется множество 0;1 . Машина Тьюринга с произвольным алфавитом допускает моделирование в виде машины с алфавитом 0;1 . Для ячейки, в которой записан символ

0, будем употреблять термин пустая ячейка. Если лента заполнена сплошь нулями, то будем говорить, что имеем пустую ленту. Совокупность ячеек, которые посетит управляющее устройство, двигаясь от начальной ячейки до обозреваемой в момент t, называется рабочей зоной ленты в момент t.

7.2. Язык конфигураций

Пусть в момент времени t самая левая непустая ячейка ленты содержит символ aj1 , а самая правая непустая ячейка содержит символ

ajs . В этом случае будем говорить, что в момент t на ленте записано слово P aj1 ajs . При S = 1, т.е. когда на ленте только один непустой

момент t. Конфигурация, соответствующая началу работы машины, называется начальной. Результирующая конфигурация называется заключительной. Если в некоторый момент времени конфигурация машины была K, а в следующий момент K , то конфигурация K называ-

ется непосредственно выводимой из K и обозначается это так: K╞K .

начальная конфигурация. Если Km – заключительная конфигурация, то применяют запись K1├.Km (читается: Km заключительно выводима из

76

K1). Если машина T1 , начав работу на слове P1 , остановится через

определенное число шагов, то говорят, что машина Т применима к слову Р, а результат применения обозначается Т(Р) . Если машина не остановится, то говорят, что машина Т не применима к слову Р. Машины T1

и Т2 называются эквивалентными, если для любого Р слова T1 (Р) и

Т2(Р)определены или не определены одновременно, и если они определены, то T1 (Р) = Т2(Р).

состояние q2 и полученную программу объединим с программой П2 .

Новая программа П определяет машину Т =T1 Т2 , называемую компо-

зицией машин T1 и Т2 по паре состояний ( q1 ,q2 ). Внешний алфавит композиции является объединением внешних алфавитов машин T1 и

Т2 . Эту же операцию можно применить к нескольким заключительным состояниям машины T1 для машин Т2 , T3 . Тогда получим разветвле-

ние машин Т2 и T3 , управляемое машиной T1 .

Пусть q – некоторое заключительное состояние машины Т,

q – какое-либо состояние машины Т, не являющееся заключительным.

Заменим всюду в программе П машины Т символ q на q . Получим

программу П , определяющую итерацию машины Т по паре состояний (q , q ). Ее обозначение: T (q , q ).

При задании сложных машин Тьюринга часто применяют операторную запись алгоритма по А.А. Ляпунову, которая представляет собой строку, состоящую из символов машин, символов перехода вида

машина T1 . При достижении заключительного состояния T1 включа-

ется в работу машина Т2 . Если машина Т2 достигнет состояния q20 , то работа оканчивается. При достижении машиной Т2 другого заключи-

77

тельного состояния начинает работу машина T3 . При достижении ма-

шиной T3 заключительного состояния q30 начинает работу машина

T1 , а при достижении машиной T3 другого заключительного состояния работа оканчивается.

7.4.Вычислимые функции

Вкачестве алфавита машины Тьюринга берем множество 0;1 .

Пусть ~ 1, , n , n 1 – произвольный набор целых неотрицатель-

ных чисел. Слово 1 1 101 2 10 01 n 1 называется основным машинным

функция f называется вычислимой по Тьюрингу, если существует машина Тьюринга Tf , обладающая свойствами:

(1)если f (~) определено, то Tf k(~) kf (~) ;

(2)если f (~) не определено, то либо Tf k(~) не является кодом чис-

ла N0 , либо машина Tf не применима к слову K(~) . Если f вычис-

лима по Тьюрингу, то говорят, что машина Tf вычисляет функциюf.

x y, x y,

xy 0 впротивном случае.

7.5.Программа удвоения

Задача. Написать программу переработки конфигурации