Математические основы криптологии / Криптология-экзамен(3_семестр)

Теория Кодирования.

Теорема. Критерий однозначности декодирования.

Для того чтобы кодирование было взаим. однозначным, необходимо и достаточно, чтобы в графе G_ построенного для этого кода не было ориентированных циклов проходящих через вершину .

 (1) В G_ нет ориентированных циклов через   декодирование однозначно. Пусть декодирование неоднозначно. Выберем самое короткое сообщение неоднородно декодируемое

-           ориентированный цикл – противоречие.

(2) Кодирование взаимооднозначно  нет ориентированных циклов через . Пусть есть ориентированный цикл .

а) самый короткий цикл через .

б)

в)

Теорема. Неравенство Макмилана.

Пусть дано  - взаимоодн. кодирование, А={a₁…a_n} – кодируемый алфавит, В={b₁…b_n} – кодируемый алфавит, ={B₁…B_m}. Пусть длина кодируемого слова |B_i|= l_i  i=1,…,m. l_max= {l_i} – max длина кодируемого слова.

 =x, xⁿ= ()ⁿ= =. q_r – число наборов (i₁…i_n), таких что li₁+li₂+…+li_n=r. Каждому набору (i₁…i_n)  a_i1…a_in  B_i1…B_in. q_r – число слов длины r в алфавите А.

q_r – число слов длины r которые являются кодами слов в алфавите А,  числа всех слов длины n в В= k².  = nlmax. xⁿ nl_max, x (nl_max)^1/n верно  n. lim(n)x= x, lim(n)(nl_max)^1/n= lim(n)n^1/nl_max^1/n= lim(n)n^1/n= 1 x1.

Теорема о существовании префиксного кода.

Если  - взаимооднозн. Кодирование = {B₁…B_m}, длины кодируемых слов l₁…l_m, то существует префиксный код с тем же набором длин кодовых слов.

 Так как код взаимооднозначен, то  1. Число слов длины r обозначают C_r;  1( l);  1;  k^l; C₁k^l-1+ C₂k^l-2+…+ C_l-1k+ C_l k^l; C_l k^l-C₁k^l-1-C₂k^l-2-…-C_l-1k ( l). Пусть l=1  С₁k. Пусть l=2 C₂ k²-C₁k= k(k-C₁). Пусть l=3 C₃ k³- C₁k²- C₂k= k(k(k-C₁)-C₂). Пусть С₁- слово длиной 1, С₂ – слово длиной 2,…, С_l-1 – слово длиной l-1, для всех выполняется свойство префикса. Покажем, что можно выбрать С_l слов длины l, для которых тоже выполняется свойство префикса. kl – всего слов длины l в алфавите В. С₁k^l-1 – запрещ. слова длины l, начинающиеся с выбранных однобуквенных кодируемых слов. kl-C₁k^l-1- C₂k^l-2-…- C_l-1k – число возможностей для построения кодовых слов длины l, обладающих свойством префикса. В старом коде  это число было С_l, значит можно выбрать такой код.

Цена кодирования.

Пусть А= {a₁…a_m} – кодируемый, В= {b_1…b_k} – кодирующий,  = {B₁…B_m}, |B_i| = l_i. Каждой букве a_i  p_i, (i=1 to m)p_i= 1. Пусть А₁А^*, пусть |A₁| = N, буква а₁ вошла в А₁ p₁N-раз, буква а_i вошла в А₁ p_iN-раз. При кодировании вместо A_i появляется B_i p_iN-раз. |(A₁)|= (i=1 to m)p_il_iN= N(i=1 to m)p_il_i= |A₁|(i=1 to m)p_il_i. (i=1 to m)p_il_i= C() – цена кодирования.

Оптимальный код.

Пусть А и В – фиксированы. Пусть Ф – множество взаимоодн. кодов : А^*В^*. min C()= C(p₁,p₂,…,p_m). Код , цена кодирования которого равна С(р₁…р_m) называется оптимальным кодом. (код Хофмана).

Свойства оптимальных кодов.

1) Упорядоченность вероятности кодируемого дерева по ярусам.

Пусть k - оптимальный префиксный код, В={01}, A={a₁…a_n}, p₁…p_m – вероятности.

(1) Если p_i>p_j то |B_i||B_j|

(2) B_n – кодовое слово максимальной длины. B_n=B^’, где {01}  кодовое слово B^’

 (1) Пусть p_i>p_j и |B_i||B_j|. k₁={B₁…B_j…B_i…B_m}, C(k)- C(k₁)= p₁l₁+…+ p_il_i+… +p_jl_j+… +p_ml_m- p₁l₁-…- p_il_j-… -p_jl_j-… -p_ml_m= p_il_i+…+ p_jl_j+… +p_il_j+… +p_jl_i= p_j(l_i-l_j)- p_j(l_i-l_j)= (l_i-l_j)(p_i-p_j) k – неоптим. код. Противоречие!

(2) Пусть не  B^’. Тогда рассмотрим код k={B₁… B^’…B_m}, |B’|=l, k₂={B₁…B’…B_m}, C(k)- C(k₂)= p_i(l+1)- p_il= p_i>0 

2) Возможность построения упорядоченного оптимального кода.

k= {B₁,B₂,…,B_m}, p₁p₂…p_m. k – оптимальный префиксный код. Можно так представить слова в коде k, что получим код k= {B₁^’,B₂^’,…,B_m^’} – оптимальный преф. код.

1. |B₁^’| |B₂^’|…  |B_m-1^’|= |B_m^’|

2. B_m-1^’ и B_m^’ отличаются только в последнем разряде.

 (1) Пусть |B_i|> |B_i+1|, тогда p_ip_i+1 c другой стороны по условию p_ip_i+1 p_i=p_i+1. k₁= {B₁…B_i+1…B_i…B_m}, C(k) – C(k₁) = p_il_i+ p_i+1l_i+1- p_il_i+1+ p_i+1l_i= pi(li+ l_i+1- l_i+1+ l_i)= 0.

(2) k={B₁’, B₂’, …, B, B_m-1’, B}, p_m-2 p_m-1… p_m , k₂= {B₁’, B₂’, …, B_m-1’, B, B}, p_m-2 p_m-1… p_m, C(k) – C(k)= p_m-2l+ p_m-1l- p_m-2l- p_m-1l= 0 

Лемма о префиксных кодах.

B={01}, k₁={B₁…B_m, B0, B1}, p₁…p_m, p’, p’’, k2={B₁…B_m, B}, p₁…p_m, p= p’+ p’’, |B|=l

1. Если k₁ – префиксный, то k₂ – префиксный и наоборот

2. С(k₁)= C(k₂)+ p.

 (1) k₁ – префиксный  строим кодовое дерево, т.ч. кодовые слова – концевые вершины.

В0 и В1 ликвидируем  В- кольцевая вершина, значит k₂ – префиксный и наоборот приделываем В0 и В1 к В.

(2) С(k₁)= p₁l₁+…+ p_ml_m+ p’(l+1)+ p’’(l+1)= p₁l₁+…+ p_ml_m+ l(p’+p’’)+ (p’+p’’)= p₁l₁+…+ p_ml_m+ pl+ p= C(k₂) +p 

Теорема редукции.

B={01}, k₁={B₁…B_m, B0, B1}, p₁…p_m, p’, p’’, k₂={B₁…B_m, B}, p₁…p_m, p= p’+ p’’

1. Если k₁ – оптимальный преф. код, тогда k₂- оптим. префиксный.

2. Если k₂-оптим. и p₁ p₂… p_m p’ p’’, то k₁ – оптим. префиксный.

 (1) Пусть k₁ – оптим. префиксный  k₂ – префиксный, но не оптимальный, тогда  оптимальный код, причём префиксный – k₂’: C(k₂’)< C(k₂). Пусть k₂’ имеет вид: k₂’={B₁’, B₂’,B_m’, B’}  k₁’={B₁’, B₂’,…B_m’,…, B0’, B1’}, C(k₁’)< C(k₂’)+ p< C(k₂)+ p= C(k₁) k₁ – неоптимальный код.

(2) k₂ – оптимальный преф.  k₁ – преф., но пусть неоптимальный   оптим. префиксный k₁’: C(k₁’)< C(k₁). Пусть k₁’= {B₁’…B_m’, B_m+1’, B_m+2’}. Получим k₁’’= {B₁’’…B_m’’, B0’’, B1’’} |B₁^’’| |B₂^’’|…  |B_m^’’| |B0’’|, C(k₁’)= C(k₁’’)< C(k₁). Построим код k₁’= {B₁’’…B_m’’, B’’} для кода k₂’’. C(k₂’)= C(k₁’’)- p< C(k₁)- p= C(k₂) k₂ не оптимальный код – противоречие. 

Код Хэмминга.

Кодом Хэмминга длины l называется множество слов (₁₂…_l), таких что сумма по модулю два (tw₀)_t= 0, (tw₁)_t= 0, (tw_k-1)_t= 0.

Теорема о коде Хэмминга.

Код Хэмминга длины l имеет 2^l-k кодовых слов, где k=Гlog(l+1) и позволяет корректировать 1 ошибку типа замещения.

Теория множеств.

Множество.

A= {(x,y): x,y R и x²+y² 1} – задание множества формой. Множество по Кантору – многое мыслимое как единое. Два множества называются равными, если они сост. из одних и тех же элементов. Парадокс Рассэла: Ординарное мн-во - мн-во которое не содержит себя как элемент. Экстраординарное мн-во – мн-во которое входит в себя как элемент. Про любой элемент и про любое множество мы должны знать либо элемент входит в это мн-во, либо не входит.

Свойства включения.

АВ если  аА а В. АВ если аАаВ и  b₀В, b₀A. Свойства: 1) АА А 2) Если АВ, ВС АС 3) Если АВ, ВА А=В 4) (А)[A]

Прямое произведение множеств.

АхВ= {(a,b)| aA, bB} - прямое произведение. AxB  BxA, AxA = A².

Бинарные отношения.

Бинарным отношением между множествами А и В называется подмножество SАхВ. Если А и В различны, то бин. отн. называют соответствием между А и В. Если А=В, то бин. отн. называют отношением на множестве А.

Биекция.

Пусть S – отношение “”, заданное на B(A). S={(X,Y):X B(A), Y B(A) и XY}. S AxB. Рассмотрим множество D_s= {a| aA и bB: (a,b) S}, D_s – область определения отношения S. R_s= {bB| a:(a,b)S} – область значений отношения S.

1. Если D_s= А S всюду определено.

2. Если R_s= В S – сюръекция или отображение «на».

3. Отображение S называется функциональным, если из (x,y) S и (x,z) S y=z.

4. S – инъекция, если из (x₁,y) S и (x₂,y) S x₁=x₂.

Если отношение S обладает четырьмя приведёнными свойствами , то S – биекция.

S задано на А S AxA. S – отношение эквивалентности ~, если

1. рефлективность: аА (а,а) S

2. симметрия: если (a,b) S, то (b,a) S.

3. транзитивность: если (a,b) S и (b,c) S  (a,c) S.

Пусть на множестве А задано отношение эквивалентности S, тогда Х – класс эквивалентности по отношению к S, если:

1. XA

2. x₁X и x₂X, то x₁~x₂.

3. xX и yA и y~x yX.

Класс экв-ти порождён элементом [x], если [x]= {aA, a~x}= {aA| a~x}.

Теорема о классах эквивалентности.

Два класса эквивалентности порождённые элементами х и у, либо совпадают, либо их пересечение равно .

 Пусть их пересечение не пусто. а [x] [y] a[y] a~x и а~y x~y. Пусть b[x] b~x и x~y b~y b[y]. Аналогично доказывается [y] [x] [x]= [y].

Разбиением U_iA_i, где A_iA и A_iA_j=  отношение экв-ти на А порождает разбиение мн-ва А на класс экв-ти. S задано на А (SAxA). S называется отношением порядка если:

1. рефлексивность.

2. Атисимметрия: (a,b)  (b,a)S.

3. Транзитивность

Если S – отношение порядка и (a,b)S, тогдаА называется всюду упорядоченным этим отношением, если (а,b) A либо (a,b)S, либо (b,a)S. A называется частично упорядоченным, если  a,bA и (a,b)S.

Равномощность множества.

Если между множествами А и В можно установить биекцию, то такие множества называются равномощными.

Лемма: Конечные множества А и В равномощны  когда они состоят из одинакового числа элементов. (самим).

Мощность конечного множества.

Мощностью конечного множества называется число элементов входящих в это множество.

Теорема о мощности объединений конечных множеств.

Если |A|=m, |B|=n то

1. АВ=   |AB|= |A| + |B|

2. AB  |AB|= |A|+ |B| - |AB|

Следствие.

Если АВ |B\A|= |B|- |A|.  B\A  A= B, B\A и A не пересекаются, поэтому |B|= |B\A|+ |A| |B\A|= |B|- |A|. 

Теорема о мощности прямого произведения.

Если |A|= m и |B|= n |AxB|= mn.  AxB= {(a₁b₁)…(a_mb₁), (a₁b₁) (a₂b₂)…(a_mb₂), …, (a₁b_n) (a₂b_n)… (a_mb_n)}= B₁ B₂ … B_n. |AxB|=(i=1 to n)|B_i|= mn. 

Теорема о мощности Булеана.

Если |A|= n, то |B(A)|= 2ⁿ.  Доказательство по индукции:

1. n=1  A={a} B(A)= {, A}, |B(A)|= 2= 2¹.

2. индуктивное предположение. Пусть n=k и формула верна |B(A)|= 2^k.

3. n= k+1 ={ a₁,…,a_k,a_k+1}, B(A)= {A₁,…,A_2^k} B(A)= {A₁,…, A_2^k, A1 {a_k+1},…, A_2^k {a_k+1}} |B()| = 22^k= 2^k+1.

B(A) – множество всех подмножеств А. |A|= n; A= (a₁a₂…a_n). Пусть А₁А  (01…10)= (х₁ х₂ …х_n), x_i=1 если a_iA₁; x_i=0, если a_iA₁, {(x₁…x_n)}  B(A). E₂={01}; |E₂|=2; (x₁…x_n)  E₂xE₂x…xE₂. |{(x₁…x_n)}|= |E₂xE₂x…xE₂|= |E₂|x|E₂|x…x|E₂|= 2ⁿ. 

Счётные множества.

Множество А равномощное множеству натуральных чисел, называется счётным множеством. Если А – бесконечное множество и не равномощное множеству натуральных чисел, тогда оно несчётное множество.

Теорема о подмножествах счётного множества.

Любое подмножество счётного множества, либо конечно, либо счётно.  Пусть А – счётное множество, А^*А и А^* - бесконечны. Т.к. А – счётное множество   АN - биекция А= {a₁,a₂,…,a_n,…}. Пусть n₁ – минимальный номер элемента из А, вошедший в А^*, присвоим ему номер 1. Пусть n₂ – миним. номер элемента из А\{a_n1} вошедший в А^*, присвоим ему номер 2. Пусть bA^* bA и b=a_k. Т.к. до a_k конечное число шагов, то А^* (биекция) N. 

Следствие.

Бесконечное подмножество счётного множества равномощно самому множеству.

Теорема о счётности объединений конечных множеств.

Счётное объединение конечных множеств счётно.  U(i=1 to )A_i – счётное объединение. A_i – конечное.

a₁₁ a₁₂ … a_1k1 

a₂₁ a₂₂ … a_2k2 

a_n1 a_n2 … a_nkn . Докажем, что для каждого элемента a_ij существует свой номер. До элемента a_ij существует конечное число членов, значит существует номер и для a_ij. 

Теорема о счётности объединений счётных множеств.

Счётное объединение счётных множеств счётно.  U(i=1 to )A_i – счётно, А_i – счётно.

a₁₁ a₁₂ a₁₃… a_1n

a₂₁ a₂₂ a₂₃… a_2n

a₃₁ a₃₂ a₃₃… a_3n

……….….. a_ij . До a_ij конечное число элементов  он получит свой номер. [max(ij)]²  его номера. 

Теорема о счётности множества рациональных чисел.

p/q – вид рациональных чисел, где p,qZ и p,q – взаимно просты – рац. число, тогда {p/q} счётно; {p/q}= .  Q= Q₊  Q_-  {0}. Достаточно доказать счётность Q₊. Рассмотрим (p,q), где p,q  N и p,q – взаимно просты. Каждой (p,q) поставим в соответствие h=p+q. P_h= {(p,q): p+q= h}, |P_h| h-1 – конечное множество. {(p,q)}= U(h=1 to ) – счётное множество, (p,q)  p/q  Q₊  Q₊ - счётно. 

Теорема о несчётности интервала (0,1).

Интервал (0,1) – несчётное множество.  Диагональный метод Кантора. 0,25(0)= 0,24(9). Каждое число этого интервала есть бесконечная десятичная дробь. Пусть (0,1) – счётное множество.

0. a₁₁ a₁₂ a₁₃…

0. a₂₁ a₂₂ a₂₃…

0. a₃₁ a₃₂ a₃₃…

……………...

0. b₁ b₂ b₃ … (0,1). b₁ a₁₁, b₂ a₂₂, b₃ a₃₃,… , b_k a_kk. Мы получили число из (0,1), не имеющее своего номера  предположение неверно  (0,1) – несчётное множество. 

Континуальные множества.

Мощность (0,1) равна континуму, множества равномощные с (0,1) называются континуальными множествами.

Теорема о равномощности (0,1) и [0,1].

(0,1) ~ [0,1].  Выделим любое счётное множество  (0,1): {1/2,1/4,1/8,…,1/2ⁿ}= A (0,1), B= {0,1,1/2,1/4,1/8,…} [0,1]. A(f)B. Пусть х  (0,1), у  [0,1]. y={f(x), если xA и x, если xA. 

Принцип суммы.

Если |A|= m, |B|= n, AB= , тогда |AB|= m+n. Если объект А можно выбрать m- способами, В – n- способами и их совместный выбор не возможен, то выбор «А или В» осуществляется m+n- способами.

Принцип произведения.

|A|= m, |B|= n, тогда |AxB|= mn. Если объект А можно выбрать n- способами, то выбор «А и В» можно осуществить mn- способами.

Упорядоченная и неупорядоченная выборка.

Выборка называется упорядоченной, если важен порядок элементов. Упорядоченные выборки одинаковые по состоянию, но разные по порядку следования элементов называются разными. Упорядоченная выборка объёма n из n элементов, где все элементы разные называется перестановкой.

Теорема о числе перестановок.

P_n= n!.  1) База индукции P₁= 1= 1! 2) Индуктивное предположение. Пусть при n=k, формула верна: P_k= k!

3) Индуктивный переход n= k+1. Выберем k+1 элемент (k+1) способом. Остальные k-элементов по индуктивному предположению их можно упорядочить k!-способами. По принципу умножения k+1 элементов можно упорядочить k!(k+1) способами, т.е. (k+1)! 

Упорядоченная выборка объёма r из n-элементов (r<n), где все элементы разные, называется размещением.

Теорема о числе размещений.

A_n^r=n!/(n-r)!.  Обозначим A_n^r= x, тогда в силу принципа произведения n!= x(n-r)!. Объект А – упорядоченная выборка из n по r. Объект В – перестановка из (n-r)!. Выбор «А и В» – перестановка из n элементов. x= n!/(n-r)!= A_n^r 

Неупорядоченная выборка объёма r из n элементов (r<n), где все элементы разные называется сочетанием.

Теорема о числе сочетаний.

С_n^r= n!/(r(n-r)!).  Пусть х – число сочетаний из n по r, тогда xr! – число размещений из n по r. A – неупорядоченная выборка объекта r из n элементов х-способами. В – перестановка среди выбранных r элементов r!-способами. Тогда «А и В» осуществляется xr! способами. «А и В» – размещение A_n², x=C_n^r= n!/((n-r)!r!). 

Размещения с повторениями – упорядоченная выборка объёма r из n элементов, где элементы могут повторяться.

Теорема о числе размещений с повторениями.

A_n^r(n)= n^r.  Первый элемент выбирается n способами, 2-й – n способами и т.д. A_n^r= n^r. 

Перестановки с повторениями – k₁ - элемент 1-го типа; k₂ – элемент 2-го типа … k_m – m-го типа. k₁+ k₂+… +k_m= n. Перестановки среди n элементов называются перестановкой с повторениями.

Теорема о числе перестановок с повторениями.

C_n(k₁,k₂,…,k_m)= n!/ (k₁! k_2! … k_m!).  А – перестановка с повторениями, число способов выбора – х. Все одинаковые элементы заменим на разные, тогда В₁… В_n – перестановки среди k₁… k_m, тогда «А и В» – перестановка среди n элементов – число = n!, x k₁! k_2! … k_m!= n!  x= C_n(k₁ … k_m). 

Сочетание с повторениями – Пусть n типов элементов, в каждом типе элементов  m, тогда неупорядоченная выборка объёма m из этих элементов называется сочетанием с повторениями.

Теорема о числе сочетаний с повторениями.

C_n^m(n)= C_n+m-1^m= C_n+m-1^m-1.  Пусть в выборку объёма m вошло m₁ элементов 1-го типа, m₂ – 2-го типа, …, m_n -элементов n-го типа, m₁+ m₂+… +m_n= m. (11…1011…1011…10…011…1}

m₁ m₂ m₃ m_n

Число выборок равно числу векторов = C_n+m-1^n-1. (m+n-1) – длина вектора, (n-1) – количество нулей. 