algebcodes (1)

Введение в алгебраические коды

Сагалович Ю.Л.

4 октября 2011 г.

Предисловие

Содержание этой книги составляет годовой курс "Алгебраические коды" , который автор читал в течение ряда лет в Московском физико-техническом институте (государственном университете). Разумеется, за 120-130 академических часов, включая и семинарские занятия, можно сообщить студентам лишь ничтожную долю тех сведений, которые накоплены за полвека развития этой замечательной ветви теории информации. И находясь под влиянием богатства результатов, красоты и изящества теории алгебраических кодов, автор всегда испытывал чувство досады по поводу рамок учебной программы, ограничивающей желание лектора внушить своим слушателям во

всей полноте значимость и стройность алгебраической теории кодирования.

Тем более автор был поставлен в тупик, когда ему порекомендовали написать для студентов учебное пособие под названием "Алгебраические коды". Можно ли согласиться на такой шаг, когда мировое сообщество специалистов и исследователей имеет в своем распоряжении книги У.У. Питерсона; В.Д. Колесника и Е.Т. Мирончикова; Э. Берлекэмпа; Э.Л. Блоха и В.В. Зяблова; У.У. Питерсона и Уэлдона; Т. Касами, Н. Токура,

Ё. Ивадари и Я. Инагаки; Ф. Дж. Мак-Вильямс и Н.Дж.А. Слоэна; Э.М. Габидулина и В.Б. Афанасьева; Р. Блэйхута; Лидла и Нидеррейтера.

Однако по здравом размышлении автор уяснил два главных факта. Книги указанных выше авторов давно стали библиогра-

фической редкостью, и надежды на их переиздание нет. Сами же эти руководства настолько насыщены и полны, а подчас не просто полны, но полны энциклопедически, что для перво-

го чтения трудны. Процесс преподавания, его временные´ ограничения, уровень подготовки студентов способствовали естественному отбору содержания курса. Естественный отбор, однако, был не столь беспощаден, как в животном мире. Всякое вынужденное отсечение безусловно интересных сведений, ко-

торые буквально просились на страницы книжки, было поистине болезненным. Когда логика рассуждений требовала про-

должить изложение темы, но заданный объем курса, а значит и книжки, ставил понятное препятствие, приходилось идти на

компромисс. Искушенный читатель без труда обнаружит соответствующие места.

В то же время в данную книжку включена специальная гла-

ва "Начальные сведения из теории чисел" , хотя в перечисленных выше источниках теоретико-числовые сведения использованы, но разрозненно.

Дело в том, что ни в один курс математики технических вузов не включается даже упоминания о теории чисел. Если в монографии можно ограничиться лишь ссылкой на источник, где можно прочитать, скажем, о теореме Эйлера, то в учебнике это было бы неуважением к читателю. Теория чисел настолько близка к алгебре, что в книге об алгебраических кодах она выглядит вполне органичной, так как является одним из исторических корней современной алгебры. Теоретико-числовые факты служат яркой иллюстрацией к большинству утверждений теории групп, а без нее теория кодов вовсе и не теория. Возможность доказать, например, (малую) теорему Ферма или

теорему Вильсона различными способами, в зависимости от того, в каком месте книжки находится читатель, демонстрирует

тесную связь между различными разделами курса. Наконец, читатель, решивший освоить основное содержание теории алгебраических кодов, вполне способен и достоин чести познако-

миться с основами "царицы математики" как раздела, цементирующего математическую культуру.

Возвращаясь к теме объема, приведем, пожалуй, самый глав-

ный аргумент против расширения содержания книжки и доведения ее в конце концов до уровня энциклопедии по кодам.

Такой уровень был выдающимся достижением тридцать лет тому назад, когда вышла в свет книга Ф. Дж. Мак-Вильямс и Н. Дж. А. Слоэна. Теперь другое время, и когда накоплен огромный запас методов построения кодов, удовлетворяющих разнообразным практическим нуждам, когда необычайным об-

разом разрастается тематика исследований по теории кодирования, когда специалистам, овладевшим началами теории ко-

дов, предоставлен широкий ассортимент способов построения реальных систем связи, назревает другая необходимость. Это

— необходимость подняться в преподавании теории кодирования на новый уровень абстракции. Возможность к такому переходу обеспечена появлением монографии "Алгеброгеометрические коды (Основные понятия)" трех авторов: С.Г. Вледуца, Д.Ю. Ногина и М.А. Цфасмана. На мой взгляд, сформирована

иаудитория молодых людей с хорошей математической подготовкой, способная к восприятию новых серьезных сведений.

Данная же книжка преследует куда более скромную цель: помочь читателю освоить основы теории алгебраических кодов

иболее или менее осмысленно ориентироваться в обширной литературе по теории кодирования.

Автор искренне благодарит В.Б. Афанасьева и В.В. Зяблова за труд первого чтения, сопровождавшегося рядом важных

советов и замечаний, которые послужили улучшению предлагаемой книги, Д.С. Осипова и Д.В. Лаконцева за помощь в оформлении оригинала-макета, В.С. Козякина за неоценимое содействие и помощь.

Предисловие ко второму изданию

В настоящем издании прежде всего устранены недочёты предыдущего издания; улучшено изложение в нескольких местах книги; внесены незначительные изменения в списки задач к главам; существенно расширена глава с указаниями к решению за-

дач. Внесены дополнения в главу о конечных полях В теоретикочисловую главу помещен раздел об алгоритме Эвклида отыскания наибольшего общего делителя двух целых чисел. Это вызвано тем, что в разделах 7.7 — 7.10, написанных при участии В.Б.Афанасьева, подробно изложен метод декодирования, основанный на алгоритме Эвклида. Среди других методов этому методу отдано предпочтение по той причине, что алгоритм Эвклида, известный с незапямятных времён, через столетия оказался как будто специально приспособленным для весьма специфических нужд теории кодирования.

Введение

0.1.Система передачи информации. Двоичный симметричный канал

В простейшем случае система передачи сообщений состоит из передатчика, канала связи, и приемника. Схематически он выглядит, как показано на рис.1

П%••&а

Ка•а( *+,-•

Рис. 1. Простейшая система передачи информации

Передатчик передает сообщения в виде последовательностей одинаковой длины n, состоящих из нулей и единиц:

(Вообще говоря, последовательности могут иметь и разные длины, но здесь этот случай рассматриваться не будет.)

В канале действует случайная помеха: каждый символ передаваемой последовательности независимо от других может быть искажен с вероятностью

Это означает, что с вероятностью τ < 1/2 происходят переходы 0 → 1, 1 → 0 и с вероятностью ς = 1 − τ компоненты 0 и 1 последовательности u сохраняют свое значение. Такой канал называется двоичным симметричным. Схематически он изображен на рис. 2.

1−τ

τ

τ

1−τ

Рис. 2. Двоичный симметричный канал

Часто вместо "последовательности" применяют термины "слово" или "вектор". Для нас это синонимы, но для определенности и единообразия в дальнейшем употребляется термин "вектор".

Процесс действия помехи на передаваемый вектор можно описать следующим образом. Введем в рассмотрение вектор

где ei = 1, если символ ui искажен, и ei = 0 — в противном случае. Вектор (0.1.3) называется вектором-ошибкой.

П р и м е р 0. 1.

Пусть передавался вектор u = (110001001), а на приемном конце получен вектор v = (010001101). Это означает, что в канале подверглись искажению первый и седьмой символы передававшегося вектора. Это означает, что в векторе e единицы расположены на первом и седьмом местах, т.е. e = (100000100).

Легко заметить, что вектор v получается поразрядным сложением векторов u и e по модулю два: 0+0=1+1=0, 0+1=1+0=1.

Вообще, если передается вектор (0.1.1), то на приёмном конце получают вектор

v = u + e = (u1 + e1, u2 + e2, . . . , un + en).

Про такой канал говорят, что это канал с "аддитивной поме-

хой".

В подавляющем большинстве случаев, когда непосвященному впервые задается вопрос, как поступить, если существует вероятность искажения передаваемого символа, следует ответ:

"повторить передачу" , а значит, правильным считать тот символ, который встречается чаще. И чем больше повторять передачу, тем надежнее она будет. Такая уверенность основана на том, что в силу условия (0.1.2) правильных значений передаваемого символа окажется больше, чем неправильных.

Ясно однако, что хотя с ростом числа n повторений одного и того же передаваемого символа растет и степень уверенности в правильности определения истинного значения символа

по правилу большинства, одновременно с этим падает скорость передачи, ибо на передачу одного символа тратится все боль-

ше времени. Нетрудно было бы подкрепить это утверждение несложными выкладками, однако в этом нет нужды, так как не его доказательству посвящается данное руководство, и интуитивного представления о процессе многократного повторения вполне достаточно.

Можно с уверенностью утверждать, что не будь разумной альтернативы методу многократного повторения передаваемо-

го символа, наука, которая называется "Алгебраические коды" , не была бы известна.

Положим в общем случае, что ради надежной передачи информации, вместо k символов приходится передавать n > k символов. Сопоставление некоторым способом n символов заданным k символам вектора называют кодированием. Отношение k/n называется скоростью передачи. В предыдущем случае k = 1, и скорость передачи k/n = 1/n.

Восстановление закодированных k символов по n переданным символам, каждый из которых мог подвергнуться иска-

жению с вероятностью (0.1.2), называется декодированием. Не исключена возможность, что это декодирование окажется оши-

бочным.

Теперь систему передачи информации можно детализировать более подробно, как показано на рис. 3. Из источника сообщений извлекается вектор длины k, кодер преобразует его в

10 Введение

вектор длины n, который передается по каналу связи с помехой, а затем декодируется и поступает по назначению.

Альтернативу методу многократного повторения доставляет знаменитая теорема Шеннона.

Она гласит, что существует кодирование, позволяющее добиться сколь угодно достоверной передачи сообщения, лишь бы скорость передачи не превосходила некоторой величины, которая называется пропускной способностью канала.

Достоверность передачи измеряется вероятностью P ошибки декодирования.

Основную роль в точном формулировании теоремы Шеннона играет функция энтропии H(x). Она имеет вид

H(x) = −x log x − (1 − x) log(1 − x).

Если не оговорено иное, логарифмы берутся при основании 2. Натуральный и десятичный логарифмы, как обычно, пишутся соответственно ln и lg . Если же логарифмы берутся при

некотором основании q, то пользуются обозначением Hq(x). Последнее имеет место в случае так называемого q-ичного канала,

который будет обсуждаться в одной из следующих глав.

С помощью функции энтропии определяется упомянутая пропускная способность C(τ) канала, представленного на рис. 2.

C(τ) = 1 − H(τ).

Она зависит только от величины τ – вероятности искажения одного двоичного символа.

В этих терминах теорема Шеннона, которая первоначально доказывалась на случай двоичного симметричного канала, звучит следующим образом:

Каково бы ни было ϵ > 0, при достаточно большом n, и k/n < C(τ) = 1 − H(τ), существует такое кодирование, при котором P < ϵ.