3.2.9. Декодирование методом максимального правдоподобия

Итак, рассмотрено несколько различных способов декодирования линейных блочных кодов, и, наверное, существует еще множество других способов. Возникает вопрос: а есть ли среди них наилучший, при использовании которого останется неисправленным наименьшее количество ошибок?

Попытаемся определить наилучшее, или оптимальное, правило декодирования.

Пусть U = (U₀ , U₁ ,…U_i ,…, U_n ) является переданным кодовым словом некоторого двоичного блочного (n,k)-кода, а r = (r₀ , r₁ , … r_i , ..., r_n ) – последовательность, принятая на выходе канала с помехами.

Принятая последовательность из-за действия шумов может отличаться от переданной, то есть по отдельным символам приемник мог принять неправильные решения (вместо нулей – единицы и наоборот).

Декодер канала на основе принятой последовательности должен принять решение относительно переданного кодового слова. Процедура принятия такого решения и называется декодированием.

Если декодер не в состоянии правильно воспроизвести действительное кодовое слово, то есть m* ¹ m , то при декодировании возникнет ошибка. Эта ошибка случайна, ее вероятность зависит от характеристик канала связи, характеристик кода, методов кодирования и декодирования. Желательно, чтобы вероятность ошибочного декодирования была как можно меньшей.

Как должен работать декодер, чтобы вероятность ошибочного декодирования была минимальной?

Сначала рассмотрим ситуацию, когда приемник не принимает решений относительно того, какой из символов r_i (0 или 1) в данный момент принят, то есть он отдает декодеру весь принятый сигнал S(t) и предоставляет право принимать решение самому декодеру.

Пусть U_l , (l = 0, 1, 2, 3, .., .2^k − 1) − l-е кодовое слово используемого кода;

U_li − i-й символ этого кодового слова;

S(t) − принятый сигнал, содержащий одно из кодовых слов и помеху.

Какое кодовое слово содержится в принятом сигнале, не известно. Известна только априорная вероятность передачи l-го кодового слова − P_l.

Оптимальный декодер должен учитывать всю имеющуюся информацию об используемом коде, канале связи и помехах, действующих в этом канале, и обеспечивать максимальную вероятность правильных ответов о том, какие кодовые слова были переданы по каналу связи. Такой критерий оптимальности − максимум апостериорной (послеопытной) вероятности правильных решений − называется критерием Байеса.

Оптимальный по критерию Байеса декодер должен выбирать в качестве решения кодовое слово U* = U_k, которое максимизирует условную вероятность P(U_k/S) — вероятность того, что была передана последовательность U_k, если принята данная реализация сигнала S.

Поскольку

P (U_k / S)× P(S) = P (S / U_k )× P(U_k), (3.32)

то

P (U_k / S) = P (S / U_k )× P(U_k)/ P(S). (3.33)

Если считать, что все кодовые слова равновероятны (P(U_k) = const), а также учитывая, что безусловная плотность P(S) не зависит от U_k , то максимуму P(U_k /S) соответствует максимум P (S/U_k ) так называемой функции правдоподобия − условной вероятности того, что сигнал примет свое значение S, если передавалось кодовое слово U_k .

Вопросы оптимального приема сигналов и определение вида функции правдоподобия будут подробно рассмотрены в дальнейшем, сейчас же можно сказать, что значение P(Uk / S) будет масимальным, если минимальна величина

d_k =  _∫{S(t) - U_k}² d t, (3.34)

или

d_k =  {S_i - U_{k i}}², (3.35)