- •Работа над ошибками №3
- •Содержание
- •2.3 Построение оптимального неравномерного кода методом Хаффмана…………………...18
- •Контрольное задание № 1 Тема: Вычисление информационных характеристик сложных систем
- •2. Расчет вероятностей
- •2.1 Расчет вероятностей исходной системы
- •2.2 Расчет вероятности сложной системы
- •2.3 Проверка по контрольным соотношениям
- •3. Расчет энтропий
- •3.1 Расчет энтропии системы
- •3.2 Расчет энтропии сложной системы
- •3.3 Расчет частной условной энтропии
- •3.4 Расчет полной условной энтропии
- •3.5 Проверка по контрольным соотношениям
- •4. Расчет количества информации
- •5. Расчет прочих характеристик
- •Контрольное задание № 2 Тема: Оптимальное кодирование
- •2.1. Постановка задачи
- •Выполнение работы:
- •2.3. Для заданного числа качественных признаков вторичного алфавита m построить оптимальный неравномерный код методом Хаффмана.
- •2.4. Для построенных в п.П. 1 и 2 кодов вычислить коэффициенты относительной эффективности и статистического сжатия. Проанализировать результаты.
- •Контрольное задание № 3 Тема : Обнаружение и исправление ошибок в сообщениях
- •3.1. Постановка задачи.
- •3.3. Получена комбинация кода Хемминга, исправляющего одиночные или обнаруживающий двойные ошибки (код 8, 4).
- •Библиографический список
2. Расчет вероятностей
2.1 Расчет вероятностей исходной системы
Вычисление P (bj):
Для вычисления вероятности появления события bj в сложной системе (A, B) воспользуемся следующей формулой:
P(bj)
=
P(bj)*P(bj|ai)), (2.1.1)
где P(bj|ai) — условная вероятность появления события bj относительно события ai в сложной системе;
P(ai) — вероятности появления события ai;
P(bj) — вероятности появления события bj.
Подставив в (2.1.1) данные из (1.1), получим:
P (b1) = 0.470*0.530 + 0.260*0.080 + 0.270*0.060 = 0.286;
P (b2) = 0.470*0.210 + 0.260*0.740 + 0.270*0.110 = 0.321;
P (b3) = 0.470*0.260 + 0.260*0.180 + 0.270*0.830 = 0.393.
Вычисление вероятности совместных событий P (ai,bj):
Для вычисления вероятности совместного появления событий ai и bj в сложной системе (A, B) воспользуемся следующей формулой:
P(ai,bj)=P(ai)*P(bj|ai),
,
(2.1.2)
где P(ai,bj) — вероятности совместного появления событий ai и bj в сложной системе;
P(ai) — вероятности появления события ai;
P(bj|ai) — условная вероятность появления события bj относительно события ai.
Подставив в (2.1.2) данные из (1.1), получим:
P (a1,b1) = P (a1) * P (b1|a1) = 0.470 * 0.530 = 0.249;
P (a1,b2) = P (a1) * P (b1|a2) = 0.470 * 0.210 = 0.099;
P (a1,b3) = P (a1) * P (b1|a3) = 0.470 * 0.260 = 0.122;
P (a2,b1) = P (a2) * P (b2|a1) = 0.260 * 0.080 = 0.021;
P (a2,b2) = P (a2) * P (b2|a2) = 0.260 * 0.740 = 0.192;
P (a2,b3) = P (a2) * P (b2|a3) = 0.260 * 0.180 = 0.047;
P (a3,b1) = P (a3) * P (b3|a1) = 0.270 * 0.060 = 0.016;
P (a3,b2) = P (a3) * P (b3|a2) = 0.270 * 0.110 = 0.030;
P (a3,b3) = P (a3) * P (b3|a3) = 0.270 * 0.830 = 0.224.
2.2 Расчет вероятности сложной системы
Вычисление условной вероятности P (ai|bj):
Для вычисления условной вероятности появления события ai относительно события bj в сложной системе (A, B) воспользуемся формулой:
P(ai|bj)=P(ai,bj)/P(bj), , (2.2.1)
где P(ai,bj) — вероятности совместного появления событий ai и bj в сложной системе;
P(bj) — вероятности появления события bj;
P(ai| bj) — условная вероятность появления события ai относительно события bj.
Подставив в (2.2.1) данные из (1.1), получим:
P (a1|b1) = P (a1,b1)/P (b1) = 0.249/0.286 = 0.871;
P (a1|b2) = P (a1,b2)/P (b2) = 0.099/0.321 = 0.308;
P (a1|b3) = P (a1,b3)/P (b3) = 0.122/0.393 = 0.310;
P (a2|b1) = P (a2,b1)/P (b1) = 0.021/0.286 = 0.073;
P (a2|b2) = P (a2,b2)/P (b2) = 0.192/0.321 = 0.598;
P (a2|b3) = P (a2,b3)/P (b3) = 0.047/0.393 = 0.120;
P (a3|b1) = P (a3,b1)/P (b1) = 0.016/0.286 = 0.056;
P (a3|b2) = P (a3,b2)/P (b2) = 0.030/0.321 = 0.093;
P (a3|b3) = P (a3,b3)/P (b3) = 0.224/0.393 = 0.570.
2.3 Проверка по контрольным соотношениям
Считаем, что вектор рассчитан верно, если сумма его элементов равна единице. Это утверждение справедливо и для матрицы P(A,B). В случае матриц P(ai| bj)/P( bj|ai), единице должна равняться сумма каждого столбца/строки матрицы.
Проверка вектора P(a):
0.470 + 0.260 + 0.270 = 1.000.
Проверка вектора P(b):
0.286 + 0.321 + 0.393 = 1.000.
Проверка матрицы P(A,B):
0.249+0.099+0.122+0.021+0.192+0.047+0.016+0.030+0.224 = 1.000.
Проверка матрицы P(ai| bj):
0.871 + 0.073 + 0.056 = 1.000;
0.308 + 0.598 + 0.093 = 0.999;
0.310 + 0.120 + 0.570 = 1.000.
Проверка матрицы P( bj|ai):
0.530 + 0.210 + 0.260 = 1.000;
0.080 + 0.740 + 0.180 = 1.000;
0.060 + 0.110 + 0.830 = 1.000.
Погрешность вычислений:
.
Вычисления
вероятностей выполнены с погрешностью
0.1%,
следовательно, матрица Р(А|В) определена
верно.
