- •Введение
- •Тема 1. Элементы теории вероятностей
- •Тема 2. Энтропия и декремент
- •Тема 3. Алгоритмическая
- •Тема 4. Оптимизация алгоритма поиска
- •Метод Шеннона-Фано
- •Метод Циммермана – Хаффмена
- •Тема 5. Энтропийная скрытность
- •Тема 6. Арсенальная скрытность
- •Тема 7. Скрытность радиосигналов
- •8. Факультативные исследовательские
- •9. Примеры моделирование сигналов
- •10. Расчеты при выполнении
- •Заключение
- •Конечные суммы
- •Элементы комбинаторики
- •394026 Воронеж, Московский просп., 14
Тема 4. Оптимизация алгоритма поиска
ТЕОРЕТИЧЕСКИЙ МАТЕРИАЛ
Метод Шеннона-Фано
Исходное множество состояний объекта
с заданным распределением их вероятностей
разбивается на два подмножества
и
так, чтобы вероятности попадания в них
были максимально близки (равны по 0,5).
Затем каждое из полученных подмножеств
и
отдельно разбивается на два
подмножества
,
и
,
соответственно, так, чтобы апостериорные
вероятности нахождения в них реасобытия
были бы максимально близки (равны по
0,5). Разбиение заканчивается, когда все
подмножества будут иметь только по
одному элементу.
В качестве примера рассмотрим множество из состояний с вероятностями, приведенными в табл. 4.1.
Таблица 4.1
|
1 |
2 |
3 |
4 |
5 |
|
0,4 |
0,3 |
0,04 |
0,06 |
0,2 |
Множество
можно разбить на два подмножества
и
с вероятностями нахождение в них
реасобытия, равными 0,5. Апостериорные
(после первого двоичного измерения)
вероятности состояний в множестве
в соответствии с формулой Байеса
приведены в таблице 4.2.
Таблица 4.2
|
1 |
3 |
4 |
|
0,8 |
0,08 |
0,12 |
34
Апостериорные вероятности состояний во втором множестве приведены в табл. 4.3.
Таблица 4.3
|
2 |
5 |
|
0,6 |
0,4 |
Множество
можно разбить на два подмножества
и
.
В результате полуxим
дерево поиска, показанное на рис. 4.1,
соответствующее значение потенциальной
скрытности равно
.
Рис. 4.1
Метод Циммермана – Хаффмена
Дерево поиска строится следующим образом.
В множестве состояний
объекта (
-
арсенал состояний) выбираются два
наименее вероятных. Они объединяются
в эквивалентное событие с вероятностью,
равной сумме вероятностей входящих в
него событий. В новом множестве из
элементов вновь выбираются два наиме-
35
нее вероятных и далее процедура повторяется. Она заканчивается, когда в итоговом множестве остается два эквивалентных состояния. Дерево поиска строится в обратном порядке.
В качестве примера вновь рассмотрим множество из состояний с вероятностями, приведенными в табл. 4.1.
Минимальные вероятности имеют состояния с номерами 3 и 4. Объединяя их в одно эквивалентное событие, получим новое множество состояний с вероятностями, приведенными в табл. 4.4.
Таблица 4.4
|
1 |
2 |
3,4 |
5 |
|
0,4 |
0,3 |
0,1 |
0,2 |
Вновь выбирая и объединяя два состояния с минимальными вероятностями, получим множество состояний с вероятностями из табл. 4.5. Еще раз повторяя процедуру, получим множество эквивалентных состояний из табл. 4.6.
Полученные результаты позволяют построить дерево поиска, показанное на рис. 4.2.
Таблица 4.5
|
1 |
2 |
3,4,5 |
|
0,4 |
0,3 |
0,3 |
Таблица 4.6
|
1 |
2,3,4,5 |
|
0,4 |
0,6 |
Для оптимального дерева поиска значение потенциальной скрытности равно
.
36
Рис. 4.2
Как видно, методы Шеннона-Фано и Циммермана – Хаффмена приводят к различным алгоритмам поиска, однако соответствующие им значения потенциальной скрытности приближенно равны и погрешность будет уменьшаться с ростом арсенала состояний объекта.
КОНТРОЛЬНЫЕ ВОПРОСЫ
1. Сформулируйте алгоритм оптимизации Шеннона-Фано.
2. Приведите простейший пример использования метода Шеннона-Фано.
3. Опишите алгоритм Циммермана-Хаффмена.
4. Приведите пример применения метода Циммермана-Хаффмена.
ЗАДАНИЯ ДЛЯ ПРАКТИЧЕСКИХ ЗАНЯТИЙ
Задание 4.1. Методом Циммермана-Хаффмена постройте оптимальный алгоритм поиска при равномерном распределении вероятностей , , . Определите скрытность состояний объекта.
37
Задание 4.2. Методом Шеннона-Фано
постройте оптимальный алгоритм поиска
при равномерном распределении вероятностей
,
,
.
Определите скрытность состояний объекта,
сравните результаты.
Задание 4.3. Для распределения вероятностей указанного в табл. 4.7 вида постройте оптимальный алгоритм поиска методом Циммермана-Хаффмена. Определите скрытность состояний объекта.
Таблица 4.7
0,4 |
0,3 |
0,2 |
0,05 |
0,05 |
Задание 4.4. Для распределения вероятностей указанного в табл. 4.7 вида постройте оптимальный алгоритм поиска методом Шеннона-Фано. Определите скрытность состояний объекта, сравните результаты.
Задание 4.5. При каких параметрах и экспоненциального распределения вероятностей
, .
оптимальным будет алгоритм последовательного поиска (воспользуйтесь методом Циммермана-Хаффмена).
Задание 4.6. Вероятности реализации состояний объекта определяются выражением
,
.
Определите значение арсенала . Постройте оптимальный алгоритм поиска методом Шеннона-Фано, определите величину скрытности.
Задание 4.7. Выполните задание 4.6 методом Циммермана- Хаффмена.
38
ЗАДАНИЯ ДЛЯ САМОСТОЯТЕЛЬНОЙ РАБОТЫ
4.1. При каких параметрах и экспоненциального распределения вероятностей
, .
оптимальным будет алгоритм дихотомического поиска, определите необходимые для этого условия.
