
- •Математические методы системного анализа и теория принятия решений Методическое пособие
- •1. Теория принятия решений 4
- •2. Линейное программирование 9
- •3. Нелинейное программирование 42
- •4. Игровые методы обоснования решений 51
- •5. Задачи распознавания образов 62
- •Предисловие
- •1. Теория принятия решений
- •1.1. Задачи, связанные с принятием решений Проблема оптимальности.
- •Основные понятия и принципы исследования операций.
- •Примеры задач исследования операций.
- •1.2. Математические модели операций Искусство моделирования.
- •1.3. Разновидности задач исследования операций и подходов к их решению Прямые и обратные задачи исследования операций.
- •Пример выбора решения при определенности: линейное программирование.
- •Проблема выбора решений в условиях неопределенности.
- •Выбор решения по многим критериям.
- •«Системный подход».
- •2. Линейное программирование
- •2.1. Краткое представление о математическом программировании Предмет математического программирования.
- •Краткая классификация методов математического программирования.
- •2.2. Примеры экономических задач линейного программирования Понятие линейного программирования.
- •Задача о наилучшем использовании ресурсов.
- •Задача о выборе оптимальных технологий.
- •Задача о смесях.
- •Задача о раскрое материалов.
- •Транспортная задача.
- •2.3. Линейные векторные пространства Основные понятия линейного векторного пространства.
- •Решение систем линейных уравнений методом Гаусса.
- •Реализация метода исключения неизвестных в среде Excel.
- •Различные схемы реализации метода Гаусса.
- •Опорные решения системы линейных уравнений.
- •2.4. Формы записи задачи линейного программирования Основные виды записи злп.
- •Каноническая форма представления задачи линейного программирования.
- •Переход к канонической форме.
- •2.5. Геометрическая интерпретация задачи линейного программирования Определение выпуклой области.
- •Геометрическая интерпретация.
- •2.6. Свойства решений задачи линейного программирования Свойства основной задачи линейного программирования.
- •Графический метод решения задачи линейного программирования.
- •2.7. Симплексный метод Идея симплекс-метода.
- •Теоретические обоснования симплекс-метода.
- •Переход к нехудшему опорному плану.
- •Зацикливание.
- •Алгоритм симплекс-метода.
- •2.8. Двойственность в линейном программировании Прямая и двойственная задача.
- •Связь между решениями прямой и двойственной задач.
- •Геометрическая интерпретация двойственных задач.
- •2.9. Метод искусственного базиса Идея и реализация метода искусственного базиса.
- •3. Нелинейное программирование
- •3.1. Общая задача нелинейного программирования Постановка задачи.
- •Примеры задач нелинейного программирования (экономические).
- •Геометрическая интерпретация задачи нелинейного программирования.
- •3.2. Выпуклое программирование Постановка задачи выпуклого программирования.
- •3.3. Классические методы оптимизации Метод прямого перебора.
- •Классический метод дифференциальных исчислений.
- •3.4. Метод множителей лагранжа
- •3.5. Градиентные методы решения задач нелинейного программирования Общая идея методов.
- •Метод Франка-Вулфа.
- •Метод штрафных функций.
- •4. Игровые методы обоснования решений
- •4.1. Предмет и задачи теории игр Основные понятия.
- •Классификация выборов решений.
- •Антагонистические матричные игры.
- •Чистые и смешанные стратегии и их свойства.
- •4.2. Методы решения конечных игр Упрощение матричной игры.
- •Решение матричной игры размерностью 22.
- •Графическое решение матричной игры.
- •Сведение задач теории игр к задачам линейного программирования.
- •4.3. Задачи теории статистических решений Игры с природой.
- •Критерии принятия решений.
- •5. Задачи распознавания образов
- •5.1. Общая постановка задачи распознавания образов и их классификация Проблема распознавания.
- •Обсуждение задачи опознавания.
- •Язык распознавания образов.
- •Априорные предположения — это записанные специальным образом, накопленные знания специалистов.
- •Общая постановка задачи.
- •Геометрическая интерпретация задачи распознавания.
- •Классификация задач распознавания.
- •5.2. Подготовка и анализ исходных данных Общая схема решения задачи.
- •Общая схема постановки и решения задачи Анализ данных с целью выбора постановки и метода решения
- •5.3. Методы опознавания образов Основные этапы процесса опознавания образов.
- •Методы создания системы признаков.
- •Признаковое пространство.
- •Сокращение размерности исходного описания.
- •Методы построения решающего правила.
- •5.4. Меры и метрики Понятие о сходстве.
- •Меры сходства и метрики.
- •Примеры функций мер сходства.
- •5.5. Детерминированно-статистический подход к познаванию образов Основные этапы детерминированно-статистического подхода.
- •Получение исходного описания.
- •Создание системы признаков.
- •Сокращение размерности исходного описания.
- •Нахождение решающего правила (метод эталонов).
- •Коррекция решающего правила.
- •5.6. Детерминированный метод построения решающего правила (метод эталонов) Идея метода эталонов.
- •Минимизация числа эталонов.
- •Габаритные эталоны.
- •Применение метода эталонов к частично пересекающимся образам.
- •Дополнительная минимизация числа признаков.
- •Квадратичный дискриминантный анализ.
- •Распознавание с отказами.
- •5.8. Алгоритм голотип-1 Назначение
- •Постановка задачи
- •Метод решения задачи.
- •Условия применимости.
- •Условия применимости.
- •5.10. Алгоритм направление опробования Назначение
- •Постановка задачи.
- •Метод решения задачи.
- •Условия применимости.
- •Транспортная задача Математическая постановка.
- •Постановка задачи.
- •Теоретическое введение.
- •Методы нахождения опорного плана транспортной задачи.
- •Определение оптимального плана транспортной задачи.
- •Заключение.
- •Целочисленное программирование Постановки задач, приводящие к требованию целочисленности.
- •Постановка задачи.
- •Методы отсечения.
- •Алгоритм Гомори.
- •Первый алгоритм р. Гомори решения полностью целочисленных задач.
- •Приближенные методы.
- •Заключение.
- •Параметрическое программирование Введение.
- •Формулировка задачи.
- •Теоретическая часть.
- •Общая постановка задачи.
- •Решение задачи.
- •Геометрическая интерпретация задачи.
- •Общая постановка задачи.
- •Решение задачи.
- •Геометрическая интерпретация задачи
- •Постановка задачи.
- •Решение.
- •Геометрическое решение.
- •Решение задачи симплекс-методом.
- •Результат.
- •Некооперативные игры n лиц с ненулевой суммой Введение.
- •Теоретическая часть.
- •Постановка и решение задачи.
- •Заключение.
- •Cписок литературы
Геометрическая интерпретация задачи распознавания.
Для более точной постановки задачи опознавания удобно использовать геометрические представления. Каждому объекту можно поставить в соответствие точку в многомерном пространстве. Геометрическая задача обучения опознаванию образов состоит в построении поверхности, которая в каком-либо смысле лучше всего разделяет многомерное пространство на области, соответствующие различным классам. Построение производится на основе показа некоторого числа образов, принадлежащих этим классам. Опознавание, которое производится после окончания процесса обучения, состоит в испытании нового объекта, о котором заранее неизвестно к какому образу он принадлежит. При этом объявляется название области пространства, к которой этот объект относится.
Первой части этой формулировки задачи опознавания (а именно обучению) можно поставить в соответствие «алгебраическую» формулировку. Обучение опознаванию состоит в «экстраполяции», т. е. в построении некоторой разделяющей функции по показам образов и указания, к какому классу эти образы принадлежат. Мы ограничимся двумя классами: 1 и 2 или A и B, т. е. случаем, который обычно называется дихотомией. К дихотомии можно последовательно свести и общий случай, когда число классов превышает два.
Обозначим разделяющую функцию через
,
где
—
-мерный
вектор, характеризующий образ, а
—
величина, определяющая класс, к которому
этот образ принадлежит.
Можно условиться, что разделяющая функция должна обладать следующим свойством:
т. е. знак
определяет принадлежность
к классу A или B. Наряду с детерминистской
возможна и статистическая постановка
задачи. В этом случае под
подразумевается степень достоверности
принадлежности к классу A, а
— степень достоверности принадлежности
образа к классу B. Из предыдущей формулы
видно, что существует множество функций,
определяющих разделяющую поверхность.
Эти функции называются разделяющими.
Очевидно, что такое множество существует
по крайней мере тогда, когда классы
легко различимы. Однако если это не так,
то обычно существует лишь одна наилучшая
разделяющая функция.
Таким образом обучение опознаванию состоит в построении некоторой разделяющей функции по показам образов и указания, к какому классу эти образы принадлежат.
Классификация задач распознавания.
Задачи опознавания можно разбить на типы, исходя из:
— вида представления информации;
— числа образов, подлежащих опознаванию;
— количества априорных сведений о свойствах опознаваемых образов.
По виду представления информации можно выделить два типа задач опознавания, которые условно называются «человеческими» задачами распознавания и «нечеловеческими».
Под «человеческими» подразумеваются такие задачи опознавания, к которым человек подготовлен в процессе эволюции и жизненного опыта и способен относительно сложные задачи решать сравнительно легко.
Задачи, которые способны решать на основе интуиции и опыта относительно небольшое количество людей, а большинство людей не подготовлено эволюцией и жизненным опытом к решению таких задач, относятся к «нечеловеческим».
К «человеческими» задачам относятся задачи опознавания зрительных и звуковых образов: задачи опознавания картинок, цифр, букв, речевых команд, голоса диктора и т.д.
В этих задачах опознавания человек, перерабатывая весьма большое количество информации, почти всегда способен сформулировать понятие образов, подлежащих опознаванию, по небольшому числу показов их реализаций.
С другой стороны, существует ряд задач переработки значительно меньшего количества информации, которые тем не менее для человека нетривиальны (“нечеловеческие” задачи). Чаще всего эти задачи связаны с обработкой ряда измерений (параметров), зависимость между которыми неизвестна и число которых достигает десятков и более. К таким задачам относятся задачи технической и медицинской диагностики. некоторые задачи прогнозирования и ряд других. Удовлетворительное решение этих задач требует от человека весьма высокой квалификации в этой области.
При делении задач по числу образов можно выделить три типа задач: задачи опознавания двух образов, задачи опознавания большего числа образов и задачи опознавания нескольких образов из неограниченного числа образов.
Обычно первые два типа задач принято рассматривать как один, так как формально задачу второго типа можно разбить на совокупность задач дихотомии. Однако прямое решение задачи разделения многих образов может оказаться значительно целесообразнее.
К третьему типу задач опознавания относятся, например, задачи опознавания неограниченного круга лиц по их портретам. В этих задачах необходимо отличать изображения заданного круга людей и выделить изображение каждого из них из неограниченного числа портретов других людей, которых автомат должен отнести к классу «не знаю».
Задачи опознавания можно также разделить по количеству априорных сведений о свойствах опознаваемых образов на вырожденные и невырожденные.
Начнем с вырожденного случая, когда имеются априорные сведения о том, что для каждого образа существует идеальный эталон, а различие между испытуемой реализацией и эталоном обуславливается стационарными случайными помехами с априорно известными распределениям. К таким задачам относятся, например, опознавание знаков типографской или машинной печати. Такие вырожденные задачи опознавания легко сводятся к задачам приема сигнала на фоне случайных шумов, задаче, достаточно хорошо исследованной и имеющей оптимальные методы решения.
К другому вырожденному случаю относятся задачи опознания, в которых все члены каждого класса могут быть получены один из другого детерминированным, наперед заданным преобразованием. Например, изображения отдельных букв, предъявляемых в различных параллельных проекциях.
К вырожденным задачам опознавания могут быть отнесены и некоторые задачи, в которых априори известны типа (многомерных) вероятностных распределений образов и каждый образ представлен выборкой своих реализаций. Наиболее адекватным математическим аппаратом для решения таких задач является теория статистических решений.
В подавляющем большинстве практические задачи опознавания являются невырожденными, и как правило, типы условных многомерных распределений образов неизвестны.