- •А.В. Аттетков, С.В. Галкин, В.С. Зарубин
- •ПРЕДИСЛОВИЕ
- •Задания для самопроверки
- •ОСНОВНЫЕ ОБОЗНАЧЕНИЯ
- •Буквы латинского алфавита
- •Буквы греческого алфавита
- •1. ЗАДАЧИ ОПТИМИЗАЦИИ
- •1.1. Основные понятия
- •1.2. Некоторые простые примеры
- •1.3. Задачи оптимального проектирования
- •1.4. Задачи оптимального планирования
- •1.5. Классы задач оптимизации
- •Вопросы и задачи
- •2. МЕТОДЫ ОДНОМЕРНОЙ МИНИМИЗАЦИИ
- •2.1. Предварительные замечания
- •2.3. Оптимальный пассивный поиск
- •2.4. Методы последовательного поиска
- •2.5. Сравнение методов последовательного поиска
- •2.6. Методы полиномиальной аппроксимации
- •2.7. Методы с использованием производных
- •Вопросы и задачи
- •3. МИНИМИЗАЦИЯ ВЫПУКЛЫХ ФУНКЦИЙ
- •3.2. Выпуклые функции
- •3.4. Условия минимума выпуклых функций
- •3.5. Сильно выпуклые функции
- •ф{t) = (grad/(а; + th), h)
- •3.6. Примеры минимизации квадратичных функций
- •3.7. Минимизация позиномов
- •Qj = '%2aijci = Q> J = !.*»•
- •Вопросы и задачи
- •4. ЧИСЛЕННЫЕ МЕТОДЫ БЕЗУСЛОВНОЙ МИНИМИЗАЦИИ
- •4.1. Релаксационная последовательность
- •4.2. Методы спуска
- •4.4. Минимизация квадратичной функции
- •4.5. Сопряженные направления спуска
- •5. АЛГОРИТМЫ МЕТОДОВ ПЕРВОГО И ВТОРОГО ПОРЯДКОВ
- •|iufc|
- •5.3. Метод Ньютона
- •5.4. Модификации метода Ньютона
- •5.5. Квазиньютоновские методы
- •Вопросы и задачи
- •6. АЛГОРИТМЫ ПРЯМОГО ПОИСКА
- •6.1. Особенности прямого поиска минимума
- •6.2. Использование регулярного симплекса
- •6.4. Циклический покоординатный спуск
- •6.5. Метод Хука — Дживса
- •Щ + bjej,
- •6.6. Методы Розенброка и Пауэлла
- •Вопросы и задачи
- •7. АНАЛИТИЧЕСКИЕ МЕТОДЫ НЕЛИНЕЙНОГО ПРОГРАММИРОВАНИЯ
- •7.2. Минимизация при ограничениях типа равенства
- •7.4. Седловая точка функции Лагранжа
- •7.5. Двойственная функция
- •7.6. Геометрическое программирование
- •Вопросы и задачи
- •8. ЧИСЛЕННЫЕ МЕТОДЫ НЕЛИНЕЙНОГО ПРОГРАММИРОВАНИЯ
- •8.1. Метод условного градиента
- •8.2. Использование приведенного градиента
- •8.5. Метод проекции антиградиента
- •СПИСОК РЕКОМЕНДУЕМОЙ ЛИТЕРАТУРЫ
- •ПРЕДМЕТНЫЙ УКАЗАТЕЛЬ
- •ОГЛАВЛЕНИЕ
- •Математика в техническом университете Выпуск XIV
- •Аттетков Александр Владимирович Галкин Сергей Владимирович Зарубин Владимир Степанович
- •МЕТОДЫ ОПТИМИЗАЦИИ
ПРЕДИСЛОВИЕ
Предлагаемая читателю книга является одним из учебников серии „Математика в техническом университете“ и учитыва ет специфику математической подготовки студентов высших технических учебных заведений.
В основу учебника положен курс лекций по методам опти мизации, который читается на протяжении ряда лет студентам различных специальностей МГТУ им. Н.Э. Баумана, а также опыт проведения семинарских и лабораторных занятий по это му курсу.
Этот выпуск серии целиком посвящен конечномерным за дачам оптимизации. Основное внимание уделено прикладным и вычислительным аспектам оптимизации, связанным с раз работкой численных методов решения задач оптимизации и построением алгоритмов их реализации. В книге отсутствуют доказательства сходимости методов (исключение сделано лишь для некоторых методов). Существует обширная литература по этим вопросам, и „математические тонкости“ доказательств сходимости можно изучить самостоятельно с использованием рекомендуемой литературы. В инженерной практике важнее понимание сути методов и алгоритмов их реализации, зна ние условий их применения, примеры и иллюстрации решения типовых инженерных задач оптимизации. Наличие большо го количества примеров и задач, поясняемых графическими иллюстрациями и интерпретацией полученных результатов, по зволяет использовать данную книгу не только как учебник, но и как задачник при проведении семинарских и лабораторных занятий.
Содержание учебника относится к специальным разделам высшей математики и для работы с ним требуется хорошее зна ние базового курса. В частности, предполагается, что читатель
умеет оперировать основными понятиями линейной алгебры, аналитической геометрии, теории матриц и математического анализа.
Вконце книги приведен список рекомендуемой литературы,
вкоторый включены все цитированные источники. Ссылки в тексте на литературу даны в виде подстрочных сносок, в кото рых указаны фамилии авторов соответствующего издания. В предметный указатель входят в алфавитном порядке (по суще ствительному в именительном падеже) все выделенные в тексте полужирным курсивом термины с указанием страниц, на
которых они строго определены или описаны. Выделение тер мина светлым курсивом означает, что в данном параграфе он является одним из ключевых слов и читателю должно быть из вестно значение этого термина (его можно уточнить, найдя при помощи предметного указателя необходимую страницу).
Ссылки в тексте на номера формул, рисунков и таблиц на браны обычным шрифтом (например, (1.5) — пятая формула в главе 1, рис. 3.1 — первый рисунок в главе 3, табл. 3.2 — вторая таблица в главе 3), а на параграфы — полужирным (например, 1.3 — третий параграф в главе 1). В квадратных скобках да ны ссылки на другие выпуски данной серии (например, [XV] — ссылка на пятнадцатый выпуск).
Для самоконтроля предлагаем читателю ознакомиться с за даниями для самопроверки. В этих заданиях понятия и терми ны, которые нужно знать, выделены прямым полужирным ш рифтом . После заданий для самопроверки помещен спи сок основных обозначений, содержащий часто встречающиеся в тексте символы и их расшифровку.
Задания для самопроверки
1. Какие множества называют: замкнутыми, отк р ы ты ми, ограниченными, компактными? Что такое диаметр
и внутренность множества? [I]
2.Что такое центр и радиус окрестн ости точки? Что называют отрезком, вложенным в данный отрезок? [I]
3.Из каких этапов состоят доказательства от против
ного и по м етоду математической индукции? [I]
4.Что называют монотонной, стр ого монотонной, воз растающ ей, убывающ ей, неубывающ ей и невозраста ющей последовательностями? Что такое подпоследова тельность и предельная точка последовательности? [I]
5.Что называют функцией, убывающей, возрастаю щей, неубывающей и невозрастающ ей в промеж утке чи словой прямой? Приведите примеры функций, непрерыв ных в интервале (а,Ь) или в полуинтервале [а, 6), но не являющихся непрерывными на отрезке [а, 6]. Перечислите свойства функции, непрерывной на отрезке. В чем различие
между точками разрыва первого и втор ого рода? [I]
6.Дайте определение точной верхней (нижней) грани функции многих переменных (одного переменного) на откры том , замкнутом множестве. В чем различие между min/(ж)
Иinf/Ос)? [I], [V]
7.Каков смысл символов „о малое“ и пО большое“? [I]
8.Сформулируйте теорем ы Ф ерма и Лагранжа, напи шите формулу конечных приращений. Что называют точ кой стр огого локального экстремума функции одного пе ременного? Сформулируйте необходимые и достаточны е условия экстрем ум а такой функции. В чем различие между локальным экстремумом и наибольшим (наименьшим) значением этой функции на отрезке? [II]
9.Как проверить, является ли функция одного действи тельного переменного выпуклой (строго выпуклой) вниз (вверх) функцией? Сколько экстремумов может иметь вы пуклая (строго выпуклая) функция одного переменного на от резке? [II]
10.В каких точках отрезка линейная функция достигает своих наибольшего и наименьшего значений? Как найти точку экстремума квадратного трехчлена в интервале? [II]
11.Что называют сходим остью метода вычислений и по рядком его сходимости? Запишите условия, при выполнении которых скорость сходимости метода является линейной, сверхлинейной, квадратичной, кубической. .[И]
12.Какую матрицу называют диагональной, единич ной, симметрической, нулевой, блочной, транспониро ванной по отношению к данной? Что называют определи телем квадратной матрицы, ее угловыми минорами, не вырожденной (вырожденной) матрицей? Каковы правила разложения определителя по строке (по столбцу)? Сфор мулируйте необходимое и достаточное условия существования
уквадратной матрицы обратной матрицы. Как связаны между собой определители этих матриц? Что называют ран гом матрицы, базисным минором матрицы? Что такое нетривиальная линейная комбинация стр ок (столбцов) матрицы? [Ill], [IV]
13.В чем различие между координатной, векторной и матричной записью системы линейных алгебраических уравнений (СЛАУ)? Какую СЛАУ называют совместной, неопределенной, квадратной? Чем отличаются прямые
методы решения СЛАУ от итерационных? [III]
14.Что такое линейное, линейное арифметическое, ев клидово, метрическое и нормированное пространства? Перечислите аксиомы скалярного умножения. Как связа ны между собой скалярное произведение, норма и метри ка? Запишите неравенство Кош и — Буняковского. [IV]
15.Что такое линейный оператор, матрица линейно го оператора? Как записать матрицу линейного оператора в различных базисах? Что такое ортонормированный базис, ортогональный и самосопряженный операторы? Какие матрицы соответствуют этим операторам? Каковы свойства собственны х векторов и собственны х значений этих опе раторов в конечномерном линейном пространстве? Что такое характеристическое уравнение матрицы и ее соб ственные значения? [IV]
16. Что такое линейная и квадратичная формы, ма трица квадратичной формы? Обоснуйте процесс приве дения квадратичной формы к каноническому виду ссылкой на соответствующие теоремы линейной алгебры. Какую ква дратичную форму и какую матрицу называют положительно (отрицательно) определенной? Сформулируйте критерий Сильвестра. Какую квадратичную форму называют неполо жительно (неотрицательно) определенной, знакопере менной? [IV]
17. Напишите формулу Тейлора с остаточны м чле ном в ф орме Лагранжа и Пеано для функции одного действительного переменного и для функции многих пе ременных. [II], [V]
18. Какую функцию многих переменных называют непре рывной по совокупности переменных и непрерывной по части переменных? Что такое линия (или поверхность) уровня такой функции? Что называют координатными функциями векторной функции многих переменных и ее матрицей Я коби по всем или по части переменных? [V]
19. Что такое градиент функции многих переменных, матрица Гессе? Запишите приращения дифференцируемой и дважды дифференцируемой функции, используя эти понятия.
Сформулируйте теорем у |
о неявной функции и теорем у |
об обратной функции. |
[V] |
20.Что такое производная функции многих перемен ных по направлению вектора и как она связана с градиен том функции? Имеет ли дифференцируемая функция многих переменных производные по всем направлениям? Верно ли обратное? [V]
21.Какие условия надо наложить на производную функ ции многих переменных по направлению, чтобы можно было утверждать, что: а) функция непрерывна; б) функция дифференцируема? Приведите примеры. [V]
22.В чем различие между точкой экстрем ум а и кри тической или стационарной точками скалярной функции
многих переменных? Что называют строгим (нестрогим) локальным экстремумом такой функции? [V]
23.Сформулируйте необходимые условия экстрем ум а скалярной функции многих переменных: а) с использованием частных производных функции; б) с использованием градиента функции. [V]
24.Сформулируйте достаточны е условия экстрем ум а функции многих переменных с использованием: а) понятия зна коопределенности второго дифференциала функции; б) глав ных миноров матрицы Гессе; в) собственных чисел матрицы Гессе. Приведите примеры. [V]
25.Может ли линейная функция многих переменных достигать экстремума внутри замкнутой области? Может ли квадратичная функция многих переменных достигать экстремума внутри замкнутой области, как найти точку экс тремума? Приведите пример. [V]
26.Что называют условным экстрем ум ом функции мно гих переменных и уравнениями связи? Как найти точки условного экстремума? Что такое множители Лагранжа
ифункция Лагранжа? [V]
27.Напишите формулу Н ью тона — Лейбница. [VI]