1.6. Дифференциальное исчисление.

Производная непрерывного отображения

В теории оптимизации вводимые далее понятия производных играют первостепен-

ную роль, т. к. позволяют, помимо всего прочего, обобщить на бесконечномерный

случай многие традиционные конструкции конечномерного анализа, такие, как

градиентные методы, методы Ньютона, матрицы Якоби и т. д.

Сделаем вначале общие замечания о дальнейшем изложении.

В функциональном анализе дифференциальное исчисление может рассматривать-

ся для отображений одного аффинного пространства в другое, причем первое

считается нормированным. При этом вводится специальное понятие аффинного

пространства и присоединенного к нему векторного пространства. Грубо говоря,

аффинное пространство — это пространство "свободных" векторов, имеющих

начало и конец в любых точках. В векторном же пространстве все векторы начи-

наются в нуле. Нетрудно показать, что векторное пространство является частным

случаем аффинного пространства. Для этого достаточно сопоставить любым двум

векторам вектор их разности.

В соответствии с последним замечанием можно рассматривать (менее общую) теорию

дифференциального исчисления для отображений векторного пространства в вектор-

ное же пространство. Чаще всего эти векторные пространства наделяются структурой

банахова пространства. Далее мы будем следовать именно такому подходу.

В функциональном анализе рассматривают два вида дифференцируемости: сильную,

или дифференцируемость по Фреше, и слабую — дифференцируемость по Гато. Пер-

вый случай соответствует понятию полной производной, а второй — понятию произ-

водной по направлению (или частной производной вдоль вектора). Мы далее в ос-

новном изложим лишь теорию сильной дифференцируемости, а потому вообще не

будем употреблять прилагательных "сильная" и "слабая" для производных.

Пусть E и F — банаховы (действительные) пространства, A E — открытое под-

множество в E. Пусть также f : A F, g : A F — заданные непрерывные ото-

бражения. Отображения f и g называются касательными в точке ,если

(Отсюда следует, что f .)

Легко показать, что это отношение эквивалентности во множестве непрерывных

отображений A F , т. е., в частности, если f и g касательны в точке и g и h касательны в точке , то и f и h касательны в точке . x

Непрерывное отображение f : A F называется дифференцируемым в точке ,

если существует линейное отображение u : E F , такое, что отображение E F вида

касательно к f в точке . Такое линейное отображение называется производной

(или полной производной) отображения f в точке и обозначается символом

или Df .

Можно доказать, что если производная существует, то она единственна. Действи-

тельно, пусть найдутся два таких отображения:

Эти отображения по предположению касательны к fx при x= . (Они также

будут касательными между собой.) Для линейного отображения это означает, что

(1.4)

Если , т. е. тождественного равенства нет, то для некоторого

Отсюда следует, что при

и соотношение (1.4) не может быть выполнено

Теорема 1.20. Если непрерывное отображение f : A дифференцируемо в точке , то производная

является непрерывным линейным отображением .

Замечание.

1. Из вышеизложенного следует, что производная непрерывного отображения

f : A F в точке A (если она существует) является элементом банахова

пространства LE; F непрерывных линейных отображений E F , а не эле-

ментом пространства F. Основная идея дифференциального исчисления как раз

и связана с локальной аппроксимацией функций линейными функциями. Таким

образом, и в классическом анализе производная функции в точке — это не число

("тангенс угла наклона касательной"), а соответствующая линейная функция.

Другое дело, что в теории вещественных функций вещественного переменного

между линейными функциями и числами существует взаимно однозначное со-

ответствие. Введенное выше общее определение производной совершенно про-

ясняет ситуацию.

2. Опять же из вышеизложенного следует, что понятие производной можно счи-

тать введенным для любых нормированных пространств — не обязательно ба-

наховых. Это замечание мы будем использовать в последующих примерах.

3. Производная . Является линейным отображением вида

. Выражение f’ h (это элемент пространства F), где h E , называется дифференциалом (дифференциалом Фреше) отображения f в точке . .

Легко видеть, что производная непрерывного линейного отображения (оператора)

u : E F существует для любой точки x E , и при этом Dux=ux . Действительно, в силу линейности u

u

Если отображение f : A F дифференцируемо в любой точке открытого множества A, то оно называется дифференцируемым в A.

Отображение вида A LE;F обозначается символом f’ или Df и называется производной отображения f в A. Ранее мы ввели понятие про-

изводной в точке с аналогичными обозначениями.

Если отображение Df непрерывно, то f называется непрерывно-дифференцируемым в A.