Ответы к ГОСу / 26
.doc26. Субградиент как обобщение понятия градиента. Субградиент для функции максимума. Субградиентный метод и его геометрическая интерпретация в R2.
Градиентом
дифференцируемой функции f(x)
в точке
называется вектор частных производных.
Пусть функция f(x, y) определена в некоторой окрестности т.(x0, y0). Рассмотрим
Если lim сущ. и конечен, то функция f называется дифференцируемой по X в т.(x0, y0), а значение lim называется частной производной функции f по x в т. (x0, y0).
Множество называется ограниченным, если оно целиком содержится в некотором квадрате или круге.
Множество называется замкнутым, если оно содержит все свои предельные точки. Точка называется предельной, если в каждой окрестности точки содержится бесконечное множество точек множества.
Вектор
называется субградиентом
(опорным вектором) функции f(x)
в точке
,
если выполняется:
Таких с множество, но это множество ограничено и замкнуто. Множество субградиентов функции f(x) в т. x0 называется субдифференциалом. Для дифференцируемых функций градиент совпадает с субградиентом.
Рассмотрим
Для выпуклых дифференцируемых функций имеет место:
График f(x)
лежит не ниже графика линейной функции(x)
|
Вектора (x – x0) направлены внутрь Лебегова множества. Нас интересуют вектора, образующие тупой угол со всеми векторами убывания, вектора, лежащие за линией прямого угла.
|
|
|
Построим функцию максимума. Каждый раз, выбирая точку на оси координат, смотрим, какая из функций максимальна на этой точке и отмечаем на графике.
|
|
Теорема: пусть ci
–
субградиент функции fi(x)
в точке x0,
тогда вектор
будет субградиентом
функции максимума
F(x)
в точке x0
– множество активных
индексов в точке x0.
|
Это не единственный субградиент. По этой формуле можно найти хоть какой-нибудь субградиент |
Док-во:
.
СЛЕДСТВИЕ:
|
|
Векторы, концы которых лежат на отрезке [f1’(x0); f2’(x0)] являются субградиентами. Векторы f1’(x0); f2’(x0) также являются субградиентами
|
|
Можно откладывать как от точки x0, так и от начала координат: |
|
|
Для непрерывной функции f(x) |
Д |
|
|
|
Субградиент
на множестве R1
– это число! Он равен tg
угла наклона касательной к точке и
направлен в сторону возрастания
функции.
ля
функции максимума F(x)
|
Субградиентный метод
– множество допустимых решений. Пусть
имеется последовательность
Алгоритм 0
шаг. Выбираем
1 шаг. Если, то решение найдено 2
шаг. Строим
ck
– субградиент f0(x)
в точке xk,
если
ck
– субградиент F(x)
в точке xk,
если
Остановка |xk+1 – xk| |
Г
От выпуклости функции совсем отказываться нельзя. Например, даже дифференцируемая невыпуклая функция может не иметь субградиента ни в одной точке. Напр., f(x) = x3 C другой стороны, если рассматривать x3 только на x 0, то во всех точках x 0 субградиент. Теорема [о сходимости субградиентного метода] пусть множество D – выпуклое и имеет непустую внутренность. Тогда из последовательности {xk}, построенной по субградиентному методу, можно выбрать подпоследовательность, которая сходится к точке min. |
~
,
k
= k
+ 1
,
где
и
еометрическая
интерпретация в R2