4. . Выпуклые квадратичные функции

Важную роль в ряде вопросов минимизации играют квадратичные функции, которые в n – мерном случае являются обобщением квадратного трехчлена одной переменной

f(x)=1/2ax²+dx+c.

Функция вида

называется квадратичной функцией n переменных. Если положить , то получим симметрическую матрицуА = (a_ij). Диагональные элементы a_i,i этой матрицы являются коэффициенты при , а недиагональные элементыa_ij = a_ji равны половине коэффициента при х_iх_j. С помощью симметрической матрицы квадратичную функцию можно представить в виде:

f(x) = 1/2(Аx,x)+(d,x)+c (3.5)

где x = (x₁, x₂,..., x_n)^тEⁿ, d = (d₁, d₂,..., d_n)^тEⁿ – векторы – столбцы.

Так, например, квадратичной функции соответствует

матрица А = ; функции соответствует матрица

А = .

Перечислим основные свойства квадратичных функций.

1. Для градиента квадратичной функции (3.5) справедлива формула:

f(x)=Ax+d

2. Гессиан квадратичной функции (3.7) совпадает с матрицей A:

²f(x) = A

3. Квадратичная функция (3.5) с положительно определенной матрицей A сильно выпукла.

Таким образом, для того чтобы функция (3.5) была выпуклой в Eⁿ достаточно, чтобы матрица А была положительно определена.

Пример 3.1. Дана функция f(х) = x², определенная на множестве (рис. 3.14). Требуется исследовать ее на выпуклость.

Функция является строго выпуклой согласно п.1 замечаний 3.1, т.к. она целиком лежит ниже отрезка, соединяющего две ее произвольные, но не совпадающие точки (рис. 3.10). Более того, функция одновременно является сильно выпуклой, т.к. согласно п. 3 замечаний 3.1. выполняется условие при. Очевидно, условия выпуклости и строгой выпуклости также выполняются (п.3 замечаний 3.1.), что иллюстрирует справедливость п.2 замечаний 3.1.

Рис. 3.10. Графическая иллюстрация примера 3.1

Пример 3.2.

Дана функция f(х) = x, определенная на множестве рис. 3.11. Требуется исследовать ее на выпуклость.

Согласно п.1 замечаний 3.1 функция является выпуклой, т.к. она целиком лежит не выше отрезка, соединяющего две ее произвольные точки, но не является строго выпуклой и тем более сильно выпуклой.

f(x)= x

f

0

1

x

Рис. 3.11. Графическая иллюстрация примера 3.2

Пример 3.3. Исследовать выпуклость функции f(x)= на множестве Е². Матрица Гессе удовлетворяет условию при. Следуя п.3 замечаний 3.1, можно сделать вывод о сильной выпуклости функции. Одновременно она является строго выпуклой и выпуклой (п.2 замечаний 3.1).

Пример 3.4. Исследовать выпуклость функции f(x)=на множестве Е². Матрица Гессе удовлетворяет условию при. Следуя п.3 замечаний 3.1, можно сделать вывод о сильной выпуклости функции. Одновременно она является строго выпуклой и выпуклой (п.2 замечаний 3.1).

Пример 3.5. f(x₁, x₂, x₃) = 3x₁²+2x₂²+x₃²-2x₁x₂-2x₁x₃+2x₂x₃-6x₁-4x₂-2x₃

f(x₁, x₂, x₃) = .

G(x₁, x₂, x₃) = .

Для того чтобы показать, что функция выпуклая, проверим, является ли G положительно определенной или положительно полуопределенной матрицей. Заметим, что:

1) G – симметрическая матрица;

2) все диагональные элементы G положительны;

3) ведущие главные определители равны G > 0, = 20 > 0,

G =16> 0.

Таким образом, G – положительная определенная матрица, откуда следует, что f – выпуклая функция. (Более точно, если G – положительна определенная матрица, то f называется строго выпуклой функцией и обладает единственной точкой минимума.)

Упражнения.

В задачах 1…4 выписать матрицу A квадратичной функции f(x), найти ее градиент f(x₀) в точке x₀ и убедится в выпуклости f(x) в Eⁿ.

1. f(x) = x₁²+5x₁x₂+3x₂²+x₁-x₂, x₀ = (1,1).

Ответ: A = ,f(x₀) = .

2. f(x) = x₁²-3x₁x₂+10x₂²+5x₁-3x₂, x₀ = (2,1).

Ответ: A = ,f(x₀) = .

3. f(x) = x₁²+2x₂²+3x₃²+2x₁x₂-x₂x₃+2x₁+x₃, x₀ = (1,0,-1).

Ответ: A = ,f(x₀) = .

4. f(x) = x₁²+1/2 x₂²+x₃²+x₁x₂+x₁x₃+x₂x₃+5x₁-x₂-3x₃, x₀ = (1,2,3).

Ответ: A = ,f(x₀) = .