Глава 5

1. Функции какого вида называются квадратичными функциями n переменных?

Функция вида: – называется квадратичной функцией n переменных.

2. Чему равны градиент и гессиан квадратичной функции?

Для градиента квадратичной функции справедлива формула , где А – симметрическая матрица (матр. Гессе), b – вектор.

Гессиан квадратичной функции совпадает с матрицей A; H(x)=A

3. Каким свойством обладает квадратичная функция с положительно определенной матрицей A?

Квадратичная функция (5.2) с положительно определенной матрицей A сильно выпукла.

• Так как матрица H(x)=A симметрична и положительно определена, то все ее собственные значения положительны и существует ортонормированный базис из собственных векторов этой матрицы. В этом базисе все угловые миноры матрицы A и матрицы A-lE положительны при достаточно малом , а это означает, что функция f(x) сильно выпукла.

4. При каких a, b, c функция f(x)=ax₁² + bx₁x₂ + cx₂² будет выпукла?

5. Выписать матрицу A квадратичной функции f(x)=x₁² + 3x₃² + 2x₁x₂ – x₂x₃ + 2x₂ + x₃.

6. Какая последовательность {x^k}, k = 0, 1, 2,…называется минимизирующей?

последовательность {x^k}, удовлетворяющая требованию и , где U* - множество точек глобального минимума ф-и, называется минимизирующей.

7. Привести пример минимизирующей последовательности, не сходящейся к точке минимума.

Например, для функции , последовательность x^k = k является минимизирующей, но не сходится к единственной точке минимума x* = 0. Напротив, минимизирующая последовательность x^k = 1/k сходится к точке минимума x* = 0.

8. Что такое скорость сходимости минимизирующей последовательности? Какие скорости сходимости Вы знаете?

Последовательность {x^k} сходится к точке x* линейно (со скоростью геометрической прогрессии), если существует такое число , что выполняется неравенство .

Сходимость называется сверхлинейной, если .

Сходимость называется квадратичная, если .

9. Когда говорят, что в итерационном процессе x^k+1 = x^k +a_kp^k, k = 0, 1,… производится исчерпывающий спуск?

В итерационном процессе производится исчерпывающий спуск, если величина шага a_k находится из решения одномерной задачи минимизации . Таким образом, при исчерпывающем спуске на каждом шаге полностью реализуется возможность уменьшить значение целевой функции f(x) при перемещении из точки x^k в направлении, коллинеарном вектору p^k.

5.10. Какие направления дифференцируемой в точке xk функции f(X) называются направлениями убывания? Каков геометрический смысл направления убывания?

Направление вектора p^k называется направлением убывания функции f(x) в точке x^k, если при всех достаточно малых положительных α выполняется неравенство f(x^k+ αp^k)<f(x^k)

Геометрически это означает, что вектор составляет тупой угол с градиентом gradf(x^k).

5.11. Какова скорость сходимости метода градиентного спуска для квадратичной функции f(x) с положительно определенной симметрической матрицей A, где 0<l<L − ее наименьшее и наибольшее собственные значения?

При любых α ϵ (0, 2/L) и x⁰ϵ E_n итерационная последовательность x^k+1=x^k- αgradf(x^k) сходится к единственной точке глобального минимума х* функции f(x) линейно (т.е. со скоростью геометрической прогрессии), а именно ρ(x^k,x*)≤q^kρ(x⁰,x*), где q=max {|1-αl|, |1-αL|}.