Решение.

1. Найдем область определения функции: .

2. Найдем производную функции: f (x) = х²  6х + 5.

3. Найдем точки в которых производная функции равна нулю. Для этого решим уравнение х²  6х + 5 = 0. Корни уравнения: х₁ = 1, х₂ = 5. Отметим точки х₁ = 1, х₂ = 5 на числовой прямой и найдем знаки производной на полученных интервалах:

4. Согласно теореме 2, функция убывает на интервале (1, 5) и возрастает на интервалах ( , 1) и (5, +).

2. Точки экстремума функции. Необходимое и достаточное условия экстремума функции

Пусть функция f (x) определена на интервале (a, b).

Определение 2. Точка x₀ (a, b) называется точкой максимума (минимума) функции, если существует такая -окрестность точки x₀, содержащаяся в интервале (a, b), что для всех точек x  U_ (x₀) (x ≠ x₀), выполняется неравенство f (x₀) > f (x) (f(x₀) < f(x)).

Напомним, что -окрестностью точки x₀ называется интервал (х₀  , х₀ +  ) (см. стр. 24, [4]). Обозначение: U_ (x₀)), 

Часто точки максимума (минимума) функции называют точками локального максимума (локального минимума).

Точки максимума и минимума называются точками экстремума функции.

Теорема 3. (необходимое условие экстремума дифференцируемой функции). Если функция f (x) дифференцируема в точке x₀ и имеет в этой точке экстремум, то f ´(x₀) = 0.

Доказательство. Так как функция f (x) имеет экстремум в точке x₀, то существует окрестность U_ (x₀) точки x₀, что для всех х  U_ (x₀) (x ≠ x₀), выполняется неравенство f (x₀) > f (x) (f (x₀) < f (x)), т.е. значение f (x₀) является наибольшим (наименьшим) в данной окрестности. Тогда, по теореме Ферма (теорема 1, § 1.1) f ´(x₀) = 0. 

Замечание 1. Функция f (x) может иметь экстремум также в точке х₀, такой, что f (x) дифференцируема всюду в некоторой окрестности этой точки, за исключением самой точки х₀, в которой производная функции не существует или бесконечна, но функция непрерывна. Например, точка х = 0 является точкой минимума функции у = |x|, хотя производная функции существует для всех значений х  0. В точке х = 0 производная функции у = |x| не существует, но сама функция непрерывна (см., пример 2, стр. 64, [*]).

Точки, в которых функция определена, непрерывна, а производная функции равна нулю, или не существует, называются критическими точками функции. Критические точки не всегда являются точками экстремума функции. Для определения их характера необходимо дальнейшее исследование.

Первое достаточное условие экстремума. Пусть точка х₀ является критической точкой функции

Теорема 4. Пусть f (x) дифференцируема всюду в некоторой -окрестности точки х₀, за исключением, может быть, самой точки x₀. Если производная функции при переходе через точку х₀, меняет знак, то точка x₀ является точкой экстремума функции. В частности,

 если в пределах данной окрестности слева от точки х₀ производная положительна, а справа  отрицательна, то точка х₀ является точкой максимума функции;

 если слева от точки х₀ производная отрицательна, а справа  положительна, то точка х₀ является точкой минимума функции;

 если при переходе через точку х₀ производная не меняет знак, то экстремума в точке х₀ функция не имеет.

Доказательство.

1. Рассмотрим интервалы (х₀  , х₀) и (х₀, х₀ +  ). Пусть f ´(x) > 0 для всех х  (х₀  , х₀) и f ´(x) < 0 для всех х  (х₀, х₀ +  ). Тогда по теореме 2, функция f (x) возрастает на интервале (х₀  , х₀) и убывает на интервале (х₀, х₀ +  ). Следовательно, для всех х из рассматриваемой -окрестности (x ≠ x₀) выполняется неравенство f (x₀) > f (x), т.е. точка х₀  точка максимума функции.

2. Аналогично можно доказать, что если f ´(x) < 0 для всех х  (х₀  , х₀) и f ´(x) > 0 для всех х  (х₀, х₀ +  ), то точка х₀  точка минимума функции.

3. Если производная функции положительна (отрицательна) на интервалах (х₀  , х₀) и (х₀, х₀ +  ), то функция возрастает (убывает) в -окрестности точки х₀, следовательно, точка х₀ не является точкой экстремума функции. 

Второе достаточное условие экстремума.

Теорема 5. Пусть функция f (x) имеет в точке x₀ вторую производную и f ´(x₀) = 0 . Тогда, если f ´´(x₀) > 0, то точка x₀ является точкой минимума функции. Если f ´´(x­₀) < 0, то точка x₀ – точка максимума функции.

Доказательство. Пусть f ´´(x₀) > 0.

По определению, вторая производная функции  производная от функции f ´(x). Тогда, учитывая, что x₀  критическая точка функции, т.е. f ´(x₀) = 0, получим

f ´´(x₀) =  =  .

Так как f ´´(x₀) > 0, то, по свойству предела функции, существует такая -окрестность точки x₀, что  > 0 для всех х из этой окрестности. Тогда f ´(x) < 0 для всех х (х₀  , х₀) и f ´(x) > 0 для х (х₀, х₀ +  ). Производная функции f (x), проходя через точку х₀, меняет знак с минуса на плюс, значит, по теореме 4, точка х₀ является точкой минимума функции.

Аналогично можно доказать, что если f ´´(x­₀) < 0, то точка х₀ является точкой максимума функции. 

Пример 2. Найти точки экстремума функции .