§ 7. Иерархия функций. Теорема Харди

Функции натуральной переменной могут быть сравнимы между собой по “скорости роста”. Они могут иметь различную “асимптотическую скорость роста” или “одинаковую асимптотическую скорость роста”.

Отношение ≺.

В случае если f(n) ≺ g(n), будем употреблять также запись g(n) ≻ f(n).

Легко проверить, что отношение ≺ транзитивно.

Методом математической индукции легко доказать, что для любых действительных  и  имеет место соотношение

 <   n^ ≺ n^.

Легко доказать, что выполняется следующая цепочка соотношений

1 ≺ loglog n ≺ log n ≺ n^ ≺ n^c ≺ n^{log n} ≺ cⁿ ≺ nⁿ ≺ ,

где  и с – произвольные константы, удовлетворяющие условию  < 1 < с, а log n – произвольная логарифмическая функция с основанием, большим 1.

Отношения  и ≍.

Легко проверить, что отношение ≍ является отношением эквивалентности.

По существу положительная, по существу отрицательная, по существу нулевая функции.

Г.Х. Харди ввёл класс логарифмически-экспоненциальных функций, определив его как наименьшее семейство L функций, удовлетворяющих следующим условиям:

• постоянная функция f(n) =  лежит в L для всех R;

• тождественная функция f(n) = n лежит в L;

• если f, g  L, то f – g  L;

• если f(n)  L, то e^f(n)  L;

• если f(n)  L и является по существу положительной функцией, то lnf(n)  L.

Теорема 1.

1. Класс логарифмически-экспоненциальных функций L замкнут относительно сложения.

2. Произведение любых двух по существу положительных функций из L также содержится в L.

3. Частное любых двух по существу положительных функций из L также содержится в L.

Г. Харди доказал, что всякая функция из L является либо по существу положительной, либо по существу отрицательной, либо по существу тождественно равной нулю.

Г. Харди доказал следующую замечательную теорему

Теорема 2. Теорема Харди

Класс логарифмически-экспоненциальных функций образует асимптотическую иерархию:

если f(n), g(n)  L, то либо f(n) ≺ g(n), либо f(n) ≻ g(n), либо f(n) ≍ g(n).

На практике это позволяет любую функцию включить в подходящую иерархию логарифмически-экспоненциальных функций.

§ 8. Символ о

Определение отношения мажорирования. f(n) = О(g(n)).

Пример. Если r  s, то n^r = O(n^s).

Определим бинарное отношение  на множестве функций f: N  R по правилу: (f, g)   f(n) = О(g(n)).

Непосредственно из определения следует, что бинарное отношение  является рефлексивным и транзитивным.

Теорема 1. Свойства отношения мажорирования

1. Если f(n) = О(g(n)), то сf(n) = О(сg(n)) для любого с R.

2. Если f(n) = О(h(n)) и g(n) = О(h(n)), то (f+g)(n) = О(h(n)).

3. Если f(n) = О(g(n)) и h(n) = О(t(n)), то (fh)(n) = О(gt(n)).

4. Если f(n) = О(g(n)) и g(n) = О(h(n)), то f(n) = О(h(n)).

Следствие. Множество функций f(n), мажорируемых данной фиксированной функцией g(n), является векторным пространством над полем действительных чисел.

Следующая теорема даёт перечень функций, связанных отношением мажорирования.

Теорема 2.

1. Если f(x) = a_kx^k+a_k–1x^k–1+ … +a₁x+a₀, то f(n) = О(n^k).

2. (a > 1)(b > 1)(log_an = O(log_bn)).

3. n = O(2ⁿ).

4. (a > 1)(log_an = O(n)).

5. n! = O(nⁿ).

6. (a > 1)(log_an! = O(n log_an)).