10. Как проводится линеаризация нелинейных моделей?

Для оценки параметров нелинейных моделей, как правило, используют линеаризацию модели, которая заключается в том, что с помощью подходящих преобразований исходных переменных исследуемую зависимость представляют в виде линейного соотношения между преобразованными переменными. Если не удается подобрать соответствующее линеаризующее преобразование, то применяют методы нелинейной оптимизации на основе исходных переменных.

Различают два класса нелинейных регрессионных моделей:

- модели, нелинейные относительно фактора, но линейные по параметрам;

- модели нелинейные по параметрам.

Модели, нелинейные относительно факторов, но линейные по параметрам. Введением новых переменных такую модель можно свести к линейной, для оценки параметров которой используется обычный метод наименьших квадратов.

Рассмотрим примеры линеаризующих преобразований:

1) Полиномиальная модель: .

Соответствующая линейная модель: , где .

2) Гиперболическая модель: .

Соответствующая линейная модель: , где .

3) Логарифмическая модель: .

Соответствующая линейная модель: , где .

Следует отметить и недостаток такой замены переменных, связанный с тем, что вектор оценок получается не из условия минимизации суммы квадратов отклонений для исходных переменных, а из условия минимизации суммы квадратов отклонений для преобразованных переменных, что не одно и то же.

Полиномами второго порядка описывается зависимость урожайности от количества внесенных удобрений. Гиперболическая модель может быть использована для характеристики связей между нормой безработицы и процентом прироста заработной платы (кривая Филлипса). Логарифмическая модель может быть использована для описания доли расходов на товары длительного пользования (кривая Энгеля) в зависимости от общих сумм расходов.

Модели нелинейные по параметрам. Среди таких моделей выделяют нелинейные модели внутренне линейные и нелинейные модели, внутренне нелинейные. Модели внутренне линейные можно привести к линейному виду с помощью соответствующих преобразований.

Примеры внутренне линейных моделей и их линеаризация:

1) Мультипликативная степенная модель: .

Линеаризующее преобразование:

Или

,

где .

2) Экспоненциальная модель: .

Линеаризующее преобразование: .

3) Обратная регрессионная модель: .

Линеаризующее преобразование: .

К моделям, полученным после проведения линеаризующих преобразований можно применять обычные методы исследования линейной регрессии. Но поскольку в них присутствуют не фактические значения изучаемого показателя, то оценки параметров получаются несколько смещенными. При анализе линеаризуемых функций регрессии, следует особенно тщательно проверять выполнение предпосылок метода наименьших квадратов.

11. Приведите формулы для расчета коэффициентов прямой парной регрессии по мнк.

Метод наименьших квадратов (МНК, OLS, Ordinary Least Squares) — один из базовых методов регрессионного анализа для оценки неизвестных параметров регрессионных моделей по выборочным данным. Метод основан на минимизации суммы квадратов остатков регрессии.

Необходимо отметить, что собственно методом наименьших квадратов можно назвать метод решения задачи в любой области, если решение заключается или удовлетворяет некоторому критерию минимизации суммы квадратов некоторых функций от искомых переменных. Поэтому метод наименьших квадратов может применяться также для приближённого представления (аппроксимации) заданной функции другими (более простыми) функциями, при нахождении совокупности величин, удовлетворяющих уравнениям или ограничениям, количество которых превышает количество этих величин и т. д.