Линейная регрессия
Если функция регрессии линейна, то говорят о линейной регрессии. Линейная регрессия (линейное уравнение) является распространенным (и простым) видом зависимости между экономическими переменными. Для простейшего случая парной линейной регрессии
или
,
где
- теоретические параметры регрессии;
- случайное отклонение.
По выборке
ограниченного объема строится выборочное
уравнение регрессии
(1)
где
- оценки неизвестных параметров
,
называемые выборочными коэффициентами
регрессии,
- оценка условного математического
ожидания
.
Для величин
справедлива формула
(2),где
- оценка теоретического отклонения
.
Построенная прямая выборочной регрессии должна наилучшим образом описывать эмпирические данные, т.е. коэффициенты должны быть такими, чтобы случайные отклонения были минимальны. Наиболее распространенным методом нахождения коэффициентов уравнения регрессии является метод наименьших квадратов (МНК).
Если по выборке требуется определить оценки выборочного уравнения регрессии (2), то вводится в рассмотрение и минимизируется функция
.
Необходимым условием существования минимума данной функции двух переменных является равенство нулю ее частных производных по неизвестным параметрам :
.
Отсюда
,
и выразив из последних соотношений коэффициенты, получим
. (3)
где введены
обозначения
.
Пример.
Для анализа
зависимости объема потребления Y(у.е.)
хозяйства от располагаемого дохода
X(у.е.) отобрана следующая
выборка объема
|
107 |
109 |
110 |
113 |
120 |
122 |
123 |
128 |
136 |
140 |
145 |
150 |
|
102 |
105 |
108 |
110 |
115 |
117 |
119 |
125 |
132 |
130 |
141 |
144 |
Необходимо определить вид уравнения регрессии и по методу наименьших квадратов оценить параметры уравнения регрессии, а также спрогнозировать потребление при доходе X=160.
План решения.
Строится корреляционное поле. По
расположению точек на корреляционном
поле предполагается, что зависимость
Y от X –
линейная. По МНК определяются коэффициенты
.
Таким образом, уравнение парной регрессии
имеет вид:
Множественная линейная регрессия
На экономический
показатель чаще всего оказывает влияние
не один, а несколько факторов. Например,
спрос на некое благо определяется не
только ценой данного блага, но и ценами
на замещающие и дополняющие блага,
доходом потребителей и многими другими
факторами. В этом случае рассматривается
множественная регрессия 
.
Теоретическое
линейное уравнение регрессии имеет
вид 
.
Для оценки параметров уравнения множественной линейной регрессии также, как правило, используется метод наименьших квадратов.
Нелинейная регрессия
Многие экономические зависимости не являются линейными. Например, при анализе эластичности спроса по цене применяется так называемая логарифмическая модель, при анализе издержек от объема выпуска – полиномиальная (кубическая) модель. Часто применяются и другие модели – например, обратная и экспоненциальная. Кратко рассмотрим некоторые из моделей нелинейной регрессии.