Глава 3. Регрессионный анализ: парная линейная регрессия.

3.1. Общие сведения. Парная линейная регрессия.

После того, как выявлены основные факторы, влияющие на измеряемую величину (параметр), бывает желательно выразить зависимость параметра от факторов в аналитическом виде, это помогает представить результат работы в компактной форме.

Рассмотрим сначала зависимость Y от одной случайной (или неслучайной) величины X , а затем от нескольких величин.

Две случайные величины могут быть связаны либо функциональной зависимостью, либо зависимостью другого рода, называемой статистической, либо быть независимыми.

Строгая функциональная зависимость реализуется редко, так как обе величины или одна из них подвержены еще действию случайных факторов, причем среди них могут быть общие для обеих случайных величин. Под общими факторами подразумевают такие, которые воздействуют и на Х и на Y. В этом случае возникает статистическая зависимость.

Например, если Y зависит от случайных факторов Z₁, Z₂, V₁, а X зависит от случайных факторов Z₁, Z₂,V₂, то между Y и Х имеется статистическая зависимость, так как среди случайных факторов есть общие факторы, а именно Z₁ и Z₂,.

Статистической называют такую зависимость, при которой изменение одной из случайных величин влечет изменение распределения другой случайной величины.

Если статистическая зависимость проявляется в том, что при изменении одной из случайных величин изменяется среднее значение другой случайной величины, то такую статистическую зависимость называют корреляционной.

Нахождение такой зависимости, часто помогает выяснению механизма явления, а также является необходимым при выполнении косвенных измерений.

Если механизм процессов, обуславливающих влияние фактора на параметр, не известен, то для отыскания аналитической формы зависимости параметра от факторов обычно пользуются эмпирическими полиномиальными моделями, т.е. предполагают заранее, что эта зависимость имеет вид полинома заданной степени, а коэффициенты полинома находят из эксперимента.

В регрессионном анализе изучается связь и определяется количественная зависимость между зависимой переменной и одной или несколькими независимыми переменными.

3.1.1. Функция регрессии

Пусть переменная Y зависит от одной переменной . При этом предполагается, что переменнаяпринимает заданные фиксированные значения, а зависимая переменная Y имеет случайный разброс из-за ошибок измерения, влияния неучтенных факторов и т.д. Каждому значениюсоответствует некоторый закон распределения вероятностей случайной величины Y. Предположим, что Y в "среднем" линейно зависит от значений переменной. Это означает, что условное математическое ожидание случайной величины Y при заданном значенииимеет вид

(3.1.1)

Данная функция называется линейной теоретической функцией регрессии Y на , а параметрыи– параметрами линейной регрессии (коэффициенты регрессии). На практике параметры регрессии определяются по результатам наблюдений переменных Y и, связь между которыми можно записать

, (3.1.2)

где  – случайная ошибка наблюдений.

3.1.2. Последовательность проведения регрессионного анализа

•    Формулировка задачи.

• Идентификация переменных (определение входных и выходных переменных).

•      Сбор статистических данных.

•      Спецификация функции регрессии (определение вида модели).

•      Оценивание параметров функции регрессии.

•      Оценка точности регрессионного анализа:

1)  Проверка адекватности всей модели, т.е. согласуются ли предсказанные значения выходной величины с наблюдаемыми данными;

2) Проверка значимости параметров модели, т.е. значимо ли они отличаются от нуля или нет.

3) Интерпретация результатов, анализ, оптимизация и прогнозирование.