Общие сведения о регрессионных моделях

При проведении различных исследований различных исследований часто приходится отыскивать и изучать связи между различными процессами и их характеристиками.

Если некоторая величина однозначна связана с некоторой величиной, то такая связь называется функциональной, т.е..

На практике между двумя случайными величинами может существовать стохастическая связь, проявляющаяся в изменении закона распределения этих величин, обнаруживать эту связь удается, как правило, только в результате многочисленных измерений и последующей статической обработки полученных результатов.

Для установления вида зависимости, при стохастической связи величины, т.е. для идентификации этой зависимости используется регрессионный анализ.

При этом различают положительную линейную и нелинейную, отрицательную и неотрицательную регрессии.

Функция регрессии определяется в виде соответствующего математического уравнения того или иного типа.

С помощью функции регрессии можно установить значение зависимой величины внутри интервала, заданные значения независимой переменной или же оценить в течении процесса внезапного интервала.

Внедрение в практику ЭВМ и разработка стандартных программ по регрессионному анализу существенно ускоряет и облегчает обработку больших массивов статических данных и дает возможность построения многократных моделей.

Под этой зависимостью понимают одностороннюю стохастическую связь.

Не известные параметры регрессии ивычисляются с помощью наименьших квадратов по уравнению:

Помимо простой линейной регрессии может использоваться множественно линейная регрессия вида:

В этом случае, переменные оказывают соответственное влияние на зависимую переменную.

Расчет коэффициентов множественной регрессии осуществляются по регрессии, изложенной в специальной литературе.

Нелинейная регрессия

Под нелинейной регрессией понимают более сложную одностороннюю стохастическую зависимость, представимую в виде полиноминальной модели вида:

Могут применяться также степенные, показательные, логарифмические, тригонометрические, а также полиномы Чебышева и т. д.

Обычно подбор конкретной функции осуществляется на базе той науки в рамках которой изучается данный процесс.

Принято различать два класса уравнений нелинейной регрессии:

Первый класс – охватывает регрессии нелинейные относительно входного параметра х, но линейные относительно коэффициентов . Для таких регрессий применим метод наименьших квадратов.

Второй класс – охватывает регрессии, которые являются нелинейными также относительно коэффициентов , что требует для применения итерационных методов.

Достаточно часто в различных технических исследованиях исследуется параболическая регрессия к-го порядка.

Для случая к=2 такая регрессия имеет вид:

В этом случае для нахождения коэффициентов составляется система трех уравнений:

Необходимо иметь в виду, что после вычисления коэффициента всегда должна осуществляться проверка их значимости по соответствующей методике и незначимые коэффициенты обнуляются.

Вопросы самоконтроля:

1. Цель регрессионного анализа.

2. Виды регрессии?

1. Что понимают под нелинейной регрессией?

2. Какие существуют классы нелинейной регрессии?

3. Для какого класса регрессий применим МНК?

4. Вид уравнения параболической регрессии к-го порядка.

5. Уравнение линейной регрессии.

Лекция №12

Цель лекции: Использование временных рядов и сплайн – функции в задачах идентификации.