Корреляционный анализ в системах управления. Учебное пособие

анализа понимается как задача выявления такой функциональной зависимости y* =f(x1, x2, ..., xm ) , которая наилучшим образом описывает имеющиеся экспериментальные данные.

Задачу определения функциональной зависимости, наилучшим образом описывающей экспериментальные данные, можно представить в виде

y =f(x1, x2, ..., xm ) +e,

где f – заранее не известная функция, подлежащая определению;

e – ошибка аппроксимации экспериментальных данных.

Указанное уравнение принято называть выборочным уравнением регрессии y на u. Это уравнение характеризует зависимость между вариацией показателя и вариациями факторов. А мера корреляции позволяет измерить долю вариации показателя, которая связана с вариацией факторов. Иначе говоря, корреляцию показателя и факторов нельзя трактовать как связь их уровней, а регрессионный анализ не объясняет роли факторов в создании показателя.

Простым, удобным для практического применения и отвечающим указанному условию является следующий класс полиномиальных функций

Для такого класса задача выбора функции сводится к задаче выбора значений коэффициентов a0 , ai , aik , …, aii, … . Однако универсальность полиномиального представления обеспечивается только при возможности неограниченного увеличения степени полинома, что не всегда допустимо на практике, поэтому приходится применять и другие виды функций.

Частным случаем полиномиальной функции, широко применяемым на практике, является полином первой степени или уравнение линейной регрессии

m

y =a0 +∑ai xi +e .

i=2

31

Для выбора вида функциональной зависимости можно рекомендовать следующий подход:

––в пространстве параметров графически отображают точки со значениями показателя;

––при большом количестве параметров можно строить точки применительно к каждому из них, получая двумерные распределения значений;

––по расположению точек и на основе анализа сущности взаимосвязи показателя и параметров объекта делают заключение о примерном виде регрессии или ее возможных вариантах;

––после расчета параметров оценивают качество аппроксимации, т.е. степень близости расчетных и фактических значений;

––в случае если расчетные и фактические значения близки во всей области задания, задачу регрессионного анализа можно считать решенной; в противоположном случае можно попытаться выбрать другой вид полинома или другую аналитическую функцию, например периодическую.

Вычисление коэффициентов уравнения регрессии осуществляется с использованием метода наименьших квадратов

(МНК). Этот метод позволяет получить оценки максимального правдоподобия неизвестных коэффициентов уравнения регрессии при нормальном распределения вариант, но его можно применять и при любом другом распределении факторов.

В основе МНК лежат следующие положения:

––значения ошибок и факторов независимы, а значит, и некоррелированы, т.е. предполагается, что механизмы порождения помехи не связаны с механизмом формирования значений факторов;

––математическое ожидание ошибки e должно быть равно нулю (постоянная составляющая входит в коэффициент a0), иначе говоря, ошибка является центрированной величиной;

Рассмотрим МНК применительно к линейной регрессии стандартизованных величин. Для центрированных величин xj коэффициент a0 равен нулю, тогда уравнение линейной регрессии имеет вид

32

yi =∑m ai xi,j + ei, i =1, 2, ..., n.

i=2

Спомощью МНК определяются такие значения коэффициентов уравнения регрессии, которые обеспечивают безусловный минимум выражения

Минимум определяется приравниванием к нулю всех частных производных выражения (1.3), взятых по неизвестным коэффициентам, и решением системы уравнений

Последовательно проводя преобразования и используя введенные ранее оценки коэффициентов корреляции

получаем

m

ryk −∑airik =0, k =2, 3, ..., m.

j=2

Итак, получено т – 1 линейных уравнений, что позволяет однозначно вычислить значения a2, a3, …, aт.

Если же линейная модель неточна или параметры измеряются неточно, то и в этом случае МНК позволяет найти такие значения коэффициентов, при которых линейная модель наилучшим образом описывает реальный объект с точки зрения выбранного критерия среднеквадратического отклонения.

Когда имеется только один параметр, уравнение линейной регрессии принимает вид y =a1 +a2x . Коэффициент a2 находится

33

из уравнения r = y2 −a2r22 =0 . Тогда, с учетом того, что r22 = 1, искомый коэффициент

a22 =r22.

Последнее соотношение подтверждает высказанное ранее утверждение, что коэффициент корреляции является мерой линейной связи двух стандартизованных параметров.

Подставив найденное значение коэффициента a2 в выражение (1.3), с учетом свойств центрированных и нормированных величин, получим минимальное значение этой функции, равное 1 – r2y,2. Величину 1 – r2y,2 называют остаточной дисперсией случайной величины y относительно случайной величины x2. Она характеризует ошибку, которая получается при замене показателя функцией от параметра y =a2x2 . Только при |ry,2 | = 1 остаточная дисперсия равна нулю, и, следовательно, не возникает ошибки при аппроксимации показателя линейной функцией.

Переходя от центрированных и нормированных значений показателя и параметра к исходным величинам

можно получить следующее выражение:

Это уравнение также линейно относительно коэффициента корреляции. Нетрудно заметить, что центрирование и нормирование для линейной регрессии позволяет понизить на единицу размерность системы уравнений, т.е. упростить решение задачи определения коэффициентов, а самим коэффициентам придать ясный смысл.

Применение МНК для нелинейных функций практически ничем не отличается от рассмотренной схемы (только коэффициент a0 в исходном уравнении не равен нулю).

Например, пусть необходимо определить коэффициенты параболической регрессии

34

На ее основе можно получить следующую систему уравнений:

После преобразований система уравнений примет вид

Учитывая свойства моментов стандартизованных величин, систему уравнений можно представить в следующем виде:

35

Определение коэффициентов нелинейной регрессии основано на решении системы линейных уравнений. Для этого можно применять универсальные пакеты численных методов или специализированные пакеты обработки статистических данных.

Пример 1.12

Построить уравнение регрессии для пропускной способности канала по выборке, заданной в табл. 1.15.

Решение

Применительно к указанной выборке построение аналитической зависимости в основной своей части выполнено в рамках корреляционного анализа – пропускная способность зависит только от параметра «соотношение сигнал/шум». Остается подставить в выражение уравнения регрессии вычисленные ранее значения параметров. Уравнение для пропускной способности примет вид

y = −8,121+0,830x.

Результаты расчетов представлены в табл. 1.19.

36

Окончание табл. 1.19

Остаточная дисперсия стандартизованной величины Y относительно стандартизованной величины составляет 0,14, т.е. является малой величиной. Погрешность аппроксимации и величина остаточной дисперсии свидетельствуют о высокой точности линейной модели, поэтому задачу регрессионного анализа можно считать решенной. Свободный член уравнения регрессии отрицательный, следовательно, область существования показателя не включает нулевое значение параметра «соотношение сигнал/шум», что обусловлено сущностью параметра (при нулевом уровне сигнала передача информации невозможна).

37

2.ОПРЕДЕЛЕНИЕ СТАТИСТИЧЕСКИХ ХАРАКТЕРИСТИК СЛУЧАЙНЫХ ПРОЦЕССОВ, ДЕЙСТВУЮЩИХ

ВИССЛЕДУЕМОЙ СИСТЕМЕ УПРАВЛЕНИЯ

Теория вероятностей рассматривает случайные величины и их характеристики в «статике». Задачи описания и изучения случайных сигналов «в динамике», как отображения случайных явлений, развивающихся во времени или по любой другой переменной, позволяет решать теория случайных процессов.

В качестве универсальной координаты для распределения случайных величин по независимой переменной будем использовать, как правило, переменную «t» и трактовать ее, для удобства, как временную координату. Распределения случайных величин во времени, а также отображающих их сигналов в любой математической форме обычно называют случайными процессами. Следует отметить. что в технической литературе термины «случайный сигнал» и «случайный процесс» используются как синонимы

Функцию, значение которой при каждом значении независимой переменной является случайной величиной, называют случайной функцией. Случайные функции, для которых независимой переменной является время, называют случайными процессами, или стохастическими процессами. Поскольку в автоматических системах управления процессы протекают во времени, то в дальнейшем будем рассматривать только случайные процессы.

Случайный процесс X(t) является множеством определенных кривых Xi (t) , где i = 1, 2, ..., п, получаемых в результате отдельных опытов (рис. 2.1). Каждую кривую этого множества называют реализацией случайного процесса.

Для любого фиксированного момента времени, например t = ti, реализация случайного процесса представляет собой конкретную величину, значение же случайной функции является случайной величиной, называемой сечением случайного процесса в момент времени t. Поэтому нельзя утверждать, что случайный процесс в данный момент времени имеет такое-либо детерминированное значение, можно говорить лишь о вероятности того, что в данный момент времени значение случайного процесса как случайной величины будет находиться в определенных пределах.

38

С использованием статистических методов изучают не каждую из реализаций x(t) , образующих множество X(t) , а свойства всего множества в целом с помощью усреднения свойств входящих в него реализаций. Поэтому при исследовании автоматической системы управления судят о ее поведении не по отношению к какому-либо определенному воздействию, представляющему заданную функцию времени, а по отношению к целой совокупности воздействий.

Рис 2.1. Реализация случайного процесса

39

Как известно, статистические свойства случайной величины х определяют по ее функции распределения (интегральному закону распределения) F(x) или плотности вероятности (дифференциальному закону распределения) w(x) .

Функции F(x), w(x) являются простейшими статистическими характеристиками случайного процесса. Они характеризуют случайный процесс изолированно в отдельных его сечениях, не раскрывая взаимной связи между сечениями случайного процесса, т.е. между возможными значениями случайного процесса в различные моменты времени.

Знание этих функций еще недостаточно для описания случайного процесса в общем случае. Необходимо охарактеризовать также взаимную связь случайных величин в различные произвольно взятые моменты времени.

Понятие о функции распределения и плотности вероятности случайного процесса обычно используют при теоретических построениях и определениях. В практике исследования автоматических систем управления широкое распространение получили сравнительно более простые, хотя и менее полные характеристики случайных процессов, аналогичные числовым характеристикам случайных величин. Примерами таких характеристик служат рассматриваемые ниже математическое ожидание, дисперсия, среднее значение квадрата случайного процесса, корреляционная функция, спектральная плотность и др.

Математическим ожиданием (средним значением) mx(t) случайного процесса X(t) называют величину

∞

mx (t) = M[X(t)] = ∫ xw1(x,t)dx,

−∞

где w1(x,t) — одномерная плотность вероятности случайного процесса X(t).

Математическое ожидание случайного процесса X(t) представляет собой некоторую неслучайную (регулярную) функцию времени mx(t), около которой группируются и относительно которой колеблются все реализации данного случайного процесса.

Математическое ожидание случайного процесса в каждый фиксированный момент времени tk равно математическому ожи-

40