Назаметдинов Анализ данных 2012

стью нахождения коэффициентов регрессии (критерии A- и D- оптимальности), и критерии, требующие максимальной точности оценки выходной переменной (критерий G-оптимальности). Вторую группу составляют критерии, зародившиеся в практике планирования эксперимента и ориентированные на удобство расчетов и организации проведения экспериментов (критерии ортогональности и композиционности).

Смысл перечисленных критериев можно пояснить, используя понятие эллипсоида рассеяния случайного вектора. Для случайного вектора а размерности k 1, ковариационная матрица которого есть cov a, эллипсоид рассеяния задается выражением

(a Ma) cov 1 a (a Ma) k 3,

описывающим эллипсоид в (k 1) -мерном пространстве с цент-

ром в точке Ма. Эта геометрическая фигура имеет такие размеры, что ковариационная матрица случайного вектора, равномерно распределенного в пределах эллипсоида, совпадает с матрицей cov a. Следовательно, чем больше рассеяние вектора относительно его математического ожидания, тем большие размеры имеет эллипсоид рассеяния.

Критерий А-оптимальности

Поскольку точностной характеристикой вектора коэффициентов регрессии является ковариационная матрица, а критерии планирования желательно иметь в скалярной форме, то необходима некоторая свертка ковариационной матрицы. Критерий A-оптималь-

ности в качестве свертки использует след матрицы С (F' F) 1 .

Поскольку диагональные элементы матрицы С пропорциональны дисперсии оценок коэффициентов регрессии, то при минимизации следа матрицы С минимизируется, по сути дела, суммарная либо средняя дисперсия оценок коэффициентов модели:

tr C( X ) mintr C( X ) .

A X

Известно, что сумма диагональных элементов матрицы равняется сумме её собственных значений. Поскольку квадраты длины осей эллипсоида рассеяния пропорциональны собственным значениям ковариационной матрицы, то критерий A-оптималь-

111

ности требует минимизации диагонали параллелепипеда, описанного у эллипсоида рассеяния.

Критерий D-оптимальности

Критерий D-оптимальности требует такого расположения точек в области планирования , при котором определитель матрицы

Известно, что объем V эллипсоида рассеяния пропорционален корню из величины определителя ковариационной матрицы, т.е.

Чем меньше величина определителя, тем меньше, как правило, разброс оценок коэффициентов относительно их математических ожиданий. Исключением является случай, когда эллипсоид рассеяния имеет сильно вытянутую форму.

Критерий G-оптимальности

План X * G-оптимален, если он обеспечивает наименьшую величину максимальной дисперсии оценки зависимой переменной:

Критерий ортогональности

Критерий ортогональности требует выбора плана X , обеспечивающего диагональность информационной матрицы. Использование этого критерия имеет целью упростить вычисления и обеспечить независимость оценок коэффициентов регрессии.

Критерий композиционности

Критерий композиционности требует выбора плана, который включал бы в себя точки оптимального плана моделей более низкого порядка. Это обеспечивает сокращение числа опытов при поэтапном усложнении модели.

На практике желательно использовать планы, удовлетворяющие одновременно нескольким критериям. В общем случае такого сочетания свойств не наблюдается. В теории планирования экспе-

112

римента доказана так называемая теорема эквивалентности, утверждающая, что непрерывный D-оптимальный план является также G-оптимальным. Условие D-оптимальности дискретного плана X имеет следующий вид:

6.1.3. Планы факторных экспериментов

Полный факторный эксперимент

В факторном эксперименте рассматриваются ортогональные планы, предназначенные для моделей, описываемых неполными полиномами вида

a123x1x2 x3 ... an 2,n 1,n xn 2 xn 1xn ... a12...n x1x2...xn u.

Для таких моделей достаточно рассматривать планы, в которых каждая переменная (фактор) принимает значения только на двух

уровнях: xmin* и xmax* . Нормированные переменные при этом будут

принимать значения –1 и +1. Множество всех точек в n -мерном пространстве, координаты которых равны –1 или +1, называется

полным факторным планом (ПФП) типа 2n . Число точек такого плана N 2n . Сам эксперимент называют полным факторным

экспериментом (ПФЭ) типа 2n . Примеры полных факторных планов для n=1 и n=2:

113

где k – вектор-столбец, состоящий из 2n единиц. Легко видеть, полные планы являются центральными, а их информационная матрица имеет вид:

F F 2n I .

Дробный факторный эксперимент (ДФЭ)

Из-за показательного роста числа экспериментов с увеличением размерности пространства ПФП оказываются практически не-

приемлемыми при больших n . Однако из матрицы ПФП 2n может быть отобрана некоторая часть, называемая дробным факторным планом (ДФП), которая сохраняет свойство ортогональности. Правило построения ДФП состоит в следующем. Задается порядок дробности p . Из n входных переменных отбирают n-p переменных (их называют основными), и для них строят полный факторный план X (n p) . Этот план затем дополняют p столбцами, соответст-

вующими оставшимся переменным. Для определения способа образования этих столбцов вводится понятие генератора (генерирующего соотношения) плана. Генератор представляет собой произведение граничных значений ( 1 ) основных переменных, определяющее граничные значения элементов каждого из дополнительных p столбцов матрицы плана. Так, для построения линейной мо-

дели от трех переменных y a0 a1x1 a2 x2 a3x3 можно восполь-

зоваться ДФП типа 23 1 с генератором x3 x1x2 :

114

Чем выше размерность пространства , тем большее число генераторов плана можно предложить. Целесообразно выбирать такие из них, которые соответствуют незначимым взаимодействиям. Действительно, в состав базисных функций входят и левая, и правая части генератора и, поскольку от эксперимента к эксперименту они меняются одинаковым образом, различить эффекты, соответствующие частям генератора, не представляется возможным. Так, если в качестве генератора выбрано соотношение x4 x1x2 x3 , то

получить раздельные оценки для a4 и a123 нельзя. Соответствующий ДФП позволяет оценить лишь суммарное воздействие линейного фактора x4 и тройного взаимодействия x1 x2 x3 . Подобные

оценки называют смешанными. Однако, если взаимодействие незначимо, т.е. a123 0 , то aˆ4 будет практически несмешанной оцен-

кой. Для определения порядка смешивания вводят понятие контраста плана. Контраст – это генерирующее соотношение, задающее элементы столбца свободного члена матрицы F . (Со свободным членом уравнения регрессии связывается фиктивная переменная x0 , тождественно равная единице.) Контраст получают из генери-

рующего соотношения умножением на переменную, стоящую слева от знака равенства. Для ДФП с генератором x4 x1x2 x3 контраст

ременными или взаимодействиями смешана оценка некоторой данной переменной, необходимо умножить обе части контраста на эту переменную. При этом получают порядок смешивания оценок коэффициентов при использовании данного плана.

115

действиям высокого порядка, поскольку коэффициенты регрессии при них по абсолютной величине, как правило, меньше.

К достоинствам факторных планов следует отнести их хорошие

емых коэффициентов (k+1) также четыре. Следовательно, условие (6.2) выполняется.

6.1.4. Центральные композиционные планы

В случае, когда при использовании линейной регрессионной модели значения коэффициентов регрессии близки к нулю, необходимо добавлять в уравнение квадратичные слагаемые, т.е. модель выбирается в виде полного полинома второго порядка:

Для подобного рода моделей разработаны центральные композиционные планы (ЦКП). ЦКП включает в себя точки соответствующего факторного эксперимента, а также две звездные точки на каждую переменную и центральную точку.

Звездные точки располагаются на координатной оси симметрично относительно начала координат на величину α.

117

Для двумерного случая модель, ЦКП и матрица значений базисных функций имеют вид:

Для обеспечения ортогональности С=F’F требуется равенство нулю как суммы элементов всех столбцов, кроме первого, так и попарного их произведения. В итоге получим систему из двух уравнений относительно неизвестных параметров α и β :

118

Отсюда можно найти выражение для плеча:

α 2n 1 N 2n2 .

6.1.5.D-оптимальные планы

Втеории D-оптимального планирования существенно используются непрерывные планы, для которых информационная L и

дисперсионная D матрицы определяются как обобщения соответствующих матриц дискретных планов:

f(xj) – вектор-строка значений базисных функций в точке xj. Так, для матрицы плана, состоящего из четырех точек ПФП 22 и двух точек в центре плана (N=6), непрерывный план есть

где первые четыре точки спектра x1,x2,x3,x4 сответствуют ПФП 22; х5=(0,0) – центральная точка. Матрицы L и D для этого плана при

поиске модели y=a0+a1x1+a2x2 имеют вид:

персии оценки прогнозного значения функции отклика у в точке х (сравните с (3.33)). Упомянутая выше теорема эквивалентности утверждает, непрерывный план l, обеспечивающий минимум опре-

119