9.2.4. Методы анализа нелинейных двумерных статистических зависимостей

Если при построении диаграммы разброса явно наблюдается нелинейный характер статистической зависимости между двумя исследуемыми параметрами, то, как уже указывалось выше, можно использовать либо кусочно-линейную аппроксимацию этой зависимости, либо нелинейную аппроксимацию, например, с помощью полинома второй или более высокой степени. Рассмотрим оба эти случая.

В первом случае, мы весь диапазон вариации параметра Х разделяем на k зон таким образом, чтобы в каждой зоне эта зависимость хорошо аппроксимировалась прямой линией. Имея диаграмму разброса, такое разделение сделать несложно. При этом надо стремиться к минимальному числу таких зон. Например, для зависимости, диаграмма разброса которой представлена на рис. 9.3, можно выделить три таких зоны.

Соответственно числу таких зон весь массив экспериментальных данных окажется разделенным на k подмассивов. Для каждого из них в отдельности можно определить линии регрессии, пользуясь формулами (9.1 - 9.3). Эти линии в совокупности и образуют кусочно-линейную аппроксимацию исследуемой зависимости. Для каждой из зон можно подсчитать и коэффициенты корреляции, которые будут характеризовать тесноту линейной связи в пределах этих зон. Однако это неудобно, поскольку они, скорей всего, окажутся разными. Более удобно использовать единую характеристику для всех зон сразу. Такой характеристикой является корреляционное отношение, вычисляемое по формуле

, (9.6)

где:

(9.7)

есть среднее значение параметра Y для j-ой зоны;

(9.8)

есть общее среднее параметра Y для всего массива данных (всех зон вместе), а

(9.9)

представляет собой оценку общей дисперсии величины Y для всех зон вместе.

Корреляционное отношение может принимать значения от 0 (статистическая связь отсутствует) до 1 (имеет место функциональная связь – в данном случае кусочно-линейная). Отрицательным корреляционное отношение быть не может в отличие от коэффициента корреляции.

Во многих случаях корреляционное отношение как обобщённая характеристика тесноты статистической связи двух параметров даёт вполне приемлемую точность даже при небольшом числе зон разбиения (обычно не более 3-4). Но само по себе корреляционное отношение не позволяет найти аналитический вид этой зависимости, то есть получить её математическую модель. Хотя, конечно, не трудно для каждой выделенной зоны найти уравнение линейной регрессии, которые должны стыковаться на границах зон, и, тем самым, мы получим аналитическую запись кусочно-линейной зависимости как математическую модель статистической связи данных двух параметров. Однако, в большинстве случаев для этих целей более удобно, да и более экономично в вычислительном отношении использовать в качестве математической модели какую-либо нелинейную аналитическую функцию. В принципе сам вычислительный аппарат не накладывает никаких ограничений на вид используемой для этих целей аналитической нелинейной функции, и выбор её определяется характером моделируемой зависимости. Если зависимость гладкая и апериодическая, то в качестве её модели чаще всего используют полиномиальную функцию:

, (9.10)

где – вычисленные значения величины Y

Для уменьшения погрешностей вычислений значения аргумента целесообразно представлять в центрированном виде:

. (9.11)

Если диаграмма разброса показывает, что на всем диапазоне вариации параметра Х знак кривизны не меняется, а это означает, что функция является выпуклой или вогнутой на всем заданном диапазоне аргумента Х, то вполне достаточную точность даёт полином второй степени

(9.12)

или

, (9.12)^*

где коэффициенты b₀, b₁ и b₂ вычисляются методом наименьших квадратов (МНК), причём их знаки могут оказаться как положительными, так и отрицательными. Условие минимума суммы квадратов отклонений можно записать в виде

,

то есть

. (9.13)

Это условие будет выполняться, если приравнять нулю первые производные этого выражения по коэффициентам b₀, b₁ и b₂. Выполнив такое дифференцирование, мы получаем систему из 3-х уравнений, разрешая которые относительно параметров b₀, b₁ и b₂, получаем значения этих коэффициентов. В этом и состоит суть метода наименьших квадратов (МНК).

Оценки коэффициентов уравнения регрессии, получаемые с помощью МНК, являются несмещёнными и состоятельными при любом законе распределения случайных величин X и Y. Если же эти распределения подчиняются нормальному закону, то эти оценки являются ещё и эффективными. Поэтому, хотя метод наименьших квадратов не является единственно возможным, именно его используют в большинстве случаев для вычисления уравнений регрессии, то есть математической модели, связывающей переменные X и Y по эмпирическим данным, поскольку полученные этим методом оценки отвечают критерию максимального правдоподобия. В вычислительном отношении МНК проще других методов и его легко распространить на многомерный случай, что и рассматривается в следующем параграфе.

9.3. Методика статистического анализа технологического процесса

с целью отбора наиболее информативных параметров

и построения его математической модели

9.3.1. Условия репрезентативности пассивного

многофакторного эксперимента

Чтобы по результатам пассивного эксперимента можно было построить достаточно достоверную математическую модель исследуемого технологического процесса, следует тщательно учитывать условия формирования исходного массива экспериментальных данных при пассивном эксперименте и имеющуюся априорную информацию об этом процессе.

Чаще всего при планировании пассивного эксперимента экспериментатор не может достаточно надёжно определить мерность задачи, т.е. число существенных факторов, от которых зависят выходные величины. В этих условиях он, с одной стороны, вынужден идти на заведомую избыточность эксперимента и контролировать все те факторы, которые по априорным сведениям об исследуемом процессе могут влиять на его выходные величины, с тем, чтобы уже в дальнейшем, при построении математической модели объекта, отсеять факторы, оказавшиеся несущественными. А с другой стороны, отдавая себе отчёт в том, что даже при явном завышении исходной мерности задачи, он не гарантирован от пропуска некоторых существенных факторов, экспериментатор должен планировать эксперимент так, чтобы эти упущенные факторы могли бы проявить себя, увеличивая дисперсию регистрируемых выходных величин. К таким факторам относятся и качественные факторы, о которых упоминалось выше. Примерами их могут служить: использование сырья, материалов и комплектующих из разных партий поставки или от различных поставщиков; различная квалификация рабочего и технического персонала, обслуживающего данный технологический процесс в разные рабочие смены; влияние окружающих условий (температуры, влажности, колебаний атмосферного давления, степени запыленности воздуха, времени суток, времени года и т.п.). В ряде случаев имеется возможность провести специальные предварительные эксперименты, позволяющие определить насколько существенно влияние таких факторов. Например, можно выяснить существенно ли влияет использование сырья и материалов из разных партий поставки. Для этого достаточно провести пассивные эксперименты при использовании сырья из разных партий поставки, а все остальные условия при этом должны по возможности сохраняться одинаковыми. Обработав полученные результаты методом дисперсионного анализа, по отношениям дисперсий выходных параметров, полученных для каждой используемой партии сырья к общей дисперсии (для всех партий вместе) легко определить существенно или несущественно влияние данного фактора. Если изменения исследуемого фактора или его наличие или отсутствие незначимо изменяет общую дисперсию, то данный фактор следует считать несущественным. Если же такие эксперименты провести затруднительно, например, если нельзя обеспечить наличие или отсутствие или поддержание нескольких стабильных уровней значений данного фактора, то при проведении эксперимента необходимо обеспечить такие условия, чтобы он мог проявить себя. Обычно это достигается увеличением длительности пассивного эксперимента до месяца или даже года, с тем, чтобы проявились и суточные, и сезонные колебания окружающих условий и другие возможные неконтролируемые факторы.

Увеличение длительности эксперимента необходимо и по другой причине. Поскольку объект исследуется в режиме его нормального функционирования, то все контролируемые величины будут, в основном, колебаться около своих номинальных значений в сравнительно узком диапазоне. С одной стороны, это хорошо, так как при этом обеспечиваются условия эффективности МНК-оценок постоянных коэффициентов регрессионных моделей, ибо МНК-оценки этих коэффициентов будут эффективными только в том случае, если исходные данные, по которым строится модель, подчиняются нормальному закону распределения. Кроме того, при сравнительно узком диапазоне вариаций всех входных величин повышается вероятность того, что достаточно точной окажется простейшая линейная модель. Но, с другой стороны, это существенно снижает предсказательную способность модели при существенных отклонениях входных величин от своих номинальных значений, что резко уменьшает полезность этой модели. Поскольку существенные отклонения входных величин от номинальных значений в режиме нормального функционирования объекта происходят сравнительно редко, то эти сравнительно редкие данные не окажут существенного влияния на характеристики построенной модели, а значит и её предсказательная способность для широкого диапазона варьирования входных величин существенно не улучшится. Чтобы этого избежать, необходимо таким образом преобразовать исходный массив экспериментальных данных, чтобы в нём увеличивался удельный вес данных, соответствующих большим отклонениям входных величин. Этого можно достичь различными способами.

Самый простой из них состоит в исключении повторяющихся измерений. При нормальном законе распределения всех факторных признаков, характерном для пассивного эксперимента, большинство повторяющихся измерений будет лежать вблизи центра распределений. Поэтому их исключение будет приводить к “уплощению” вершины распределений, то есть к увеличению дисперсии, благодаря чему и будет повышаться удельный вес измерений, лежащих вблизи краёв многомерного распределения. Однако при высокой точности измерений факторных признаков и большом их количестве даже при очень большом объёме исходных данных вероятность полного совпадения всех одновременно измеряемых величин будет очень низка. Речь может идти лишь о приближённом совпадении, что, во-первых, создаёт определённые трудности в сравнении данных, а, во-вторых, всё равно не обеспечивает достаточной эффективности, так как количество отброшенных измерений всё равно окажется недостаточным для заметного изменения характеристик построенной регрессионной модели.

Более эффективным является метод “прореживания” исходных данных, базирующийся на критерии “удалённости” каждого из многомерных измерений от центра измерений. Для расчёта этого критерия удобно перейти от абсолютных результатов всех составляющих вектора факторных признаков , где i = 1, 2, …, n – порядковые номера многомерных измерений, к нормированным их значениям. Нормирование целесообразно осуществлять в долях от среднеквадратического отклонения

, (9.14)

где X_ij – измеренное абсолютное значение j-го фактора; – среднее арифметическое значение j-го фактора ; – среднеквадратическое отклонение j-го фактора:

. (9.15)

В качестве критерия “удалённости” от центра многомерного распределения вектора можно принять величину

. (9.16)

Очевидно, что центру распределения будет соответствовать значение W_i = 0, а для краёв распределения значение W_i с вероятностью Р = 0,9997 не будет превышать 3 (при нормальном законе распределения вектора ).

С использованием этого критерия “прореживание” исходных данных можно проводить, исключая ту или иную долю измерений, соответствующих заданным интервалам критерия W_i. Например, измерения, соответствующие значениям критерия W_i > 2,0 остаются все (их всего должно быть около 4,5% от начального числа измерений N). Количество измерений, для которых значения критерия лежат в интервале от 1,5 до 2,0 (всего их будет около 9% от N) можно уменьшить на одну треть. Количество измерений, для которых значения критерия попадают в интервал от 1,0 до 1,5 (таких будет 18,4% от N), можно уменьшить вдвое. Из количества измерений, для которых значение критерия W_i попадают в интервал 0,5 до 1,0 (а их должно быть около 30% от N) можно оставить лишь одну четверть. А из оставшейся части (около 38% от N) – оставить лишь одну пятую часть.

Естественно, что при таком “прореживании” исходных данных влияние измерений на характеристики регрессионной модели будет возрастать по мере их “удаления” от центра распределения. При этом предсказательная точность модели вблизи центра распределения снизится незначительно, так как всё равно возле центра будет концентрироваться большинство оставшихся измерений, но зато она существенно возрастёт вблизи краёв многомерного факторного пространства, потому что удельная доля соответствующих измерений возрастёт в несколько раз. В частности, для нашего примера удельная доля измерений, соответствующих значениям критерия W_i  2,0 возрастёт почти в 3 раза с 4,5% до 13%. При желании эту долю можно повысить ещё значительнее. Конечно, при этом могут произойти существенные отклонения от нормального закона распределения оставшихся после “прореживания” исходных данных. Однако метод наименьших квадратов и не требует обязательного выполнения нормального закона распределения и для оставшихся данных остаточная дисперсия если и возрастёт, то незначительно. Зато вблизи краёв факторного пространства точность модели существенно улучшится.

Следует заметить, что указанное выше нормирование исходных данных целесообразно проводить в любом случае, даже если нет необходимости их “прореживать”, поскольку при этом уменьшаются погрешности вычислений коэффициентов регрессионной модели за счёт выравнивания порядков величин, входящих в основную матрицу , по которой вычисляются эти коэффициенты. Об этом уже упоминалось выше.

Естественно, что при нормировании переменных и само уравнение регрессии определяется для нормированных переменных:

, (9.17)

где – нормированные величины, определяемые в соответствии с (9.14), то есть в виде относительных отклонений, в долях среднеквадратического отклонения от своих средних значений.

Следует отметить, что описанный выше “метод прореживания” исходных данных можно применять лишь в том случае, когда объём этих исходных данных достаточно велик (n существенно больше 100). В противном же случае (n < 100) отбрасывание большей части измерений приведёт к существенному снижению достоверности построенной модели, особенно, если оставшуюся выборку данных необходимо ещё разделить на две части: “обучающую” и “проверочную” подвыборки.

И, наконец, следует обратить внимание ещё на одно обстоятельство. Регрессионные модели изначально предназначались для решения статических задач, то есть и входные, и выходные величины не должны зависеть от времени. Подходя более строго, можно выразить это иначе: выходные величины должны определяться только текущими значениями входных величин (в тот же момент времени) и не должны зависеть от их предшествующих значений. Но большинство технологических процессов протекают в течение какого-то определённого времени, даже если речь идет о технологиях с дискретным характером производства. В этих условиях любые изменения входных величин не приводят к соответствующим мгновенным изменениям выходных величин, а требуется определённое время, чтобы эти воздействия себя проявили. Следовательно, такой технологический процесс обладает определённой инерционностью. При организации пассивного многофакторного эксперимента эту инерционность следует учитывать, особенно, если анализируется многооперационный последовательный процесс. Причём, в последнем случае запаздывание выходных данных к входным для каждой операции будет различным. Поэтому эксперимент должен быть организован таким образом, чтобы при измерениях входных и выходных величин эти запаздывания были бы учтены. Если же характер динамики технологического процесса состоит не только в инерционности выходных данных по отношению к входным, а само время является одной из входных переменных, то для таких процессов применение регрессионного анализа в том виде, в каком он здесь излагается, вообще неприемлемо. Вопросы, связанные с учётом динамики технологических процессов при построении их математических моделей будут изложены в п. 9.4.