книги / 41

Как уже отмечалось в разделе 3.2, общая вариация зависимой переменной является суммой объяснимой и необъяснимой вариаций:

Тогда, с учетом (23), проверку статистической значимости уравнения множественной линейной регрессии можно осуществить через коэффициент множественной детерминации r2:

Числитель F-отношения представляет собой долю объясненной вариации результативного показателя, деленную на число степеней свободы v = k . Знаменатель F-отношения характеризует долю необъясненной вариации, деленную на число степеней свободы v = n − k −1.

Для проверки значимости уравнения множественной регрессии служит также F-статистика:

i=1

Результаты, получаемые с использованием (26) и (27) тождественны. Если полученные F-статистики незначимы, то принимается нулевая гипотеза H0 : β = 0, т.е. все коэффициенты регрессии

множественной регрессионной модели равны нулю, и на этом регрессионный анализ заканчивается. При статистической значимости регрессионного уравнения необходима проверка значимости отдельных коэффициентов регрессии и построение интервальных оценок для значимых из них.

С практической точки зрения большой интерес представляют данные о достаточно выраженной робастности (устойчивости) описанных F-тестов по отношению к отклонениям от предположения нормальности остатков [13].

Значимость коэффициентов регрессии можно проверить с помощью t-критерия:

111

которая при справедливости нулевой гипотезы H0 : βi = 0 имеет t-

распределение с v = n − k −1 числом степеней свободы.

Каждая из полученных t-статистик определяет, оказывает ли значимое влияние на результативный показатель данная независимая переменная, если все остальные факторные переменные остаются при этом неизменными. Иными словами, серия проведенных t-тестов помогает выяснить, какие именно из комплекса анализируемых факторных переменных действительно полезны в целях прогнозирования результативного показателя. В редких случаях t- тесты для отдельных коэффициентов регрессии могут быть значимыми даже тогда, когда F-тест значимым не является [74]. В этом случае результат F-теста считается более важным, свидетельствуя об отсутствии значимости всех коэффициентов регрессии.

В теории доказано, что ввиду свойства наименьших квадратов для множественной регрессии величина коэффициента множественной детерминации не уменьшается (а может только увеличиться) при добавлении в состав регрессионного уравнения дополнительной независимой переменной. Важно, что увеличение r2 может произойти даже в случае, когда добавленная независимая переменная не связана с результативным показателем и характеризуется незначимым результатом t-теста. Высокий коэффициент детерминации также может быть получен при всех статистически незначимых коэффициентах множественной регрессии.

Для учета автоматического роста коэффициента r2 вследствие увеличения количества независимых переменных рекомендуется использование скорректированного коэффициента множественной

где k – число независимых переменных.

Доказано, что введение новой независимой переменной в состав регрессионного уравнения приведет к увеличению r 2 только в том случае, если t-статистика коэффициента регрессии, соответствующего этой переменной по абсолютной величине будет больше 1 [78].

С помощью t-распределения с надежностью 1-α возможно построение интервальных оценок для коэффициентов β множественной регрессионной модели:

112

Стандартная ошибка прогноза множественной регрессионной модели включает в себя дисперсию случайной ошибки sε2 и дис-

персию s2 , связанную с параметрами β модели:

)

y

Отсюда получаем доверительную оценку для интервала предсказания y с надежностью 1-α:

Продемонстрируем процедуру множественной линейной регрессии на примере построения регрессионной модели идентификации гестационного возраста плодов и новорожденных по двум гистометрическим показателям селезенки: диаметру лимфоидных узелков и толщине стенок центральных артерий. Необходимость введения дополнительной факторной переменной (толщина стенок центральных артерий) объясняется небольшой точностью однофакторного регрессионного уравнения, основанного на использовании одного только показателя диаметра лимфоидных узелков (sε = 4,396

недели). В разделе 2.3 было доказано наличие и оценена степень статистической зависимости гестационного возраста от диаметра лимфоидных узелков и толщины стенок центральных артерий фетальной селезенки. Однако для практического использования в целях идентификации гестационного возраста необходимо получить аналитическое выражение указанной статистической зависимости.

113

Введем условные обозначения: y – гестационный возраст, недель; х1 – диаметр лимфоидных узелков селезенки, мкм; х2 - толщина стенок центральных артерий селезенки, мкм. Тогда выборку объемом 99 наблюдений из трехмерной генеральной совокупности будет представлена матрицами Y и X:

значений гистометрических показателей х1 и х2 селезенки;

Для определения вектора оценок b найдем предварительно симметричную матрицу ХТХ, которая имеет вид:

Вектор XTY имеет вид:

114

и оценка уравнения регрессии имеет вид:

Проверим значимость вычисленного в разделе 2.3 множественного коэффициента детерминации анализируемой регрессии:

Найдем величину остаточной дисперсии:

115

Перед проверкой значимости отдельных коэффициентов регрессии определим оценку ковариационной матрицы S(b) вектора b.

Для этого нужно умножить элементы обратной матрицы (Х Т Х )−1 на sε2 = 15,176:

Из статистического смысла полученной ковариационной матрицы следует, что оценки дисперсии коэффициентов регрессионного уравнения равны:

sb20 = 3,8718; sb21 = 0,0001043; sb22 = 0,0331. Проверим значимость коэффициента β1:

Выполним аналогичную процедуру относительно β2:

Поскольку для обоих коэффициентов р < 0,05, то нулевые гипотезы Н0: β1 = 0 и Н0: β2 = 0 отвергаются, т.е. оба гистометрических параметра селезенки вносят значимый вклад в прогнозирование гестационного возраста.

Найдем с надежностью 1 - α = 0,95 интервальные оценки для β1 и β2. Согласно (25) и (28) и учитывая, что t0,05;96 = 1,985, имеем:

β1 0,0638 ± 0,0203; β2 0,9548 ± 0,3613.

Определим с надежностью 1 - интервальную оценку для ~ в

α y

точке, определяемой вектором Х0. С учетом полученных данных и согласно (29) находим:

понированный вектор

116

Согласно (30) получаем доверительную оценку для интервала предсказания y :

Например, вычислим с надежностью 1 - α = 0,95 доверительную оценку для значений гестационного возраста плодов и новорожденных со следующими гистометрическими показателями селезенки: средний диаметр лимфоидных узелков – 146,3 мкм, средняя толщина стенок центральных артерий – 8,13 мкм.

После формализации задания точка, определяемая вектором начальных условий, имеет вид:

Предварительно найдем матричное произведение (X 0 )T (X T X )−1 X 0 = 0,01906158.

Тогда интервальная оценка для у равна:

) = 26,374 ± 3,896 1,985 1+ 0,019 = 26,4 ± 7,8 недель.

у

Из приведенного выражения видно, что точность идентификации гестационного возраста плодов и новорожденных, обеспечиваемая использованием информации лишь о двух гистометрических показателях селезенки, очень низка (95% доверительный интервал охватывает почти 16 недель внутриутробного развития). Данное обстоятельство диктует необходимость создания более точной многофакторной регрессионной модели, включающей более информативные гистометрические показатели, в т.ч. и других фетальных органов.

117

3.4. НЕЛИНЕЙНАЯ РЕГРЕССИЯ

При построении регрессионных моделей идентификации личности возможны ситуации, когда связь между идентифицирующим признаком и идентифицируемым параметром является нелинейной. Выраженные отклонения парной связи от линейности могут быть легко установлены при визуальном анализе диаграммы рассеяния, когда точки наблюдений более точно сглаживаются не прямой, а кривой линией. В этом случае для построения криволинейной регрессии следует использовать подходы линейного регрессионного анализа. Для этого часто достаточно преобразовать переменные и соответствующие им значения наблюдений.

В зависимости от вида необходимых линеаризирующих преобразований различают следующие нелинейные регрессионные модели: нелинейные по переменным, нелинейные по параметрам и нелинейные и по переменным, и по параметрам [13].

Нелинейными по переменным являются модели, линеаризация которых достигается с помощью преобразований только лишь независимой переменной (переменных). Такие модели линейны по своей природе, отличаясь от обычных уравнений линейной регрессии только тем, что при оценивании их параметров приходится оперировать не с самой независимой переменной (переменными), а с ее преобразованием. Поэтому указанные нелинейные регрессии называются также регрессионными моделями с линейной структурой.

Основными типами регрессионных моделей, нелинейных по переменным, являются следующие функции:

- логарифмическая

Необходимо пояснить, что выбор основания логарифмической модели влияет лишь на значения коэффициентов регрессии, пока-

118

затели же силы связи и точности прогнозирования остаются теми же. Поэтому на практике ограничиваются использованием лишь либо натурального, либо десятичного логарифмов. Относительно полиномиальной регрессии следует отметить, что, несмотря на принципиальную возможность использования для моделирования нелинейных взаимосвязей полиномов высоких степеней, на практике результаты прогнозирования с применением степеней, превышающих 3, зачастую оказываются нестабильными [74]. Кроме того, регрессионные коэффициенты полиномов высоких степеней вследствие мультиколлинеарности почти всегда становятся статистически незначимыми. Вышеперечисленное ограничивает практическое использование указанных аппроксимаций только лишь применением квадратного и кубического полиномов.

Доверительные интервалы для прогнозных оценок регрессионных уравнений нелинейных по переменным определяются по тем же стандартам, что и для прогнозных оценок одно- и многофакторных уравнений линейной регрессии. Отличием является лишь то, что при расчете доверительной области используется не сама независимая переменная (переменные), а ее преобразование. Для полиномиальных уравнений в указанных целях используются результаты возведения конкретного значения независимой переменной в соответствующие степени.

Например, 1-α - доверительный интервал для прогнозных оценок

Подобным образом 1-α - доверительный интервал для прогноз-

119

Аналогично 1-α - доверительный интервал для прогнозных оценок полиномиального уравнения k-степени определяется из выражения:

чечная оценка прогноза; Х – матрица, состоящая из единичного первого столбца и k столбцов, содержащих n наблюдений, возведенных в каждую из k степеней:

X0 - вектор-столбец, определяемый как

1

Нелинейными по параметрам называются модели, линеаризация которых достигается с помощью преобразования только зависимой переменной. Такие модели по своей природе больше не являются линейными, т.е. их нельзя представить в виде простой регрессион-

120