Способы составления многофакторных моделей

Многофакторная модель может быть значимой в целом (по критерию Фишера), но в то же время состоять из незначимых членов (по критерию Стьюдента). Значимая в целом модель хорошо воспроизводит опытные данные и уравнение регрессии можно использовать как интерполяционную формулу. Но мы желаем большего – мы желаем получить значимые интервальные оценки коэффициентов регрессии ("инструментов экономичес­кого воздействия") – тогда регрессионная модель приобретает содержатель­ную экономическую интерпретацию.

В методе наименьших квадратов не предусмотрены какие-либо требования к оценкам коэффициентов регрессии, мы добиваемся улучшения только ее качества интерполирования.

Исследования показали, что наиболее существенной ошибкой спецификации многофакторной модели (вида уравнения регрессии) является пропуск важного члена – в этом случае все оценки регресии будут смещенными, иногда настолько, что нельзя поручиться даже за их знаки. Будем считать, что специалист знает свое дело и ясно представляет себе, какие факторы являются существенными в той или иной проблеме.

Другие последствия будут, если в модель включить несколько незначимых членов – в этом случае снижается значимость всех остальных членов, коэффициенты регрессии оцениваются с большими случайными ошибками (большой дисперсией). Согласно "принципу экономии" Л. Клейна, незначимые члены не просто бесполезны, они снижают качество модели и поэтому должны быть выбракованы. Однако выбраковки надо производить последовательно, начиная с самых незначимых по Стьюденту членов. Сначала каждая очередная выбраковка приводит к улучшению качества модели (повышается значимость оставшихся членов), но начиная с некоторого этапа процесс выбраковок надо прекратить, иначе будет выбракован пока еще незначимый, но важный член модели. Предложено несколько критериев качества модели, из которых наиболее простым является величина несмещенной остаточной дисперсии – для наилучшей модели эта величина принимает наименьшее значение: .

Способ последовательных исключений ("сверху–вниз") с оценкой значимости по критерию Стьюдента оставшихся в модели членов (кандидатов на очередную выбраковку) легко реализуется на компьютере.

При расчетах вручную предпочитают способ последовательных подключений ("снизу вверх") с оценкой значимости еще не подключенных членов (кандидатов на подключение) с помощью, так называемых, "коэффициентов частной корреляции".

Первые два способа приводят к разным моделям с разным числом членов и разным их составом. Теоретически наилучшим способом составления многофакторной модели был бы способ "всех регрессий", когда когда рассматриваются все возможные комбинации объясняющих переменных. Но таких вариантов ! , начиная с отсутствия в модели объясняющих переменных, далее однофакторных моделей, – двухфакторных, и т.д. до включения в модель всех аргументов. Число всех регрессий быстро возрастает с увеличением числа членов модели.

Поэтому предложена методика подключения–исключения, которая реализованна в специальных статистических пакетах программ на компьютере. Согласно этой методике, на очередном этапе делается попытка подключить в модель самую перспективную переменную, которая объясняет максимум остаточной дисперсии. Эта переменная выбирается по максимуму коэффициента частной корреляции. Если качество модели при очередном подключении не улучшается (не уменьшается несмещенная оценка остаточной дисперсии), то последнее подключение отменяется и процесс составления модели завершается. При подключении в модель очередного члена изменяются вклады ранее подключенных членов и некоторые из них перестают быть значимыми. Надо попробовать их выбраковать, начиная с самого незначимого по критерию Стьюдента, пока с очередной выбраковкой не ухудшится качество модели. В наилучшую модель ничего больше не подключается и ничто не выбраковывается. В научной литературе этот метод иногда называется "методом пошаговой регрессии".