Лекции 15-16. Алгоритмы мгуа

Вопросы:

1. Многослойный итеративный МГУА

2. Оптимальное число слоев (уровней) обработки входной информации

3. Физические и нефизические модели

4. Комбинаторный МГУА

5. Другие методы МГУА

1. Многослойный итеративный мгуа

При представлении неизвестной функции в виде полинома нам необходимо решить задачу нахождения коэффициентов полинома типа:

(15.1)

Однако эта задача в общем виде может быть решена лишь для небольшого числа элементов. При увеличении числа признаков и степеней полинома число вариантов быстро возрастает. Например, если мы расматриваем двадцать входных признаков, и аппроксимируем решение полиномом десятой степени, то для решения такой задачи в общем виде необходимо решение матрицы размерностью примерно 10¹²х10¹² элементов. Помимо чисто вычислительных трудностей, проблема заключается еще и в том, что длина обучающей последовательности также должна быть очень большой (сравнимой с размерностью матрицы), что на практике чаще всего невозможно.

Во избежание этих трудностей А.Г. Ивахненко предложил заменить одномоментное построение полинома типа (15.1) его последовательным (итеративным) синтезом из сравнительно простых элементарных функций (классификаторов) и последующим усложнением этих функций.

На первом этапе нахождения неизвестной функции методом многослойного итеративного МГУА полное описание функции от n аргументов, записываемых в виде полинома k-ой степени заменяется набором частных описаний типа:

y₁ = f(x₁, x₁), y₂ = f(x₁, x₂), y₃ = f(x₁, x₃), … y_s-1 = f(x_n-1, x_n), y_s = f(x_n, x_n) (15.2)

где s = n², функция f везде одинакова.

Для нахождения коэффициентов в наборе (15.2) используются данные обучающей последовательности.

Затем производится отбор некоторого количества лучших по выбранному внешнему критерию или критериям коэффициентов, и эти отобранные коэффициенты используются для построения набора уравнений следующего уровня, имеющих вид типа:

z₁ = f(y₁, y₁), z₂ = f(y₁, y₂), … z_s-1 = f(y_n-1, y_n), z_s = f(y_n, y_n) (15.3)

здесь функция f и количество признаков n могут отличаться от используемых на первом этапе.

Затем происходит повторный отбор и процедура повторяется до получения наилучшего возможного результата.

В качестве базисных функций могут использоваться и функции другого типа, главное чтобы нахождение их было существенно проще, чем в случае полного решения.

Для решения задачи этим методом необходимо понимать, что такое внешний критерий, и что такое наилучшее возможное решение.

Внешним критерием называется некоторый численно выражаемый принцип, по которому мы можем оценить степень соответствия теоретической зависимости и практических данных. Наиболее часто в качестве внешнего критерия используется сумма среднеквадратичных отклонений (дисперсия) реальных данных от найденной методом МГУА зависимости (называемой также моделью). В дополнение к этому основному критерию может использоваться и ряд других критериев, в частности: коэффициент корреляции, максимальная ошибка, средняя ошибка, критерий баланса переменных, критерий ортогональности переменных и многие другие.