4.5. Нейронные сети с радиальными базисными функциями

Саамообучающиеся сети с соревновательным обучением широко используются для предварительного обучения по данным в пространстве большой размерности, когда получить экспертные оценки для обучения с учителем не представляется возможным. Они способны выделить оптимальные признаки в малоразмерном пространстве. Другой путь сжатия входной информации – квантование данных с помощью FFNN типа RBF (Radial Basis Function). Эти сети напоминают ПТ с одним слоем. Они осуществляют нелинейное отображение:

, (4.16)

которое является линейной комбинацией определенных базисных функций (BF). В отличие от ПТ, где эти функции зависимы от проекций на набор разделяющих гиперплоскостей , в сетях RBF используются, как правило, гауссовы функции, зависящие от расстояний до опорных центров:

(4.17)

Так обеспечивается возможность аппроксимации любой непрерывной функции с произвольной точностью.

Если ПТ использует глобальные переменные (наборы бесконечных гиперплоскостей), то RBF-сети опираются на компактные шары, окружающие набор опорных центров. В первом случае в аппроксимации в окрестности любой точки участвуют все нейроны скрытого слоя, во втором – лишь ближние. Отсюда для RBF-сетей количество опорных функций, необходимых для аппроксимации с заданной точностью, возрастает экспоненциально с размерностью пространства. Это является недостатком. Основное преимущество таких НС – простота и большая скорость обучения.

При обучении RFB-сетей относительная автономность базисных функций позволяет разделить обучение на два этапа. Первый этап – обучение первого соревновательного слоя сети для квантования данных. Второй этап – быстрое обучение второго слоя матричными методами: нахождение весов этого слоя представляет собой линейную задачу. Раздельное обучение первого и второго слоев также является достоинством таких сетей.