2. Определение инс и их классификация

Нейронные сети являются предметом исследования целого ряда дисциплин, каждое из которых дает свое определение. Приведем определения по нескольким научным направлениям.

Математическая логика / теория автоматов: ИНС – это системы, в которых алгоритм решения задачи представлен логической сетью элементов частного вида (нейронов) с полным отказом от булевских элементов типа И, ИЛИ, НЕ. Нейроны объединяются специфическими взаимосвязями, носящими характер весовых коэффициентов.

Теория управления: В качестве модели объекта управления или непосредственно регулятора выбирается нейронная сеть, а динамический процесс ее настройки представляет собой процесс синтеза системы управления.

В общем случае ИНС может рассматриваться как направленный граф со взвешенными связями, в котором узлами являются элементарные процессорные элементы – искусственные нейроны. По архитектуре связей ИНС могут быть разделены на два основных класса (рис. 1): сети прямого действия, в которых графы не имеют петель, и рекуррентные сети или сети с обратными связями.

Наиболее распространенным семейством сетей прямого действия являются многослойные персептроны, в них нейроны расположены слоями и соединены однонаправленными связями, идущими от входа к выходу сети. Сети прямого действия являются статическими в том смысле, что на заданный вход они вырабатывают одну совокупность выходных значений, не зависящих от предыдущего состояния сети. Рекуррентные сети являются динамическими, так как в силу обратных связей в них модифицируются входы нейронов, что приводит к изменению состояния сети.

Нейронные сети

прямого действия

Искусственные нейронные сети (НС)

Однослойные перцептроны

Многослойные перцептроны

Сети

РБФ

Соревновательные сети

Сети Кохонена

Сети Хопфилда

Модели АРТ

Рис.1. Основные классы искусственных нейронных сетей

Работа №1

Определение свойств формального нейрона

Цель работы – изучение поведения выходного сигнала нейрона при использовании различных функций активации.

Продолжительность работы 4 часа.

Теоретическая часть

Под нейронными сетями подразумеваются вычислительные структуры, которые моделируют простые биологические процессы, обычно ассоциируемые с процессами человеческого мозга. Нейрон (нервная клетка) является особой биологической клеткой, которая обрабатывает информацию.

Нейронная сеть – динамическая система, состоящая из совокупности связанных между собой по типу узлов направленного графа элементарных процессоров, называемых формальными нейронами, и способная генерировать выходную информацию в ответ на входное воздействие.

Формальным нейроном называется элементарный процессор, используемый в узлах нейронных сетей. Нейрон состоит из элементов трех типов:

-умножителя (синапсы);

-сумматора;

-нелинейного преобразователя.

Синапсы осуществляют связь между нейронами, умножая входной сигнал на число, характеризующее силу связи.

Сумматор выполняет сложение сигналов, поступающих по синаптическим связям от других нейронов и внешних входных сигналов.

Нелинейный преобразователь реализует нелинейную функцию одного аргумента – выхода сумматора. Эта функция называется функцией активации нейрона.

Математическая модель формального нейрона может быть представлена в соответствии со следующей структурой схемой нейрона (рис.1).

Рис.1. Структура искусственного нейрона

где X_i (I = 1…n) – компонент входного вектора (входной сигнал);

n – число входов нейрона;

W_i (i = 1…n) – весовые коэффициенты нейрона, настраиваемые в процессе обучения;

b – нейронное смещение, вводимое для инициализации сети; подключается к неизменяемому входу b = +1 (является начальным состоянием нейрона);

S – сумматор (определяет результат суммирования);

f – нелинейное преобразователь (функция активации);

Y- выходной сигнал нейрона.

Модель формального нейрона имеет вид:

Y = f(S), где S = ∑ W_i * X_i + b, тогда Y = f(∑ W_i * X_i + b)

В общем случае входной сигнал, весовые коэффициенты и смещения могут принимать вещественные значения. Выход Y определяется видом функции активации и может быть как действительным, так и целым.

Таким образом, нейрон полностью описывается своими весами W_i и передаточной функцией f(S). Получив набор чисел (вектор) X_i в качестве входов, нейрон выдает некоторое число Y на выходе.