Виды функций активации нейронов

Функция активации может быть: линейной, с насыщением, релейной (пороговой), релейная с зоной нечувствительности, квадратичной, сигмоидальной. Параметры функций активации могут быть фиксированными и настраиваемые.

Экспериментальная часть

1. Применяя операторы языка MATLAB, построить графики следующих функций активации в диапазоне значений входа от -5 до +5.

1.1 пороговая смещенная функция (единичная функция активации с жестким ограничением hardlim). Эта функция описывается соотношением a = hardlim(n) = 1(n).

Далее строим график этой функции и устанавливаем область выходных значений:

n = -5:0.1:5;

plot(n,hardlim(n), ‘c+:’).

1.2 линейная функция активации purelin. Эта функция описывается соотношением a = purelin(n) = n.

Далее строим график этой функции и устанавливаем область выходных значений:

plot(n,purelin(n), ‘c+:’).

1.3 сигмоидальная (логистическая) функция активации logsig. Эта функция описывается соотношением a = logsig(n) = 1/(1 + exp(-n)).

Далее строим график этой функции и устанавливаем область выходных значений:

plot(n,logsig(n), ‘c+:’).

1.4 гиперболический тангенс (сигмоидальная) tansig(n). Эта функция описывается соотношением a = tansig(n) = exp(n) – exp(-n) / exp(n) + exp(-n).

Далее строим график этой функции и устанавливаем область выходных значений:

plot(n,tansig(n), ‘c+:’).

2. В режиме командной строки MATLAB получить выходные значения нейрона по заданному входному вектору для следующих примеров и объяснить полученные результаты.

2.1. >>X = [0.9 -0.6;0.1 0.4;0.2 -0.5;0 0.5];

>>hardlim(X)

ans=

1 0

1 1

1 0

1 1

2.2. >> X = [0.1; 0.8; -0.7];

>> Y = logsig(X)

Y =

0.5250

0.6900

0.3318

2.3. >> logsig (X)

ans=

0.5250

0.6900

0.3318

2.4. >> dY_dX = dlogsig(X,Y) – производная сигмоидальной функции

dY_dX=

0,2494

0,2139

0,2217

Варианты заданий

№п/п	Диапазоны значений (для 1-го задания)	Шаг	Входной вектор значений (для 2-го задания)	Приложение 1.1
1	-10 0	0,2	для 2.1: 0.8 -0.2;0 0.1;0.1 0.4;0.2 -0.5	Задача 1
2	-8 2	0,3	для 2.2: 0.3; 0.8; -0.5	Задача 2
3	-6 4	0,4	для 2.1: 0.2 0.4;0.9 -0.4;0.1 0.5;0.2 0.5	Задача 1
4	-4 6	0,1	для 2.2: 0.2; -0.4; -0.7	Задача 2
5	-2 8	0,2	для 2.1: -0.6 0.7;0.1 -0.4;0.2 0.4;0 -0.4	Задача 1
6	0 10	0,3	для 2.2: -0.5; 0.7; -0.3	Задача 2
7	2 12	0,4	для 2.1: -0.1 -0.7;0.7 -0.1;0.4 -0.4;0 0.4	Задача 1
8	4 14	0,1	для 2.2: -0.1; -0.6; -0.7	Задача 2
9	6 16	0,2	для 2.1: -0.4 0.2;-0.4 0;0.1 0.2;0.6 -0.6	Задача 1
10	8 18	0,3	для 2.2 0.1; -0.7; 0.7	Задача 2

Отчёт по работе должен содержать:

1. Привести вариант задания;

2. Распечатать графики и объяснить область выходных значений (см. Экспериментальную часть 1);

3. Получить выходные значения нейрона (см. Экспериментальную часть 2);

4. Выводы по работе.