5.2 Нахождение ошибки в сети с сигмоидом
Дана сеть, реализующая операцию XOR (исключающее или):
Известные данные: I1=1, I2=0, w1=0.45, w2=0.78 ,w3=-0.12 ,w4=0.13 ,w5=1.5 ,w6=-2.3.
Необходимо найти ошибку методом MSE, используя сигмоиду как функцию активации.
Решение:
H1(вход) = I1*w1 + I2*w3 = 1*0.45 + 0*(-0.12) = 0.45
H1(выход) = sigmoid(0.45) = 1/(1+e^-0.45) = 0.61
H2(вход) = I1*w2 + I2*w4 = 1*0.78 + 0*0.13 = 0.78
H2(выход) = sigmoid(0.78) = 1/(1+e^-0.78) = 0.69
O1(вход) = 0.61*w5 + 0.69*w6 = 0.61*1.5 + 0.69*(-2.3) = -0.672
O1(выход) = sigmoid(-0.672) = 1/(1+e^-(-0.672)) = 0.34
Так как сеть предназначена для нахождения оператора XOR, то идеальный выход будет:
O1(идеальное) = 1xor0 = 1
Ошибка = ((1 - 0.34)^2)/1 = 0.44 = 44%
Ответ: результат работы сети = 0.34, ошибка = 44%.
6. Вывод
Нейросети - одно из крупнейших направлений в изучении и разработке искусственного интеллекта. Помимо этого, понимание работы подобных алгоритмов помогает нам лучше понять работу нашего собственного мозга.
Также нейросети являются одним из мощнейших инструментов обработки данных, с неограниченным потенциалом развития, так как с разработкой новых технологий и алгоритмов появляются новые, более мощные типы нейронных сетей.
7. Список литературы
1) Электронный ресурс "Википедия", URL: " https://ru.wikipedia.org/wiki/Искусственная_нейронная_сеть";
2) Электронный ресурс "Википедия", URL: " https://ru.wikipedia.org/wiki/Рекуррентная_нейронная_сеть";
3) Электронный ресурс "Википедия", URL: " https://ru.wikipedia.org/wiki/Нейронная_сеть_Элмана";
4) Электронный ресурс "Википедия", URL: " https://ru.wikipedia.org/wiki/Нейронная_сеть_Джордана";
5) Электронный ресурс MQL5, статья "Третье поколение нейросетей: Глубокие сети", URL: "https://www.mql5.com/ru/articles/1103";
6) Электронный ресурс Habrahabr, статья "Нейросети для чайников", части 1-2, URL: "https://habrahabr.ru/post/198268/"; "https://habrahabr.ru/post/144881/";
7) Электронный ресурс Habrahabr, статья " Алгоритм обучения многослойной нейронной сети методом обратного распространения ошибки (Backpropagation)", URL: "https://habrahabr.ru/post/198268/".
8) Электронный ресурс Habrahabr, статья "Нейронные сети для начинающих, часть 1", URL: " https://habrahabr.ru/post/312450/"