Добавил:
okley
Опубликованный материал нарушает ваши авторские права? Сообщите нам.
Вуз:
Предмет:
Файл:ML - Коротков (2 сем, мага) / Lecture_5
.pdf
Как вы помните, чтобы отклик слоя на входной сигнал как
можно лучше имитировал аналогичный реальный процесс,
мы должны применить к узлам функцию активации.
O
скрытый
О
скрытый
= сигмоида (Х
= сигмоида
скрытый
1,16
0,42
0,62
)
О
скрытый
=
0,761
0,603
0,650
Для уверенности давайте проверим, правильно ли вычислен
y =
1
1 + e
−x
выход
вход
сигмоида
1/2
первый элемент. Наша сигмоида имеет вид
. Полагая x=1,16, e
-1,16
= 0,3135.
Это означает, что y = 1/(1 +0,3135) = 0,761
Нетрудно заметить, что все возможные значения этой
функции находятся в пределах от 0 до 1. Взгляните на
график логистической функции, если хотите убедиться в том,
что это действительно так.
порог
Мы рассчитали прохождение сигнала через промежуточный
23212
3
слой
слой
слой
слой, т.е. определили значения сигналов на его выходе. Для
полной ясности уточним, что эти значения были получены
путем применения функции активации к комбинированным
входным сигналам промежуточного слоя. Обновим диаграмму
в соответствии с этой новой информацией.
0,9
0,1
0,8
входы
1
1,16
0,42
0,62
0,761
выходы
0,603
0,650
Как рассчитать прохождение сигнала для третьего слоя? Точно
так же, как и для второго, поскольку эта задача на самом деле
ничем не отличается от предыдущей. Нам известна величина
входных сигналов, получаемых третьим слоем, как ранее была
известна величина входных сигналов, получаемых вторым слоем.
У нас также есть весовые коэффициенты для связей между
узлами, ослабляющие сигналы. Наконец, чтобы отклик сети
максимально правдоподобно имитировал естественный процесс,
мы по-прежнему можем применить функцию активации. Поэтому
вам стоит запомнить следующее: независимо от количества
слоев в нейронной сети, вычислительная процедура для каждого
из них одинакова — комбинирование входных сигналов,
сглаживание сигналов для каждой связи между узлами с
помощью весовых коэффициентов и получение выходного
сигнала с помощью функции активации. Нам безразлично,
сколько слоев образуют нейронную сеть — 3, 53 или 103, ведь к
любому из них применяется один и тот же подход.
Продолжим вычисления и рассчитаем сглаженный
комбинированный входной сигнал X = W·I для третьего слоя.
Итак, продолжим вычисления и рассчитаем сглаженный
комбинированный входной сигнал X=W·I для третьего слоя.
Входными сигналами для третьего слоя служат уже
рассчитанные нами выходные сигналы второго слоя O
скрытый
.
При этом мы должны использовать весовые коэффициенты для
связей между узлами второго и третьего слоев W
скрытый_выходной
, а
не те, которые мы уже использовали для первого и второго
слоев.
X
выходной
= W
скрытый_выходной
• O
скрытый
Вычислить выходной
сигнал выходного слоя
О
скрытый
X
выходной
= входной сигнал выходного слоя
X
выходной =
0,3
0,6
0,8
X
выходной =
0,7
0,5
0,1
0,5
0,2
0,9
0,975
0,888
1,254
0,761
0,603
0,650
Обновленная диаграмма отражает наш прогресс в расчете
преобразования начальных сигналов, поступающих на узлы
первого слоя, в сглаженные комбинированные сигналы,
поступающие на узлы последнего слоя, в процессе их
распространения по нейронной сети
23212
3
слой
слой
слой
1,16
0,761
0,9
0,1
0,8
входы
1
0,42
0,62
0,975
выходы
0,603
0,888
0,650
1,254
Все, что нам остается, — это применить сигмоиду
0,975
О
выходной
О
= сигмоида
выходной
=
0,726
0,728
0,778
0,888
1,254
Отобразим текущую ситуацию на обновленной диаграмме
23212
3
слой
слой
слой
1,16
0,761
0,9
0,1
0,8
входы
1
0,42
0,62
0,726
0,975
выходы
0,603
0,708
0,888
0,650
0,778
1,254
Таким образом, в нашем примере нейронной сети с тремя
слоями выходные сигналы имеют следующую величину:
0,726, 0,708 и 0,778
Соседние файлы в папке ML - Коротков (2 сем, мага)