
Нейронные сети (ИПОВС) / 4 курс - Рычагов М.Н. / Лекции / Lektsiya_2_Logicheskie_neyronno-setevyie_operatsii
.pdf
Модели нейрона. Однослойный перцептрон. Логические НС операции.
Лекция 2
Рычагов М.Н., профессор, д.ф.-м.н.

НС как «чёрный ящик» (англ. «black box»)
n-мерный входной вектор (x1 ,x2 …, xn )
m-мерный выходной вектор (y1 ,y2 …, yn )
© 2019 МИЭТ, Нейронные сети |
2 |
|
2 |

Нейрон как вычислительный элемент
Нейрон МакКэллока и Питтса → бинарные сигналы
Бинарная функция с порогом θ
© 2019 МИЭТ, Нейронные сети |
3 |
|
3 |

Обобщённая модель нейрона
© 2019 МИЭТ, Нейронные сети |
4 |
|
4 |

Обработка сигнала в обобщённой модели нейрона
bpm = Nm−1 wmpnOnm−1 + wmp 0 n=1
где
▪Nm-1 – число нейронов в предыдущем слое;
▪n, p – индексы для разных слоёв НС;
▪wmp 0 – величина внешнего смещения.
omp = f pm (bpm )
© 2019 МИЭТ, Нейронные сети |
5 |
|
5 |

Функция активации перцептрона
m |
m |
|
1 |
|
|
f p |
(bp |
) = |
|
|
Сигмоидная функция |
|
|
|
|
|
|
|
|
|
1 − exp(−bm ) |
||
|
|
|
|
p |
|
− f (x)) |
|
f (x) = f (x)(1 |
Производная |
|
|
|
Сигмоидная функция
© 2019 МИЭТ, Нейронные сети |
6 |
|
6 |

Многослойный перцептрон
Трёхслойный перцептрон 16-4-5
© 2019 МИЭТ, Нейронные сети |
7 |
|
7 |

Фугкциональная модель искусственной НС
НС → Ф(x, y, z) как функция в точке (x, y, z)
f1, f2, f3, f4 – элементарные функции; α1, α2, …, α5 – веса
© 2019 МИЭТ, Нейронные сети |
8 |
|
8 |

Обобщённая модель НС
3 элемента в обобщенной модели НС
▪Структура узлов НС
▪Топология НС
▪Алгоритм обучения НС, позволяющий определить весовые коэффициенты
© 2019 МИЭТ, Нейронные сети |
9 |
|
9 |

Аппроксимация функций (см. Лекция 1)
Основная идея Аппроксимация произвольной функции набором простых функций
Теорема Колмогорова (1942) Теорема аппроксимации многомерной функции 1D нелинейных функций
Каждая непрерывная функция n переменных |
f (x1, x2 ,...., xn ), |
|||
заданная на единичном кубе n-мерного пространства, |
||||
представима в виде |
|
|
|
|
2n+1 |
|
n |
|
|
f (x1, x2 ,...., xn ) = hq |
qp (x p ) |
, |
||
q=1 |
p=1 |
|
||
|
|
|
|
|
где hq ( ) - непрерывна, а qp (x p ) → зависят от выбора функции f.
© 2019 МИЭТ, Нейронные сети |
10 |
|
10 |