- •Нейронные вычислительные сети
- •предмет
- •нейрона
- •Биологический прототип: нейронные
- •Нейроны мозга
- •Биологический нейрон
- •Типы нейронов
- •мозга
- •Типы синапсов
- •возбуждения
- •Биологический нейрон
- •Биологические нейронные сети
- •Мозг
- •Нейронная сеть
- •Нейровычислительная архитектура
- •Нейронные сети
- •сети
- •сеть
- •Применение нейронных сетей
- •Области применения
- •Пример применения:
- •Пример применения:
- •Решаемые задачи
- •Задачи, решаемые с помощью ИНС
- •Преимущества нейронных
- •Преимущества нейронных
- •Структура и свойства искусственного
- •Основные понятия
- •Нейронный элемент
- •нейрона
- •Модель кибернетического
- •Формальный нейрон
- •Структура и свойства
- •Входной сигнал
- •Виды функций активации
- •Виды функций активации
- •функций
- •Синтез нейронных сетей
- •архитектур НС:
- •нейронные сети
- •Многослойные искусственные
- •Многослойная нейронная сеть с
- •Обобщенная структура многослойной сигмоидальной НС
- •Схема реализации основных
- •2 этапа:
- •Выбор количества нейронов и слоев
- •Обучение сети
- •Обучение сети
- •Обучение нейронной
- •ошибки”
- •Рекомендуемая литература
Пример применения:
прогнозирование цен на нефть
Временной ряд имеет значительную хаотическую составляющую, что не позволяет выделить характерные частоты
21
Пример применения:
результаты
прогнозирования
Построен прогноз на 30 дней вперед по 90 предыдущим
Максимальная ошибка прогноза - менее 5 %.
22
Решаемые задачи
•Задачи, успешно решаемые НС на данном этапе их развития:
формирование моделей и различных нелинейных и трудно описываемых математически систем, прогнозирование развития этих систем во времени:
системы управления и регулирования с предсказанием; управление роботами, другими сложными устройствами
разнообразные конечные автоматы: системы массового обслуживания и коммутации, телекоммуникационные системы;
распознавание зрительных, слуховых образов;
ассоциативный поиск информации и создание ассоциативных моделей; синтез речи; формирование естественного языка;
принятие решений и диагностика в областях, где отсутствуют четкие математические модели: в медицине, криминалистике,
финансовой сфере; |
23 |
Задачи, решаемые с помощью ИНС
24
Преимущества нейронных
сетей
•Предлагают стандартные способы решения многих нестандартных задач.
•Явное описание модели заменяется созданием «образовательной среды».
•Приводят к успеху там, где отказывают традиционные методы и трудно создать явный алгоритм:
–анализ данных со сложной нелинейной структурой зависимостей;
–задачи распознавания и классификации;
–нелинейное понижение размерности.
25
Преимущества нейронных
•Кроме этого, применение НС обеспечиваетсетейследующие полезные свойства:
•1. Способность к обобщению. Под термином обобщение понимается способность НС устанавливать концентрацию вредных веществ на основе данных, не встречающихся в процессе обучения.
•2. Нелинейность. НС, построенная из соединений нелинейных нейронов, является нелинейной. Нелинейность является чрезвычайно важным свойством, поскольку входной сигнал, подаваемый в НС, в случае определения количественного состава вещества, представляет собой спектр поглощения ИК излучения веществом и является нелинейным.
•3. Отображение входной информации в выходную. Наиболее часто используется для обучения НС парадигма обучения с учителем. Настройка синаптических весов сети происходит на основе набора учебных примеров. Каждый пример состоит из параметров входного сигнала и соответствующего ему желаемого отклика. Из этого множества случайным образом выбирается пример, а НС модифицирует синаптические веса для минимизации расхождений желаемого выходного сигнала и формируемого сетью согласно выбранному статистическому критерию. Обучение проводится до тех пор, пока изменения синаптических весов не станут незначительными.
•4. Адаптивность. Нейронные сети обладают способностью адаптировать свои синаптические веса к изменениям входных сигналов. В частности, нейронные сети, обученные действовать с определенными сигналами, могут быть легко переучены для работы в условиях незначительных колебаний параметров.
•5. Эксплуатация обученной нейронной сети не требует дополнительной подготовки пользователей и их высокой квалификации.
•Кроме этого, нейросетевой метод моделирования не требует априорного задания вида исследуемой зависимости. 26
Структура и свойства искусственного
нейрона
•Нейрон состоит из элементов трех типов: умножителей
(синапсов), сумматора и нелинейного преобразователя.
Синапсы осуществляют связь между нейронами, умножают
входной сигнал на число, характеризующее силу связи, (вес
синапса). Сумматор выполняет сложение сигналов, поступающих
по синаптическим связям от других нейронов, и внешних входных сигналов. Нелинейный преобразователь реализует
нелинейную функцию одного аргумента - выхода сумматора. Эта
функция называется функцией активации или передаточной функцией нейрона.
27
Основные понятия
Рисунок 1. Математическая модель нейрона
X –Входы, группа синапсов |
Рисунок 2. Функция активации |
|
W-Вес синаптической связи |
||
|
||
S -Текущее состояние нейрона, |
|
|
определяется взвешенная сумма его входов |
|
|
Y-Выход нейрона, определяется функцией |
|
|
активации F(S) |
|
28
Нейронный элемент
n
S wi xi
i 1
29
нейрона
модель нейрона с тремя входами (дендритами)\
Синапсы дендритов имеют веса w1, w2, w3.
К синапсам поступают импульсы силы x1, x2, x3
После прохождения синапсов и дендритов к нейрону поступают импульсы
:
w1x1,
w2x2,
w3x3.
Нейрон преобразует полученный суммарный импульс x=w1x1+ w2x2+ w3x3 в соответствии с некоторой передаточной функцией f(x)
Сила выходного импульса равна y=f(x)=f(w1x1+ w2x2+ w3x3).
Нейрон полностью описывается своими весами wk и передаточной |
|
функцией f(x). |
|
Получив набор чисел (вектор) xk в качестве входов, нейрон выдает |
30 |
некоторое число y на выходе. |