Содержание

Содержание 7

Введение 10

Глава 1. Введение в искусственные нейронные сети 12

1.1. Проблемы, решаемые в контексте ИНС 13

1.2. Краткий исторический обзор 14

1.3. Модель технического нейрона 14

1.4. Архитектура нейронной сети 16

1.5. Обучение нейронных сетей 18

1.6. Многослойные сети прямого распространения 22

1.6.1. Многослойный персептрон 22

1.6.2. RBF-сети 23

1.6.3. Нерешенные проблемы 23

1.7. Самоорганизующиеся карты Кохонена 24

1.8. Модели теории адаптивного резонанса 24

1.9. Сеть Хопфилда 25

1.9.1 Ассоциативная память 26

1.9.2. Минимизация энергии 26

Глава 2. Основные функциональные возможности программ моделирования нейронных сетей 27

2.1. Формирование (создание) нейронной сети. 27

2.2. Обучение нейронной сети 28

2.3. Имитация функционирования (тестирование) обученной нейронной сети 30

Глава 3. Персептроны 31

3.1. Однослойный персептрон 31

3.2. Многослойный персептрон 34

3.2.1. Архитектура сети 34

3.2.2. Алгоритм обратного распространения 35

3.2.3. Модификации алгоритма обратного распространения и RPROP-алгоритма 40

3.3. Применение многослойных персептронов 42

3.3.1. Решение конкретных задач 42

3.3.2. Естественные координаты 43

3.3.3. Репликативные нейронные сети 44

3.3.4. Практическое использование репликативных нейронных сетей 46

Глава 4. Сети Кохонена 48

4.1. Основной принцип работы сети Кохонена 48

4.2. Сходимость алгоритма самообучения 52

Глава 5. Сети радиальных базисных функций 55

5.1. Архитектура сетей 55

5.2. Интерполяция при помощи центральных функций 58

5.3. Интерполяция с помощью центральных функций и полиномов 61

5.4. Аппроксимация с помощью центральных функций 63

5.5. Вариационное исчисление для решения проблемы аппроксимации с помощью RBF-сетей 65

5.6. Расширение на случай многих функций 66

5.7. Расширение линейной частью 66

5.8. Сети гипер-базисных функций (Hyper-Basisfunktionen-Netze = HBF-Netze) 67

5.9. Итеративное дополнительное обучение RBF- и HBF-сетей 68

5.10. Выбор центров и радиусов в RBF-сетях 69

5.10.1. Итеративный алгоритм кластеризации 69

5.10.2. Выбор параметра  70

5.10.3. Расчет выходной весовой матрицы C 71

Глава 6. Нейронные сети и генетические алгоритмы 73

6.1. Эволюция как способ оптимизации. 73

6.2 Генетические алгоритмы 75

6.3. Нейро-генетические способы 80

Глава 7. Система моделирования нейронных сетей Trajan 2.0 82

7.1. Создание сети и обучающей последовательности 83

7.1.1. Создание сети 83

7.1.2. Количество и размерность слоев в сети 85

7.1.3. Создание обучающей последовательности 86

7.1.4. Редактирование набора образцов 87

7.2. Обучение сети 89

7.2.1. Типы сетей 89

7.2.2. Создание обучающей и проверочной последовательностей образов 91

7.2.3. Создание сокращенной обучающей последовательности 92

7.2.4. Визуализация процесса обучения 92

7.2.5. Оптимизация процесса обучения 94

7.2.6. Обучение с перекрестной проверкой 96

7.3. Работа с сетью 97

7.3.1. Возможности сети по работе с образцами 97

7.3.2. Интерпретация классификации 99

7.3.3. Работа с сетью Кохонена. 102

7.4. Генетический алгоритм выбора входных атрибутов 104

7.5. Сохранение результатов работы 105

Глава 8. Экспериментальное исследование эффективности применения нейронных сетей 107

Глава 9. Методика представления, архивирования и обработки обучающей последовательности для алгоритмов обучения нейросетей 128

Глава 10. Возможности использования среды WWW для дистанционного обучения 131

Глава 11. Создание программ для среды WWW 133

Глава 12. Технико-экономический анализ и обоснование разработки адаптивного обучающего и контролирующего курсов по нейросетям 142