- •Нейрокомпьютерная техника: Теория и практика
- •Предисловие
- •Благодарности
- •Введение почему именно искусственные нейронные сети?
- •Свойства искусственных нейронных сетей
- •Обучение
- •Обобщение
- •Абстрагирование
- •Исторический аспект
- •Применимость
- •Искусственные нейронные сети сегодня
- •Перспективы на будущее
- •Искусственные нейронные сети и экспертные системы
- •Соображения надежности
- •Литература
- •Глава 1. Основы искусственных нейронных сетей
- •Биологический прототип
- •Искусственный нейрон
- •Активационные функции
- •Однослойные искусственные нейронные сети
- •Многослойные искусственные нейронные сети
- •Нелинейная активационная функция
- •Сети с обратными связями
- •Терминология, обозначения и схематическое изображение искусственных нейронных сетей
- •Терминология
- •Дифференциальные уравнения или разностные уравнения
- •Графическое представление
- •Обучение искусственных нейронных сетей
- •Цель обучения
- •Обучение с учителем
- •Обучение без учителя
- •Алгоритмы обучения
- •Литература
- •Глава 2. Персептроны персептроны и зарождение искусственных нейронных сетей
- •Персептронная представляемость
- •Проблема функции исключающее или
- •Линейная разделимость
- •Преодоление ограничения линейной разделимости
- •Эффективность запоминания
- •Обучение персептрона
- •Алгоритм обучения персептрона
- •Дельта-правило
- •Трудности с алгоритмом обучения персептрона
- •Литература
- •Глава 3. Процедура обратного распространения введение в процедуру обратного распространения
- •Обучающий алгоритм обратного распространения Сетевые конфигурации
- •Многослойная сеть.
- •Обзор обучения
- •Дальнейшие алгоритмические разработки
- •Применения
- •Предостережение
- •Паралич сети
- •Локальные минимумы
- •Размер шага
- •Временная неустойчивость
- •Литература
- •Глава 4. Сети встречного распространения введение в сети встречного распространения
- •Структура сети
- •Нормальное функционирование Слои Кохоненна
- •Слой Гроссберга
- •Обучение слоя кохонена
- •Предварительная обработка входных векторов
- •Выбор начальных значений весовых векторов
- •Режим интерполяции
- •Статистические свойства обученной сети
- •Обучение слоя гроссберга
- •Сеть встречного распространения полностью
- •Приложение: сжатие данных
- •Обсуждение
- •Литература
- •Глава 5. Стохастические методы
- •Использование обучения
- •Больцмановское обучение
- •Обучение Коши
- •Метод искусственной теплоемкости
- •Приложения к общим нелинейным задачам оптимизации
- •Обратное распространение и обучение коши
- •Трудности, связанные с обратным распространением
- •Трудности с алгоритмом обучения Коши
- •Комбинирование обратного распространения с обучением Коши
- •Обсуждение
- •Литература
- •Глава 6. Сети Хопфилда
- •Конфигурации сетей с обратными связями
- •Бинарные системы
- •Устойчивость
- •Ассоциативная память
- •Непрерывные системы
- •Сети Хопфилда и машина Больцмана
- •Термодинамические системы
- •Статистичекие сети Хопфилда
- •Обобщенные сети
- •Приложения Аналого-цифровой преобразователь
- •Задача коммивояжера
- •Обсуждение Локальные минимумы
- •Скорость
- •Функция энергии
- •Емкость сети
- •Глава 7. Двунаправленная ассоциативная память
- •Литература
- •Структура дап
- •Восстановление запомненных ассоциаций
- •Кодирование ассоциаций
- •Емкость памяти
- •Непрерывная дап
- •Адаптивная дап
- •Конкурирующая дап
- •Заключение
- •Литература
- •Глава 8. Адаптивная резонансная теория
- •Архитектура apt
- •Описание apt
- •Упрощенная архитектура apt
- •Функционирование сети apt в процессе классификации
- •Реализация apt Обзор
- •Функционирование сетей apt
- •Пример обучения сети apt
- •Характеристики apt
- •Инициализация весовых векторов т
- •Настройка весовых векторов Вj
- •Инициализация весов bij
- •Теоремы apt
- •Заключение
- •Литература
- •Глава 9. Оптические нейронные сети
- •Векторно-матричные умножители
- •Электронно-оптические матричные умножители
- •Сети Хопфилда на базе электронно-оптических матричных умножителей
- •Голографические корреляторы
- •Объемные голограммы
- •Оптическая сеть Хопфилда, использующая объемные голограммы
- •Заключение
- •Литература
- •Глава 10. Когнитрон и неокогнитрон
- •Когнитрон
- •Структура
- •Обучение
- •Неокогнитрон
- •Структура
- •Обобщение
- •Вычисления
- •Обучение
- •Заключение
- •Литература
- •Приложение а. Биологические нейронные сети человеческий мозг: биологическая модель для искусственных нейронных сетей
- •Организация человеческого мозга
- •Мембрана клетки
- •Компьютеры и человеческий мозг
- •Приложение б. Алгоритмы обучения
- •Обучение с учителем и без учителя
- •Метод обучения хэбба
- •Алгоритм обучения Хэбба
- •Метод сигнального обучения Хэбба
- •Метод дифференциального обучения Хэбба
- •Входные и выходные звезды
- •Обучение входной звезды
- •Обучение выходной звезды
- •Обучение персептрона
- •Метод обучения уидроу-хоффа
- •Методы статистического обучения
- •Самоорганизация
- •Литература
Ф. Уоссермен
Нейрокомпьютерная техника: Теория и практика
В книге американского автора в общедоступной форме излагаются основы построения нейрокомпьютеров. Описаны структура нейронных сетей и различные алгоритмы их настройки. Отдельные главы посвящены вопросам реализации нейронных сетей.
Для специалистов в области вычислительной техники, а также студентов соответствующих специальностей вузов.
Перевод на русский язык, Ю. А. Зуев, В. А. Точенов, 1992.
ОГЛАВЛЕНИЕ
Предисловие 4
БЛАГОДАРНОСТИ 4
Введение 5
ПОЧЕМУ ИМЕННО ИСКУССТВЕННЫЕ НЕЙРОННЫЕ СЕТИ? 5
СВОЙСТВА ИСКУССТВЕННЫХ НЕЙРОННЫХ СЕТЕЙ 5
ИСТОРИЧЕСКИЙ АСПЕКТ 7
ИСКУССТВЕННЫЕ НЕЙРОННЫЕ СЕТИ СЕГОДНЯ 10
ПЕРСПЕКТИВЫ НА БУДУЩЕЕ 11
ВЫВОДЫ 12
Глава 1. Основы искусственных нейронных сетей 14
БИОЛОГИЧЕСКИЙ ПРОТОТИП 14
ИСКУССТВЕННЫЙ НЕЙРОН 16
ОДНОСЛОЙНЫЕ ИСКУССТВЕННЫЕ НЕЙРОННЫЕ СЕТИ 19
МНОГОСЛОЙНЫЕ ИСКУССТВЕННЫЕ НЕЙРОННЫЕ СЕТИ 20
ТЕРМИНОЛОГИЯ, ОБОЗНАЧЕНИЯ И СХЕМАТИЧЕСКОЕ ИЗОБРАЖЕНИЕ ИСКУССТВЕННЫХ НЕЙРОННЫХ СЕТЕЙ 22
ПРОЛОГ 25
Глава 2. Персептроны 26
ПЕРСЕПТРОНЫ И ЗАРОЖДЕНИЕ ИСКУССТВЕННЫХ НЕЙРОННЫХ СЕТЕЙ 26
ПЕРСЕПТРОННАЯ ПРЕДСТАВЛЯЕМОСТЬ 28
ОБУЧЕНИЕ ПЕРСЕПТРОНА 36
АЛГОРИТМ ОБУЧЕНИЯ ПЕРСЕПТРОНА 37
Глава 3. Процедура обратного распространения 41
ВВЕДЕНИЕ В ПРОЦЕДУРУ ОБРАТНОГО РАСПРОСТРАНЕНИЯ 41
ОБУЧАЮЩИЙ АЛГОРИТМ ОБРАТНОГО РАСПРОСТРАНЕНИЯ 42
Обзор обучения 44
ДАЛЬНЕЙШИЕ АЛГОРИТМИЧЕСКИЕ РАЗРАБОТКИ 51
ПРИМЕНЕНИЯ 52
ПРЕДОСТЕРЕЖЕНИЕ 52
Глава 4. Сети встречного распространения 55
ВВЕДЕНИЕ В СЕТИ ВСТРЕЧНОГО РАСПРОСТРАНЕНИЯ 55
СТРУКТУРА СЕТИ 55
НОРМАЛЬНОЕ ФУНКЦИОНИРОВАНИЕ 56
ОБУЧЕНИЕ СЛОЯ КОХОНЕНА 58
ОБУЧЕНИЕ СЛОЯ ГРОССБЕРГА 64
СЕТЬ ВСТРЕЧНОГО РАСПРОСТРАНЕНИЯ ПОЛНОСТЬЮ 64
ПРИЛОЖЕНИЕ: СЖАТИЕ ДАННЫХ 66
ОБСУЖДЕНИЕ 67
Глава 5. Стохастические методы 68
ИСПОЛЬЗОВАНИЕ ОБУЧЕНИЯ 68
ПРИЛОЖЕНИЯ К ОБЩИМ НЕЛИНЕЙНЫМ ЗАДАЧАМ ОПТИМИЗАЦИИ 75
ОБРАТНОЕ РАСПРОСТРАНЕНИЕ И ОБУЧЕНИЕ КОШИ 76
Глава 6. Сети Хопфилда 81
КОНФИГУРАЦИИ СЕТЕЙ С ОБРАТНЫМИ СВЯЗЯМИ 82
ПРИЛОЖЕНИЯ 90
ОБСУЖДЕНИЕ 95
ВЫВОДЫ 97
Глава 7. Двунаправленная ассоциативная память 98
СТРУКТУРА ДАП 99
ВОССТАНОВЛЕНИЕ ЗАПОМНЕННЫХ АССОЦИАЦИЙ 100
КОДИРОВАНИЕ АССОЦИАЦИЙ 102
ЕМКОСТЬ ПАМЯТИ 102
НЕПРЕРЫВНАЯ ДАП 102
АДАПТИВНАЯ ДАП 102
КОНКУРИРУЮЩАЯ ДАП 102
ЗАКЛЮЧЕНИЕ 102
Глава 8. Адаптивная резонансная теория 102
АРХИТЕКТУРА APT 102
РЕАЛИЗАЦИЯ APT 102
ПРИМЕР ОБУЧЕНИЯ СЕТИ APT 102
ХАРАКТЕРИСТИКИ APT 102
ЗАКЛЮЧЕНИЕ 102
Глава 9. Оптические нейронные сети 102
ВЕКТОРНО-МАТРИЧНЫЕ УМНОЖИТЕЛИ 102
ГОЛОГРАФИЧЕСКИЕ КОРРЕЛЯТОРЫ 102
ЗАКЛЮЧЕНИЕ 102
Глава 10. Когнитрон и неокогнитрон 102
КОГНИТРОН 102
НЕОКОГНИТРОН 102
ЗАКЛЮЧЕНИЕ 102
Приложение А. Биологические нейронные сети 102
ЧЕЛОВЕЧЕСКИЙ МОЗГ: БИОЛОГИЧЕСКАЯ МОДЕЛЬ ДЛЯ ИСКУССТВЕННЫХ НЕЙРОННЫХ СЕТЕЙ 102
ОРГАНИЗАЦИЯ ЧЕЛОВЕЧЕСКОГО МОЗГА 102
КОМПЬЮТЕРЫ И ЧЕЛОВЕЧЕСКИЙ МОЗГ 102
Приложение Б. Алгоритмы обучения 102
ОБУЧЕНИЕ С УЧИТЕЛЕМ И БЕЗ УЧИТЕЛЯ 102
МЕТОД ОБУЧЕНИЯ ХЭББА 102
ВХОДНЫЕ И ВЫХОДНЫЕ ЗВЕЗДЫ 102
ОБУЧЕНИЕ ПЕРСЕПТРОНА 102
МЕТОД ОБУЧЕНИЯ УИДРОУ-ХОФФА 102
МЕТОДЫ СТАТИСТИЧЕСКОГО ОБУЧЕНИЯ 102
САМООРГАНИЗАЦИЯ 102