- •Лекция 1
- •Системы искусственного интеллекта -
- •Существуют два понятия:
- •Подходы к построению систем искусственного интеллекта
- •Логический подход (логическое моделирование)
- •Примеры записей на основе логики предикатов:
- •Фреймовое представление знаний.
- •Продукционное представление знаний — модель основанная на правилах, позволяет представить знание в виде
- •Языки сентенционного программирования
- •Экспертная система (ЭС) – это программное обеспечение, которое выполняет функции эксперта при решении
- •Семантическая сеть является одной из моделей представления знаний. Основное преимущество этой модели -
- •Концептуальный поиск на основе семантических сетей привнёс элементы искусственного интеллекта в информационно- поисковые
- •Наиболее часто в семантических сетях используются следующие отношения:
- •Структурный подход (структурное моделирование)
- •Потенциальными областями применения искусственных нейронных сетей являются те, где традиционные вычисления трудоемки или
- •Эволюционный подход (эволюционное моделирование)
- •Имитационный подход
- •Лекция 2
- •Рассматриваемые вопросы:
- •Параметры нейрона
- •лица 2. 1.Виды активационных функций F
- •Продолжение таблицы 2.1. Виды активационных функций F
- •Классификация нейронных сетей
- •1.2.2.2 Сети прямого распространения:
- •№2 Классификация по типам структур:
- •Методы обучения НС делятся на
- •Входная
- •Нейронные сети прямого распространения:
- •2.Многослойный перцептрон - один из наиболее
- •Методики обучения нейронных сетей
- •Вывод формул для определения градиентов ошибок на входе выходного нейрона и нейрона j
- •Третий множитель
- •Подставляя в формулу 9 вторую часть формулы 7, получим рекурсивную
- •Для выходного слоя при гиперболической функции активации нейрона:
- •Пошаговое описание алгоритма обратного распространения ошибок
- •Шаг 5. Веса сети корректируются так, чтобы минимизировать ошибку (формула 2). Вычисление приращения
- •Входные элементы с линейной функцией активации передают входной сигнал
- •Вычислим значения приращений весовых коэффициентов по формуле (15), когда момент инерции µ равен
- •Вычислим новые значения весовых коэффициентов по формуле (17)
- •Новые значения весов
- •АЛГОРИТМЫ ОБУЧЕНИЯ НС
- •Парадиг
- •Лекция 3
- •Алгоритм Кохонена формирования карт признаков:
- •Шаг 5. Настройка весов нейрона j* и его соседей:
- •Рис.3.3.Вид основных окон программы Statistica Neurel Networks при моделировании сети Кохонена
- •Нейронная сеть Хопфилда
- •Рекуррентная сеть Хопфилда представлена в виде системы с обратной связью выхода сети с
- •В качестве входных данных сети Хопфилда можно использовать двоичные значения. Здесь мы будем
- •Когда элемент обновляется, его состояние изменяется в соответствии с правилом:
- •Сеть Хопфилда ведет себя как память и процедура сохранения отдельного вектора (образца) представляет
- •Рассмотрим практический пример использования сети
- •Первый элемент обновляется путем умножения образца на первый столбец матрицы весов
- •Проверим устойчивое состояние сети Хопфилда для найденных весов W, но для искаженного образца:
- •Рассмотрим состояние для элемента 4-го:
- •Рассмотрим состояние для элемента 2-го:
- •Определим весовую матрицу сети Хопфилда для двух образцов:
- •Существует зависимость между количеством элементов сети N и количеством образцов, которые она может
- •Запустить программу для моделирования работы сети Хопфилда по распознаванию образов
Семантическая сеть является одной из моделей представления знаний. Основное преимущество этой модели - в соответствии современным представлениям об организации долговременной памяти человека.
Семантические сети объединяют синтаксис, морфологию и семантику языка, они используют полные словари, тезаурусы и другие семантические ресурсы, предоставляя в распоряжение пользователей встроенную базу знаний для ведения интеллектуального поиска информации.
Семантиическая сеть — информационная модель предметной области, получившая своё название от способа представления, имеющего вид ориентированного графа, вершины которого соответствуют объектам предметной области, а дуги (рёбра) задают отношения между ними.
Рис.1.1.Семантическая сеть в виде ориентированного графа
Концептуальный поиск на основе семантических сетей привнёс элементы искусственного интеллекта в информационно- поисковые системы и дал начало построению интеллектуальных поисковых систем.
Рис.1.2. Структурная схема поисковой системы фирмы Эвскалибур
Большой интерес к работе с семантическими сетями проявляют разработчики систем взаимодействия на естественных языках.
Наиболее часто в семантических сетях используются следующие отношения:
•"часть-целое" ("класс-подкласс", "элемент-множество" и т.п.);
•функциональные связи (обычно глаголы "производит",
"влияет"...);
•количественные (больше, меньше, равно...);
•пространственные (далеко от, близко от, за, под, над...);
•временные (раньше, позже, в течение...);
•атрибутивные связи (иметь свойство, иметь значение...);
•логические связи (и, или, не) и др.
Проблема поиска решения в базе знаний типа семантической сети сводится к задаче поиска фрагмента сети, соответствующего некоторой подсети, соответствующей поставленному вопросу.
Разработчики интеллектуальных поисковых систем, использующих семантические сети, увеличивают их интеллектуальные возможности , интегрируя в них экспертные системы, системы поведенческого анализа, нейросетевые технологии, эволюционные методы, основанные на генетических алгоритмах.
Структурный подход (структурное моделирование)
Это построение искусственного интеллекта путем моделирования структуры человеческого мозга
|
X1 |
|
W1 |
W0 |
||
|
|
|
||||
|
|
|
|
Y |
||
|
|
W2 |
|
|||
X2 |
|
Y=F(net) |
|
|
||
|
|
|
|
|
||
|
|
|
|
W3
X3
n
Net=PSP= xi wi w0
i 1
Рис.1.3.Соответствие между биологическим и искусственным нейроном
Потенциальными областями применения искусственных нейронных сетей являются те, где традиционные вычисления трудоемки или физически неадекватны (т.е. не отражают или плохо отражают реальные физические процессы и объекты). Актуальность применения нейронных сетей многократно возрастает тогда, когда появляется необходимость решения
плохо формализованных задач.
Типовые задачи, решаемые с помощью нейронных сетей и
нейрокомпьютеров следующие :
•автоматизация процесса классификации;
•автоматизация прогнозирования;
•автоматизация процесса предсказания;
•автоматизация процесса принятия решений;
•управление;
•кодирование и декодирование информации;
•аппроксимация сложных зависимостей и др.
Эволюционный подход (эволюционное моделирование)
Эволюционное моделирование использует признаки теории Дарвина для построения интеллектуальных систем.
Это построение искусственного интеллекта путем применения эволюционных алгоритмов обучения к начальной модели.
Основной тезис этого подхода - заменить процесс моделирования сложного объекта моделированием его эволюции. Он направлен на применение механизмов естественной эволюции при синтезе сложных систем обработки информации.
Для эволюционного моделирования разработаны различные вычислительные эволюционные алгоритмы, такие как Эволюционное Программирование, Генетические Алгоритмы, Эволюционные Стратегии, Генетическое программирование, а также вычислительные системы, которые могут быть классифицированы как Искусственная Жизнь (Artificial Life). В качестве начальной модели может быть взята как логическая модель, так и нейромодель, а также другие модели.
Имитационный подход
Это построение искусственного интеллекта путем моделирования процессов восприятия, мышления и реакции объекта (человека), как «чёрного ящика» на основе спецификации входных и выходных данных.
При таком подходе не важно, что у него и у модели внутри и как он функционирует, главное, чтобы модель в аналогичных ситуациях вела себя точно так же.
На практике очень четкой границы между этими подходами нет. Очень часто встречаются смешанные системы, где часть работы выполняется по одному типу, а часть по другому.
Лекция 2
Нейросетевые
технологии
структурного
моделирования систем искусственного интеллекта. Многослойный
Рассматриваемые вопросы:
1.Параметры, характеризующие алгоритм работы нейрона.
2.Классификация нейронных сетей.
3.Методы обучения нейронных сетей.
4.Нейронные сети прямого распространения. Перцептрон Розенблата. Многослойный перцептрон.
5.Методики обучения нейронной сети типа многослойный перцептрон.
6.Пошаговое описание алгоритма обратного распространения ошибки.
7.Виды алгоритмов обучения нейронных сетей.
Параметры нейрона
Х1
Х2
ВХОДЫ
Хn
Синапсы
W W 1
2
W
n
n
PSP=
i 1
W0 |
|
|
|
Аксон |
ВЫХОД |
|
Y |
|
PSP |
|
Y=F(PSP)
xi wi w0
Рис.2.1 Нейрон искусственной нейронной сети