
- •Історія нейронних мереж.
- •Аналогія штучних нейронних мереж з мозком людини.
- •Біологічний нейрон.
- •Базовий штучний нейрон.
- •Модель штучного нейрона як «елемента обробки».
- •Штучні нейронні мережі та задачі, які вони виконують.
- •Навчання штучної нейронної мережі. Контрольоване навчання.
- •Контрольоване навчання
- •Навчання штучної нейронної мережі. Неконтрольоване навчання.
- •Неконтрольоване навчання
- •Оцінка ефективності та правила навчання нейромережі. Правила Хеба та Хопфілда Оцінки навчання
- •Правила навчання
- •Правила навчання нейромережі. Правило «дельта», градієнтного спуску та навчання методом змагання.
- •Обґрунтованість застосування нейронних мереж. Проблеми розв’язуванні в контексті нейромоделювання.
- •Машина фон Неймана у порівнянні з біологічною нейронною системою.
- •Розширена модель штучного нейрону.
- •Компоненти штучного нейрону. Вагові коефіцієнти та функція суматора. Компоненти штучного нейрона
- •Компоненти штучного нейрону. Передатна функція. Компоненти штучного нейрона
- •Компоненти штучного нейрону. Масштабування та вихідна функція. Компоненти штучного нейрона
- •Компоненти штучного нейрону. Функція похибки та поширюваного назад значення, функція навчання. Компоненти штучного нейрона
- •Перцептрон Розенбалата. Перцептрон Розенбалата
- •Алгоритм навчання одношарового перцептрону. Алгоритм навчання одношарового перцептрона
- •Особливості перцептрону, недоліка та переваги. Модифікації перцептрону.
- •Нейромережа зворотного поширення похибки(Back Propagation)
- •Правила до вибору архітектури мережі зворотного поширення похибки (Back Propagation).
- •Алгоритм навчання мережі зворотного поширення похибки (Back Propagation). Алгоритм навчання мережі
- •Нейромережа Delta bar Delta. Недоліки та переваги
- •Нейромережа Extended Delta bar Delta.
- •Мережа скерованого випадкового пошуку (Directed Random Search).Основні компоненти, переваги та недоліки.
- •Нейромережа вищого порядку або функціонально - пов’язана нейронна мережа. Нейронна мережа вищого порядку або функціонально-пов'язана нейронна мережа
- •Мережа Кохонена. Недоліки, переваги та модифікації мережі. Мережа Кохонена
- •Алгоритм функціонування мережі Кохонена. Алгоритм функціонування мережі Кохонена:
- •Мережа квантування навчального вектора (Learning Vector Quantization).Недоліки та переваги. Квантування навчального вектора (Learning vectorquantization)
- •Мережа зустрічного поширення (сounterрropagation). Мережа зустрічного поширення (counterрropagation)
- •Навчання та функціонування мережі зустрічного поширення (сounterрropagation). Навчання мережі
- •Функціонування мережі
- •Імовірнісна нейронна мережа. Імовірнісна нейронна мережа
- •Мережа Хопфілда. Мережа Хопфілда
- •Алгоритм функціонування мережі Хопфілда. Алгоритм функціонування мережі
- •Машина Больцмана (Boltzmann mashine). Машина Больцмана
- •Алгоритм функціонування мережі Больцмана. Алгоритм функціонування мережі
- •Мережа Хемінга. Мережа Хемінга
- •Алгоритм функціонування мережі Хемінга. Алгоритм функціонування мережі Хемінга
- •Мережа двоскерованої асоціативної пам’яті. Недоліки, переваги та модифікації Двоскерована асоціативна пам'ять
- •Мережа адаптивної резонансної теорії. Мережа адаптивної резонансної теорії
- •Алгоритм функціонування мережі адаптивної резонансної теорії. Алгоритм функціонування мережі
- •Базові концепції моделі "Функціонал на множині табличних функцій" (фтф).
- •Навчання та функціонування моделі "Функціонал на множині табличних функцій" (фтф).
- •Алгоритм для режиму навчання моделі "Функціонал на множині табличних функцій"(фтф).
- •Алгоритм для режиму функціонування моделі "Функціонал на множині табличних функцій" (фтф).
- •Особливості формування передатних функцій в моделі "Функціонал на множині табличних функцій" (фтф).
- •Представлення задач. Логічні моделі
- •Представлення задач. Мережеві моделі
- •Представлення задач. Продукційні моделі
- •Представлення задач. Сценарії
- •Методи вирішення задач. Рішення задач методом пошуку в просторі станів.
- •Методи вирішення задач. Рішення задач методом редукції.
- •Методи вирішення задач. Рішення задач дедуктивного вибору.
- •Методи вирішення задач. Рішення задач, що використовують немонотонні логіки, імовірнісні логіки.
- •Класифікація рівнів розуміння виконавчих систем.
- •Данные и знания. Основные определения.
- •Особливості знань. Перехід від бази даних до бази знань. Особенности знаний. Переход от Базы Данных к Базе Знаний.
- •Неформальні (семантичні) моделі представлення знань. Модели представления знаний. Неформальные (семантические) модели.
- •Формальні моделі представлення знань. Формальные модели представления знаний.
- •Комплексна схема нечіткого планування задач.
- •Особливості планування цілеспрямованих дій.
- •Оцінки складності завдання планування.
- •Призначення експертних систем.
- •Структура експертних систем.
- •Етапи розробки експертних систем.
- •Представлення знань в експертних системах.
- •Методи пошуку рішень в експертних системах.
- •Підготовчий етап роботи зі знанням.
- •Основний етап роботи зі знанням.
- •Системи придбання знань від експертів.
- •Передумови виникнення систем розуміння природної мови. Предпосылки возникновения систем понимания естественного языка
- •Понимание в диалоге
- •Приклади системи обробки природної мови. Примеры системы обработки естественного языка
- •Методи озвучування мови. Методы озвучивания речи
- •Система розпізнавання мовлення. Акустична модель
- •Система розпізнавання мовлення. Лінгвістична модель.
- •Класифікація систем розпізнавання мовлення. Классификация систем распознавания речи
- •Розпізнавання символів. Шаблонні системи. Распознавание символов
- •Розпізнавання символів. Структурні системи.
- •Розпізнавання символів. Ознакові системи.
- •Розпізнавання рукописних текстів. Распознавание рукописных текстов
- •Архітектура експертної системи реального часу. Архитектура экспертной системы реального времени
- •Системи управління з нечіткою логікою.
- •Лінгвістичні змінні та їх використання в системах з нечіткою логікою.
- •Операції над нечіткими множинами.
- •Основна структура і принцип роботи системи нечіткої логіки.
- •Блок фаззіфікації в системі з нечіткою логікою.
- •База правил нечіткої логіки.
- •Блок виводу в системи з нечіткою логікою.
- •Блок дефаззіфікації в системи з нечіткою логікою.
- •Нейрочіпи та їх класифікація.
Штучний інтелект
Історія нейронних мереж.
Аналогія штучних нейронних мереж з мозком людини.
Біологічний нейрон.
Базовий штучний нейрон.
Модель штучного нейрона як «елемента обробки».
Штучні нейронні мережі та задачі, які вони виконують.
Навчання штучної нейронної мережі. Контрольоване навчання.
Навчання штучної нейронної мережі. Неконтрольоване навчання.
Оцінка ефективності та правила навчання нейромережі. Правила Хеба та Хопфілда
Правила навчання нейромережі. Правило «дельта», градієнтного спуску та навчання методом змагання.
Обґрунтованість застосування нейронних мереж. Проблеми розв’язуванні в контексті нейромоделювання.
Машина фон Неймана у порівнянні з біологічною нейронною системою.
Розширена модель штучного нейрону.
Компоненти штучного нейрону. Вагові коефіцієнти та функція суматора.
Компоненти штучного нейрону. Передатна функція.
Компоненти штучного нейрону. Масштабування та вихідна функція.
Компоненти штучного нейрону. Функція похибки та поширюваного назад значення, функція навчання.
Перцептрон Розенбалата.
Алгоритм навчання одношарового перцептрону.
Особливості перцептрону, недоліка та переваги. Модифікації перцептрону.
Нейромережа зворотного поширення похибки(Back Propagation)
Правила до вибору архітектури мережі зворотного поширення похибки (Back Propagation).
Алгоритм навчання мережі зворотного поширення похибки (Back Propagation).
Нейромережа Delta bar Delta. Недоліки та переваги
Нейромережа Extended Delta bar Delta.
Мережа скерованого випадкового пошуку (Directed Random Search).Основні компоненти, переваги та недоліки.
Нейромережа вищого порядку або функціонально - пов’язана нейронна мережа.
Мережа Кохонена. Недоліки, переваги та модифікації мережі.
Алгоритм функціонування мережі Кохонена.
Мережа квантування навчального вектора (Learning Vector Quantization).Недоліки та переваги.
Мережа зустрічного поширення (сounterрropagation).
Навчання та функціонування мережі зустрічного поширення (сounterрropagation).
Імовірнісна нейронна мережа.
Мережа Хопфілда.
Алгоритм функціонування мережі Хопфілда.
Машина Больцмана (Boltzmann mashine).
Алгоритм функціонування мережі Больцмана.
Мережа Хемінга.
Алгоритм функціонування мережі Хемінга.
Мережа двоскерованої асоціативної пам’яті. Недоліки, переваги та модифікації
Мережа адаптивної резонансної теорії.
Алгоритм функціонування мережі адаптивної резонансної теорії.
Базові концепції моделі "Функціонал на множині табличних функцій" (ФТФ).
Навчання та функціонування моделі "Функціонал на множині табличних функцій" (ФТФ).
Алгоритм для режиму навчання моделі "Функціонал на множині табличних функцій"(ФТФ).
Алгоритм для режиму функціонування моделі "Функціонал на множині табличних функцій" (ФТФ).
Особливості формування передатних функцій в моделі "Функціонал на множині табличних функцій" (ФТФ).
Представлення задач. Логічні моделі
Представлення задач. Мережеві моделі
Представлення задач. Продукційні моделі
Представлення задач. Сценарії
Методи вирішення задач. Рішення задач методом пошуку в просторі станів.
Методи вирішення задач. Рішення задач методом редукції.
Методи вирішення задач. Рішення задач дедуктивного вибору.
Методи вирішення задач. Рішення задач, що використовують немонотонні логіки, імовірнісні логіки.
Класифікація рівнів розуміння виконавчих систем.
Особливості знань. Перехід від бази даних до бази знань.
Неформальні (семантичні) моделі представлення знань.
Формальні моделі представлення знань.
Комплексна схема нечіткого планування задач.
Особливості планування цілеспрямованих дій.
Оцінки складності завдання планування.
Призначення експертних систем.
Структура експертних систем.
Етапи розробки експертних систем.
Представлення знань в експертних системах.
Методи пошуку рішень в експертних системах.
Підготовчий етап роботи зі знанням.
Основний етап роботи зі знанням.
Системи придбання знань від експертів.
Передумови виникнення систем розуміння природної мови.
Приклади системи обробки природної мови.
Методи озвучування мови.
Система розпізнавання мовлення. Акустична модель
Система розпізнавання мовлення. Лінгвістична модель.
Класифікація систем розпізнавання мовлення.
Розпізнавання символів. Шаблонні системи.
Розпізнавання символів. Структурні системи.
Розпізнавання символів. Ознакові системи.
Розпізнавання рукописних текстів.
Архітектура експертної системи реального часу.
Системи управління з нечіткою логікою.
Лінгвістичні змінні та їх використання в системах з нечіткою логікою.
Операції над нечіткими множинами.
Основна структура і принцип роботи системи нечіткої логіки.
Блок фаззіфікації в системі з нечіткою логікою.
База правил нечіткої логіки.
Блок виводу в системи з нечіткою логікою.
Блок дефаззіфікації в системи з нечіткою логікою.
Нейрочіпи та їх класифікація.
Історія нейронних мереж.
Вивченню людського мозку - тисячі років. З появою сучасної електроніки, почались спроби апаратного відтворення процесу мислення. Перший крок був зроблений у 1943 р. З виходом статті нейрофізіолога Уоррена Маккалоха (Warren mcculloch) і математика Уолтера Піттса (Walter Pitts) про роботу штучних нейронів і представлення моделі нейронної мережі на електричних схемах.
В 1949 р. Опублікована книга Дональда Хебба (Donald Hebb) "Організація поведінки". В ній досліджена проблематика налаштування синаптичних зв'язків.
В 1950-х рр. З'являються програмні моделі штучних нейромереж. Перші роботи провів Натаніел Рочестер (Nathanial Rochester) з дослідної лабораторії IBM. І хоча пізніші реалізації були успішними, його модель зазнала невдачі, оскільки бурхливий зріст традиційних обчислень залишив у затінку нейронні дослідження.
В 1956 р. Дартмутський дослідний проект з штучного інтелекту забезпечив підйом штучного інтелекту, зокрема нейронних мереж. Стимулювання досліджень штучного інтелекту розгалузилось в двох напрямках: промислові застосування систем штучного інтелекту (експертні системи) та моделювання мозку.
В 1958 р. Джон фон Нейман (John fon Neumann) запропонував імітацію простих функцій нейронів з використанням телеграфної передачі або вакуумних трубок.
В 1959 р. Бернард Відров (Bernard Widrow) та Марсіан Хофф (Marcian Hoff) розробили моделі ADALINE та MADALINE (Множинні Адаптивні Лінійні Елементи (Multiple adaptive linear Elements)). MADALINE діяла, як адаптивний фільтр, що усував відлуння на телефонних лініях. Ця нейромережа досі в комерційному використанні.
Нейробіолог Френк Розенблатт (Frank Rosenblatt) почав роботу над перцептроном. Одношаровий перцептрон був збудований апаратно і вважається класичною нейромережею. На той час перцептрон використовувався у класифікації множини вхідних сигналів у один з двох класів. На жаль, одношаровий перцептрон був обмеженим і зазнав критиці у 1969 р., у книзі Марвіна Мінскі (Marvin Minsky) та Сеймура Пейперта (Seymour Papert) "Перцептрони".
Ранні успіхи, були підставою того, що люди перебільшили потенціал нейронних мереж, зокрема в світлі обмеженої на ті часи електроніки. Надмірне сподівання, яке квітнуло у академічному та технічному світах, заразило загальну літературу цього часу. Побоювання у тому, як ефект "мислячої машини" відіб'ється на людині весь час підігрівався письменниками, зокрема серія книг Азімова про роботів показала наслідки на моральних цінностях людини, у випадку спроможності інтелектуальних роботів виконувати функції людини.
Ці побоювання, об'єднані з невиконаними обіцянками викликали множину розчарувань фахівців, які критикували дослідження нейронних мереж. Результатом було припинення більшості фінансування. Цей період спаду продовжувався до 80-х років.
У 1982 р. Відновлення інтересу спричинило декілька подій. Джон Хопфілд (John Hopfield) представив статтю до національної Академії Наук США. Підхід Хопфілда створював докорінно нові підходи до моделювання.
У той самий час у Кіото (Японія) відбулась Об'єднана американо-японська конференція по нейронних мережах, які оголосили досягненням п'ятої генерації. Американські періодичні видання підняли цю історію, акцентуючи, що США можуть залишитись позаду, що привело до зросту фінансування в галузі нейромереж.
З 1985 р. Американський Інститут Фізики розпочав щорічні зустрічі - "Нейронні мережі для обчислень".
В 1989 р. На зустрічі "Нейронні мережі для оборони" Бернард Відров повідомив аудиторії про початок четвертої світової війни, де полем бою є світові ринки та виробництва.
У 1990 р. Департамент програм інноваційних досліджень захисту малого бізнесу назвав 16 основних та 13 додаткових тем, де потрібне та можливе використання нейронних мереж.
Сьогодні, обговорення нейронних мереж відбуваються скрізь. Перспектива їх використання видається досить яскравою, в світлі вирішення нетрадиційних проблем і є ключем до цілої технології. На даний час більшість розробок нейронних мереж принципово працюючі, але можуть існувати процесорні обмеження. Дослідження скеровані на програмні та апаратні реалізації нейромереж. Компанії працюють над створенням трьох типів нейрочіпів: цифрових, аналогових та оптичних, що обіцяють бути хвилею близького майбутнього.