- •Основі положення теорії нейронних мереж
- •1 Біологічний нейрон
- •Контрольні питання
- •2. Структура і властивості штучного нейрона
- •Контрольні питання
- •3. Властивості нейронних мереж
- •Контрольні питання
- •4. Топологія нейронних мереж
- •Контрольні питання
- •5. Навчання нейронних мереж
- •При цьому:
- •Контрольні питання
- •Використання нейромереж
- •Контрольні питання
- •Персептрони
- •Контрольні питання
- •8. Нейронні мережі зустрічного розповсюдження
- •Контрольні питання
- •9. Нейронні мережі Хопфілда і Хеммінга
- •Контрольні питання
- •10. Мережа з радіальними базисними елементами (rbf)
- •Контрольні питання
- •11. Ймовірнісна нейронна мережа (pnn)
- •Контрольні питання
- •12. Узагальнено-регресійна (grnn) та лінійна нм
- •Контрольні питання
- •13. Ефективність функціонування нейронних мереж
- •Контрольні питання
- •Література
Контрольні питання
Поясніть принцип роботи GRNN.
Поясніть принцип роботи лінійної роботи НМ.
Переваги і недоліки GRNN і лінійної НМ.
13. Ефективність функціонування нейронних мереж
Ефективність функціонування нейронних мереж встановлюється теоремою про повноту. У 1989 р. Funahashi показав, що нескінченно велика нейронна мережа з єдиним прихованим шаром здатна апроксимувати будь-яку безперервну функцію, сформулювавши дане твердження у формі наступної теореми.
Теорема.
Нехай
ф(x) -
непостійна,
обмежена і монотонно зростаюча безперервна
функція. Нехай, далі,
–
обмежена
множиною і
– речова
безперервна функція, визначена на U.
Тоді
для довільного
>0
існує
ціле L
і
константи Wi,
Wij
такі,
що апроксимація:
(13.1)
задовольняє нерівності:
(13.2)
Іншими словами, будь-яке безперервне відображення може бути апроксимоване в значенні однорідної топології нейронною мережею з активаційними функціями ф(x) для нейронів прихованого шару і лінійними активаційними функціями для нейронів вихідного шару. На рисунку 13.1 представлена НМ Funahashi для апроксимації скалярної функції векторного аргумента.
Відзначимо, що приведена теорема про повноту є далеко не єдиною з відомих.
Дослідниками доведено, що основними недоліками апарату нейронних мереж являються:
відсутність строгої теорії щодо вибору структури НМ;
п
рактична
неможливість отримання набутих знань
із навченої НМ (нейронна мережа практично
завжди – «річ в собі», чорний ящик для
дослідника).
Рис. 13.1. Нейронна мережа Funahashi
Контрольні питання
Сформулюйте теорему про повноту Funahashi.
Наведіть архітектуру НМ Funahashi.
Наведіть узагальнені недоліки нейронних мереж.
Література
Корчемний М.О. Нейронні мережі / М.О. Корчемний, В.П. Лисенко, М.В. Чапний. – К.: НАУ, 2008. – 156 с.
Рутковская Д. Нейронные сети, генетические алгоритмы и нечеткие системы: Пер с польск / Д. Рутковская, М. Пилиньский, Л. Рутковский – М.: Горячая линия - Телеком, 2004. – 452 с.
Круглов В.В. Искусственные нейронные сети. Теория и практика - М.: Горячая линия – Телеком, 2002. – 382 с.
Рідкокаша А.А. Основи систем штучного інтелекту. Навчальний посібник / А.А. Рідко каша, К.К. Голдер. – Черкаси: "ВІДЛУННЯ-ПЛЮС", 2002. – 240 с.
Рассел С. Искусственный интеллект: современный подход, 2-е изд.: Пер с англ / С. Рассел, П. Норвиг. – М.: Вильямс, 2006. – 1408 с.
Люгер Дж.Ф. Искусственный интеллект: стратегии и методы решения сложных проблем / Пер. с англ. – М.: Вильямс, 2005. – 864 с.
Советов Е. Я. Моделирование систем. Учебн. для вузов.- М: Высшая школа, 1985. – 271 с.
