2 Домашнє завдання

Використовуючи конспект лекцій і рекомендовану літературу, вивчити модель БНМ і алгоритми її навчання.

Використовуючи документацію рекомендованого викладачем програмного засобу, вивчити його архітектуру і компоненти, призначені для моделювання і навчання БНМ, вводу і виводу даних, підготовки звітів (виводу і відображення результатів роботи).

Ознайомитися зі складом і порядком виконання роботи.

3 Порядок виконання роботи

3.1 Одержати у викладача варіанти завдань для моделювання багатошарового персептрона. Вхідними даними є: число шарів і число нейронів у кожнім шарі; вид функції активації нейронів; кількість входів і виходів персептрона; набір пар значень входів x_i і бажаних виходів y_i персептрона; максимально припустима помилка навчання; крок навчання.

3.2 Використовуючи запропонований викладачем програмний засіб, здійснити навчання і моделювання багатошарового персептрона для відповідних варіанту даних.

3.3 Кілька разів змінити вид функції активації нейрона і виконати п.3.2

3.4 Кілька разів змінити алгоритм навчання і виконати п.3.2-3.3.

3.5 Результати моделювання занести в таблицю, стовпці якої повинні мати назви: алгоритм навчання, вид функції активації нейронів, помилка навчання, помилка розпізнавання, час навчання, час класифікації персептрона.

3.6. Проаналізувати отримані результати і зробити висновки про те, як впливають вид функції активації і вид коригувального правила ваг (алгоритм навчання) на час навчання і класифікації (оцінювання), а також величину помилки навчання / класифікації багатошарового персептрона.

4 ЗМІСТ ЗВІТУ

4.1 Сформульована мета роботи.

4.2 Короткі теоретичні відомості, відповіді на контрольні питання та опис моделі багатошарового персептрона.

4.3 Схема та опис узагальненого градієнтного алгоритму.

4.4 Вхідні дані та результати моделювання.

4.5 Аналіз отриманих результатів і висновки. Лаконічні відповіді на контрольні питання.

Контрольні питання

1. Дайте визначення понять: формальний нейрон, вага, функція активації, персептрон, бажаний і реальний вихід персептрона, навчання і робота персептрона, класифікація, апроксимація, помилка навчання / класифікації, цільова функція навчання.

2. Чи впливає вид функції активації на час навчання і класифікації персептрона, величину помилки навчання і, якщо так, то як?

3. Які функції активації найчастіше використовують і чому?

4. Які задачі можна вирішувати на основі багатошарових персептронов, а які не можна? Обґрунтуйте і доведіть відповідь. Приведіть приклади.

5. Чи можна навчити дискретний багатошаровий персептрон обчислювати значення функцій: 1) y = x₁ and x₂, 2) y = x₁ xor x₂, 3) y = not ((not x₁) and x₂), а дійсний багатошаровий персептрон – обчислювати значення функцій: 1) y = 3x₁ – 0.05x₂, 2) y = sin(x₁) + 0.3x₂, 3) y = 0.5x₁ + 2x₂ - 2.5(x₁ – x₂) + 5.5, 4) y = x₁ / (sin(π) * x₂)?

6. Чи може дійсний багатошаровий персептрон моделювати функцію y = x₁² + 0.5x₁ + x₂, якщо число його шарів дорівнює: а) 1, б) 2, в) 3? Відповіді обґрунтуйте і, якщо можливо, поясніть малюнками.

7. Опишіть суть узагальненого градієнтного алгоритму.

8. Які методи навчання БНМ Вам відомі? Дайте порівняльну характеристику відомих Вам методів навчання БНМ.

9. Чи завжди збігається метод Коші (алгоритм зворотного поширення помилки) для багатошарового персептрона?

10. Який з методів зворотного поширення помилки Ви рекомендували б для застосування, якщо критерієм оптимальності навчання НМ є: а) швидкість навчання, б) простота обчислень, в) універсальність?

11. Чи можливо використання неградієнтних методів багатовимірної безумовної оптимізації для настроювання ваг БНМ, і, якщо можливо, то наскільки це доцільно робити?

12. Чи впливає обсяг навчальної вибірки на швидкість навчання БНМ? Чи впливає кількість використовуваних ознак на швидкість навчання одношарового персептрона?

13. Що таке репрезентативна вибірка даних?

14. Чи повинна навчальна вибірка бути репрезентативною?

15. Чи повинна тестова вибірка бути репрезентативною?

16. Чи впливає репрезентативність навчальної вибірки на точність класифікації екземплярів тестової вибірки?

17. Чи впливає репрезентативність тестової вибірки на точність класифікації екземплярів тестової вибірки?

18. Чи впливає репрезентативність тестової вибірки на точність навчання персептрона по навчальній вибірці?

Лабораторна робота № 5