1.2. Штучні нейронні мережі

Функціонування моделі окремого ШН, реалізує фактично обчислення деякої функції від n змінних каналів ШН, така модель неможе вирішувати складні інтелектуальні задачі, хоча прості задачі класифікації на 2 підмножини може здійснювати.

Для вирішення більш складних інтелектуальних задач було запропоновано розглядати так звані мережі штучних нейронів природно що ШНМ є моделями біологічних нейронних з’єднань.

Очевидно що спосіб сполучень нейронів у ШНМ залежить від вирішуваної задачі при цьому традиційно розглянемо ШНМ у яких нейрони розміщені у так званих прошарках, у прошарку нейрон розміщений ніби паралельно.Схематично прошарок нейронів можна зобразити так

x₁ N₁

x₂ N₂

x_n N_m

Тут x1,x2,…,x_n – це вектор вхідних сигналів

=(x₁,x_2,…,x_n)

_{М атриця W}

W=

Матрицявагових коефіцієнтів усіх вхідних каналів ШН

N₁,N₂…,N_m – це сукупність ШН у прошарку

Out₁out₂out_n – відповідні виходи нейронів.

Кожен із нейронів має свою власну передатну функцію out_j=F_j(E)

j=

У окремих моделях ШНМ передатні функції можуть бути однакові а у інших моделях можуть бути різні.

Подача вектора вхідних сигналів через мережу вхідних каналів, та наступних їх сум в кожному нейроні може бути записана у вигляді векторно-матричного скалярного добутку

Ʃ₁ x₁·w₁₁+x₂·w₂₁+…+x_nw_n1

= Ʃ₂ = x₁·w₁₂+x₂·w₂₂+…+x_nw_n2 = · W= W^T· (3)

Ʃ_n x₁·w_1M+x₂·w_2M+…+x_nw_nM

По аналогії увсі передатні функції можна об’єднати у вектор стовпець функції

= ( ·w) (4)

Окремі прошарки виконують складніші інтелектуальні операції фактично немає місце перетворення сукупності (n) вихідних сигналів у сукупність (М) вихідних сигналів.

Для реалізації ще складніших задач окремі прошарки з’єднуються у цілі багато прошаркові ШНМ, часто такі з’єднання э послідовними

x₁ 1 1 out₁ . . . . . out₁

x₂ 2 2 out₂ . . . . . out₂

x_n M K out_M . . . . . out_M

Тут позначення - це вектор вхідних сигналів. Вхідні сигнали часто об’єднують і називають нульовим прошарком.1-ий прошарок називаються вхідним,виходи 1-ого прошарку подаються на входи 2-ого по порядку прошарку, усі прошарки окрім останнього називають прихованими.

Усі внутрішні прошарки мають свої власні коефіцієнти.Матриця W це матриця ваг другого прошарку.Виходи останнього прошарку формують вихід усієї ШНМ.Функціонування таких ШНМ, передбачає поширення сигналу від нульового прошарку до вихідного прошарку тому такого типу ШНМ називають мережами прямого поширення сигналу.

На кожному прошарку відбувається обробка поточного значення сигналу. Функціонування таких багато прошаркових мереж теж зводиться до векторно парних операцій. Наприклад у двух прошарковому

(5) = ( ·V) = ( ( ·W)·V)=

Якщо передатні функції прошарків ^I і ^IІ є лінійними функція що реалізує моделі то у (5) можна виконати наступні перетворення

= ( ( ·W)·V) (6)

Переозначивши здобуток матриць W·V=U та увівши новий вектор передатних функцій

(·) = ( (·)

Неважко перетворити співвідношення (6) до виду (4)

= ( (7)

MKK

(W) _n · (V) _m = (U) _n

Таким чином у випадку моделі ШНМ із лінійною передатною функціями багатошарова мережа може бути зведена до одношарової мережі в якій результуюча матриця (ВАХ) є здобутком окремих прошарків а результуюча передатна функція є комбінацією передатних функцій окремих прошарків.

Таким чином описана модель багатошарової ШНМ, з між передатними функціями не забезпечує жодного виграшу з одношаровою ШНМ, для реалізації складних інтелектуальних задач доцільно використовувати багатошарові ШНМ з нелінійними передатними функціями.

Окрім розгляду моделі ШНМ прямого поширення сигналу використаємо моделі ШНМ із зворотними (рефлексними зв’язками). У таких мережах сигнал деякого прошарку повернеться на вхід цьогож прошарку або навіть попередніх прошарків.Схематично таку мережу можна зобразити так

x₁ 1 1 out

x₂ 2 2 out₂

x_N M K out₃

Ⓑ

Тут зображено зворотні зв’язкі першого прошарку, та зворотні зв‘язкі останього нейрона останього прошарку на попередній

Очевидно що зворотні зв‘язкі можуть мати усі нейрони прошарку. Мережі зі зворотніми зв‘язками ще називаються рекурентими ШНМ.

Функціонування ШНМ прямого поширення та рекурентних ШНМ відрізняється:

1. У ШНМ прямого поширення сигнал проходить через мережу в 1 напрямку 1 раз

2.У рекурентних ШНМ, сигнал може проходити через мережу з повторенням багато раз до тих пір поки вихідний сигнал нестабілізується.

Навчання ШНМ

Термін ШНМ використовується для вирішення інтелектуальних задач проводяться так звані навчання мережі, в процесі навчання вагові коефіцієнти усіх нейронів кожного прошарку налаштовані певним чином.Розрізнають 2 основні способи навчання мереж які залежать від типу мережі:навчання з учителм,навчання без учителя.

У випадку навчання ШНМ з учителем передбачається так звананавчальна множина що складається із достатньо великої сукупності навчальних карт.

Кожна навчальна карта цеп пара із вхідного вектора та відповідного йому результату

, target

Кожен крок навчання з учителем передбачає корекції ваг нейронів так щоб вихідний сигнал out_i співпадав із станом очікування значення t_i, для відповідного образу x_i

У випадку навчання ШНМ без учителя корекція ваг насправді не проводиться адже у цьому випадку навчальна множина складається з інших карт. При цьому кожна карта це образ що ніби запам’ятований мережею, тоді запам’ятовування кожного нового образу приведи до зміни значення вагових коефіцієнтів. При навчанні без учителя немає сталих значень очікуваних результатів на виході.

Навчання з учителем у більшості випадків відноситься до мереж прямого поширення, а навчання без учителя, до рекурентних мереж зі зворотніми зв’язками.