2.2.2 Персептрон

Персептронның құрылымы 2.3-суретте көрсетілген.

Персептронның жұмыс жасауы өрнекпен сипаттауға болады

. . (2.3 )

(2.3 ) формуласы кезінде (2.1 ) теңдеуіне апарады. f функциясы дискреттi сатылы бола алады - (қабылдаушы мән яғни - 1 немесе 1) екi полярлық немесе (қабылдаушы мән 0 немесе 1) бiр полюсты. Екi полярлық форманы алу

. . (2.4 )

2.3-сурет. Персептронның құрылымы

Персептрон белсенді функциясына сәйкес тек қана екi әр түрлi шығыс шамасын қабылдай алады, сондықтан ол х ~ [х₁ ..., х_n]^T түрiндегi оның кiрісіне берiлетiн сигналдар жіктеле алады. Мысалы, бiр кірісті персептрон тани алады, кiретiн сигнал оң немесе терiс болып табылады. Персептронның екi кiруі болған жағдайда екi жартылай жазықтыққа бөледi. Мұндай декомпозиция түзу сызықпен беріледі

. . (2.5 )

(2.5 ) теңдеуін мына түрде жазып алуға болады

(2.6 )

Персептрон кiрулерi n болса, кiретiн векторларының бiр қалыпты кеңiстiгiн х екi жарты кеңiстiкке n бөледi. Бұл екi жарты кеңiстiк бір бірінен гипержазықтықпен ажыратылады, шешушi (decision boundary) шекара теңдеумен анықталады

(2.7 )

2.4-суретте п = 2 шешушi шекара көрсетілген. T әрқашан w = [w₁, w₂]^T салмақтарына перпендикуляр. Персептрондарды оқытуға болады. Үйренулер тәсілінде персептронның салмақтары құбылады. Персептронның үйрену әдiсі мұғалiммен үйрену немесе қадағалаумен үйрену деп аталады. Мұғалiмнiң рөлi x(t)=[x₀(f), x₁(t), ..., х_п(t)]^T, t = 1, 2, ..., сигналдарын персептронға беру, d(t), t = 1,2, …, үлгі сигнал деп аталады.

2.4-сурет. n=2 үшін нәтижелік шекара

Мұндай үлгі сигналдарының шамасына сәйкес мәндерiнің жиынтығы үйретушi бағдарлама тiзбегі деп аталады. Қаралатын топтар әдiстердiң қолдануында нейронның жүрiстi сигналының кiріс мәндердiң енгiзуiнен кейiн шығысын есептеуге болады. Салмақ осыдан кейiн үлгі сигналы және персептронның шығу белгiсiнiң аралығындағы қателiк минимал болатындай етiп құбылады. Мұғалiмнiң өзi үлгі мәндерiнің үйрену терминiн ұғындырады. Желiлердiң үйренуiнiң алгоритмдерінің мұғалiмсiз түрі бар болады. Персептронның үйрену алгоритмі осы кездегi келесi қадамдардан тұрады:

1. Персептронның бастапқы салмақтарына кездейсоқ мәндерді беру.

2. Нейрон кiрісіне х = x(t)= [x₀(t), x₁(t), ..., x_n(t)]^T, t = 1,2,… үйретушi бағдарлама векторы беріледі.

3. (2.3 ) формуласы бойынша персептронның шығыс мәнiн есептеу.

4. Шығыс у(t) мәнiн d=d(x(t)) үлгі мәнiмен салыстыру.

5. Салмақты төмендегiше түрлендiру:

а) егер y(x(t)) ≠ d(x(t), онда w_i(t +1) = w_i(t)+d(x(t)) x_i (t);

б) егер y(x(t)) = d(x(t)), онда w_i(t +1) = w_i (t).

6. 2 қадамға өту.

Алгоритмды орындау үйретушi бағдарлама тiзбектiң құрамына кiретiн барлық кiрiс векторларының шығысындағы қателiк төмендегенге дейін жүзеге асады. Персептронның үйрену блок-сызбасы 2.5-суретте көрсетілген. Бұл сызбаның бiр iшкi циклының орындауы үйретушi бағдарлама тiзбегін құратын дәуiрге сәйкес келедi. Сыртқы циклдың орындауы бiр үйретушi бағдарлама тiзбегiнің бiрнеше рет қолдану мүмкiндiгін қамтиды.

Персептронның үйрену алгоритмін андайтынын дәлелдеймiз. Персептронның сәйкестік туралы теорема төмендегiше құрастырады:

Егер w*=[w₁*,...,w_n*]^T болса, х=[x₁,..., х_п]^T векторын жіктесе, у=d(x) көрсетсе, онда үйретушi бағдарлама алгоритмінің итерацияларының санында салмақтарының кез келген бастапқы мән векторларында табады.

Персептрон тек қана осы жағдайда үйретуге болғандығынан, үйретушi бағдарлама iрiктеу сызықты бөлгiш сыныптарды ұсынатынын болжаймыз. Персептронның белсенді функциясы «sgn» ие болғандықтан, w* вектор ұзындығы || w*|| = 1. Сондықтан 2.6-суретте болғандай етiп түрлендiруге жеткiлiктi, α бұрышы 0 тең болады. Бұдан cos (α) = 1. |w* _° х| > 0 және w* шамалары х кез келген мәнінде |w*_° х| > δ және δ > 0 болады. Скалярлық көбейтудiң анықтауларнан шығады

. (2.8)

2.5-сурет. Персептронды үйрету алгоритмінің блок сұлбасы

(2.9)

болғандықтан

(2.10)

Персептронды үйрету алгоритміне сәйкес х кіріс векторы үшін салмағы w'=w+Δw теңдеуіне сәйкес, мұнда

2.6-сурет. n=2 үшін персептронды үйрету алгоритмінің көрсетілуі

Δw = d(х) х.Оның шығысында қате пайда болады. Бұдан

w'°w* = w _° w* +d(x)w*_° х, (2.11)

сондықтан

w' _° w* = w _° w* + sgn(w*_° x)w*_° x.

Келесі шарттар ақиқат:

а) егер *_° х < 0, онда sgn(w*_° x) = -l, сондықтан sgn(w*_° x) w*_°х= -l(w*_° x) >0;

б) егер * _° х > 0,oнда sgn(w* _° x) = 1, сондықтан sgn(w* _° х) w*_°х = l(w* _° х) > 0.

Бұдан

sgn(w* _° х) w* _° х = |w*_° х|. (2.13)

(2.12) және (2.13) теңдеулерге сәйкес:

w' _° w* = w _° w* + |w*_° х|. (2.14)

|w*_° х| > δ болғандықтан

w' _° w* > w _° w* + δ. (2.15)

Кіріске х векторын бергенде желі шығысында пайда болады, осылай ||w'||² шамасын бағалайық

d(x)=-sgn(w_° x). (2.16)

яғни,

||w'||² =||w + d(x)x||² ||w|| + 2d(x) w_° x +||x||² . (2.17)

(2.16) и (2.17) тәуелділіктерін пайдалана отырып, кіріс сигналының шектеулілігін аламыз

||w'||² < ||w||² + ||x||² = ||w||² + C. (2.18)

T модификация қадамынан кейін (2.15) және (2.18) тәуелділігіне сәйкес желі салмағы

w(t) _° w* > w_° w* + tδ; (2.19)

||w(t)||² < ||w||² + tC. (2.20)

(2.10), (2.19) және (2.20) формулаларын пайдалана отырып

(2.21)

Сондықтан t = t_max үшін cos(α) = 1. Демек, бастапқы салмақтар векторынан кейiн у = d(x) орындайтын салмақтардың түрлендiруiнiң қадамдарының түпкi саны бар болады. Егер бастапқы салмақтар мәні 0 тең болса, онда

t_max =С/δ². (2.22)

2.1-мысал

Персептронның үйренуiн қарап шығамыз. Оның функциясын талқылау арқылы бiз нейронның екi кiрiстi үлгiсi жазықтықты екi жартылай жазықтыққа бөлетінін анықтадық. Сәйкесiнше персептронның сызықты болуын табуы керек. Бiздiң сынау үшiн L 2.7-суретте көрсетілгендей үлгілі сызығын аламыз. Сызық үстінде жатқан барлық нүктелер 1класқа, ал астында жатқандары 2сыныпқа жатады. Персептрон шығысында сигнал 1 түзу керек. Үйрету тізбегі 2.1-кестеде көрсетілген.

Персептронның салмағының бастапқы шамасы келесідей: w₁ = 2, w₂ = 2, θ = -4.Осы параметрлерге негізделе отырып, К түзуін сызамыз. Үйрету алгоритмінің 10 тапсырмасын орындағаннан кейін персептрон сигналдарды жіктей бастады. М түзуі L түзуімен сәйкес келмейді.

2.7-сурет. 2.1 мысалы үшін шешуші шекара

2.1-кесте