NKTZI_2010_rus_modul2
.pdf93
@ 5 LVQ1 & &
$ % = 5 $ Bc6>((k). @ )
Bc6>((k) . D H (4.24)
wc (k +1)= wc (k )+ S(k )'c (k )[x(k ) wc (k )] |
(4.25) |
|||||
) |
|
|
|
|
|
|
S(k ) = |
+ 1, |
% |
w x # |
|
% ; |
|
|
|
|
|
|
|
|
|
1, |
% |
w x # |
& |
% ; |
|
, $ (k) 5 -
H , 5 & & )
# wc(k), % %
wc (k +1) = [1 S(k )'c (k )]wc (k )+ S(k )'c (k )x(k )=
= [1 S(k )'c (k 1)][1 S(k )'c (k )]wc (k 1)+ (4.26) + S(k )'c (k )[1 S(k )'c (k 1) ]x(k 1)+ S(k )'c (k )x(k ).
3$& % = 5 $ B(k), B(k-1), … #
& % % & %-
wc. (4.26) , $ wc(k+1) (k) -
B (k), (k-1) - B (k-1) . . -
& % w $% &,
k " + $ % w
%. M = # %
'c (k )= [1 S(k )'c (k )]'c (k 1). |
(4.27) |
K % % % % -
& % % % =
k, %5 # - %, $ k " + , & % w %-. (4.27) :
'c (k )= |
|
|
'c |
(k 1) |
. |
(4.28) |
|
1 |
+'c (k 1)S(k ) |
||||||
|
|
|
|||||
(k) 5 # ), $ % & % S(5)=-1, $ = ) % = 5
# & H 5&.
@ &$ %$ $) $ & (0) = 0,3.
94
K % % % & & &, ( - % $ $ ) ,
, % %- LVQ.
4.3 ," ! 0' . ! " ! " ! ' ' )
N $ , $H "," ! 0' ! "-! " ! ' ' " (Counterpropagation), )
$ $& : D - ' ' \! ""/ !. . < & 5 & , )
% &. ( $ % :
–$ ( -
) H %);
–# % % & &, % $&-
);
–% (( ; ))
$ $ % & , % &
, );
–$ V % % 5-
& , # # H ) -
# & %.
H % ) $ -
$ % 5 %5, , %
# % % 5.
4.3.1 !- : 4! " ," ! 0' . ! " ! " ! ' ' )
$) % %-
. 4.14, # , % & &, -
( (`), &,
; ) (G).
95
y1 y2 yM
G 1 
GM
K1 
KK
x |
|
x |
|
|
|
1 |
xN |
||||
|
2 |
||||
% 4.14 – L %
$)
3 & ) & wij c
`. ( # & ( % # & G -
vij.
.
3 & ) &, , -
& `, % # ) % & &$
H
|
|
|
z j = wij xi , |
j = 1,k. |
(4.29) |
i=1
3 ` 5, / 40 ," (winner takes all), . . # % , % )
$ zj (4.29) H. & = ) -
$& ), & & - &. F - $ % % % & zj -
( $& % %- ) 5-). K % ,
|
96 |
|
|
1, |
z j=max (zc ); |
|
|
|
|
|
|
y,j = |
|
(4.30) |
|
0 |
$ . |
||
|
F %$% 5 = - -
V ( ) `.
3 H & vjg (j=1,K; g=1,M) & & ) & -
` & G
z,g = y,j v jg , |
g = |
|
|
(4.31) |
1, M . |
||||
i K |
|
|
|
|
K % % % ) & & -
%5 % 5, & (&
G) ) &
yg = z,g , |
g = |
|
|
(4.32) |
1,M . |
||||
I % % % % `, 1- , & -$& ), & , (4.31)
yi = yi,vij = vij . |
(4.33) |
K % , & j-) G )-
, & vij, . . & # = j-
& % & `.
4.3.2 /40 ' " ) D-' '
( . 4.1. D # & - % % 5 =
$) .
` % 5 ( ) % & %-
&, $) ) # & & & %, $& #
& ) & % % & & ) .
G = ) # & & & )-
. ( %5 ` V $ . F 5 $ ), % %
% & ) & &$& $ (5 &) = & 5&
W.
97
4.3.2.1 !6 ! , ' ,-,
F % & ) &$ %$ -
5,
|
|
|
xi |
|
|
|
|
|
& |
|
|
,i = 1, . |
(4.34) |
||||
|
|
|
|
|||||
xi = |
+ x2 |
+K+ x2 |
||||||
|
|
x 2 |
|
|
|
|
||
1 |
2 |
|
|
|
|
|
||
4.3.2.2 D !! :( ) , " ,%- : ; ( ' ,
3 5 $ ( )
H (4.29) -
(4.30). @, $ 5 %
wi $ zj (4.29), % & , - # # = %. N % $
zj, - , , $
wij = ) H >-
). F = & % = 5 & -
- % %
wij (k +1)= wij (k )+ ' (k )(xi (k ) wij (k )), |
(4.35) |
$ ) %
% ( . . 4.14).
E % $ , $ % wj(k) -
) ) & ( -
% %$ % wj(k+1)<1, = %$ $ , % % % x wj # & % )
)). ( = 5 u & $ % 0,7
H 5 $ . F $ % ) )
% (, % % )% , $ u =1 $
, % % % wj(k+1)=x(k). @ &$ # # - $ % # ) % %, #
= % % % & &. E - $ , $ % # & #
% # ) % ( . & ). F ) -
& $ u, H &
& %.
98
4.3.2.3 ' ($( ) ; 6 ' , , " , 1 6 ! (%
@ &$ $& $ % ` & $& . ( ), , % % %
$ # & -
& & %. F $ -
# % %$ , $ % # %-
5 $ .
@ % % $ % ) %-
& &. , )
% # %, $
) % . 3 % & = ) & % % # & , $ % )
% , % % % & -
). < ) # %, % & # & #, -
$ , $& $ > & ( = ) .4.1).
3& $& $ V . F & %, #-
& %, % & %, # & & %-
& $& & `, . . & %
= # & H. G # % # &
& % & % %, $ #
& % # (.
F = $ # & $ - & % & %.
% % &.
1. D 6/ ' ( ''%1 6.
3 $ N1/2, ) - $
) ( $ % ) %). F = $ $&. D-
xi &$
& |
1 |
|
|
|
|
|
|
|
(1 |
' ), |
(4.36) |
||
xi = 'xi + |
|
|
||||
|
|
|
|
|
|
|
) 0<u<1.
F$ & $ u H,
$ 5 $ 1. • ) = $
99
& % & $ &
%. F $ u & %-
$ . 3 & %-
&, $ , & %. E
$ = %, % 5 )
.
2. , ' A46 , ,-'% , : !%.
F $& % 5 & %, -
% 5 % 5 %. @ % =
V &, $ &.
3. * !, ' 0 ' $6 ' ' , " , ,"- ' 1! ' , " ) D.
) = $ % -
- , & , $ #
% %. D 5 $
% , % & V
- . < = H , % % #, $ # % % -
.
4. "$, ' 6-'$6 6).
( # & (conscience factor), -
, $ % % H,
& # ) .
3 %$ . 3 -
&H $ $ % # ) ) ) %
% (. @ % # % 5
, % ) & ) ` I = )
, & H %. 3& & = ) & & %
yi = |
|
|
yi |
|
, |
(4.37) |
|
|
|
|
|
||||
y2 |
+K+ y2 |
||||||
|
|
|
|
|
|||
1 |
p |
|
|
|
|||
& G. 3& & ) `
&.
< % ) %$ & % $-
$) ( , # &
). K # 5 , $ $ -
- I H $ # & -
.
100
4.3.3 /40 ' " ) \! ""/ !.
3 $ ` & G $ " 40 6
(supervised learning).
F - $ (-
$ ; ), % ) %- % = & 5& V, & & &
G, )
v ji ((k +1)= v ji (k )+ # (k )yi,(k )(yi- (k ) v ji (k ))) |
(4.38) |
) y’j(k) - $ & ) ) - ; P*i(k) - $ & ) ) i-)
; ) ( ); d(k) - % = 5 -
()$& u(k) (4.35)).
% G, % & $ -
$& ) `. ( = 5 $ i - $ # 1 H $ . • )
= & % = 5 & G %
$ # & & P*.
4.3.4 * ' ) " ," ! 0' . ! " ! " ! ' ' )
F $) ,
. 4.15, % & % #-.
101
|
x |
|
|
|
y |
|
|
{ |
|
{ |
|||
x |
|
... |
y |
y |
... y |
|
x 2 xN |
1 |
2 |
M |
|||
1 |
||||||
Ž G
|
|
|
|
|
|
|
|
|
|
Ž K |
|
|
... |
|
|
|
|
... |
... |
... |
3 |
1 |
x |
2 ... |
N |
y |
1 |
y |
2 |
y |
|
|
x |
|
x |
|
|
|
M |
|
|||
{ { |
|
|||||||||
|
x |
|
|
|
|
y |
|
|
|
|
% 4.15 – F $)
< 5 P = f( ) -
& % & P # & &, . . % & ( , P) # &
% & ( , y*). 3 $
% (x, P). & ,
, $ $ % , . . ( , 0), &
% % , % P, % % % ) ( , 0) %
# (, $ $ ( , P). K % , f
- %5, P, % V. G -
%5 f--1, $ % P &-
, . . f--1(P)= , % % % (0, P) %
# (. E $ , $ $) -
# % % % %5 f, % -
%5 f--1.
102
???? < & &?
4.4( %-% 5 &
[1, 16, C. 242-245]
4.5I
[1, 18, C. 256-276]
5 N & &
[1, 19, C. 277-290]
6 E 5 & & $
Z
Z ‘0 F % Matlab
Z ‘1 #} ) H Z ‘2 #} } ’%
Z ‘3 #} ’%
Z ‘0 F % Matlab
Z ‘1 @ H
Z ‘2 • ) H
Z ‘3 }-} } #}
Z ‘4 #} } ’% Z ‘5 #} ’% Z ‘6