Добавил:
ivanov666
Опубликованный материал нарушает ваши авторские права? Сообщите нам.
Вуз:
Предмет:
Файл:Операторы преобразования для краевых задач, интегральных представлений и восстановления зависимостей
.pdf
............................................................................
3m+1/(L+1)<S
(q−L+1)k
3m−i+1+L/(L+1) <S
< 3m+2/(L+1);
[τ(i)+1])k
< 3m−i+2+1/(L+1), (32.6)
............................................................................
3m − i +1+1/(L +1)<S
[τ(i)+1]k
τ(i)=q−iL, i =1, 2,...,m,m−1/(L+1) <S
m−i−2/(L+1)−1 <S
[τ(i+m−1)−1]k
< 3m − i +1+2/(L +1),
< 3m+1/(L+1);
τ(m)k
<m−i−1/(L+1)−1;
............................................................................
m−1−2−1/(L+1)−1 <S
1 − 2/(L +1)− 1 <S
[τ(2m−1)−1]k
[τ(i+m−1)−L]k
<m−i−1−L/(L+1);
< 1 − 1/(L +1),
............................................................................
0 <S
Тогда выборка˜S
где υ
δ
|=(2mL)n.
|˜S
В определении˜S
< 1 − L/(L +1).
τ(2m)k
δ
определяется следующим образом:
δ
˜
= {S | S =(S
S
∈{1, 2,...,2m +1}\{m +1},υ=1,2,...,n. Нетрудно видеть, что
v
δ
отсутствует элемент S
υ11
,...,S
υnn
τ(m)k
v
∈ W
},
υ
v
. Введение его в после-
довательность (32.5) необходимо для симметрии в обозначениях.
Последовательность неравенств (32.6) разделена на системы. Каждой
такой системе поставим в соответствие семейство элементов последовательности (32.5). Введем обозначения для каждого из семейств:
k
= {Sqk,...,S
W
1
k
= {S
W
i
[τ(i)+L]k
(q−L+1)k
,...,S
},
[τ(i)+1]k
},W
k
m+1
= {S
τ(m)k
..............................................................................
k
W
m+i+1
= {S
[τ(i+m−1)−1]k
,...,S
τ(i+m)k
},
..............................................................................
k
W
2m+1
= {S
[ι(2m−1)−1]k
,...,S
ι(2m)k
}.
331
},
Рассмотрим функции H
H
k
(x), определенные в [14]:
jv
k
(x)=| a
jγ
ψk(i)k
− x |−
φk(j)
k
;
wnn
(i)=i,
k
)=S
t
при этом будем рассматривать тождественные перестановки ψ
(j)=j, i =1, 2,...,m, j =1, 2,...,L для всякого k =1, 2,...,n.
φ
k
δ
Лемма 32.3 Все объекты выборки˜S
тры близости относительно ZF- подмодели (˜A)
имеют попарно различные спек-
.
R(n)
Докажем, что для всяких наборов
,...,υn), (w1,...,wn), St=(S
(υ
1
выполняется
Так как (υ
= wkи по построению S
υ
k
,...,υn) =(w1,...,wn), , то существует k ∈{1, 2,...,n},
1
Z,L,t
G
R(n),U
υkk
υ11
(A) = G
0
= S
wkk
,...,S
υnn
Z,L,t
R(n),U
) =(S
0
(A).
w11
,...,S
. Достаточно показать, что найдутся
j =1, 2,...,L и v =1, 2,...,n, такие, что
G
Для краткости положим υ
t
(j) = G
vk
k
t
(j). (32.7)
vk
= υ, wk= w, w = v + r, r>0.Для
доказательства (32.7) необходимо рассмотреть несколько случаев. Предварительно сформулируем вспомогательную лемму.
Лемма 32.4 Если H
k
(Sυk)H
jv
k
(S
jυ
) < 0 для некоторых v =1, 2,...,m,
(υ+r)k
j =1, 2,...,L, то верно (33).
Доказательство. Пусть H
@
где α = P
t
(j)=Sq
vk
.Аналогично-вслучаеH
v
1−α(Hk
k
(Sυk) > 0 и H
jv
(Sυk)) = Sq
jv
k
(S
(υ+r)k
jv
1−α(Hk
k
(Sυk) < 0, H
jv
(S
jv
) < 0.Тогда
))@
(υ+r)k
t
vk
k
(Swk) > 0. Лемма
jv
(j),
32.4 доказана.
k
∈ W
Случай 1. S
υk,Swk
, i ∈{1, 2,...,2m +1}\{m +1}.Приi ∈
i
{1, 2,...,m} либо
j
+
a
τk
<Sυk<aτk+
k
j+1
,τ = m − i +1,
k
...........................................
j−r
+
a
τk
<S
k
(υ+r)k
<aτk+
j−r+1
,j = r +1,...,L− 1,
k
332
либо
L
+
a
τk
<Sυk<a
k
(τ+1)k
+
L−r
k
,aτk+
L−r
k
<aτk+
и, следовательно
k
(Sυk) > 0,H
H
jτ
k
(S
jτ
) < 0 и HLτ(Sυk) > 0,H
(υ+r)k
k
(S
Lτ
Осталось применить лемму 32.4.
Если i ∈{m +2,...,2m +1} - то доказательство аналогично.
k
Сформулируем свойства функции H
Лемма 32.5 Пусть i ∈{1, 2,...,m}, S
имеем H
j
0
k
H
j(v+1)
k
H
j(v−1)
2. Пусть S
то H
k
(Sυk) < 0, v =1, 2,...,m − 1, или H
j
v
0
(Sυk) < 0 для всякого j =1, 2,...,L;еслиH
(Sυk) > 0, v =2, 3,...,m.
k
∈ W
k
j(v+1)
wk
> 0, v =1, 2,...,m − 1, j =1, 2,...,L;еслиH
. Если для некоторого j0имеем H
m+i+1
v =2, 3,...,m, j =1, 2,...,L, или H
Доказательство. 1. Пусть S
гда, когда | a
Поэтому H
| a
vk
k
j(v+1)
− Sυk|−
в силу определения
Пусть H
k
(Sυk) >| avk− Sυk|−
H
j(v−1)
2.Пусть S
j
S
wk
a
vk
0
|−
> 0, j =1, 2,...,L. Если H
k
− Swk|, H
Случай
H
−Sυk|−
(v+1)k
(Sυk) ≤| a
j
0
< 0. Кроме того, | a
k
j
k
,H
k
j(v+1)
) > 0, что равносильно | avk− Sυk|−
j0v(Sυk
∈ W
wk
k
j(v−1)
k
1(v−1)
m+i+1
(Swk) <| avk− Swk|−
S
(
<0рассматривается аналогично. Лемма 32.5 до-
wk
∈ W
υk
1
< 0.Ноa
k
− Sυk|−
(v+1)k
(Sυk) < 0,j =1, 2,...,L.
j
0
> 0, j =1, 2,...,L.
k
. Если H
j
(x).
jv
∈ W
υk
k
(Swk) < 0 ,тоH
1(v−1)
k
k
, H
t
(v+1)k
k
(Swk) > 0,тоH
v
0
(Sυk) < 0 тогда и только то-
1(v+1)
>avk,
(v+1)k
1
< 0, и если H
k
− Sυk|<| avk− Sυk|, поэтому,
k
(Swk) < 0,то| a
j
v
0
j
0
< 0.
k
k
. Если для некоторого
t
1(v+1)
k
v
j
0
j
1
<
k
k
k
j(v+1)
казана.
k
∈ W
Случай 2. S
υk
, Swk∈ W
i
1
другого. Без ограничения общности положим i
∈{1, 2,...,m}по построению семейства объектов W
1,i2
(Sυk) > 0 и для всякого υтакого, что S
+1)
1
(S
) < 0.Ноi2≥ i1+1 , и тем более H
υk
)
1
H
H
При i
k
1(m−i
k
1(m−i
k
причем один из индексов больше
i
2
2>i1
υ
k
1(m−i
.
k
∈ W
+1
i
1
(Swk) < 0 ,где m−
+1)
2
L−r+1
k
) < 0
(υ+r)k
(Sυk) < 0,то
(Sυk) > 0 ,то
k
(Swk) > 0,
v
j
0
k
(Swk) < 0,
j
v
0
k
< 0.
j(v−1)
, j =1, 2,...,L.
k
(Sυk) < 0,то
v
j
0
j
0
> 0; тогда
k
(Swk) >| avk−
− Swk|<|
(v−1)k
k
имеем
t
, выполняется
333
i2+1 <m−i1+1, следовательно, по свойству 1 леммы 32.6, выполняется
k
H
1(m−i
определению семейств W
имеем H
k
H
1v
свойству 2 леммы 32.5, H
(Swk) < 0.
+1)
1
При i
1,i2
k
jv
(Swk=| a
1
∈{m+2,...,2m+1}, i1= m+i1+1,i2= m+i2+1,i2>i1по
и построению последовательности (32.5)
m+i+1
(Sυk)=| avk− Sυk|−
− Swk|−
v1k
1
k
k
(Swk) > 0.
1v)
1
< 0, v = m − i1.Втожевремя
k
> 0, v1= m − i2+1.Ноv1≤ m − i1и, по
Теперь в обоих подслучаях для завершения доказательства осталось
применить лемму 32.4.
k
∈ W
Случай 3. S
wk,Sυk
,гдеi ∈{m +2,...,2m +1}.
1
Тогда либо
j+1
−
a
vk
<Sυk<avk−
k
j
,avk−
k
j+r+1
<Swk<avk−
k
j+r
k
1 ≤ j ≤ L − r − 1,v = m − i +1,
либо
L−r+1
−
a
vk
<Sυk<avk−
k
Отсюда в первом подслучае H
k
втором подслучае H
По лемме 32.4,в первом G
t
(L) = G
G
vk
Случай 4. S
1}, i
2
Пусть i
рых j, j
или
t
(L).
vk
υk
= m + i2+1.
= i2= i. Тогда, по определению семейств (32.6), для некото-
1
∈{1, 2,...,L}
L
+
a
τk
k
(Swk) > 0, H
Lv
k
∈ W
, Swk∈ W
i
1
j
+
a
τk
k
<Sυk<a
<Sυk<aτk+
или
a
(τ−1)k
и ,следовательно, H
k
(Sυk) > 0, H
jτ
(Swk) < 0, или
k
H
(Sυk) < 0 либо H
1(τ+1)
t
(j + r) = G
vk
(τ+1)k
−
L−r
,a
(v−1)k
k
k
(Swk) > 0, H
(j+r)v
k
(Sυk) < 0.
Lv
t
vk
k
, i1∈{1, 2,...,m}, i2∈{m+2,...,2m+
i
2
j+1
k
1
+
,aτk−
k
1
<Swk<aτk−
k
k
(Sυk) > 0, H
(j+1)τ )
k
1(τ−1)
1
−
<Swk<avk−
k
k
(Sυk) < 0 ,аво
(j+r)v
(j + r) , а во втором подслучае
L
k
,τ = m − j +1
j+1
<Swk<aτk−
k
L
k
k
j
τ
(Swk) < 0, H
j
k
k
(j
(Swk) < 0. (32.8)
334
+1)τ
Предположим следующее
а) τ>1 , тогда, по лемме 5 и согласно неравенствам (32.8),
H
k
(Sυk) < 0,H
j(m−i)
k
j
(m−i)
(Swk) > 0;
б) τ =1, тогда
k
(Sυk) < 0,H
H
j(τ +1)
По лемме 32.4, для а) имеем G
t
G
(τ+1)k
t
(τ−1)k
(j) = G
k
(Swk) > 0.
j(τ +1)
(j)=G
t
(τ+1)k
t
(j), а для б) будет
(τ−1)k
(j) (32.9)
Пусть i
k
H
(j+1)τ
Обозначим v = m−i
Но v<τ, и, используя лемму 32.5, получаем H
k
H
1(v+1)
По лемме 32.4, верно (32.7) или (32.8). Случай i
= i2и i2>i1. Тогда, аналогично предыдущему, имеем либо
1
(Sυk) < 0, H
k
(Sυk) < 0.
1(τ+1)
2
+1 ,тогда либо H
k
(Swk) > 0, либо H
j
v
k
(Swk) > 0 , и тем более
jv
(Swk) > 0.
2
<i1, рассматрива-
k
(Swk) > 0.
Lv
ется аналогично. Лемма 32.3 доказана.
Перейдем к доказательству теоремы 32.3.
q
Поскольку в пространстве R(n) все объекты выборки˜S
имеют по-
парно различные спектры близости, то индекс системы событий T
0
T [(A)
]
U
Ind
R(n)
0
T
(˜Sq)=2
q
и, значит
[ˆM1) − 0] ≥ q =(2mL)n.
Δ
R(n)
Теорема доказана.
Из теорем 32.2 и 32.3 и результатов [14] вытекает
Следствие. Для любых m, n, L ∈ N
n
mn
≤ Δ
≤ Δ
R(n)
(2mL)
(L +1)
где
(m, n, L) → 0, i =1, 2,m,n,L →∞.
i
Таким образом, величины (2mL)
нечно малой оценивают емкость модели (M
0
.
M
1
[ˆM
)0] ≤ [1 + 1(m, n, L)](2mL)n,
G
1
0
[ˆM
M
)0] ≤ [1 + 2(m, n, L)](L +1)mn,
G
n
и (L +1)mnс точностью до беско-
в пространствах R(n) и
1)0
=
0
335
Отсюда, в частности, следует, что θi(m, n, L) - ее точная асимптоти-
ческая нижняя граница.
Применяя [14] , получаем оценку длины выборки, достаточной для
обучения с надежностью 1 − η . Так, например, для детерминистского
случая и пространства R(n) верна.
Теорема 32.4 Для всякого η, 0 <η<1 , с вероятностью 1 − η часто-
ты ошибок распознающего алгоритма A ∈ (ˆM
q
рабочей˜S
выборках различаются меньше чем на δ , если длина выборки
1
)0на обучающей˜Sq,и
G
q удовлетворяет условию
δ
q ≥
4
(1 +
δ
)(2mL)n[1 − ln
1
4
− ln
η
].
3
32.4 Емкость L-ограниченного линейного за-
мыкания модели M
Обозначим
L
{M} = {A | A =
L
L
Поскольку модель L
{M} часто используется для решения различ-
L
ных практических задач при достаточно больших L исследуем емкость
{M} подробнее.
L
L
Оценка, полученная в следствии, может быть для модели L
значительно усилена.
Теорема 32.5 Емкость L-ограниченного линейного замыкания модели
в пространстве R(n) ограниченна:
M
1
i=1
.
1
ciAi,ci∈ R,Ai∈M}.
L{M1
}
([L/2] + 1)mn ≤ Δ
[LL{M1}] ≤ mn(L +1)+1.
R(n)
Доказательство. Нижняя оценка легко может быть получена методом
построения операторов, изложенным в [14]. Докажем верхнюю оценку в
условии теоремы. Пусть заданы произвольный алгоритм
A ∈L
},A= B ◦ C, C=C(C1,C2),
L{M1
336
и регулярная задача Z (Im,˜Sq), тогда оценка объекта St∈˜Sqможет быть
вычислена по формуле
(Γ
,B)=
ij
где A
= A(γj,pj,j,xj).
j
Введем обозначения a
x =(x
,...,xmn). Оператору B поставим в соответствие mn-местную
11
L
j=1
m
c
j
Pi=α
i=1
ivj
j
γ
i
α=0,1
= cjγ
n
j
j
x
α
v=1
j
j
j
p
x
, ρt=(ρ
v
i
P
i
1−α
p
Sg
v
(ρ(v, i, t) −
t
,...,ρ
11
t
mn
), ρ
t
vi
j
).
v
= ρ(v, i, t),
функцию
L
1
B
(x)=
g
Очевидно, что g
}} может быть рассмотрен, как класс разделяющих алгоритмов в
L
L{R1
пространстве R
классу C K
, если gB(ρt) <C1. Причем
j
B(ρt
mn
: вектор ρtотнесен к классу Kj, если gB(ρt) >C2,ик
Δ
R(n)
α=0
j=1
)=(Γtj,B). Класс функций D = {gB(x) | B ∈
[D]=Δ
Отсюда вытекает, что существует выборка˜S
торой реализуются алгоритмами из L
q
0
Выборкам˜S
борка ˜ρ
q
0
=(ρ1,...,ρ
,˜Smв пространстве R(n) будет соответствовать вы-
q
0
) в пространстве Rmn, которая делится на два
n
m
i=1
v=1
Pi=α
[LL{M1}]=g0< +∞.
R(n)
a
ivj
L{M1
Sg
1−α
}.
q
0
(xiv−
j
),
v
, все классификации ко-
подмножества всеми возможными способами с помощью функций из D.
Рассмотрим другой класс функций размерности (L +1)mn:
L
m
˜
D ="˜g(x, y) | ˜g =
где a
ivj,bivj
Выборке ˜ρ
q
0
(Y1)=((ρ1,Y1),...,(ρ
˜ρ
j=1
∈ R, y =(y
q
0
поставим в соответствие выборку элементов из R
111
,...,y
q
n
α
ivj(bivjyivj
v=1
i=1
).
mnL
0
,Y1)),Y1=(1,...,1),Y1∈ R
− xiv)%,
mnL
.
Класс˜D является классом разделяющих функций относительно тех
же констант (C
1,C2
).
337
(L+1)mn
:
q
Докажем, что любая классификация выборки ˜ρ
0
(Y1) реализуется с
помощью подходящей функции из˜D.
q
Пусть задана некоторая подвыборка ˆρ(Y
) выборки ˜ρ
1
0
(Y1). Без огра-
ничения общности положим
)=((ρ1,Y1),...,(ρr,Y1)), 0 ≤ r ≤ q0.
ˆρ(Y
1
В пространстве R
q
выборки ˜ρ
B
∈Dтакая, что для всяких v, w, v ∈{1,2,...,r}, w ∈{r +1,...,g0}
g
будет g
0
B(ρυ
) >C2, gB(ρw) >C1,где
Введем обозначения D
0}. Положим для множества индексов G
mn
выборке ˆρ(Y1) будет соответствовать подвыборка
: ρ =(ρ1,...,ρr). Тогда, по определению ˜ρ
g
B(ρt
L
)=
j=1
1
= {(i, v,j) | ρ
b
=
ivj
1
α=0
Pj(St)=α
a
ivj
a
, если (i, v, j) ∈ D
ivj
n
i=0
v=1
t
iv
−
1−α(ρt
a
Sg
ivj
j
≤ 0}, D0= {(i, v,j) | ρ
v
= {i | Pj(Si)=1}
1
+1, если (i, v, j) ∈ D
−
i
v
1
0
q
0
,существует
j
).
v
для множества индексов G1= {i | Pj(Si)=0}
a
+1, если (i, v, j) ∈ D
b
ivj
ivj
=
a
, если (i, v, j) ∈ D
ivj
1
0
t
j
−
>
iv
v
В силу определения a
a
ivj(bivj
, для всякой тройки чисел (i, v,j)
ivj,bivj
− ρ
t
)=a
iv
ivj
Sg(ρ
t
− b
ivj
iv
).
Поэтому функция
L
m
i=1
n
v=1
a
ivj(bivjyivj
− xiv),
),и
1
˜g ∈˜D, ˜g(x, y)=
j=1
t
удовлетворяет равенству g((ρ
,Y1)) = g(ρt).
Таким образом, функция g относит все элементы выборки ˆρ(Y
только их, к одному классу. Что и требовалось доказать.
Но емкость класса разделяющих функций˜D не превосходит емкости
класса гиперплоскостей размерности (L +1)mn равной, как известно,
(L +1)mn +1. Следовательно, g
≤ (L +1)mn +1. Теорема доказана.
0
338
Глава 33
Оптимальные алгоритмы в
алгебраических замыканиях
операторов вычисления оценок
В работе [14] доказано, что емкость корректного класса алгоритмов
k
{A} при k − q ln q над множеством регулярных задач имеет ограни-
U
ченный рост. Вместе с тем полученная оценка емкости оставалась достаточно высокой и этим объяснялись трудности в ее применении для построения оптимального или близкого к нему по функционалу качества
алгоритма [14]. Целью настоящей заметки является понижение оценок
емкости корректных классов алгоритмов и длины обучающей выборки,
достаточной для построения алгоритма с заданным качеством .
Символами R и P будем обозначать операторы вычисления оценок с
системами опорных множеств Ω={i | i =1, 2,...,n} и Ω={i
соответственно, а символом Q - операторы обоих типов ( n - размерность
признакового пространства M).
Рассмотрим произвольный операторный полином вида
1,i2
,...,ik}
где
F (Q
1,Q2
+c
,...,Q
k
Q
2
τ
τ
1
1
+1
+1
)=c1Q
˜
L
· ...·Q
=
Q
1
k
1
· ...·Q
1
k
τ
2
+ ...+ cpQ
τ
2
h
i
j
Q
i
j=1
k
τ
1
+
τ
1
k
+1
τ
p−1
· ...·Q
+1
τ
p−1
,i=1, 2,...,˜L.
339
k
˜
L
,
˜
L
(33.1)
Размерностью полинома F назовем набор
,...,τp; h1,h2,...h
1,τ2
Пусть L =
H =(τ
˜
L
&
h1и Z = Z(I0,˜Sq) - произвольная регулярная задача.
i=1
Определение 33.1. Операторные полиномы F
= F2(ˆQ1,ˆQ2,...,ˆQ
F
2
) размерности H назовем L-эквивалентными, если
˜
L
),τp=˜L.
˜
L
= F1(Q1,Q2,...,Q
1
) и
˜
L
для всякого i =1, 2,...,˜L
h
i
j=1
j
Q
,ˆQ1=
i
=
Q
1
h
j=1
i
j
Q
,Q
i
j
j
1
ˆ
Q
∼
i
i
(в смысле [14]), j =1, 2,...,bi.
Очевидно, для всякого H класс F(H) операторных полиномов размерности H разбивается относительно задачи Z на непересекающиеся
классы L-эквивалентности.
Введем обозначения:
A(L)={A | A = Q ◦ r(C ),Q∈F(H)
и [F (Z, L)] - класс L-эквивалентности, порожденный операторным полиномом F вида (1). Как следует из [14], число таких классов не превосходит
Пусть M[F (Z, L)] = {G
χ[F (Z, L)] ≤ [3(mq +1)
[F, L)] | t =1, 2,...,q} - множество всех обоб-
t
n]L
. (33.2)
щенных характеристических векторов (о.х.в. [14]) выборки допустимых
l
объектов˜S
q
и его мощность в пространстве M =
*
j=1
K
j
μM[F (Z, L)] =|M[F (Z, L)] | .
Обозначим U
вычисления оценок степени k такое, что {A
k
{A1} (Uk{A}) алгебраическое замыкание алгоритмов
)}, ({A}) - класс алгоритмов
1
A, A = R ◦ r(C)(A = Q ◦ r(C )); r(C ) - решающее правило.
Пусть R - множество действительных чисел, α
ijq×l
ная матрица задачи Z. Тогда величину
V (Z)=max
1≤j≤t
|R(j) |, R(j)={v | α
v
j
=1},
340
- информацион-
Соседние файлы в предмете [НЕСОРТИРОВАННОЕ]