Добавил:
Опубликованный материал нарушает ваши авторские права? Сообщите нам.
Вуз: Предмет: Файл:

книги из ГПНТБ / Галушкин, А. И. Синтез многослойных систем распознавания образов

.pdf
Скачиваний:
34
Добавлен:
22.10.2023
Размер:
12.65 Mб
Скачать

рис. 8-11. Иллюстрация работоспособности ЛПЭ при многомодальном распределении входного сигнала.

---------------- начальное

положение

ги п ерп лоскости ;

----------------- про­

межуточное (после

500 итераций) положение

гиперплоскости;

/4 - 7 — номера

экспериментов.

 

220

Рис. 8-12. Дина­ мика настройки коэффициентов ЛПЭ при многомо­ дальном распреде­ лении входного сигнала при тп — = 30 (арабскими цифрами обозна­ чен номер опыта).

положение----------------

начальное

гиперпло­

скостей; ---------------

ко ­

нечное положение гиперплоскостей.

&Q. &Q

W аг

Рис. 8-13. Дина­ мика настройки коэффициентов ЛПЭ при многомо­ дальном распреде­ лении входного сигнала.

/ —4 — номера экспе­ риментов.

О 24 48 72 96 120 144 168 192 216 240

221

тывает незначительные колебания около положения опти­ мума. Градиент начинает часто менять знак, и система ос­

танавливается. Большие колебания

кривой 3 обусловлены

 

 

 

значительными величинами гра­

 

 

 

диента функционала, что харак­

 

 

 

терно для

изображающей точки

 

 

 

вблизи от локального экстре­

 

 

 

мума. При больших отклоне­

 

 

 

ниях от экстремумов изобража­

 

 

 

ющая точка попадает в

область

 

 

 

с малыми значениями градиента,

 

 

 

что приводит к движению с очень

 

 

 

малой скоростью. Отсюда сле­

 

 

 

дует

определенное

требование

 

 

 

к априорной информации о функ­

 

 

 

ционале качества (ограничен­

 

 

 

ность пространства поиска ло­

 

 

 

кальных экстремумов, предпо­

 

 

 

лагаемый характер их располо­

 

 

 

жения

и

т. п.), позволяющее

 

 

 

сделать вывод о зоне поиска и

 

 

 

выбрать

начальные

величины

 

 

 

шагов

градиентной

процедуры.

 

 

 

Интересные результаты полу­

 

 

 

чены при исследовании влияния

 

 

 

величины дисперсии (степени пе­

 

 

 

ресечения классов) на процесс

 

 

 

настройки. Если брать диспер­

 

 

 

сии малыми по сравнению с рас­

 

 

 

стояниями между модами, то

 

 

 

оптимальное положение

разде­

 

 

 

ляющей

гиперплоскости

может

стройки

коэффициентов

быть

довольно

безразличным,

ЛПЭ при числе мод распре­

так как это соответствует случаю

деления

входного

сигнала,

непересекающихся классов и ло­

 

равном 4.

2 — вто­

кальные экстремумы в зоне опти­

1— первый минимум;

мума не являются острыми. Был

 

рой минимум.

 

 

 

произведен также

эксперимент,

когда при условии пересечения классов дисперсия первого класса в несколько раз превосходила дисперсию при мо­ дах второго класса. Как и следовало ожидать, для системы распознавания, ' настраивающейся по средней функции риска, оптимальное состояние разделяющей гиперплоскости сместилось в сторону моды с меньшей дисперсией.

222

Обеспечение устойчивости градиентной процедуры до­ стигнуто экспериментальным выбором величины шага и применением ограничения на величину приращения компо­ нент вектора. Ограничение выбирается по априорной ин­ формации о характере функционала так, что приращения, получаемые коэффициентами ЛПЭ, не могут быть больше четверти минимального расстояния между локальными экстремумами. Такая мера обеспечивает плавность проце­ дуры обучения.

Две пары кривых, характеризующих динамику поиска двух минимумов при четырехмодальном распределении входного сигнала (рис. 8-14), оптимальном начальном зна­ чении шага градиентной процедуры, равном четырем, и ограничении на Даь равном 0,03, интересны тем, что в про­ цессе настройки коэффициенты ЛПЭ меняют знак. При этом следует помнить, что скачки в этих графиках соответст­ вуют малым и плавным изменениям коэффициентов ЛПЭ. Изображающая точка при поиске первого минимума пере­ ходит из второго в первый квадрант пространства настраи­ ваемых коэффициентов, а при поиске второго минимума — из третьего в первый.

На рис. 8-11 представлены различные начальные и со­ ответствующие промежуточные (по окончании 200 итера­ ций) положения гиперплоскостей. Данные промежуточные положения гиперплоскостей можно считать установив­ шимися, так как экстремальная характеристика в этом диа­ пазоне настраиваемых параметров ЛПЭ является практи­ чески «плоской».

8-6. Исследование динамики частного вида СР нестационарных образов

В данном параграфе исследуется одномерная СР с мини­ мизацией a 2g (гл. 7). Основной целью исследования яв­ ляется оценка влияния различных характеристик СР и характеристик нестационарных образов на динамику ра­ боты контура настройки СР по замкнутому циклу.

Выражение для аналоговой ошибки СР в данном случае имеет следующий вид: ха (пАТ) = е (пАТ) х (пАТ) +

+

«о (пАТ).

Тогда х2а (пАТ) — е2 (пАТ) -\-х2 (пАТ) -[- а2 (пАТ)

— 2е (пАТ) х(пАТ) -[-2а0 (пАТ) е (пАТ) —2а0 (пАТ)х(пАТ).

223

Черта сверху означает усреднение по множеству реали­

заций нестационарного

случайного процесса, проведенное

в момент времени пАТ.

Так как на практике мы имеем одну

реализацию нестационарного случайного процесса ха (пАТ), то заменяем операцию усреднения по множеству операцией усреднения по времени на интервале памяти величиной тп с дополнительным заданием априорной информации о ха­ рактере изменения параметров распределения нестационар­ ного случайного процесса на интервале памяти. Как из­ вестно [Л. 58], наиболее удобным в данном случае является представление нестационарного случайного процесса на интервале памяти в виде аддитивной суммы стационарного

случайного процесса и детерминированного

с известным

в общем функциональном виде характером

изменения.

Ввиду того что производная dx2a (nAT)/da0 (пАТ) не выра­ жается в алгебраической форме, предполагаем, что за ин­ тервал усреднения тп величина а0 (пАТ) не меняет своего значения. При этом изменение а0 (пАТ) происходит в ре­ жиме адаптации с тактом, равным памяти тп блока на­ стройки СР. Отсюда

da0 (пАГ)

Алгоритм настройки СР по замкнутому циклу в данном случае имеет вид:

АТ + К * х а(пАТ).

В случае нестационарных образов процесс ха (пАТ) является нестационарным с характеристиками, определяе­ мыми характеристиками нестационарности входных сигна­

лов СР (см. гл. 7). Задача получения ха (пАТ) является классической задачей фильтрации нестационарных дискрет­ ных случайных процессов, в частицсти процессов, приво­ димых к стационарным, и достаточно подробно рассмотрена в [Л. 48, 49]. При моделировании данной СР на ЦВМ при этом были использованы методы рекуррентной реализации

оптимальных

дискретных

фильтров, разработанные

в

[Л. 48].

случае при

mn = т =

const

для любого

п

В данном

и АТ = 1

 

ТП

 

 

 

 

 

W (i,

n)xa{ni),

 

 

 

2

 

 

 

1= 0

 

 

 

224

где W (г, п) — оптимальная импульсная переходная функ­

ция фильтра

оценки

ха («АТ). Для всех рассмотренных

ниже вариантов использовались выражения для W (г, п),

приведенные в

1Л. 48,

49].

Конкретная цель исследований в данном случае заклю­ чалась в оценке влияния на динамику СР, настраиваю­ щейся по замкнутому циклу, следующих ниже характери­ стик входного сигнала и СР:

1) гипотезы о характере изменения во времени на ин­ тервале памяти математического ожидания совокупности образов (одинаковой для образов первого и второго класса); 2 ) степени пересечения классов, задаваемой диспер­ сией, одинаковой для совокупностей образов первого и второго класса (разница между математическими ожида­ ниями совокупностей образов первого и второго класса

остается постоянной);

3)степени нестационарное™, определяемой, например, скоростью изменения во времени координат центров классов;

4)памяти mn = m в блоке настройки СР по замкнутому циклу;

5)времени упреждения а в блоке настройки СР по замк­

нутому циклу при оценке градиента функционала вторич­ ной оптимизации;

6 ) коэффициента усиления К* в блоке настройки СР по замкнутому циклу.

Ниже представлены результаты моделирования на ЦВМ описанной выше СР. Исходные данные для моделирования указаны отдельно на каждом рисунке.

На рис. 8-15 — 8-22 представлены кривые изменения порога СР во времени при линейных законах изменения координат центров классов. Использованы два вида зако­ нов: первый (2 t + 3), второй [(1/2) t + 3].

Группы кривых I и II представляют собой случаи с раз­ личной скоростью изменения указанных координат. Рас­ стояние между центрами классов в данном эксперименте и других остается во времени неизменным. Анализ данных кривых позволяет сделать следующие выводы:

1. Чем больше память системы распознавания тп, тем менее влияет на случайную ошибку настройки степень пересечения классов, определяемая величиной дисперсии распределения совокупностей образов а внутри каждого

класса.

2. Чем больше тп, тем больше систематическая ошибка настройки коэффициентов СР (рис. 8-17, 8-18).

8 З а к а з № 975

225

3. При малых значениях тп (тп = 5) и К* = — процесс настройки коэффициентов СР является неустой­ чивым, а при увеличении тп до 2 0 делается устойчивым. Отсюда следует естественная необходимость при рассмот-

Рис. 8-15. Исследование динамики настройки по замкнутому циклу СР нестационарных образов

при

о = 3; а =

0 ; К* =

0 , 1 .

------- ------------т =

2 0 ; ------------------

т = 3 ;

----------- идеальное

 

значение

порога.

 

Рис. 8-16. Исследование динамики

настройки по

замкнутому циклу

СР

нестационарных образов

при о — 1 0 , а =

0 , К* =

0 , 1 .

------ -----------т2 0 ; ------------------

 

т = 3;

-------- — иде­

альное

значение порога.

 

рении СР нестационарных образов иметь дело с алгорит­ мами с наличием памяти в блоке настройки. В большин­ стве случаев распознавания нестационарных образов ал­ горитмы с тп = 1, в частности алгоритмы, изложенные в [Л. 40, 41 ], неприменимы. Увеличение тп в какой-то степени компенсирует априорную недостаточность в зна­ нии К*.

226

4. Скорость изменения во времени координат центров классов практически не влияет на ошибки работы контура настройки.

Рис. 8-17. Исследование динамики настройки по замкнутому циклу СР нестационарных образов при К* = — 0,5; т — Ъ.

------- 1 — а

=

2,

0 =

1

(идеальное

значение

порога);

— ----------

а =

10,

о

=

5 ; -------------------

а = 20,

о = 5;

 

 

---------------------

 

 

а = 40,

о = 5 .

 

Рис. 8-18. Исследование динамики настройки по

замкнутому циклу СР нестационарных образов при К* = — 0,5; т = 20.

— --------

о = 1 ,

а = 2; -— -------

о =

5,

а =

10;

------------ о

= 5, а =

2 0 ; ---------------------------

о

= 5,

а =

40.

5. Область изменения K*<i —■1 является областью необходимых условий устойчивости контура настройки СР.

6 . Обращает на себя внимание характерная модуляция огибающей изменения порога СР при неустойчивом режиме работы.

8*

227

7. Проведенные расчеты с квадратичной зависимостью изменения во времени координат центров классов показали, что выводы пи. 1— 6 подтверждаются, однако в этом случае

Рис. 8-19. Исследование динамики настройки по

замкнутому циклу

СР нестационарных

образов

при а =

5;

а = 0;

т =

20.

 

------------ К* = — 0

, 5

; ----------------—

К* =

— 0,75;

--------------- К* — — 1

(идеальное

значение

порога);

Рис. 8-20. Исследование динамики настройки по замкнутому

циклу СР нестационарных образов при а =

5; а = 0; т — 5.

---------------- К* — 0 , 5 ; ------------------

К* = - 0 , 7 5 ;

-----------------

К* = — 1

(идеальное значение

порога);

о О О

К* = — 2.

имеет место более характерное, чем в случае линейной за­ висимости, увеличение систематической ошибки работы контура настройки СР во времени. При достаточно больших значениях тп выявляется закономерность изменения знака

228

0

 

WO

200

 

 

300

000

Рис. 8 -2 1 .

Исследование динамики настройки по замкнутому

циклу

СР

нестационарных

образов

при а = 3;

а = 0;

 

т = 20; О г>

К *

=

2.

 

 

— »—

— m —

5

; -------------

идеальное

значение

 

 

 

порога.

 

 

 

Рис. 8-22. Исследование динамики настройки по замкнутому циклу СР нестационарных образов при а = 10; а = 0; К* —

---------------т = 20;

0 0 0 0 - и = 5 ; -------------

идеальное значение

 

порога.

 

систематической ошибки контура настройки СР (отрица­ тельный при К*^> 1, положительный при /С *< — 1).

Эксперимент по оценке влияния степени пересечения классов на динамику контура настройки СР (рис. 8-20 —

229

Соседние файлы в папке книги из ГПНТБ