В.Г. Яхно - Процессы самоорганизации в распределенных нейроноподобных системах. Примеры возможных применений

В.Г.ЯХНО

Было показано, что основные параметры, определяющие решения моделей (2.1) – (2.6), могут быть разделены на три группы: а) параметры, определяющие временную динамику отдельных активных элементов; б) параметры, описывающие пространственную связь между активными элементами; в) характер начальных условий, определяющий особенности формирования динамических структур.

Были рассмотрены условия существования различных решений. Среди них можно выделить: различные типы распространяющихся или «схлопывающихся» импульсов, как в системах со ждущим, так и триггерном режимах, формирование неподвижных структур (рис.2.2а); автономные источники импульсов; переходные процессы и формирование структур расфазировки и рассинхронизации автоколебаний (рис.2.2б).

Рис.2.3. Пример пространственных структур самовозбуждения в распределенных системах и формирования вспышечного режима эпилептиформной активности, связанной с эволюцией разного вида автоволновых процессов в модели трехкомпонентной нейроноподобной среды. На графике в центре показано временное изменение нейронной активности в центральной точке области наблюдения. Рисунок получен по материалам работы [31].

Нелокальные пространственные связи приводят к новым решениям в виде фронтов переключения с дополнительными импульсами и пульсирующими неподвижными импульсами (рис.2.2а). Для функции в виде «латерального возбуждения» было показано существование импульсных областей с «мерцающей» активностью (рис.2.2а).

ISBN 5-7262-0355-0 ЛЕКЦИИ ПО НЕЙРОИНФОРМАТИКЕ

В двумерных системах были изучены новые решения, связанные с неустойчивостью распространения плоских фронтов (рис.2.2б).

Проведение дальнейших исследований в этом направлении ориентировано на нахождение более полного дерева возможных решений в одномерной и двумерной системах.

Среди примеров, в которых проводилось сопоставление полученных решений с экспериментальными данными, можно выделить следующие: а) рассмотрение особенностей динамики автоволн распространяющейся депрессии в коре головного мозга; б) описание режимов нормального восприятия и вариантов патологического преобразования зрительных сигналов в физиологических экспериментах (см. рис.2.3); в) оценки параметров автоволновых процессов в сердечной мышце; г) описание автоволновых режимов, связанных с выбросом кальция в мышечных клетках.

3. Выделение признаков в однородных нейроноподобных системах

Основная идея эффективного использования двумерных нейроноподобных (неравновесных) сред для обработки изображений состоит в формировании последовательности операций параллельного преобразования больших потоков для вычисления необходимого набора признаков. Одновременная работа всех элементов однородных нейроноподобных систем обеспечивает параллельный режим преобразования потока данных. Оказалось, что однородные нейроноподобные среды эффективно выполняют такие преобразования. При этом среди множества решений, реализуемых в однородных нейроноподобных средах и описанных в предыдущей главе, для целей распознавания используется лишь частный класс рассмотренных ранее решений. Обычно используют только те решения, которые приводят к формированию стационарных структур. При кодировании изображений параллельные алгоритмы реализуют следующую последовательность преобразований потока данных из одного типа в другой: полутоновые изображения Æ в бинарные изображения Æ в наборы промежуточных признаков Æ в окончательные набСледуеторыкодовыхотметитьпризнак, чторазвитая. в последние годы методика обработки изображений, связанная с разложением по wavelet-функциям [24] или известным ранее функциям Габора, фактически представляет строгое математическое оформление той процедуры, которая осуществляется при формировании различных частей постсинаптического потенциала в ней-

В.Г.ЯХНО

роноподобных системах (см. (2.2) – (2.5)). Все наиболее известные wave- let-функции качественно соответствуют экспериментально зарегистрированным профилям для рецептивных полей или зависимостям силы взаимовлияния между нейроноподобными элементами от их пространственного расположения в однородных системах. Нелинейные динамические процессы, следующие за такой пространственно-временной фильтрацией, позволяют обеспечить дальнейшую селекцию тех фрагментов изображения, для обработки которых предназначается соответствующая нейроноподобная сетевая или распределенная система.

Рассмотрим примеры результатов преобразования изображений в распределенных нейроноподобных системах. Исходное полутоновое изображение задавалось для системы в виде начального условия. Динамический процесс приводил к формированию стационарных структур. Варианты преобразований в однокомпонентных системах приведены на рис.3.1. За несколько временных шагов в системе формируются следующие бинарные препараты исходного начального условия (рис.3.1a): контрастное изображение (рис.3.1b), контур заданной толщины (рис.3.1c,d), линии заданных направлений (рис.3.1e,h), объекты с размерами 1*1 и 4*4 (рис.3.1n), вершины углов (рис.3.1m,o), центральные оси фигуры

(рис.3.1p).

ISBN 5-7262-0355-0 ЛЕКЦИИ ПО НЕЙРОИНФОРМАТИКЕ

Для вариантов моделей нейроноподобной системы с перестраиваемой функцией связи получали более качественные, чем обычно, преобразования в бинарное изображение.

В этом случае исходные полутоновые изображения обрабатывались с помощью адаптивного нелинейного фильтра, в котором параметры функции связи менялись в каждой точке в соответствии с особенностями конкретного изображения.

Были рассмотрены также алгоритмы выделения искомых фрагментов на изображении в однокомпонентных нейроноподобных системах с изотропными функциями связи между элементами. Исходное изображение подавалось в наборы однокомпонентных нейроноподобных систем, настроенных на выделение объектов разных масштабов. В результате получали варианты полутоновых и бинарных препаратов для объектов разного масштаба. Результат работы этого алгоритма, выделяющего детали исходного изображения на разных пространственных частотах, показан на примере изображений промышленных объектов (рис.3.2).

Рис. 3.2

Были получены результаты выделения характерных деталей на изображении в однокомпонентных нейроноподобных системах с анизотропными функциями связи между элементами. Исходное изображение обрабатывалось на нейроноподобных средах с анизотропными функциями связи (8 направлений анизотропии 0, 22.5, 45, 67.5, 90, 112.5, 135, 157.5

градусов), настроенными на выделение объектов разного размера. После сложения результатов обработки получали картины характерных областей для разных масштабов исходного изображения. На основе этих данных были продемонстрированы алгоритмы простейшего кодирования изображений в нейроноподобных системах (рис.3.3).

ISBN 5-7262-0355-0 ЛЕКЦИИ ПО НЕЙРОИНФОРМАТИКЕ

Приведенные примеры демонстрируют возможность использования АВП в качестве кодового «языка» для описания функциональных режимов параллельного преобразования больших потоков информации. На основе этих режимов разработаны варианты алгоритмов нейроноподобной исследовательской системы принятия решений по прецедентам. Такие алгоритмы, в первую очередь, ориентированы на их реализацию в «мелкозернистых» многопроцессорных ЭВМ [32], разрабатываемых сейчас некоторыми фирмами в виде специализированных чипов.

Аппаратная реализация систем, использующих процессы в нейроноподобных системах, может быть выполнена с помощью матриц взаимосвязанных процессорных элементов. Например, преобразования, соответствующие уравнению (2.6), могут быть эффективно реализованы на NeuroMatrix NM6403 на элементной базе ПЛИС, разработки фирмы XILINX, а также ряде других специализированных микропроцессорных устройств [33].

4.Базовые модели адаптивных распознавателей

ихарактерные режимы их реагирования

Втеории распознавания образов разработаны разнообразные алгоритмы, хорошо зарекомендовавшие себя при обнаружении объектов заранее заданного вида и в заранее определенных условиях их наблюдения (см., например, [34–36]). Менее разработаны архитектуры автоматических систем, способных адаптироваться и обучаться к разнообразным изменениям наблюдаемого объекта и меняющимся условиям наблюдения. При этом важно отметить, что речь идет о таких адаптирующихся системах, в которых могут накапливаться и, по мере необходимости, предоставляться оператору, данные об оценках эффективности выполняемых операций настройки. Эффективность таких операций определяется подсистемами, обеспечивающими различные модельные описания: а) моделей изучаемых объектов; б) моделей поведения объектов; в) моделей ситуаций наблюдения; г) моделей поведения самой системы в каждой из возможных ситуаций и т.д. Все остальные подсистемы в автономной распознающей системе ориентированы на обеспечение правильной работы с имеющимися в ней наборами моделей. Каждая из таких моделей тесно связана с набором возможных алгоритмов преобразования потоков данных в системе. Возможность реализации своих адаптационных способностей автономная система всегда демонстрирует с помощью набора основополагающих ал-

В.Г.ЯХНО

горитмов (обычно внесенных или построенных учителем). Адаптивное поведение в этом случае представляет собой автоматический подбор параметров в алгоритмах или выбор последовательности использования заданных основополагающих алгоритмов.

Рассмотрим функциональные схемы основных преобразований в системах распознавания, которые могли бы обеспечить автоматическое выполнение наиболее необходимых операций для автономной системы. Такие схемы описывают динамические системы принятия решений по виду потока информационных сигналов (изображений) с настройкой конечного числа алгоритмов. Эти системы обладают потенциально сложными реакциями на внешние стимулы. При их описании желательно, по возможности, минимизировать набор переменных, используемых в операциях адаптации системы на новый вид изучаемого изображения или новую ситуацию ее работы. Отметим, что адаптивное поведение представляет собой пример процессов самоорганизации в динамических системах.

4.1. Нейроноподобные системы второго уровня

Модели принятия решений с настройкой фиксированных алгоритмов имеют нейроноподобные взаимосвязи между активными элементами. При сравнении с однородными нейроноподобными системами первого уровня их естественно назвать «нейроноподобные системы второго уровня». Схемы систем этого уровня описывают самые необходимые, «элементарные» операции классификации и принятия решений в распознающих устройствах [37–39], с их помощью можно интерпретировать данные о различных режимах реагирования биологических систем. Имеются экономические, социальные и другие приложения использования таких моделей функциональных схем.

В обобщенной функциональной модели адаптивного распознающего устройства (см. рис.4.1) выделены следующие основные пути трансформации изображений:

а) путь «кодирования» (стрелка А) – преобразование исходного входного изображения в дерево кодовых значений (блоки 1–3), описывающих особенности входного набора данных (изображения) в терминах обучающего его эксперта;

б) путь «генерации» (стрелка Б) – обратного восстановления изображения, интерпретирующего первоначальное входное изображение, по имеющимся в архиве кодовым значениям (блоки 3–4), т.е. формирование

ISBN 5-7262-0355-0 ЛЕКЦИИ ПО НЕЙРОИНФОРМАТИКЕ

представления данного классификатора о том первоначальном изображении, по которому было создано такое дерево кодовых значений;

в) путь формирования полей оценок на основе сравнения наборов кодовых значений на соответствующих этапах «кодирования» и «генерации» изображений – блоки 5;

г) алгоритмы формирования решения в блоке 3а на основе полученных оценок сравнения. Результат решения передается либо на исполнительные механизмы, либо для автоматического управления вариантами алгоритмов кодирования, генерации потока данных и интерпретации решений. Для этого используются алгоритмы в блоке 6, из заранее подобранного учителем – разработчиком набора.

Такая архитектура соответствует практически всем известным системам классификации сложных сигналов. Стандартные процедуры при обучении людей также соответствуют представленным на схеме операциям. Практически любой процесс обучения представляет собой уточнение и согласование операций кодового описания с операциями восстановления исходного сигнала из кодов. Предлагаемая схема адаптивного распознавателя формализует возможные взаимосвязи между наборами алгоритмов «кодирования–декодирования», принятия решений и оценками выполняемых операций. Разнообразие вариантов автоматических систем, построенных по такой архитектуре, связано с широким диапазоном используемых преобразований потока данных в каждом из отмеченных четырех путей. Формирование наиболее адекватных алгоритмов обработки и принятия решений определяется моделями, описывающими структуру обрабатываемого изображения, и моделями, описывающими условия работы и формирование целей системы.

В.Г.ЯХНО

а) б)

Рис.4.1. а) Схема путей преобразования информационного потока данных в системах принятия решений с фиксированным набором алгоритмов. б) Упрощенная схема основных операций в нейроноподобной системе второго уровня.

Рассмотрим некоторые режимы в такой динамической системе. Точность работы алгоритмов распознавания, даже при небольшом на-

боре обучающих примеров, может быть проверена по результатам циклического процесса, когда полученное кодовое описание входного изображения восстанавливается в интерпретацию этого входного изображения, затем восстановленное изображение снова запускается на кодирование, и так далее. Скорость сходимости значений в этом цикле «кодирование Æ восстановление Æ кодирование Æ ... » и величины отличий от первоначально полученных значений характеризуют адекватность и точность выбранных алгоритмов. Такой режим, как известно, используется при обучении живых систем. Он позволяет на малом количестве примеров адаптировать алгоритмы на выделение наиболее важных признаков изображения. В этом процессе можно увидеть также аналогию с тем, что называется процессом сознания, т.е. процессом, когда изучаемый образ находится в цикле периодической обработки, анализа и проверки. Если же система

ISBN 5-7262-0355-0 ЛЕКЦИИ ПО НЕЙРОИНФОРМАТИКЕ

не использует процесс восстановления с последующим сравнением (в частности, если предыдущий опыт работы уже убедил ее в корректности выбранных алгоритмов), то решение принимается сразу же по кодовым признакам, и передается на запуск исполнительных механизмов. Этот режим, по-видимому, аналогичен инстинктивным, неосознанным, реакциям в живых системах.

В качестве наглядного подтверждения существования у человека функциональной системы восстановления зрительных образов, можно привести известные всем факты четкого восприятия изображений во сне.

Вусловиях, когда сигнал на внешних сенсорах отсутствует, внутренние процессы «активации кодов в базе данных» запускают функционирование нейронных ансамблей, связанных с восстановлением зрительных образов.

Вбодрствующем состоянии у животного внешние сигналы от сенсоров, по-видимому, превалируют над сигналами внутренней интерпретации кодов. В то же время, и в обыденной жизни, и в медицинской практике, хорошо известно, что некоторые люди могут четко воспринимать видения, на самом деле являющиеся галлюцинациями.

Обобщенные модели распознавателей, такие как на рис.4.1, могут использоваться также для оптимальной настройки в отдельных блоках самой распознающей системы. Например, при выполнении каждой из необходимых операций при кодировании (или восстановлении) изображения, требуется произвести настройку точности выполнения этой операции в зависимости от характерных признаков обрабатываемого фрагмента (см., например, рис.4.2). Такую настройку каждой выделенной операции естественно проводить в рамках уже описанной схемы (рис.4.1). Таким образом, в блоках формирования оценок можно выделить, как минимум, три поля или набора оценок:

а) набор оценок, характеризующий качество выполнения операций при кодировании входного изображения;

б) набор оценок, характеризующий качество выполнения операций восстановления интерпретирующего входного изображения из кодового описания;

в) основной набор оценок, характеризующий качество согласованной работы алгоритмов «кодирования–восстановления» входного изображения.