книги из ГПНТБ / Автоматы и разумное поведение. Опыт моделирования

сравнения предполагает некоторую обработку. Для выполне­ ния такой обработки и необходимо четко сформулировать критерии сравнения, а также заранее зафиксировать конеч­ ный набор правил интерпретации протокольных записей.

Конкретный вид критериев и правил интерпретации определяется исходя из целей исследования в каждом от­ дельном случае. Так, например, при построении модели ин­ вестиции использован критерий конечного результата;

[41] также приведен пример сравнения последовательности действий человека и модели.

Коррекция моделей. Для того чтобы обнаружить и испра­ вить ошибку, исследователю необходимо возвратиться к бо­ лее тщательному рассмотрению и проверке обоснованности допущений и предположений, принятых им в ходе конструи­ рования данного блока. Возвратившись к рассмотрению соот­ ветствующего этапа, исследователь может исправить обнару­ женную ошибку, внеся необходимые изменения. При этом ему придется в дальнейшем «провести» сделанное изменение через все последующие этапы моделирования.

В ряде случаев при «доводке» модели выясняется, что информации, собранной в ходе экспериментов с человеком, недостаточно для успешного решения задачи. Это вызывает постановку новых экспериментов, пополнение протоколов и соответствующую коррекцию гипотезы и модели. Отметим, что использование описанных циклов является характерным для всех методов, основанных в той или иной степени на использовании эвристических предположений. Некоторые авторы, публикуя полученные ими результаты в окончатель­ ном виде, избегают описания этих циклических процессов «доводки», в то время как последние часто составляют зна­ чительную часть проделанной работы, а их описание и об­

поведения. То обстоятельство, что этому (далеко не исчер­ пывающему) обсуждению уделено сравнительно большое внимание, объясняется прежде всего типичностью используе­ мой здесь схемы для широкого круга исследований в области искусственного разума. В дальнейшем, сталкиваясь с подоб­ ными схемами, будем пользоваться введенными понятиями и представлениями, не уделяя больше времени их подробно­ му описанию. В большинстве случаев приведенные выше комментарии к отдельным этапам процесса построения

моделей поведения с очевидными изменениями приложимы и к этапам построения моделей другого рода, а именно — моделей «процессов» и моделей «механизмов».

Прежде чем продолжить изложение, сделаем еще одно важное замечание. Все, что было сказано выше о процессе построения действующих моделей поведения человека, яви­ лось результатом рассмотрения этой задачи со вполне опре­ деленной и ограниченной точки зрения, а именно — точки зрения разработчиков систем искусственного разума. Пред­ полагалось, иначе говоря, что целью работы является по­ строение системы, поведение которой в конечном счете должно быть функционально эквивалентным поведению че­ ловека при решении определенных задач. Именно такое требование, как указывалось ранее, является необходимым, чтобы обеспечить возможность использования модели в це­ лях автоматизации.

Необходимо отметить, что аналогичные схемы исследова­ ний широко используются также для решения задач по­ знавательного характера, когда действующая модель рас­ сматривается как теория соответствующего поведения чело­ века и строится как таковая. В этом случае описанный процесс имеет ряд особенностей, на обсуждении которых мы не останавливались.

Правильное понимание указанного различия необходимо при оценке конкретных исследований. Это тем более важно, что часто приходится иметь дело с исследованиями смешан­ ного характера: автор, разработавший достаточно интерес­ ную познавательную модель, в редких случаях удерживается от соблазна обсудить ее применимость в практических целях, и, наоборот, разработчик системы, автоматизирующей реше­ ние достаточно сложных «человеческих» задач, нередко представляет ее и как модель процессов, реально выполняе­ мых человеком. Все это создает иногда почву для различно­ го рода малоэффективных дискуссий относительно «соотно­ шения решения задач человеком и машиной», примеры кото­ рых можно найти в литературе по психологии.

§ 2. Модели процессов переработки информации

Для решения некоторых задач автоматизации изучение и имитация внешнего, наблюдаемого, поведения человека недо­ статочны. В этих случаях может оказаться эффективным подход, основанный на изучении и воспроизведении процес­ сов переработки информации, реализуемых мозгом человека и лежащих в основе различных форм внешнего поведения. В рамках этого подхода выполнен ряд интересных работ. Остановимся на рассмотрении типичной для данного случая схемы проведения исследований.

опросников. Полученный таким образом материал может быть осмыслен и использован исследователем только в контексте какой-либо психологической теории или концепции. Исполь­ зование психологических теорий является характерной чер­ той обсуждаемого подхода. Это, однако, не уменьшает роли объективного описания внешних, наблюдаемых, действий испытуемого. Роль такого описания состоит в том, что оно по-прежнему определяет, что именно должен делать кон­ струируемый автомат. Пояснение же испытуемого и психо­ логические сведения должны оказать помощь в ответе на вопрос о том, как такой автомат построить.

Весьма существенным в описываемых условиях является то обстоятельство, что предлагаемые в психологии гипотезы и теоретические обобщения носят, как правило, характер словесных описаний. Это означает, что относительно задачи построения описания (п. 3) такие сведения могут дать лишь некоторую общую идею, определить основное направление работы. Что же касается собственно составления описания в конструктивной форме, то оно является в этом случае ре­ зультатом целого ряда эвристических преобразований исход­ ного материала и носит сугубо гипотетический характер. Так обстоит дело, если объектом автоматизации являются слож­ ные, плохо поддающиеся инструментальному исследованию формы поведения. В тех же случаях, когда изучению под­ вергаются сравнительно узкие, ограниченные классы реак­ ций, оказывается целесообразным проведение специальных психологических экспериментов, направленных на уточне­ ние тех или иных частных предположений. Однако специ­ фика психических процессов такова, что в организации даже сравнительно простых функций участвуют зачастую весьма сложные и разветвленные процессы, так что возможность экспериментального подтверждения частных предположений представляется исследователю весьма редко. В большинстве случаев это оказывается осуществимым для некоторых видов перцептивных процессов и отдельных «элементарных» пси­ хических феноменов (внимания, памяти и др.). В общем же случае результатом работы на третьем этапе исследований является выдвижение гипотезы, обоснованной лишь самым приблизительным образом. Проверка же ее правомерности проводится уже на этапе исследования действующей модели.

Наиболее распространенный способ реализации действую­ щих моделей в настоящее время — это представление в виде программ для ЦВМ. Поэтому конструктивным языком опи­ сания гипотез, используемых на практике, является язык «элементарных» информационных процессов, которые естест­ венно реализуются в вычислительных машинах. Машинное представление гипотез оказывается, как уже упоминалось, эффективным методом проверки их правомерности. Поэтому

например, информационные процессы, протекающие в мозге, можно понимать как механизмы, порождающие внешнее, наблюдаемое, поведение. По отношению же к этим инфор­ мационным процессам механизмами являются совокупности операций (опять-таки информационных), реализуемых в про­ цессе жизнедеятельности отдельных нервных клеток. Таким образом, закрепляя за рассматриваемым подходом название «моделирование механизмов», мы делаем это условно и фик­ сируем в таком названии различие, состоящее в том, что в рамках этого подхода рассматриваются не процессы пере­ работки информации, реализуемые мозгом как некоторой целостной системой, а другие по своей природе и структуре информационные процессы — те, которые реализуются от­ дельными структурными или функциональными единицами мозга. Иными словами, названием «моделирование механиз­ мов» мы фиксируем определенный уровень информационного описания, а именно — нейрофизиологический.

Большое количество работ по моделированию механизмов мозга посвящено построению машинных и физических ана­ логов нейронных структур. С точки зрения задач искусствен­ ного разума упомянутые работы не привели к каким-либо существенным результатам. Несмотря на то что удалось соз­ дать устройства, по ряду важных свойств достаточно близ­ кие к естественным нейронам, пока не удается построить из них нервную сеть с достаточно богатым и интересным пове­ дением.

В рамках направления, заложенного работами Мак-Кал- лоха и Питтса, построены [22] алгоритмы синтеза нейронных сетей, способные надежно реализовывать некоторые задавае­ мые заранее логические операции. Однако значение этих результатов не следует переоценивать, поскольку, во-пер­ вых, объем сетей, синтезируемых с помощью этих алгорит­ мов, невелик и, во-вторых, описание с помощью логических функций достаточно сложного поведения является трудно разрешимой (если не безнадежной) задачей. В то же время представляют значительный интерес проводимые в этом на­ правлении исследования по построению надежных устройств из ненадежных элементов. Развитые здесь приемы могут быть использованы при конструировании отдельных звеньев устройств автоматизации.

Пороговые элементы Мак-Каллоха и Питтса весьма упро­ щенно и схематично отображают свойства реального нейро­ на. Эта простота, по-видимому, и обеспечила успех в реше­ нии задач синтеза сетей из таких элементов. Что касается более сложных и адекватных моделей нервных клеток, то строгие методы решения аналогичных задач для этого слу­ чая не найдены. Разработка этих методов связана с сущест­ венными трудностями, обусловленными отсутствием подхо-

дящих средств формального описания и математического анализа сетевых структур большой сложности. Некоторые надежды в связи с попыткой «обойти» эти трудности возла­ гались на непосредственное изучение естественных нейрон­ ных сетей с целью выявления основных принципов их орга­ низации экспериментальным путем. Если бы такие прин­ ципы удалось установить, то использование их при конструировании сетей из искусственных нейронов было бы чисто механической задачей. В последнее время стало ясно, что и этот путь не является перспективным, и основным результатом предпринятых в этом направлении попыток бы­ ло осознание огромной сложности нейронной организации мозга, справиться с которой существующими методами и тех­ ническими средствами нейрофизиологии оказалось невозмож­ ным.

В связи с таким положением в области ИР, занимающей­ ся моделированием нейронных сетей, создалась кризисная ситуация. Она характеризуется тем, что, с одной стороны, имеется возможность весьма полно отображать в техниче­ ских устройствах свойства нервных кл.еток, а с другой — отсутствуют способы использования этих точных моделей для решения технических задач. Можно полагать, что основная причина сложившейся ситуации заключается в том, что уро­ вень нейронного описания мозга оказывается не подходящим для анализа реализуемых им информационных процессов. Иными словами, нейрон не является функциональной еди­ ницей мозга как системы, обеспечивающей сложную приспо­ собительную деятельность человека. Именно поэтому и не удается связать процессы, реализуемые отдельными нейро­ нами, с процессами и актами поведения, воспроизведение которых является конечной целью исследований в области ИР. Конкретные трудности, в которых выражается упомяну­ тый разрыв, состоят прежде всего в невозможности система­ тического (содержательного относительно конечных форм поведения) анализа развивающихся в нейронных сетях продессов, а также в невозможности разумной предварительной организации нейронной сети. Последнее обстоятельство осо­ бенно важно, поскольку в настоящее время уже ясно, что наиболее перспективным путем моделирования сложного поведения является создание самообучающихся и самоорга­ низующихся систем, а успех их использования необходимо связан с некоторой начальной, предварительной, обученностью и организацией.

Необходимо отметить, однако, что в обширной области моделирования мозга существует класс задач, при решении которых использование нейронного уровня описания являет­

ния образов и их классификации. Речь при этом идет не о моделировании упомянутых процессов в их полном объеме, а лишь о той их части и о тех их звеньях, которые реали­ зуются в мозге работой анализаторных систем, прежде все­ го — зрительной и слуховой. Специфика анализаторных си­ стем состоит в том, что они представлены жесткими нейрон­ ными структурами, обучение в которых практически отсутствует. Кроме того, эти структуры являются в значи­ тельной степени регулярными. Все это делает анализатор­ ные системы удобным объектом экспериментального нейро­ физиологического исследования, и здесь мы сталкиваемся именно с тем случаем, когда прямое изучение нейронных структур приводит к уяснению хотя бы основных принципов их организации. Использование этих принципов при реше­ нии технических задач осуществляется двумя путями. В не­ которых случаях предпринимаются попытки применять нх для создания искусственных анализаторов, чаще же они играют эвристическую роль. Такого рода исследования со­ ставляют в настоящее время основное (по крайней мере, по объему) содержание работ в области нейробионики. Здесь

купностями признаков, еще не находят своего решения. Трудности здесь связаны с представлением таких процессов,

Можно сказать, таким образом, что «нейронный» этап в развитии ИР в целом завершен и дальнейшее направление работ по моделированию механизмов мозга связано с перехо­ дом на другой, более удобный, уровень описания. Мы пола­ гаем, что такой переход обусловливает рассмотрение в каче­ стве функциональной единицы мозга не отдельную нервную клетку, а их специфическую совокупность — нейронный ан­ самбль.

Представления о нейронном ансамбле и его роли в функ­ ционировании мозга впервые были сформулированы в 1949 г. О. Хеббом [77], а в дальнейшем уточнены и развиты его по­ следователями [30, 54, 80, 82]. В настоящее время проводится исследование функциональных свойств нейронных ансамб­ лей методами нейрофизиологии [30].

Мы полагаем, что использование представлений о ней­ ронных ансамблях при моделировании механизмов мозга является наиболее перспективным направлением в рассмат­ риваемой области исследований. Кроме работ, выполненных на нейронном уровне, а также основанных на представле­ нии о более крупных функциональных единицах мозга —

нейронных ансамблях, к направлению, связанному с модели­ рованием механизмов мозга, должны быть отнесены разра­ ботки, эвристической основой для которых служит изучение й анализ процессов организации интегративной деятельности мозга в ходе взаимодействия тех или иных его подсистем (ретикулярной формации, коры больших полушарий, ядер гиппокампа и т. п.) [23, 32, 54, 65 и др.].

Всамом общем виде схема проведения исследований при построении моделей механизмов мозга весьма близка к опи­ санным ранее схемам построения моделей поведения и мо­ делей процессов. Мы не будем поэтому выписывать ее еще раз, а ограничимся лишь кратким обсуждением возникаю­ щих здесь особенностей.

Вописываемом случае исходный материал для построе­ ния модели составляют: зафиксированные в протоколах на­ блюдения за поведением человека при решении интересую­

щей нас задачи; заимствованные из психологии сведения о внутренних процессах переработки информации в ходе решения; заимствованные из нейрофизиологии и физиологии мозга сведения о структуре и правилах функционирования механизмов мозга. В общем случае имеющиеся сведения являются неполными, приближенными, и в ходе построения модели могут проводиться экспериментальные исследования, направленные на их дополнение.

Сведения о наведении, процессах и механизмах исполь­ зуются в ходе работы по-разному: данные о внешних, на­ блюдаемых, реакциях испытуемого и о реализуемых им ин­ формационных процессах определяют соответственно, что именно должна делать модель и какие именно внутренние процессы желательно для этого обеспечить; данные же о структуре и функционировании физиологических образова­ ний мозга подсказывают ответ на вопрос о том, как, в каком именно виде строить модель. Таким образом, гипотеза, фор­ мирование которой составляет содержание третьего этапа исследования, является в данном случае гипотезой относи­ тельно работы механизмов мозга. Проверка этой гипотезы осуществляется, как и раньше, сравнением внешнего пове­ дения модели с поведением человека. По возможности пол­ ное воспроизведение последнего является, как и в предыду­ щих случаях, конечной целью исследования.

Нетрудно заметить, что обсуждаемый метод предполагает наибольшее (по сравнению с остальными) «расстояние» между исходной гипотезой и конечной целью: мы должны конструктивно определить такие механизмы, которые обес­ печивали бы протекание в модели процессов, приводящих к нужным внешним реакциям.

Преимущество такого подхода заключается в том, что в иерархической системе описаний любого объекта обычно

соблюдается своеобразное «правило воронки»: чем ниже уро­ вень описания, тем больший объем феноменов может быть получен или объяснен. Так, если бы нам удалось точно вос­ произвести физику и химизм (т. е. «механизмы») клеточ­ ного аппарата наследственности, то со временем мы, вероят­ но, воспроизвели бы и весь состоящий из клеток организм. Соответственно, представив в модели механизмы некоторого наблюдаемого поведения, мы скорее всего получим модель, воспроизводящую более широкий круг поведенческих реак­ ций, чем тот, для воспроизведения которого модель строи­ лась. Отсюда следует еще одна особенность обсуждаемого метода: его применение может быть рекомендовано в тех случаях, когда объем автоматизируемых поведенческих реак­ ций достаточно велик и логика этих реакций настолько сложна, что применение первых двух более простых подхо­ дов не приводит к успеху.

Описываемая схема проведения исследований широко ис­ пользуется также при решении задач познавательного харак­ тера, т. е. задач психологии и нейрофизиологии.

Следует отметить, что при решении некоторых задач ча­ стного характера описываемая схема применяется в непол­ ном виде. Это происходит в тех случаях, когда целью исследования является воспроизведение в технических устройствах не тех пли иных наблюдаемых форм поведения, а некоторых промежуточных процессов, реализуемых чело­ веческим мозгом. Приведем пример. Известно, что одним из свойств памяти человека является ассоциативность запоми­ нания и выборки. Было бы очень удобно, если бы этим свой­ ством обладали и вычислительные машины. Целесообразно, следовательно, организовать изучение механизмов ассоциа­ тивного запоминания с тем, чтобы впоследствии использо­ вать их модели в конструировании ЦВМ. Работы в этом на­ правлении действительно проводятся. Видно, таким образом, что в данном случае целью моделирования механизмов моз­ га является воспроизведение не конкретных поведенческих актов, а процесса запоминания и выборки информации.

В качестве языка, на котором формулируются гипотезы о механизмах мозга, часто используются языки, ориентиро­ ванные на последующее применение ЦВМ. Однако при ис­ пользовании описываемого подхода недостатки машин, свя­ занные с последовательным способом их работы, проявляют­ ся в наибольшей мере. Хорошо известно, что эффективность мозга как информационного устройства основана в значи­ тельной степени на способности его механизмов производить переработку информации параллельно по множеству каналов. Воспроизведение в ЦВМ этих же процессов требует «вытя­ гивания в цепочку» операций, реализуемых мозгом одновре­ менно, и связано с непроизводительным использованием