книги из ГПНТБ / Автоматы и разумное поведение. Опыт моделирования

ресурсов памяти машин и большими затратами машинного времени.

Более адекватными средствами реализации действующих моделей механизмов мозга являются аналоговые вычисли­ тельные машины и особенно — специализированные физиче­ ские устройства. Перспективны также аналого-цифровые комплексы. Использование параллельной техники предъяв­ ляет, очевидно, соответствующие специфические требования и к конструктивному языку изложения гипотез.

§ 4. Общая схема моделирования

Мы рассмотрели три различных подхода к решению задач автоматизации сложного поведения человека. Каждый из них связан с построением некоторых информационных си­ стем, выступающих в одном случае как модели внешнего, наблюдаемого, поведения; в другом — как модели процессов переработки информации, реализуемых мозгом в ходе его интегративной деятельности; в третьем— как модели «ме­ ханизмов» мозга. В сущности, модели всех трех типов пред­ ставляют собой разноуровневые описания единого объекта — человека, решающего задачи.

Все перечисленные подходы связаны с проведением ис­ следований по некоторой схеме. Каждая из схем предусмат­ ривает: выдвижение гипотез, описывающих объект на том или ином фиксированном уровне; последующее представ­ ление этих гипотез в виде действующих моделей, назначение которых состоит в автоматизации выводов; сравнение этих выводов, т. е. поведения модели, с реально наблюдаемым поведением человека. Предполагается «циклический» харак­ тер исследования: после проведения операций сравнения поведения модели с поведением человека и выявления имею- , щихся различий либо осуществляется повторное обращение к исследованию объекта, либо производится коррекция ис­ ходной гипотезы, либо совершенствуется действующая мо­ дель — и исследование повторяется начиная с места возвра­ та. Выполнение подобных циклов обеспечивает процесс последовательного приближения модели к такому виду, при котором она удовлетворяет всем предъявляемым к ней тре­

бованиям.

Еще раз укажем основные особенности каждого из под­ ходов.

Подход, связанный с разработкой моделей поведения, предполагает использование в качестве исходной информа­ ции только тех данных, которые зафиксированы в протоко­ лах наблюдений за действиями испытуемого. Гипотеза в этом случае описывает систему операций по преобразованию

исходной ситуации к нужному виду. При построении гипо­ тезы и ее модели, кроме эвристических предположений и приемов, по возможности используются данные из областей, специально исследующих структуру и принципы организации моделируемых видов деятельности. К разрабатываемым моде­ лям предъявляется только одно требование: в ходе решения задачи модель должна делать то же, что и человек, нахо­ дящийся в аналогичных условиях.

Подход, связанный с разработкой моделей процессов, предполагает использование в качестве исходной информа­ ции как протоколов, так и имеющихся в психологии (как правило, неполных) данных относительно структуры внут­ ренних информационных процессов, реализуемых мозгом в ходе решения задач изучаемого типа. Гипотеза здесь описы­ вает именно эти внутренние процессы. Эвристической осно­ вой гипотезы служат аналогии с процессами, протекающими в живом мозге. Однако представленные в гипотезе и ее моде­ ли принципы и схемы организации информационных процес­ сов не «приписываются» мозгу, т. е. не ставится вопрос относительно их истинности. В данном случае требуется только, чтобы гипотеза удовлетворительно объясняла наблю­ даемую феноменологию поведения, т. е. являлась правомер­ ной. Если же в рамках какого-либо исследования предпола­ гается проверка истинности гипотезы, то это накладывает на процесс ее построения целый ряд ограничений, связанных с необходимостью описать тот единственный вариант изу­ чаемых процессов, который на самом деле реализуется в моз­ ге. Такое исследование, очевидно, не принадлежит уже к об­ ласти ИР, точнее, не является характерным для этой об­

функций. Таким образом, модели, разрабатываемые с по­ мощью данного подхода, должны давать в результате один из возможных вариантов ответа на вопрос о том, как форми­ руется поведение человека в ходе решения рассматриваемой задачи.

Подход, связанный с разработкой моделей механизмов, предполагает использование в качестве исходной информа­ ции как данных протоколов, так и имеющихся в психологии и нейрофизиологии (как правило, неполных) данных отно­ сительно структуры реализуемых мозгом внутренних инфор­ мационных процессов и относительно тех естественных механизмов, функционированием которых эти процессы по­ рождаются. Здесь гипотеза описывает именно функциониро­ вание механизмов мозга, взятое в его информационном ас­ пекте. В связи с недостаточной изученностью механизмов мозга при построении гипотезы имеют большую эвристиче­ скую ценность сведения об информационных процессах и

структуре внешнего поведения. Так, если из психологии известны, например, некоторые особенности процесса запо­ минания, то необходимо либо предусмотреть специальные механизмы, реализующие эти особенности в модели, либо убедиться в том, что они будут представлены в работе уже введенных ранее механизмов, обеспечивающих выполнение моделью других функций. Однако при проверке гипотезы нет принципиальной необходимости устанавливать, действи­ тельно ли модель реализует те или иные промежуточные процессы. Основным, как обычно, является соответствие по­ ведений человека и модели. Сопоставление же протекающих в модели процессов с внутренними информационными про­ цессами мозга имеет в данном случае вспомагательный ха­ рактер и может оказаться полезным при поиске причин не­ соответствий в поведении модели и человека.

Итак, мы рассмотрели подходы, характерные для иссле­ дований в области ИР. Следует отметить, что в ходе рас­ смотрения был использован ряд упрощений и в целом оно носит несколько абстрактный характер. Именно это позволи­ ло нам более или менее четко выделить схемы исследова­ ний, характерные для различных подходов. Схемы тако­ го рода, хоть и упрощенные, являются тем не менее удоб­ ным и эффективным инструментом при анализе практиче­ ских работ по моделированию разумного поведения, а также при оценке места и значения получаемых в ходе таких работ конкретных результатов. Мы полагаем, кроме того, что ясное понимание особенностей принципиальной структуры иссле­ дования необходимо при планировании и организации новых работ в области ИР.

Среди множества конкретных работ по искусственному разуму, описания которых опубликованы за последнее деся­

фрагменты той или иной схемы, их разные комбинации и т. п. Таким образом, оказывается, что в рамках одного исследова­ ния зачастую используются и определенным образом совме­ щаются несколько разных подходов. Кроме того, существуют исследования, применяющие тот или иной подход только частично, иногда в неполной или неявной форме. В соответ­ ствии со способом использования различных схем практиче­ ские работы по моделированию сложных функций человека можно разделить на несколько больших групп. Для того чтобы завершить рассмотрение интересующей нас проблемы, кратко опишем основные, наиболее представительные груп­ пы работ. Мы выделяем три такие группы, условно назван­ ные исследованиями смешанного типа, исследованиями по редуцированной схеме и исследованиями больших гипотез.

Для работ, составляющих эту группу, характерно совмеще­ ние в рамках одного исследования нескольких разноуров­ невых подходов к описанию объекта моделирования. Воз­ можность такого совмещения заложена в структуре схем, описывающих каждый из основных подходов. Приведем примеры.

Пусть исследование в целом выполняется по схеме моде­ лирования наблюдаемого поведения. При обсуждении этой схемы мы упоминали, что при анализе протоколов часто воз­ никают трудности, связанные с наличием «скачков» в ходе решения задач испытуемым. При построении описания гипо­ тезы в соответствующих местах появляются логические раз­ рывы, «закрытие» которых всякий раз требует специального рассмотрения и дополнительных исследований. Ясно, что такие дополнительные исследования могут проводиться по схеме моделирования процессов или даже механизмов. Если эти схемы действительно использованы, то в окончательном виде гипотеза будет содержать разноуровневые описания объекта. Иначе говоря, большая часть описания будет отоб­ ражать структуру наблюдаемых поведенческих актов, а от­ дельные его фрагменты — структуру, например, внутренних информационных процессов мозга. Возможно и обратное. Пусть в модели внутренних процессов функции некоторых блоков сводятся к выполнению сравнительно простых опера­ ций, структура которых легко формализуется. В этом случае удобно заменить такие блоки более простыми описаниями, эквивалентными им уже на более высоком, поведенческом, уровне.

В качестве примера работы смешанного типа можно рас­ смотреть исследование У. Рейтмана процесса решения чело­ веком задач «на аналогию» [54]. Построенная автором модель «Аргус» состоит из двух основных частей. Одна из них вы­ полнена в виде «активной семантической сети», отображаю­ щей некоторую гипотезу относительно свойств хеббовских клеточных ансамблей и их взаимосвязанных совокупностей. Эта часть построена как информационная модель механиз­ мов мозга. Другая часть названа исполнительной програм­ мой и содержит описание некоторых стратегий решения задач.

Исполнительная программа отображает гипотезу автора относительно общей структуры информационных процессов мышления. Видно, таким образом, что модель содержит два уровня описания человека, занятого решением задач опре­ деленного типа. Другим примером модели такого рода являются «неполные М-автоматы», описанные в последую­ щих главах.

§ 6. Исследования по редуцированной схеме

Для этой группы работ характерно проведение исследований в соответствии с какой-либо одной из описанных выше схем или их сочетанием, причем некоторые из этапов исследова­ ний, предполагаемых этими схемами, либо выполняются в сокращенном виде, либо представлены в неявной форме. Рассмотрим такие возможности подробнее.

Этапы непосредственного изучения объекта и составления описаний (гипотез) в различных работах представлены в разном объеме. Так, существует большое количество работ, где этап непосредственного изучения объекта либо практи­ чески не представлен, либо представлен не систематическим экспериментом с четкой организацией процедуры и протоко­ лированием, а лишь некоторой суммой наблюдений за пове­ дением людей в естественных условиях [14, 16, 17].

Способы использования эвристик. Как было отмечено выше, в ходе решения задач человек часто использует прав­ доподобные заключения, рассуждения, догадки, эмпириче­ ские правила, упрощения и т. п. Приемы такого рода не всегда приводят к успеху при решении конкретной задачи, однако в большинстве случаев оказываются полезными. Та­ кие приемы, направленные на ограничение области поиска решений, называют обычно эвристическими приемами и пра­ вилами, или эвристиками. Посмотрим, что представляет со­ бой эвристика с точки зрения обсуждаемых нами схем.

Нетрудно обнаружить, что характер использования эври­ стик при решении задач ИР находится в определенной связи со сложностью последних. При решении сравнительно про­ стых задач обычно используют формульное представление описаний, а их анализ проводят с помощью строгих матема­ тических методов. Существуют, однако, такие математиче­ ские задачи, решение которых требует применения эвристи­ ческих приемов. Решение, основанное на догадке или аналогии, представляется математику неубедительным и тре­ бующим проверки. Такая проверка осуществляется путем строгого обоснования найденного эвристическим путем ре­ зультата с помощью формального выведения его из исходных посылок. Относительная простота задачи допускает такое выведение, и в окончательной форме доказательство носит характер строгого, корректного построения. Эвристика же оказывается «вытесненной» из решения. Процесс такого рода весьма типичен для решения математических задач и по­ дробно описан многими математиками [3, 44, 45, 50].

С усложнением задач роль эвристических приемов в их решении повышается. При этом строгий характер решения в целом сохраняется, а использование эвристик имеет эпизо­ дический характер: к нему прибегают в «трудных» местах

доказательств, где попытки применения строгих методов пе приводят к успеху [39, 40, 68]. Однако случается, что такого рода использование эвристических приемов не удается впо­ следствии «замаскировать» цепочками дедуктивных выводов. Этому препятствует сложность решаемой задачи. В таких случаях решение и в окончательной форме содержит интуи­ тивные допущения, т. е. эвристика присутствует в нем как необходимое звено. Результаты такого рода, будучи пекорректными, часто оказываются тем не менее весьма эффек­ тивными при решении важных практических задач.

В качестве примера укажем на разработанную Р. Беллманом процедуру динамического программирования [11], основанную на использовании ряда эвристик планирования. Эта процедура позволяет находить близкие к оптимальным решения для ряда таких задач, сложность которых исклю­ чает применение других, более строгих методов. К сожале­ нию, не все математики быстро оценили целесообразность разработок такого рода. Охраняя чистоту математических методов, такие исследователи отгородились от изучения сложности высказыванием «эвристика — плохая математи­ ка», забывая о том, что «хорошая математика» в сложных случаях оказывается плохим инструментом исследования. В настоящее время, однако, имеется уже большое количество работ, основанных на сознательном использовании эвристи­ ческих приемов.

Для задач максимальной сложности, связанных, как пра­ вило, с автоматизацией высших форм мышления и деятель­ ности человека, широкое использование эвристик становится практически неизбежным [51]. Здесь эвристики выступают не в форме приемов преодоления отдельных трудностей, а кладутся в основу решения. Систематизация, выбор и про­ верка эффективности таких эвристик составляют в данном случае основное содержание исследований. Подробно рас­ смотренные' нами ранее схемы построения моделей поведе­ ния, процессов и механизмов мозга характеризуют исследо­ вания именно такого рода.

Сейчас для нас представляет интерес рассмотрение вто­ рого из перечисленных случаев, т. е. той ситуации, когда применяемая в ходе исследования эвристика играет роль вспомогательного приема для преодоления отдельных труд­ ностей, но, будучи однажды использована, уже не может быть «вытеснена» впоследствии более строгими построения­ ми и остается в решении как его непосредственное и необхо­ димое звено. Посмотрим, каковы особенности эвристик тако­ го рода.

Следуя некоторым авторам [62], будем различать специа­ лизированные и универсальные эвристики. Специализиро­ ванные эвристики — это такие приемы и правила, примене-

ние которых оказывается полезным при решении какой-либо одной задачи (или узкого класса однотипных задач). Обыч­ но они формулируются в языке этой задачи и следуют из анализа ее особенностей. Таковы многие эвристики шахмат­ ной игры.

Универсальные эвристики, напротив, оказываются полез­ ными при решении широкого класса задач; они сформулиро­ ваны в виде правил и указаний весьма общего характера и следуют из обобщения большого числа наблюдений или спе­ циального исследования особенностей и структуры человече­ ской деятельности. Примерами универсальных эвристик являются правило «обратного пути» при доказательстве тео­ рем, метод анализа целей и средств, эвристики планирования и т. п. Универсальные эвристики широко применяются в раз­ личных работах, поэтому именно их мы будем иметь в виду при дальнейшем рассмотрении.

Как уже упоминалось, эвристические приемы и правила возникают в результате обобщения наблюдений за процес­ сами решения задач многими исследователями и — реже — в ходе специально поставленных экспериментов. Таким обра­ зом, они формулируют то общее, что имеется в поведении различных людей, и являются, следовательно, статистически­ ми описаниями, моделями этого поведения. В момент, когда исследователь формулирует и решает использовать на прак­ тике ту или иную эвристику, он, естественно, не убежден еще в ее эффективности. И даже впоследствии, применив ее, он не может ожидать, что она окажется полезной и в других случаях. Отсюда следует, что эвристике как описанию опре­ деленной деятельности человека присущ выраженный гипо­ тетический характер.

Формулирование эвристик происходит в два этапа. На первом осуществляются наблюдения за деятельностью лю­ дей, решающих задачи, на втором — осмысливаются и систе­ матизируются результаты этих наблюдений. Второй этап за­ вершается выдвижением гипотезы, описывающей некоторые закономерности поведения. Именно эти гипотезы и выра­ жаются в виде эвристического правила. Нетрудно заметить, таким образом, что этапы формулирования эвристик хорошо соответствуют этапам изучения объекта и выдвижения гипо­ тез, которые упоминались при обсуждении общих схем моде­ лирования. Иногда оба этапа выполняются осознанно и целе­ направленно. В некоторых же случаях эти этапы протекают скрыто, без явного осознания их исследователем, и тогда эвристика открывается им неожиданно, в виде догадки или «озарения».

Проверка гипотез в общем случае производится путем построения и исследования действующих моделей. Аналогич­ ные процедуры реализуются и при использовании эвристик.

Здесь имеется, правда, определенная специфика. Она состоит в том, что эвристика, принятая на некотором этапе решения, является его неотъемлемой частью. И если решение в целом оказывается успешным, то это свидетельствует об эффектив­ ности не эвристики, а данного решения, включающего в себя и эвристику. Таким образом, однократное успешное исполь­ зование эвристического приема еще ничего не говорит о его пригодности в целом.

Иначе обстоит дело при широком и частом использова­ нии данной эвристики, что как раз и характерно для рассмат­ риваемого класса универсальных эвристик. Если то или иное правило успешно применяется при решении различных за­ дач, то можно полагать, что оно действительно отражает нечто существенное и будет полезным в большом числе слу­ чаев. Таким образом, широкое использование эвристики является формой ее проверки. Каждый отдельный акт такой проверки связан с представлением эвристики в той или иной конкретной форме, в определенном языке, отражающем спе­ цифику решаемой задачи. Эту операцию можно трактовать

ния поведения моделей.

Мы убедились, таким образом, что описанные ранее прин­ ципиальные схемы моделирования сложного поведения удов­ летворительно характеризуют также и особенности примене­

При этом описываемые схемами процессы формирования и проверки эвристик составляют лишь отдельные фрагменты общей структуры решения. Для таких процессов характер­ но, что те или иные их этапы выступают в неявной или специфически измененной форме. Имея в виду это обстоя­ тельство, мы и рассматриваем процедуры использования универсальных эвристик как исследования, проводящиеся по редуцированным схемам.

В заключение отметим, что исследования по редуциро­ ванным схемам составляют значительную часть работ, вы­ полненных в области искусственного разума.

§ 7. Исследование больших гипотез

В области работ по искусственному разуму предпринимают­ ся попытки построить максимально общую теорию, объяс­ няющую поведение человека, и создать тем самым единую основу для построения широкого класса моделей сложных

видов деятельности, а в конечном счете — и некоторую еди­ ную модель, реализующую основные принципы работы мозга. Построение такой действующей модели и явилось бы, соб­ ственно, решением проблемы искусственного разума. Ясно, что эта задача относится к числу наиболее сложных задач, какие только можно поставить перед современной наукой. Работы в этой области мы и объединили под общим назва­ нием «большие гипотезы». Таких работ немного, и каждая из них представляет огромный интерес, так как может по­ служить основой для ряда важных разработок более част­ ного характера и для развития целого направления иссле­ дований.

В каждой из больших гипотез сконцентрированы в той или иной степени основные достижения наук о человеке, существующие на соответствующем этапе их развития. В ка­ честве примеров больших гипотез, возникших, к сожалению, слишком рано — в период, когда не существовало адекват­ ных технических средств их исследования, можно назвать систему взглядов выдающегося физиолога И. П. Павлова на законы высшей нервной деятельности, теорию поведения О. Хебба и некоторые другие. Многие из выдвигавшихся ра­ нее больших гипотез не потеряли своей актуальности и до на­ стоящего времени, и их исследование методами моделиро­ вания может принести интересные и неожиданные резуль­ таты.

Мы не будем подробно анализировать процедуры иссле­ дования больших гипотез, предлагать в этих случаях какиелибо схемы вряд ли целесообразно. Кратко отметим лишь две из имеющихся здесь особенностей, которые, несмотря на их очевидность, представляются нам весьма важными.

Одна из них связана с тем, что проверка большой гипо­ тезы практически может осуществляться только по частям, т. е. так, что в конечном счете гипотеза должна быть отраже­ на системой взаимосвязанных и согласованных между собой «частных» действующих моделей. При этом каждая из мо­ делей решает задачи проверки отдельных положений и идей гипотезы или некоторых их совокупностей. Необходимость такого подхода объясняется именно сложностью гипотезы, исключающей возможность построения на ее основе некото­ рой единой модели с помощью существующих технических средств и теоретических аппаратов.

Преимущество системы моделей состоит, очевидно, в том, что ее можно строить постепенно, начиная со сравнительно простых частных моделей, отражающих основные, фунда­ ментальные положения гипотезы, и последовательно услож­ няя их, добавляя новые и устанавливая связи между уже имеющимися моделями. Выделение в гипотезе отдельных проверяемых фрагментов и разработка стратегии их модель-

ного исследования в каждом конкретном случае является весьма ответственной и тонкой задачей.

Другая особенность больших гипотез связана с языком, на котором они формулируются. Ранее мы ввели представ­ ление о конструктивности языка гипотезы и определили его

вотношении к средствам реализации действующих моделей.

Врассматриваемом случае это определение, очевидно, не является удовлетворительным. В самом деле, большая гипо­ теза в целом не должна быть ориентирована иа использова­ ние тех или иных конкретных средств моделирования: ее основной смысл и специфика состоят в содержательном зада­ нии принципов воспроизведения объекта. Более того, для модельной реализации большой гипотезы часто оказывается целесообразным не использование имеющихся, а разработка новых средств реализации — создание специальных техниче­ ских устройств, новых алгоритмических языков программи­

рования и т. п. Таким образом, понятие конструктивности в данном случае имеет несколько иной смысл. Для того чтобы уточнить его, укажем на следующее обстоятельство.

Большая гипотеза, как' правило, формулируется в рамках не одной какой-либо конкретной науки, изучающей человека, а должна включать в себя в общем случае данные различ­ ных конкретных наук. Для того чтобы решить эту задачу, необходим, очевидно, такой язык, который был бы удобен при описании общих принципов построения разумного пове­ дения, тех принципов, которые изучаются каждой из кон­ кретных наук на своем уровне и своими специфическими методами.

Таким языком в настоящее время является, по-видимому, язык описания процессов переработки информации. Этот язык конструктивен в том отношении, что, с одной стороны, он оказывается адекватным для представления существен­ ных свойств процессов, изучаемых нейрофизиологией и пси­

и схем управления; с другой стороны, сформированные в этом языке описания могут быть естественным образом реа­ лизованы в виде действующих моделей с помощью средств аналоговой и цифровой вычислительной техники, хорошо развитой в настоящее время.

Построение действующих моделей гипотез принципиаль­ ным образом связано с введением числовой меры в исходное описание. Это обстоятельство должно учитываться и при фор­ мировании больших гипотез, а именно: основные параметры, вводимые гипотезой, должны быть представпмы в числовой форме. Естественно, что сама гипотеза вряд ли может и должна содержать предположения о конкретном значении вводимых ею параметров. Однако желательно, чтобы она