книги из ГПНТБ / Автоматы и разумное поведение. Опыт моделирования

§ 1. Задачи автоматизации разумной деятельности

Попытки автоматизации сложных видов человеческой дея­ тельности показали, что современный аппарат теории автома­ тического управления недостаточно эффективен. Возможны различные пути преодоления существующих здесь трудно­ стей. Вокруг одного из них и объединены усилия исследова­ телей. В самом общем виде используемый ими подход можно охарактеризовать следующим образом.

Рассматривается поведение человека, обеспечивающее достижение поставленной цели в определенной среде. Так как методы синтеза искусственных устройств с функцио­ нально эквивалентным поведением не разработаны, то отно­ сительно возможного вида и свойств таких искусственных устройств заранее можно сказать очень мало. В природе, однако, существует система, решающая нужные задачи,— человек. Его, следовательно, можно рассматривать в качест­ ве «прототппа» искомого устройства.

Такой подход развивается в настоящее время рядом на­ правлений. Последние разделяются обычно по характеру решаемых ими задач. Так, говорят о направлениях, иссле­ дующих проблемы распознавания образов, решения интел­ лектуальных задач (доказательство теорем, математические задачи, игры), автоматического перевода и др. Можно про­ водить и более детальную классификацию, выделяя в каче­ стве отдельных направлений в области ИР работы по ре­ шению еще более узких классов задач, например: распо­ знавание букв фиксированного алфавита, доказательство геометрических теорем и т. п. Такие классификации в ряде случаев оказываются весьма полезными. Однако при рас­ смотрении проблемы ИР в целом более важно фиксировать не классы задач, решаемых в рамках тех или иных конкрет­ ных направлений, а особенности реализуемых этими направ­ лениями исследований, т. е. особенности практического использования ими знаний о человеке при построении авто­ матических систем. Поэтому здесь п в дальнейшем мы не будем рассматривать специфику решения частных задач ИР. Нас будут интересовать те общие черты, которые харак­ терны для различных направлений, те принципы синтеза «разумных» автоматов, которые объединяют многообразные работы по ИР в самостоятельную область научных иссле­ дований.

Укажем теперь некоторые особенности, характеризующие проблему ИР в целом. В принципе — это прикладная, техни­ ческая проблема, поскольку окончательным результатом про­ водимых в ее рамках исследований является не решение задач познавательного характера, а разработка тех или иных технических устройств автоматизации сложной деятельности

человека. Отличительный признак этой проблемы — ее на­ правленность на исследование человека и человеческой дея­ тельности как прототипов разрабатываемых систем. Основ­ ным требованием к разрабатываемым системам является функциональная эквивалентность поведения технических устройств и поведения человека в определяемом заранее классе внешних условий. Поскольку в рамках ИР рассмат­ ривается, как правило, достаточно сложное поведение чело­ века и машин, последнее требование часто формулируется как требование разумности поведения технических устройств. Наконец, проблема ИР имеет комплексный характер, что естественным образом следует из ее основных особенностей. Действительно, решая задачи автоматизации в самых раз­ личных областях научно-производственной деятельности, разработчики ИР в каждом отдельном случае должны мак­ симально использовать сведения, имеющиеся в соответствую­ щей конкретной области. С другой стороны, рассматривая человека в качестве прототипа своих систем, разработчики неизбежно вступают в контакт с целым рядом конкретных наук, изучающих человека.

Имея в виду изложенные особенности, мы можем с боль­ шим, чем ранее, основанием говорить об искусственном разу­ ме как о самостоятельной научной проблеме. Составляя одно из направлений автоматизации, проблема ИР в качестве своей основной задачи рассматривает задачу построения устройств, способных автономно выполнять те или иные сложные функции. Проблема ИР, однако, развивает в этой области свой особый подход, в основе которого лежит много­ стороннее и последовательное изучение человека, его пове­ дения. Ясно, что при таком подходе ставятся специфичные задачи и выполняются исследования, не характерные ни для одной из традиционных технических областей. Этот подход, этот комплекс своеобразных проблем и выделяют ИР как обособленное научно-техническое направление.

Рассматривая структуру проблемы ИР, следует, видимо, вос­ пользоваться наиболее общим и традиционным разделением всех изучаемых в ней вопросов на теоретические п техниче­ ские.

В теории ИР, как и в теориях многих других наук, мож­ но условно выделить две части. Одна из них разрабатывает формальные средства описания, языки и математический ап­ парат, обслуживающие проблему в целом. В настоящее вре­ мя эта часть теории ИР развивается в рамках более обшир­ ной области языка и аппаратных средств кибернетики [19,

59]. Другую часть теории составляют содержательные пред­ ставления, используемые в данной области. Здесь разрабаты­ ваются принципы, категории п понятийный аппарат пробле­ мы ИР [5, 40, 41, 49, 60]. Именно в этой части теории сфор­ мулированы основные взгляды на проблему и подходы к изучению человека как прототипа автоматических систем управления. Некоторые из вопросов содержательной теории ИР и будут рассмотрены в настоящем разделе.

Известно, что процесс решения задач автоматизации мо­ жет быть в общем случае разделен на три последовательных этапа: составление описания объекта управления, задание критериев управления или функций цели и, наконец, разра­ ботка на этой основе общей стратегии управления и правил принятия конкретных решений. В дальнейшем задача сво­ дится к построению технических средств, вырабатывающих управляющие воздействия в соответствии с найденными пра­ вилами.

При автоматизации управления сложными системами реа­ лизация каждого из этапов решения задачи связана с суще­ ственными трудностями. Именно эти трудности и пытаются разрешить, обращаясь к изучению человека.

Изучая физиологию и психику человека, мы, к сожале­ нию, еще не в состоянии выделить и использовать при ре­ шении технических задач те принципы, тот «внутренний язык», с помощью которых мозг решает каждую из основ­ ных задач управления: составление описания объекта, фор­ мирование цели, синтез правил или алгоритмов принятия решений. Можно, однако, не задаваясь вопросом о спо­ собах решения мозгом каждой из упомянутых задач в от­ дельности, исследовать целостные нервные или информа­ ционные механизмы и структуры, порождающие поведение человека.

Одна из важных особенностей этого подхода состоит в следующем.

Любое исследование связано с выдвижением некоторых гипотез, объясняющих известные факты, и с последующей экспериментальной проверкой вытекающих из этих гипотез предсказаний. В случае исследования сложных объектов (а человеческое поведение, несомненно, является таковым) эта схема нарушается. Возникающие здесь трудности связа­ ны с тем обстоятельством, что достаточно интересные и со­ держательные гипотезы о сложных системах сами неизбежно являются сложными системами высказываний. А это озна­ чает, что выведение проверяемых следствий из таких гипо­ тез является трудной задачей, требующей для своего реше­ ния развития специальных методов и средств. Принципиаль­ ное решение этой задачи уже найдено современной наукой. Оно состоит в том, что проверяемая гипотеза, .сформулиро-

ванная в конструктивном виде, подвергается моделированию, как правило, с помощью ЦВМ.

Модель гипотезы, таким образом, «отчуждается» от су^ бъектпвных и ограниченных авторских оценок и может явиться объектом тщательного и независимого исследования.

Результаты экспериментов с моделью и составляют, по существу, полную систему предсказаний, вытекающих из предположений и допущений, входящих в исходную гипоте­ зу. В случае, если предсказания модели совпадают с извест­ ными или полученными в ходе специальных экспериментов данными, гипотеза может считаться правомерной. В против­ ном случае гипотеза корректируется, в ее модель вносятся изменения и проверка повторяется.

Существенно, что на этом пути могут быть получены подтверждения лишь правомерности гипотезы. Истинность же ее может быть установлена только в ходе проверки каждого из составляющих гипотезу предположений путем непосред­ ственного исследования объекта. Это связано с тем обстоя­ тельством, что всякое поведение, всякая система наблюдае­ мых признаков могут, как правило, порождаться различными внутренними механизмами объекта. Иными словами, всегда может существовать некоторое множество гипотез, удовле­ творительно объясняющих данную совокупность эмпириче­ ских фактов. Процедура модельной проверки гипотез может быть построена таким образом, чтобы выявлять их сравни­ тельную «силу». Это позволяет рассматривать лишь наиболее удачные из множества правомерных гипотез.

При конструировании сложных моделей поведения чело­ века неизбежно придется создавать различного рода объяс­ нительные пли описательные гипотезы и, следовательно, использовать для их проверки модельный метод. Специфи­ кой работы является то, что мы не стремимся к установле­ нию истинности выдвигаемых гипотез; для проблемы ИР достаточно, чтобы эти гипотезы были правомерны. В самом деле, определенная ранее особенность работ по ИР состоит в требовании только функциональной эквивалентности пове­ дений человека и разрабатываемых устройств. А это озна­ чает, что для решения практических задач могут быть использованы модели любых правомерных гипотез, посколь­ ку признаком их правомерности как раз и является совпаде­ ние поведений модели и рассматриваемого объекта.

Таким, образом, исследуя поведение человека с целью соз­ дания искусственного разума, мы имеем возможность самым широким образом использовать при построении рабочих ги­ потез различного рода данные, имеющиеся в конкретных науках, правдоподобные аналогии, удобные предположения, упрощения и т. п. При этом можно исключать из рассмот­ рения неудовлетворительные и отбирать лучшие варианты

гипотез путем исследования поведения их вычислительных моделей.

Дальнейшее рассмотрение вопросов содержательной тео­ рии ИР будет проведено ниже, при описании основных на­ правлений в моделировании поведения. А пока завершим краткое обсуждение общей структуры проблемы упомина­ нием о технических средствах реализации систем ИР.

Одним из наиболее распространенных способов реализации

способа обусловлено тем, что в качестве технических средств реализации сложных информационных моделей ЦВМ обла­ дают рядом ценных свойств. Важнейшим из них является алгоритмическая универсальность.

Принципиальный недостаток цифровых вычислительных машин — последовательный способ их действия. Недостаток этот проявляется при реализации на ЦВМ моделей большой сложности, имеющих, как правило, параллельные цепи. Вы­ тягивание параллельных процессов «в цепочку», необходи­ мое для их представления в ЦВМ, приводит не только к уве­ личению затрат машинного времени, но и к дополнительным затратам памяти для хранения промежуточных результатов. В некоторых случаях такие непроизводительные затраты становятся недопустимо большими и могут полностью обес­ ценить преимущества ЦВМ.

Перспективы использования ЦВМ для реализации систем ИР связаны, прежде всего, с дальнейшим совершенствова­ нием вычислительной техники и средств математического обеспечения. Большое значение для развития ИР будет иметь, в частности, создание машин пятого поколения, обла­ дающих значительными объемами оперативной памяти и обеспечивающих реализацию параллельных процессов пере­ работки информации. В настоящее время развитие работ по ИР тесно связано с прогрессом в разработке специальных технических средств моделирования, ориентированных на реализацию в них параллельных процессов. Арсенал средств такого рода велик и представлен прежде всего электронной техникой. Для решения некоторых задач моделирования ока­ зывается целесообразным применение устройств, принцип действия которых основан на использовании свойств физикохимических процессов, протекающих в растворах, коллоидах и т. п. (например, управляемые элементы с памятью — раз­ личного рода химотроны, мемисторы и др.). Широко исполь­ зуются также комбинированные системы, содержащие циф­ ровую и аналоговую части. При этом аналоговая часть, реализованная с помощью электронных схем и специаль­ ных устройств, предназначается для модельного представ­ ления параллельно протркрп»тцщс ППГДТУ^^П1^-1^Фров"П Р — Для

искомый автомат решает поставленную задачу, если его поведение функционально эквивалентно поведению человека. В соответствии со спецификой задачи зададим критерии функциональной эквивалентности.

2. Организуем наблюдение за поведением человека, ре­ шающего задачу в определенной контролируемой ситуации, и будем фиксировать в протоколах производимые им дей­ ствия и словесные высказывания.

3. Анализируя протоколы, попытаемся выявить и опи­ сать систему (т. е. состав и последовательность) производи­ мых человеком действий, направленных на преобразование исходной ситуации к виду, являющемуся решением задачи.

4.В соответствии с полученным описанием построим устройство, реализующее соответствующую систему опера­ ций. Будем полагать, что такое устройство и является иско­ мым автоматом.

5.Исследуем поведение автомата при решении задачи. Если оно недостаточно полно (по отношению к принятым критериям) соответствует поведению человека или по ка­ ким-либо другим причинам не является удовлетворительным, то: либо обратимся еще раз к выполнению п. 4 и произве­ дем необходимые изменения в автомате, либо вернемся еще раз к п. 3 и попытаемся уточнить описание поведения, либо, уточнив задачу и условия эксперимента, вернемся к выпол­ нению п. 2. Будем продолжать такой циклический процесс до тех пор, пока поведение автомата не будет в достаточной мере удовлетворять предъявляемым к нему требованиям.

Остановимся на некоторых особенностях описанной схе­ мы и проиллюстрируем их на примере конкретной разработ­ ки. Следует отметиь, что рассматриваемое направление является одним из наиболее развитых в области ИР, п в его рамках получен ряд интересных результатов, имеющих как познавательное, так и прикладное значение. Одну из таких работ, имеющую в целом прикладную направленность, мы и используем в качестве примера. Эта работа выполнена Дж. Кларксоном и посвящена задаче принятия решений при выборе политики инвестиций [33]. Автором разработана и реализована в виде программы для ЦВМ модель, иллюстри­ рующая действия банковского служащего — инвестора. Зада­ чей инвестора является размещение доверенного ему клиен­ том капитала в тех или иных акциях и облигациях. При этом инвестор должен принимать во внимание весьма разно­ образные сведения о деятельности фирм и рыночной стои­ мости их акций, предсказания относительно будущего со­ стояния экономики и фондовой биржи, установленные законом ограничения на процесс доверенной инвестиции, влияние налогов на доход от тех или иных ценных бумаг, стабильность этого дохода и, наконец, пожелания доверителя

относительно сочетания дохода и прироста капитала. Выбор плана инвестирования в этих условиях можно отнести к за­ дачам принятия решений при неполной информации. Стро­ гие методы решения таких задач пока не разработаны. В то же время банковские служащие справляются с ними доста­ точно хорошо. Это и создает ситуацию, описанную в п. 1 нашей схемы, когда целесообразно искать решение задачи путем исследования поведения человека.

Изучение деятельности. Посмотрим, как реализуется в рассматриваемой работе [33] этап наблюдения за поведе­ нием инвестора. Цитируем: «Изучение проводилось путем опроса служащих и наблюдения за работой опекунских сове­ тов, обсуждающих ранее вынесенные и предстоящие реше­ ния. Впоследствии внимание было сосредоточено на работе служащего одного из банков, несущего основную ответствен­ ность за все решения, касающиеся выбора портфелей внутри данного банка... С согласия служащего его действия в про­ цессе принятия решения фиксировались в «протоколах». Эти протоколы регистрировали весь процесс принятия реше­ ний служащим в ходе его текущей работы» [33, стр. 360]. Видно, таким образом, что, получив общее представление об исследуемом процессе путем изучения работы различных групп людей, автор в дальнейшем сосредоточивает внима­ ние на поведении одного служащего. Такой переход весьма характерен для рассматриваемой группы исследований. Изу­ чение поведения именно одного человека является, видимо, целесообразным в связи со следующим обстоятельством. У каждого специалиста вырабатывается свой специфичный «стиль» решения задач, и у разных людей он, естественно, различен. Избавиться от связанных с этпм трудностей мож­ но двумя путями. Один из них — исключить из рассмотрения несущественные «стилевые» особенности путем установления наблюдений за достаточно большой группой людей. Ясно, что это требует больших затрат времени и усилий. Другой путь предполагает разработку модели поведения именно высококвалифицированного специалиста. В результате мо-г дель, очевидно, может воспроизвести и некоторые несущест­ венные особенности его поведения. Это является, однако, вполне приемлемой платой за упрощение исследования в це­ лом, тем более что к оптимальности разрабатываемых таким способом моделей и решений жесткие требования, как пра­ вило, не предъявляются.

Существенной особенностью рассматриваемого этапа является осознанное и последовательное использование фе­ номенологического подхода в описании поведения. Это озна­ чает, что в протоколах фиксируются только наблюдаемые факты поведения, непосредственно связанные с решением задачи. Вот как формулирует эту особенность своих иссле-