книги из ГПНТБ / Автоматы и разумное поведение. Опыт моделирования

«Три Закона роботехники:

1.Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.

2.Робот должен повиноваться командам, которые ему дает человек, кроме тех случаев, когда эти команды противоречат Первому За­

кону.

3. Робот должен заботиться о своей безопасности, поскольку это не противоречит Первому и Второму Законам.

Ив «Руководства по роботехнике», 56-е издание, 2058 год».

Робот СПД-13 (Спиди) послан к селеновому озеру с при­ казом: принести селен. Приказ не подчеркивал важность и срочность этого задания, в то время как именно от его вы­ полнения зависел успех экспедиции. Выделяющийся возле озера газ был опасен для робота, поскольку мог привести к нарушению его целостности. В результате, по мере при­ ближения робота к озеру, в его «позитронном мозге» воз­ растал потенциал Третьего Закона роботехники, призванного не допускать нарушения целостности робота. Поскольку по­ тенциал Второго Закона, обусловленный силой данного Спи­ ди приказа, был невелик, возникло равновесие между стрем­ лением выполнить приказ и стремлением избежать опаснос­

— Оп начинает кружить около озера, оставаясь на ли­ нии, где существует это равновесие. Если мы ничего не пред­ примем, он так и будет бегать по этому кругу, как в хоро­ воде...»

Только ценой включения Первого Закона, обязующего робота прежде всего заботиться о человеке, удалось вывести Спиди из «заколдованного круга». Вторично робот получил приказ «достаточной силы» и выполнил его без всяких от­ клонений от норм поведения.

Построим М-автомат, моделирующий поведение Спиди. Итак, моделируемая функция г|з есть поведение робота: цель моделирования — выяснение причин нарушения нормы по­ ведения.

Необходимо иметь в виду, что модель Спиди строится только для демонстрации процесса построения М-автомата. Поведение Спиди будет представлено в предельно упрощен­ ном виде, поскольку для сложного автомата детальный ана­ лиз принципов построения весьма затруднителен. Именно поэтому мы, собственно, и рассматриваем условный пример,

а не используем разработанные нами М-автоматы, описание которых приводится во второй части книги.

Будем считать, что полученный роботом приказ выпол­ нен в тот момент, когда он подошел к озеру. Процесс воз­ вращения робота после выполнения задания рассматривать не будем. Пусть выполнение приказа считается нормой по­ ведения, а блуждания вокруг озера — нарушением нормы. Сведениями о функции г|з будут служить описания поведения робота, приведенные в рассказе. Дополнительные исследова­ ния, естественно, мы провести не можем. Поскольку пове­ дение робота ограничено в нашей модели только движением к озеру, можно считать, что имеющиеся в рассказе сведения достаточны для построения полного необучагощегося М-авто- мата.

В построении моделируемой функции участвуют две про­ граммы, отражающие действие Второго и Третьего Законов роботехники: программа выполнения приказа и программа сохранения целостности робота. В качестве «внешних» объ­ ектов примем: озеро, содержащее селен (автомат должен приблизиться к нему), и газ, выделяющийся вокруг озера и угрожающий целостности автомата. Будем считать, что концентрация газа находится в прямой зависимости от бли­ зости автомата к озеру: чем больше концентрация газа, тем больше опасность для автомата. Внешним воздействием (установкой) будем считать также «силу приказа», данного автомату. Поскольку приказ был дан один раз, силу этого внешнего воздействия примем постоянной.

Выберем информационный уровень описания работы моз­ га робота и определим набор понятий, необходимых для опи­ сания функции. Прежде всего зафиксируем отражение в моз­ ге робота внешних воздействий, введя i-модели «близость озера», «концентрация газа» и «приказ». Для того чтобы вы­ полнить приказ и в то же время сохранить себя, автомат должен совершать некоторые действия. Чтобы не усложнять структуру будущего М-автомата, ограничимся двумя дейст­ виями — «подойти» и «отойти» и введем соответствующие г-модели. Тот факт, что в среде имеются опасные для цело­ стности автомата элементы, отразим г-моделыо «опасность».

«Эмоциональное» состояние робота во время выполнения приказа в самых общих чертах может быть описано следую­ щим образом. Поскольку среда в определенной мере опасна для робота (и, соответственно, для моделирующего его авто­ мата), эмоциональным сигналом о наличии опасности может быть чувство страха. С другой стороны, процесс выполнения полученного приказа должен сопровождаться чувством удов­ летворения (сигнал полезности деятельности), а отказ от выполнения — чувством неудовлетворения. Чувство удовле­ творения можно интерпретировать и по-другому, понимая

его в данном случае как чувство уверенности, возрастающее по мере приближения к цели. Чувством неудовлетворения мы пока пренебрежем. Понимая, что эмоциональная сфера нашего автомата оказывается бедной, ограничимся все же введением в нее не более двух i-моделей: «чувство страха» и «чувство уверенности». На этом закончим формирование набора понятий для описания поведения робота Спиди. При желании читатель может легко расширить структуру авто­ мата, введя новые понятия самостоятельно.

Итак, для описания выбранной функции т|) мы собираем­ ся использовать следующие понятия: близость озера, кон­ центрация газа, опасность, страх, уверенность, подойти, отой­ ти. Очевидно, что соответствующие i-модели должны быть в мозге автомата определенным образом взаимосвязаны. Мы говорили, что концентрация газа находится в прямой зави­ симости от близости озера. Однако отражать эту зависимость связью от i-модели «близость озера» к i-модели «концентра­ ция газа» не следует, поскольку, во-первых, она реализуется вне автомата, его внешней средой, и, во-вторых, «по усло­

газа и величина его концентрации не безразличны автомату, отразим связью, направленной от i-модели «концентрация газа» к i-модели «опасность». Естественно, что чем больше опасность, тем сильнее должно быть чувство страха и стрем­ ление автомата уйти от опасности. Установим поэтому связи от i-моделп «опасность» к i-моделям «страх» и «отойти». Увеличение чувства страха, в свою очередь, пусть вызывает стремление уйти от опасности, уменьшение уверенности и стремления подойти к опасному объекту. Отразим эти взаи­ мозависимости связями, направленными от i-модели «страх» к i-модели «отойти» и i-моделям «уверенность», и «подойти». К последним i-моделям должны быть установлены тормоз­ ные связи.

При описании аппарата моделирования мы выделяли тормозный и активный компоненты связи. Поскольку здесь мы имеем дело с необучающимся М-автоматом, а также для упрощения его алгоритма будем считать, что связь имеет только один компонент и, следовательно, может быть либо усиливающей (активной), либо тормозной. Говоря, что от одной i-модели к другой установлена связь, будем понимать, что эта связь усиливающая. Наличие тормозной связи будем каждый раз оговаривать отдельно.

Итак, чувство страха тормозит чувство уверенности.

Рис. 1. М-сеть автомата «Сппдп».

Рпс. 2. Характеристика возбуждепия г-моделей.

«уверенность», отразив тем самым потенциальную возмож­ ность роста уверенности в выполпении приказа по мере при­ ближения к цели, и связь от i-моделп «приказ» к г-модели «подойти», поскольку в рамках нашего, уже ограниченного, сюжета модели именно в выполнении действия «подойти» к озеру заключается смысл приказа. Влияние «уверенности» на процесс выполнения задания отразим связью от г-модели «уверенность» к г-модели «подойти».

рис. 1. Естественно, у читателя могут возникнуть вопросы относительно правомерности и обоснованности выбора имен­ но этой структуры. Кроме тех оправданий и объяснений, ко­ торые мы уже приводили, можно еще добавить, что набор i-моделей и, особенно, связи между ними — это наши «микро­ гипотезы» относительно структуры моделируемой деятельнос­ ти. Эксперимент с действующей моделью покажет их право­ мерность. Не нужно забывать также, что модель строится для получения именно функции TJ) и возможные психологи­ ческие несоответствия или отсутствие веских обоснований не должны нас смущать, ибо девиз искусственного разума — «важнее всего результат».

Следующий этап построения М-автомата — определение проходимостей связей и вида характеристик i-моделей. К со­ жалению, этот этап находится пока на уровне, если можно так выразиться, искусства, ибо ничего более веского и убеди­ тельного, чем правдоподобные рассуждения, здесь предло­ жить нельзя. Мы говорим — пока, потому что надеемся, что со временем будет найден более конструктивный способ за­ дания организации М-автоматов, хотя бы в виде четко сфор­ мулированных эмпирических правил.

Начнем с определения вида характеристик i-моделей. На­ помним, что для каждой i-модели нужно задать характери­ стики возбуждения, торможения и затухания и, кроме того, порог возбуждения.

Впринципе, для различных i-моделей характеристики могут иметь разный вид, например: для характеристики воз­ буждения может быть принят логарифмический, линейный или любой другой вид. В больших М-сетях i-модели можно разделять на группы, задавая каждой свой вид характерис­ тик или свои параметры характеристик при одинаковом их виде. Выделение таких групп позволяет более полно отразить специфику входящих в сеть i-моделей. Возможности для вос­ произведения М-сетью сложных и разнообразных функций, вытекающие из раздельного задания вида и параметров характеристик отдельных i-моделей, весьма велики, по­ скольку существенно увеличивается «гибкость» модели в целом.

Внашем примере М-сеть невелика и можно ограничиться одинаковым видом характеристик для всех i-моделей сети. Прежде всего рассмотрим происходящий в i-модели процесс трансформации усиливающих входных сигналов в выходной. Рис. 2 демонстрирует общий вид зависимости возбужден­ ности П на выходе i-модели от усиливающих входных воз­

буждений Еа (характеристика возбуждения). Если вернуть­ ся к аналогии между i-моделью и нейронным ансамблем, то такой вид зависимости представляется достаточно естествен­ ным. Действительно, при малых входных воздействиях ан­ самбль не возбуждается, а затем возбужденность на выходе увеличивается пропорционально величине входного воздей­ ствия. При достаточно больших входных воздействиях воз­ бужденность на выходе должна изменяться мало, поскольку клетки ансамбля не могут импульсировать с большей, чем это следует из их физиологии, частотой и, кроме того, коли­ чество клеток в ансамбле конечно. Поэтому близкий к лога­ рифмическому вид характеристики возбуждения представля­ ется вполне приемлемым. Запишем его следующим образом:

где Кв — коэффициент, определяющий крутизну характери­ стики, или, иначе, возбудимость i-модели.

Определение возбужденности i-модели по характеристи­

Однако реально чаще всего бывает наоборот, т. е. сущест­ вуют и собственное (за предыдущий момент) возбуждение, и тормозные воздействия.

Характеристика затухания определяет изменение собст­ венного возбуждения i-модели во времени. Примем следую­ щий вид характеристики:

может быть определено выходное возбуждение i-модели при

пому воздействию Е\ в момент времени t (см. рис. 2). Пусть

приведенных выше рассуждений и логарифмического харак- П,к

Ш~

тера кривой возбуждения следует, что Ех — е . Таким

образом, при отсутствии тормозных воздействий

П* а

П ( + 1 = Кп In (Е'а + е К" - в). (4,17) Теперь остается только разобраться с процессом тормо­

жения. Как было описано при изложении аппарата модели­ рования, логичнее всего (разумеется, по нашему мнению) отражать тормозное воздействие изменением возбудимости i-модели, т. е. коэффициента наклона ее характеристики воз­ буждения. Именно поэтому мы приняли следующий вид характеристики торможения:

На графике рис. 2 это соответствует окончательному опре­ делению возбужденности рассматриваемой i-модели не по кривой К и, а по кривой К}. Итак, общий вид зависимости выходного возбуждения i-модели от всех входных воздейст­ вий может быть представлен следующим образом:

Коэффициент т необходим для сохранения нужного мас­ штаба числовых величин.

Несмотря на большую обоснованность выбора логариф­ мического вида характеристики возбуждения, для рассмат­ риваемого примера, с целью упрощения расчетов, выберем

все же линейный вид этой зависимости. Дело в том, что ав­ томат, моделирующий робота Спиди, мы решили полностью просчитать «вручную», чтобы читатель, интересующийся та­ кого типа автоматами, легко мог повторить этот расчет и приобрести тем самым минимальный практический навык, необходимый при создании эвристических моделей. Это об­ стоятельство сыграло не последнюю роль п в других упро­ щениях, принятых при конструировании автомата.

Окончательно примем для всех i-моделей рассматривае­ мой сети характеристики затухания, торможения и возбуж­ дения соответственно в виде:

П ' + 1 = П'о,

К1 = К„ - тЕ1т;

П ( + 1 = (Е1а - в) Кн.

Величины активных и тормозных воздействий на i-модель будем подсчитывать следующим образом:

где rtj и Гц — активные и тормозные связи соответственно. Общая зависимость (формула пересчета) выходного возбуж­ дения i-модели от всех входных воздействий имеет вид

ствий, т. е. возбужденности i-моделей «сферы восприятия». Чтобы не писать каждый раз наименование (содержательную интерпретацию) i-моделей, будем в дальнейшем пользова­ ться их номерами, приведенными на рис. 1. Итак, опреде­ лим возбужденности i-моделей 1—3.

Будем считать, что сила данного автомату приказа остается для него постоянной до момента достижения цели (в нашем примере — подойти к озеру). Соответственно по­ стоянной и независимой от положения автомата относитель­ но озера будем считать возбужденность i-модели 3. Пусть эта возбужденность будет равна 30 усл. ед. Вообще говоря, цифру 30 мы взяли произвольно и в дальнейшем «силу при­ каза» будем изменять, чтобы продемонстрировать ее влия­ ние на выполнение автоматом задания.

Изменение возбужденностей i-моделей 1 и 2 должно со­ ответствовать состоянию среды и находится в прямой зави­ симости от положения автомата относительно озера.

На рис. 3 приведены принятые числовые величины возбужденностей i-моделей при каждом конкретном положении ав­ томата.

Поскольку величины внешних воздействий и, следова­ тельно, возбужденности i-моделей 1 — 3 уже известны, поста­ раемся задать необходимые параметры так, чтобы возбуж­ денности остальных i-моделей были того же порядка. Это необходимо для обеспечения нормального переключения СУТ с одних i-моделей на другие. Будем ориентироваться на среднюю возбужденность П, = 100 усл. ед.

Примем коэффициент затухания для i-моделей 4—6 а = = 0,5. Тем самым мы задаем «кратковременную память» автомата, достаточную для влияния в течение двух-трех по­ следующих моментов времени. Что же касается «рецепторпых» и «эффекторных» i-моделей 1—3, 7, 8, то здесь «забы­ вание» пришедшей от сети информации нецелесообразно. Поэтому примем для них а = 1.

Перейдем теперь к определению коэффициентов возбуди­

Входное воздействие по активным связям в среднем состав­ ляет в нашей сети для одной i-модели 200 усл. ед. Цифра получена следующим образом. Пусть на i-модель приходит

дователъно, новая информация (новые воздействия) имеет большее влияние на состояние i-модели, нем память о про­

больше величины В» носят эвристический характер и могут уточняться в процессе работы с моделью.

Итак, мы задали величины параметров a, R„, m, и в фор­ муле (4.21) остались не зафиксированными только пороги возбужден пй i-моделей и проходимости связей между ними. Что касается порогов возбуждений, то для упрощения расче­ тов примем для всех i-моделей 6 = 0. Это позволит нам более четко продемонстрировать влияние остальных парамет­ ров i-моделей на работу М-сети, поскольку возможность реализации достаточно широких функций пороговыми эле­ ментами хорошо известна. Правда, в М-сети наличие поро­ гов возбуждений не превращает i-модели в пороговые эле­ менты, однако по опыту работы с другими М-автоматами мы знаем, что введение порогов может существенно упростить настройку сети. Поэтому нам кажется интересным при по­ строении «учебной» модели показать работу М-сети со значе­ ниями 9 = 0 .

Успешность работы модели в значительной мере зависит от задания величин проходимостей связей между г-моделя­ ми. На рис. 4,а показана матрица связей, принятая нами в качестве «начального» варианта. Номера столбцов соответ­ ствуют номерам i-моделей, от которых отходят связи /, но­ мера строк — номерам i-моделей, к которым подходят свя­ зи i . Цифры на пересечении i-й строки и /-го столбца соответствуют проходимостям связей между i-моделями. Тор­ мозные связи показаны со знаком тильды.

Постараемся теперь пояснить, как и почему была выбра­ на именно эта матрица связей. Поскольку специальных экс­ периментов по выявлению «силы» определенных связей мы не проводим, ограничимся разделением всех связей на три группы: сильные, средние и слабые. К сильным отнесем следующие: связь от i-модели «приказ» к i-модели «подой­ ти», связь от i-модели «близость озера» к i-модели «уверен-