Наумов Современные проблемы философии науки 2011

смыслы, единство восприятия. Тест Тьюринга имеет в виду их наличие лишь в «снятом» виде – в операциональном, функциональном модусе: например, весь трансцендентализм сводится к моменту идентичности системы, которая вполне корректно уловима алгоритмически и, более того, имеет уже отработанные программные реализации в виде рекурсивных функций. «Самосознание» сводится к верификации функционального состояния системы и умению употреблять свой собственный образ в символических преобразованиях. Эта редукция преодолевает индетерминизм субъективной реальности, предпосылая синтаксис семантике: формализация правил, инструкций, состояний, протоколов позволяет искусственному интеллекту извлекать картину мира из «картины слова». Теоретическая возможность для такой трансформации метафизики в логику предопределена во многом классическими теориями сознания. Кант, например, предлагал прояснить, каким образом случается, что «условия возможности предметов опыта» совпадают с «условиями возможности опыта», почему познающий субъект и предметы встречаются на одной сцене реальности и каким образом они пересекаются. Феноменологически модернизированная проблема Канта по отношению к любого рода, в том числе и искусственному сознанию: независимо от того, существует ли объективная реальность, как случается, что идеи, витающие в сознании, этим сознанием понимаются? Как возможно по интерсубъективной верифицируемости идей судить о порождающем их разуме, по предметам судить об условиях их возможности, и по этим последним – об условиях возможности опыта вообще?

Представим себе, что сознание – некоторая программа, получающая некоторые факты, значения от органов чувств. Современ-

ная постановка проблемы Канта в реализации искусственного разума: возможен ли вариант, при котором субъективное переживание значений не совпадает ни с одной объективной программной процедурой для работы со значениями? И можно ли машину «за-

ставить понимать значения»? Эти вопросы имеют уже прямое отношение к аргументу Д.Серля «Китайская комната».

Аргумент китайской комнаты придуман и изложен Джоном Серлем в 1980 году в работе «Разумы, мозги, программы». Тест воспроизводит множество качественных вопросов из истории философии, например, вопрос феноменологии и критической фило-

131

софии о том, что есть факт разума для самого разума, иначе: если разум владеет некоторыми смыслами, значениями, то в каком отношении к разуму выступают эти факты?

Тест «Китайская комната» заключается в следующем: вообразим англичанина, запертого в комнате, полной всевозможных словарей и справочников. Представим себе, что некая китайская делегация и английская делегация изъявили желание пообщаться с англичанином, используя только записи, передаваемые через окно в комнату. Обе делегации не знают, кто находится в комнате. Итак, сначала английская делегация пишет свои вопросы и передает их – англичанин, читая записи, и, легко понимая их на своем родном языке, пишет ответы и отдает обратно.

Пояснительный тест «Английская комната»: англичанин получает заметки на английском языке и отвечает – делегации снаружи он представляется (и является) владеющим английским язы-

ком. Английская делегация после серии вопросов-ответов приходит к выводу, что в комнате находится человек, свободно владеющий английским языком и понимающий передаваемые ему вопросы. Посмотрим, как будет выглядеть процесс общения с китайской делегацией.

Тест «Китайская комната»: англичанин получает заметки на китайском языке и отвечает словарным ответом - делегации снаружи он представляется (но не является) владеющим китайским языком

Итак, изначально все выглядит так же, как и в ситуации с англичанами: китаец формулирует свои вопросы, передавая их в комнату. Англичанин видит некий иероглифический рисунок. Сам рисунок не говорит ему ровным счетом ничего. Однако, англичанин берет соответствующий словарь с типовыми ответами и, находя в нем рисунок с имеющегося у него листа, смотрит на сопоставленный ему второй рисунок (типовой ответ). Далее англичанину остается только по возможности более тщательно перерисовать увиденный рисунок на свой листок и передать китайской делегации. Последняя читает ответ и за серию таких испытаний убеждается, что находящийся в комнате субъект владеет китайским языком и понимает, о чем, собственно, шла речь в записках. Очевидно, что структурно нет никаких отличий в этих опытах, и, однако, мы смеем ут-

верждать нечто неслыханное: возможна ситуация, в которой чело-

132

век, абсолютно не понимающий смысла своих сообщений, тем не менее, сможет продуктивно общаться, или, по крайней мере, производить ощущение понимающего. Варианты «китайской комнаты» демонстрируют, что структурно для внешнего наблюдателя нет отличия между системой понимающей и не понимающей язык. Аргумент китайской комнаты дополняет тест Тьюринга: внешний наблюдатель может не отличить разумного агента от не обладающего разумом.

Выдвигая аргумент китайской комнаты, Джон Серль предполагал продемонстрировать неочевидность феномена «понимания». Разговор о понимании человеком текста или события подразумевает визуальную (поведенческую) сторону понимания, т.е. то, насколько адекватно ведет себя человек в соответствии с тем, что он понял. Если же вообразить, что китайской комнатой является мозг человека, которому мир посредством органов чувств передает свои записи, проявляется тот факт, что, совершенно не «понимая» передаваемых ему стимулов, человек лишь машинально возвращает возбуждаемые в нем реакции, сгенерированные нейронно-синапти- ческой базой его мозга. Человек как существо, обладающее счетной машиной – мозгом – остается словно вне этого процесса обмена информацией, являясь объектом, а не субъектом этого обмена. Будучи применен к искусственному интеллекту, этот аргумент выявляет проблему интерпретации получаемых в разговоре с искусственным разумом сигналов: видимая адекватность ответов и поведения, полагает Серль, ничего не говорит о том, понимает ли система получаемые ею сигналы (для полноты описания обратим внимание на яркий аргумент против концепции Серля: безусловно, говорят оппоненты, сам англичанин в китайской комнате не постигает смысла своих сообщений, однако вся система, т.е. англичанин и весь используемый им инструментарий, «понимает» их. Здесь, однако, уже нельзя сказать, что вся система является «Я».) В этом отношении здесь возрождается старинный аргумент Дэвида Юма: наше «Я», будучи предполагаемым центром нашей ментальной жизни, является ничем иным, как совокупной картиной сплетенных воедино перцепций, аффектов, – и не существует никакого суверенного «Я»; понимание в спорах современных теоретиков часто представляется столь же иллюзорным феноменом, не существующим отдельно от своих проявлений. Сложность познавательной

133

стороны вопроса о «понимании» искусственного интеллекта наиболее отчетливо демонстрируется спором между Джон Серлем и другим ярким представителем философии сознания – Дэниэлом Деннетом: Джон Серль утверждает, что компьютер никогда не сможет понимать свои действия и этим он отличается от человека. Дэниэл Деннет соглашается с Серлем в том, что понимание недоступно компьютеру, но он полагает, что и человек не обладает пониманием, и этим человек не отличается от компьютера.

3.2.Сознательный инэссенциализм

Впредшествующем повествовании о природе сознания и о возможных тестах на «подлинность» сознательной природы машинного интеллекта мы невольно затрагивали исключительно рациональные компоненты психических проявлений. Изначальное же понимание природы интеллекта на уровне здравого смысла выстраивается в простейших наблюдениях над поведением «интеллектуального образца», т.е. человека, животного, робота. На первых этапах развития наук о когнитивном соприкосновении с действительностью подобная установка тормозила развитие теории, поскольку рациональность агента действия (субъекта) сводилась исключительно к его поведенческим (=бихевириальным) шаблонам. Иными словами, считалось, что возможно восстановить мотивацию поведения исходя из прозрачности самого поведения для наблюдателя. Таким образом, действие понималось как овеществленная рациональность.

Однако, первые же выводы Зигмунда Фрейда из его наблюдений за гипнотическим поведением клиентов показали, что данная установка верна далеко не во всех случаях (а в теории психоанализа – вообще не верна). Сознание – чрезвычайно многослойная, сложная структура, непрозрачная для понимания своих собственных мотивов. Сознание способно столь творчески интерпретировать бихевириальные проявления самого человека, что он искренне будет верить в «версию сознания» о своем поведении.

Нет, тем не менее, ничего неслыханного в следующем опыте: мы спрашиваем задумавшегося над книгой человека, почему минуту назад он взмахнул рукой (мы знаем, что он отгонял комара) – и

134

он не только не может объяснить мотивы этого телодвижения, но и не помнит ни о какой своей телесной активности в пределах последних минут. И все же нам, наблюдателям, естественно было бы приписать взмаху рукой определенную мыслительную подоплеку, психическую ориентацию на действие в соответствии с мотивом – иначе, «рациональность». Двусмысленность данного опыта заключается в том, что разумный наблюдатель высчитывает разумность (рациональность) исходя из аналогии со своими собственными склонностям и мотивациями – и, таким образом, рационально объясняет иррациональные элементы поведения. Сам субъект действия мог бы сказать, что действовал «машинально», «автоматически», «механически», «не задумываясь».

Для философии искусственного интеллекта принципиальной является разница между системами, способными действовать осмысленно, но иногда действующими «не задумываясь» и системами, неспособными к осмыслению и всегда действующими «машинально», «не задумываясь». Первые системы «человекоподобномыслящие», вторые – автоматы. Таким образом, основной вопрос философии искусственного интеллекта заключается в создании «человекоподобномыслящего автомата».

Какой же вывод можно сделать из приведенного выше опыта? Для объяснения многих (или всех) наблюдаемых форм поведения нет необходимости привлекать такую гипотетическую конструкцию как «осмысленность», «рациональность», «сознательность». Действия могут быть произведены без их осмысления, как это легко наблюдается в случаях рефлекторного и инстинктивного поведения. Бихевиористская интерпретация поведения, как основанного на таких-то и таких-то «представлениях», «умозаключениях», «мыслях», может оказаться излишней: понятие сознания избыточно для объяснения многих человеческих проявлений, и, следовательно, наличие или отсутствие сознания не является принципиальным для собственно человеческой реальности. «Человеческое» и «разумное» в подобном подходе теряют свою синонимичность.

135

3.3. Понятие сознания по Г. Райлу

Интересен аналитический подход, сочетающий логико-лингви- стический, интерсубъективный анализ, стыкующийся с бихевиористской направленностью. В рамках подобного подхода Гилберт Райл пытается анализировать логические возможности понятий, описывающих «ментальное поведение». Интерпретации сознания, как некой субстанции, порождающей ментальные события, Райл противополагает «диспозиционную» концепцию сознания. Описываемые ментальными понятиями явления следует интерпретировать не как внутренние события, но в качестве «предрасположенности», т.е. способности совершать определенного рода действий, доступные внешнему наблюдателю.

Райлу удается преломить и естественный, рационалистический путь понимания природы сознания, заключающийся в отождествлении знания с внутренним свойством сознания. Райл показывает, что «знание» так же можно рассматривать как диспозицию. С этой целью философ вводит различие между «знанием как» и «знанием что».

Знания о том, каким образом то или иное действие может быть совершено, Райл именует «знанием как», коль скоро описание подобного действия включает ментальные понятия. Возможным в некотором специфическом контексте является и «знание что» – информация о планировании действий. «Знание как», по Г.Райлу, носит диспозиционный характер, поскольку не требует никаких предположений о наличии тайных процессов во внутренней жизни сознания для подтверждения своего существования. Считается, что человек владеет игрой на фортепиано, если его действия совпадают с теми, каких мы ожидаем от играющих на фортепиано людей. Утверждать, будто человек «знает как», означает также утверждать, что он способен к определенным действиям и его поведение в этом смысле следует определенным правилам.

Общий пафос философии сознания Г. Райла заключается в попытке редуцировать любые рассуждения о тайной природе сознания к теоретическому оформлению внешних, хорошо доступных наблюдению действий, что не может не наводить на мысль об аналогии с бихевиоризмом.

136

По определению, бихевиоризм – это психологическое направление, полагающее, что ментальные состояния человека тождественны наблюдаемым актам его поведения, либо же, по крайней мере, проявляются через его действия. Желания сделать из философии «строгую» науку привело адептов бихевиоризма к попытке иметь дело исключительно с объективно наблюдаемыми свойствами человеческой активности. Более ранняя версия бихевиоризма – философского – принадлежит Томасу Гоббсу, чья теория о материальной природе ментальных состояний имеет сегодня немало последователей и в других ответвлениях философии сознания. Однако Райл отстранился от того, что в современной философии называют «строгим» бихевиоризмом – от онтологической позиции, утверждающей, что нематериальных «душ» или сознаний не существует. Подобно воззрениям Декарта на природу животных, этот взгляд на человеческое сознание является полностью материалистическим, согласно ему человеческие существа являются лишь чрезвычайно сложными материальными устройствами, которые не обладают нематериальной душой или сознанием.

Философская отчетливость понятий сегодня подвергается все большему давлению со стороны естественных наук. Значительная часть глобальных вопросов гуманитарных наук вынуждена уточнять свои формулировки за счет выделения слабых и сильных версий одной и той же проблемы, как это происходит, например, и в философии искусственного интеллекта. Подобным образом «слабая» версия философского бихевиоризма, полагает, что ментальное не может быть описано независимо от внешне проявляющегося телесного поведения, хотя и не отрицает самого понятия сознания. Райл не только солидарен с данной версией проблемы, но, что еще важнее, он увязывает подобную формулировку с философией языка, переводя проблему в логико-лингвистический план. В данном отношении акцентируется не только доступность разумного поведения объективному внешнему наблюдению, но и тот факт, что становится возможным применять для характеристики ментальных действий объективные критерии его применения в ситуациях, вызывающих эти действия.

Подобно тому, как Гильберту Райлу удалось указать на некорректность отношения к сознанию, как к метафизической сущности, структуралистской философии удалось обосновать отказ и еще от

137

одной теоретической фикции философии сознания – от трансцендентализма. Трансцендентальное Я, чистое сознание, сознание вообще – все эти конструкции, оправданные лишь в контексте спецификации субъект-объектной связи, оказались не настолько продуктивными, чтобы с их помощью можно было рассуждать об изначальном, о «подлинном» бытии или бытии сознания. Сознание перестает быть изначальностью познания и самодоказательного существования, как это еще имеет место у некоторых экзистенциалистов, оно не только теряет свою автаркичность и самообоснование, но само задается в иных, предсознательных структурах, включающих в себя сознание как один из своих моментов. Эти бессознательные структуры чаще всего отождествляются с языком. Несознательные структуры (подобные жизни, языку, власти, психике) отныне становятся на место трансцендентального фона, легитимирующего и конституирующего нормы деятельности эмпирического сознания согласно классическому западному рационализму.

3.4. Итоги

Несмотря на популярность различных версий функционализма, спорные и неразрешимые его моменты неоднократно продуцировали развитие его теоретических конкурентов, важнейшим и старейшим из которых является дуализм, которому мы посвятим заключительные размышления, связывающие его с функционализмом. Приведем здесь краткое описание этой гносеологической позиции и ее точек соприкосновения с философией искусственного интеллекта.

«Дуализм есть теория о том, что существуют две, и только две, разновидности субстанций: сознания и физические объекты. Сознание – чисто ментальная, нематериальная или духовная субстанция, а физический объект – чисто материальная, нементальная, протяженная в пространстве субстанция. Из этого логически следует, что никакое сознание не является физическим объектом и никакой физический объект не является сознанием. Дуализм понимает под личностью совокупность сознания и тела, но большинство дуалистов утверждают, что личность существенным образом является своим собственным сознанием и только случайным образом

138

она является своим телом. Или, если выразиться иначе, личность и есть ее сознание, но при этом она имеет или обладает своим телом. Из этого следует, что если тело некой личности перестанет существовать, то логически возможно, что эта личность будет продолжать существовать. Но, если перестанет существовать ее сознание, тогда с необходимостью перестанет существовать и личность. В принципе же, сознания могут существовать без тел, а тела могут существовать без сознаний»120.

Попробуем сделать первичные выводы для философии искусственного интеллекта из подобного изложения точки зрения дуализма. Дуализм полагает, что субстанция сознания и субстанция человеческой соматики (телесности) различаются кардинально по самой своей природе. Более того, исключительно к сфере физического бытия относятся вероятные координаты «создания» искусственного интеллекта на каком-либо носителе. Коль скоро наличие той или иной материальности (например, телесности) является фактором случайным для всякого сознания, то нельзя с достоверностью постулировать каузальные (причинно-следственные) связи между ними. В таком случае крайне необоснованной представляется позиция «воспитания» искусственного интеллекта «в» материальном носителе, как, например, это происходит в случаях робототехники, обучения нейронных сетей. Прояснить воздействие идеальной субстанции сознания на физическую субстанцию возможно только в том случае, если терминологически зафиксировано определенное понимание феномена «идеального». Однако, искусственный интеллект рассматривается как субстанция, которая может быть локализована в определенном физическом объеме – будь то программа, загруженная на некоторый твердый носитель и выполняемая в определенной среде, будь то обучаемый агент, производящий интеракции в некотором контейнере. Подобной постановкой задачи отрицается возможность последовательного дуализма в теории искусственного интеллекта. Если сознание является так или иначе свойством правильно организованной материальной системы, следовательно, возможна некоторая зависимость между физическим устройством и «идеальным» содержанием данной системы. Следовательно, именно отказ от последовательного дуализма есть теоре-

120 Прист С. Теории сознания. – М., 2003.

139

тическая позиция по крайней мере многих, если не всех, направлений в исследованиях искусственного интеллекта. Напомним, что сложности дуалистической позиции девальвируют некоторые искусственные приемы идеализма Платона, Декарта и Канта, призванные обойти проблемы двух субстанций: по Платону, идеи не воздействуют на вещи, и вещи не проистекают из идей, а лишь «причастны» им; по Канту, вещь-в-себе, ноумен, не воздействует на нашу чувственность, но лишь «аффицирует» ее, порождая феномены нашего восприятия; по Декарту, психика и физика пересекаются в шишковидной железе, во всем остальном не имея общей природы. Очевидно, что дуализм порождает существенные проблемы для объяснения и не решает важнейшие проблемы, возникающие и в функционализме. Первая проблема: как бы мы смогли понять, тестируя программу искусственного интеллекта или общаясь с роботом, говорим ли мы с полноценным субъектом, осознающим значения своих слов, или это просто достойная имитация

– подобная англичанину для китайской делегации? Вторая проблема: не может ли оказаться так, что все мы – такого рода имитации, кажущиеся себе сознательными, а по факту лишь прогоняющие через себя некий абстрактный символьный поток, без понимания этого потока, что, в свою очередь, является описанием такого феномена как «зомби»? Рассмотрение дуалистической дифференциации носителя и содержания, физики и психологии, материи и идеи позволяет глубже понять, в каком отношении функционализм «разрешает» проблему субстанциальности сознания. Центральной гипотезой функционализм сочетается с предположением Ньюэлла и Саймона о физической символьной системе: физическая реализация символьной системы не влияет на ее функционирование; значение имеет лишь функциональная структура, т.е. «если уровень интеллекта определяется исключительно структурой системы символов, то любая среда, успешно реализующая правильные операции символьной обработки и процессы, достигает этого уровня интеллекта независимо от того, составлена она из логических цепей, нейронов, механических элементов и т.д.»121

121 Пузанков Д. В., Мирошников В. И., Пантелеев М. Г., Серегин А.В. Интеллектуальные агенты, многоагентные системы и семантический web: концепции, технологии, приложения. – СПб., 2008, С.11.

140