Наумов Современные проблемы философии науки 2011

интеллектуальной деятельности: 1) использование символов и символьных систем в качестве средства для описания мира; 2) разработка механизмов перебора (в частности - эвристического) для исследования границ потенциальных умозаключений таких систем; 3) отвлеченность когнитивной архитектуры (т.е. правильно построенная символьная система может проявлять интеллект в широком смысле независимо от средств реализации)»117.

Подходу, связанному с символическим наполнением механического устройства, противостоят такие отрасли интеллектуальных технологий как нейронные сети и генетические алгоритмы. В частности, в нейронных сетях проблематика, очерченная Ньюэллом и Саймоном, уже не может играть главенствующей роли, по той простой причине, что конкретное символическое образование не может быть приписано ни узлам, ни соответствующим весам нейронных сетей. Понятие «размазано» по всей нейронной сети, и не может быть локализовано. Тем не менее, нейронная сеть остается носителем чего-то эфемерного, ускользающего – знания, реализованного в ее физической структуре. («Существенной альтернативой гипотезе о физической символьной системе являются исследования в области нейронных сетей и других, заимствованных из биологии, вычислительных моделей. Нейронные сети, например, являются физически реализуемыми вычислительными моделями познания, не основанными на предварительно интерпретированных символах, которыми точно описывается предметная область. Поскольку знания в нейронной сети распределены по всей ее структуре, зачастую сложно (а то и невозможно) соотнести конкретные понятия с отдельными узлами или весовыми коэффициентами. Фактически любая часть сети может служить для представления разных понятий. Следовательно, нейронные сети являются хорошим контрпри-

мером, по крайней мере, условию гипотезы о физических символьных системах»118.)

117Пузанков Д. В., Мирошников В. И., Пантелеев М. Г ., Серегин А. В. Интеллектуальные агенты, многоагентные системы и семантический web: концепции, технологии, приложения. – СПб., 2008, С.11.

118Люггер Дж.Ф. Искусственный интеллект: стратегии и методы решения слож-

ных проблем. – М., 2003, С.786.

121

Таким образом, представления об «искусственности» интеллекта погружают исследователя в сугубо философскую проблематику идеализма-материализма: соотношение информации и ее носителя, сознания и мозга, души и тела. Подобные вопросы («сможет ли машина стать разумной», «сможет ли компьютер понимать свои действия») могли бы составлять полноценную тематику отдельно взятой науки, если бы слова «может» («желает»), «машина» («компьютер»), «мыслить» («понимать») были бы терминами и, тем самым, фиксировали некоторое однозначное содержание. Выявление этого содержания – одна из главных задач философии искусственного интеллекта.

2.3. Сложность

Тесты на IQ – одна из первых попыток измерить интеллект количественно, т.е. это попытка осознать, «сколько разума» есть у тестируемого. Предполагается, что сведения о мире субъект приобретает в опыте и умело использует их в адекватной обстановке. Данные приобретаются искусственным путем обучения, и, следовательно, естественный интеллект не «насквозь» естествен, но с какого-то момента в нем начинают превалировать искусственные конструкции – «знания», а сам он является отчасти искусственным интеллектом. Богатство и многообразие разумности обязано своим рождением лишь внешнему вмешательству – сложному процессу обучения. Именно на этом вопросе остановился Герберт Саймон, когда стал исследовать поведение и эволюцию сложных систем. Он пришел к заключению, что многие системы могут оказаться на поверку весьма простыми, а вся кажущаяся сложность их поведения сводится лишь к сложности среды обитания этих систем (для человека средой обитания является социальная среда, символический мир его значений, смыслов).

Например, птичья стая. Хотя совокупное поведение стаи представляется наблюдателю едва ли не разумным, сами картины индивидуального поведения могут оказаться чрезвычайно примитивными, и, кроме того, число их невелико. Скажем, для птичьей стаи это могут быть правила: держаться в полуметре от соседа и заполнять пробелы в «строю». Не важно, какие именно правила управляют стайным поведением, важно лишь, что их мало и что они просты.

122

Саймон приводит пример поведения муравья. Траектория движе-

ния муравья выглядит изощренно продуманной, в то время как на самом деле муравей лишь следует сложному рельефу местности.

Более того, именно такая траектория его движения есть следствие ограниченности его восприятия. Если бы муравей мог воспарить своим интеллектуальным взором над окрестным ландшафтом, он бы обнаружил, что путь его к возможным целям мог быть и значительно короче, более того, многих препятствий на его пути просто бы не возникло. Муравей познает реальность по мере ее поступления в его локальную сферу восприятия, суженную его органами чувств до узкого рецептивного конуса.

Попробуем уже на этом этапе сформулировать вывод о природе исследования разумности объектов: проявляемая для наблюдателя сложность поведенческих актов не является с необходимостью свидетельством богатства внутренней структуры объекта, но, напротив, может свидетельствовать о простоте данной структуры, воспроизводящей простые поведенческие шаблоны в сложной окружающей среде.

Этот вывод интригует, но остается еще относительно нейтральным в отношении нашего исследования. На его основе мы лишь убеждаемся в необходимости постоянно пересматривать динамику соотношения субъект-окружающая среда. Однако, Герберт Саймон делает следующий шаг в этом размышлении в книге «Науки об ис-

кусственном»: в том, что касается принципов своего поведения, человек прост и сложность его поведения во времени отражает сложность внешней среды, в которой он живет.

Таким образом, становится возможным показать важный нюанс в противопоставлении естественного интеллекта интеллекту искусственному. И в том, и в другом случае материальный носитель, такой как мозг или нейросеть, являются лишь необходимым субстратом, на котором (подобно тому, как это описано у Джона Локка в представлении о «чистой доске») прорисовывает свои знаки окружающая среда. Для человека окружающей средой является природный и социальный мир, для искусственного интеллекта – человек, обучающий нейросеть. Ни в первом, ни во втором случаях интеллект не рождается самопроизвольно, но воспитывается средой своего обитания. Данный процесс можно наблюдать на примере развития экспертных систем, которые обучаются по мере общения

123

спользователями, и чьи ответы со временем становятся все более гибкими.

Нейросеть, экспертные базы данных, воспитание ребенка демонстрируют тот факт, что интеллект есть «искусственное образование», а не врожденный признак системы.

Если продумать тезис Герберта Саймона о предполагаемой простоте человеческого существа, которое представляется сложной системой только в силу сложности окружающей среды, то сразу становится наглядной «искусственность» интеллекта, приписываемого человеку. Вся его интеллектуальность сводится к умению адекватно воспринимать реальность и отражать ее своим поведением. В этом отношении человек тем менее интеллектуален, чем более искусственно его «обучение». Мы снова, таким образом, сталкиваемся со взаимоопределением и взаимовлиянием категорий «интеллектуальность» и «искусственность». Представление о про-

стоте естественного интеллекта демонстрирует возможность того, что «интеллект» системы может лишь «казаться» таковым, «быть искусственным».

Втаком случае имеет смысл более подробно рассмотреть те тестовые критерии, которые позволяют идентифицировать наличие в той или иной системе той или иной степени разумности. Интел-

лект многофункционален и подход к нему должен учитывать базовые его структуры, например, коммуникацию. Наиболее полное представление о природе искусственного интеллекта и о связанных

сего появлением ожиданиях легче всего получить, рассматривая его с точки зрения коммуникации. Теории сознания и искусствен-

ный интеллект во многом вынуждены опираться на коммуникативную природу мышления.

2.4. Функционализм

Современные представления о верификации (выявлении и подтверждении) наличия интеллекта у когнитивной системы формулируются на основе компьютерной метафоры (мозг есть аппаратное обеспечение, сознание – программное обеспечение), ставшей возможной благодаря работам Алана Тьюринга. Исследование логической возможности машинного интеллекта в философском плане

124

обосновало (а отчасти и породило) аксиоматические тезисы такого философского направления как функционализм, в котором вопрос о природе физического субстрата сознания выводится за рамки рассуждения. Именно благодаря функционализму такие понятия как «сложность», «искусственность»,«состояние», «вычислимость» обрели их нынешнее значение в философии искусственного интеллекта. Функционализм – лишь одна из многочисленных конкурирующих теорий сознания помимо дуализма, материализма, физикализма, идеализма, феноменологии и других, однако он приобрел статус авторитетнейшего теоретического направления благодаря наиболее обсуждаемым в связи с ним темам – компьютерная метафора, тест Тьюринга, аргумент «Китайская комната». «Функционализм – это теория, согласно которой находиться в ментальном состоянии – значит, находиться в функциональном состоянии. Функциональное состояние – это состояние, которое можно индивидуализировать или выделить благодаря его каузальным отношениям; поэтому ментальное состояние обусловливается конкретной разновидностью причины, скажем, сенсорными данными на входе, и имеет конкретную разновидность следствия, скажем, некоторое поведение на выходе. Кроме того, ментальные состояния также каузально связаны друг с другом. Всю совокупность каузальных отношений, в которые вступает данное ментальное состояние, называют «каузальной ролью» этого состояния или иногда «функциональной ролью». Любой конкретный вид ментального состояния характеризуется конкретным видом функциональной роли. Быть в конкретном ментальном состоянии – именно конкретном – значит, играть конкретную функциональную роль – именно эту функциональную роль. В определенном смысле функционализм представляет собой попытку обойти проблему сознания и тела. Он предоставляет философский каркас, в рамках которого можно раз-

работать научную психологию без обращения к онтологии личности»119.

Функционализм предоставляет исследователям искусственного интеллекта более гибкий подход к интеллекту, нежели любая субстанциальная теория сознания. Определяющим аспектом функционального определения являются входные и выходные значения,

119 Прист С. Теории сознания. – М., 2003.

125

безотносительно к субстанции реализации данного функционала. Такая гибкость позволяет абстрагироваться от вопросов о «сущности» интеллекта и сознания, и от рассмотрения их природы. Условно говоря, любая система или объект, выдающая те же выходные сигналы на определенные входные значения, что и обычный интеллект, была бы сочтена в функционализме «интеллектом». Данный подход, однако, не означает, что равенство в функционале подразумевает равенство в сущности. Вопрос о сущности вообще не ставится. Сущность подразумевает знание субстрата, но именно воздержание от суждения о какой-либо субстратной основе выводит функционализм из споров о соотношении сознания и мозга. Понятно, что именно такая парадигма восприятия интеллекта лежит в основе теста Тьюринга.

Если функциональный подход является одним из подходов в рамках теорий отождествления мозга и сознания и, тем не менее, в нем отрицается физикалистское сведение сознания к мозгу, о какого же рода отождествлении здесь может идти речь?

Функциональное отношение к системе может быть просчитано в детальном рассмотрении понятия функции. В математическом аппарате функция есть определенное правило, сопоставляющее входному аргументу из некоторого множества выходной аргумент того же самого или иного множества. Подобное сопоставление множеств произвольной природы не означает некоторой особой валентности элементов одного множества элементам другого множества. Для данных выходных сигналов нет никакой логической необходимости быть привязанными к данным входным сигналам именно таким образом. Форма зависимости означает нечто структурно значимое лишь в том отношении, что касательно нее может быть доказано ее существование и единственность в таком-то математическом контексте, что, однако, теряет свою общезначимость в локальных сферах действия. Простым примером может служить разложение функции sinх в окрестности нуля. Простое видение входа и выхода у функций sinx и х в малой окрестности нуля не дает идентифицировать их, что показывает, каким образом идентичные взаимосвязи входа и выхода могут быть реализованы различными функциональными зависимостями. Функционализм предполагает, что состояния мозга не должны описываться в терминах его физической организации, но в терминах структурно более высоко-

126

го порядка – функциональных единств. Физические состояния мозга могут сколь угодно различно реализовывать необходимую интеграцию функциональной обусловленности выходных и входных сигналов. Принципиальной является лишь соотнесение ментальных состояний и функциональных состояний мозга.

Своей популярностью функционализм во многом обязан автору концепции «мозги в чане» Хилари Патнэму, предварившему своими мыслительными экспериментами наиболее дискуссионные моменты теорий искусственного интеллекта. «Мозги в чане» – философский опыт, в рамках которого необходимо осмыслить реальность в ее «подлинности» для субъекта. Патнэм предполагает логическую возможность того, что он не является суверенным субъектом своих действий в реальном мире, но является лишь мозгом, которому лишь поставляются (например, по вживленным электродам) сигналы о «реальности» – и именно эта иллюзорная действительность кажется мозгу настоящей. Сам Патнэм утверждает, что для нас подобное невозможно.

Философская эволюция Хилари Патнэма является ярким отражением общетеоретических исканий в теориях сознания. Основная проблема, с которой столкнулся ученый, следующая: описание сознания как функционального единства не проясняет, как сознание само проживает субъективные моменты своих переживаний. Изначально основным теоретическим достижением функционализма считалась именно возможность обойти этот вопрос, указав на существенную для сознания динамику его осуществления вне связи с субстратным его воплощением. Воодушевляющей была здесь сама произвольность субстрата сознания, который мог быть любым, лишь бы в нем возникало сознание. Позднее, тем не менее, стало очевидно, что эта независимость отвлекает внимание от другого акцента того же вопроса: пусть нам непринципиальна физическая субстанция сознания, но как так случается, что сознание само себе чем-то кажется, само собой переживается в качественной субъективности проживаемых ощущений и идей? Это Патнэм с опорой на рассуждения Алана Тьюринга пытался уяснить вычислительный момент сознания, в котором определенные входы преобразуются в некоторые выходы – дело, однако, состоит в том, чтобы узнать не внешнее, но внутреннее измерение объема сознания. Функционализм, таким образом, не показал глубину и качест-

127

во субъективной реальности, «квалиа», но помог сформулировать критерии внешне проявляемой, опознаваемой интеллектуальности

– именно этот подход сыграл важнейшую роль в современном понимании «интеллекта». Тест Тьюринга и аргумент «Китайская комната» – ключевые моменты функционалистских дискуссий о возможности или невозможности исключить субстрат сознания из теории.

Глава III Тесты на разумность

3.1. Тест Тьюринга, аргумент «Китайской комнаты» Д.Серля

За 200-250 лет до появления вопроса об искусственном интел-

лекте Джон Локк и Иммануил Кант предлагали воздержаться от исследования реальности до тех пор, пока не будет изучен сам ра-

зум, которым мы познаем действительность. Подобная же логика просматривается в работе Алана Тьюринга, пионера исследований искусственного интеллекта, сформулировавшего вопрос «Может ли машина мыслить?». Тьюринг предлагает исследовать не сам искусственный интеллект, но саму возможность опознать таковой, т.е. структуру наших ожиданий, связанных с машинным мышлением.

Критицизм Алана Тьюринга: прежде всякого исследования искусственного интеллекта необходимо понять, как мы сможем его идентифицировать в случае успеха.

Подобное критическое рассмотрение должно показать нам качественные особенности наших представлений о данном феномене. Прежде, чем перейти к самому тесту, попробуем осознать природу нашего отбора тех или иных явлений.

Если программист делает запрос к базе данных на языке SQL, он вынужден отчетливо сформулировать те критерии, по которым он производит селекцию – однако, для этого он должен быть осведомлен о названии соответствующих таблиц и их столбцов. Без предварительных ожиданий или знаний возможно делать запросы лишь в самой общей форме, дающей мало представления о содержании. Именно в этом заключена позиция гносеологического (познава-

128

тельного) критицизма: в любом опыте обнаруживаются, как правило, только феномены, ожидаемые экспериментатором.

В обыденной жизни мы не скованы столь жестким форматом наших предвосхищений и надежд. Для нас возможно даже праздное времяпрепровождение, например, мы можем разглядывать витрины и не иметь точного ответа на вопрос продавца о нашем интересе – мы смотрим «просто так». Трудно представить себе компьютер, решающий некоторые задачи «от нечего делать» или «на всякий случай» (правда, технология кэширования, фоновой индексации или неявной загрузки данных отчасти напоминают это). Насколько вероятно для нас появление чего-то узнаваемого, чему, однако, мы не в состоянии дать завершенного описания? Сможем ли мы узнать интеллект, непохожий на наш, задавая ему «похожие на нас» вопросы? В попытке разрешить эту и иные проблемы, Аланом Тьюрингом был придуман тест-опознание интеллекта.

Существует несколько модификаций данного теста, мы приведем лишь существеннейшие из них.

Тест Тьюринга, 1-й вариант. Имеются две комнаты, в одной из которых находится исследователь, а во второй – несколько мужчин и женщин. Испытуемый исследователь может общаться с ними только через компьютер, не видя их и не слыша их голосов. Задача – определить, используя исключительно компьютерное общение, кто из них мужчина, кто женщина.

Следующий вариант теста Тьюринга воспроизводит первую ситуацию с тем исключением, что теперь вместо мужчин и женщин «обитателями второй комнаты являются люди и интеллектуальные машины. Играя в «сеанс одновременной игры» со всеми участниками, исследователь должен выяснить за определенное время, задавая любые вопросы, общается ли он с человеком или с машиной.

Тест Тьюринга, 2-й вариант. Исследователь общается посредством компьютера с группой людей и интеллектуальных машин и должен определить, кто есть человек, кто – интеллектуальная машина.

Некоторые вопросы кажутся однозначными критериями по выявлению искусственного интеллекта среди людей, но не являются таковыми: например, перемножением двух шестизначных чисел

129

порой владеют и люди. Многие вопросы, придуманные следователем, могут качественно оттенить «степень разумности» собеседника. Например, мы можем попросить его перемножить два шестизначных числа. Машина, в отличие от человека, получит ответ мгновенно, и тем выдаст себя. Однако, известны случаи феноменальных счетных способностей – например, фон Нейман справился бы с этой задачей со скоростью компьютера. Кроме того, и интеллектуальная машина могла бы имитировать медлительность человеческого рассудка, занятого вычислением (подобную функцию в программах часто играют таймеры замедления и пустые циклы). Может показаться, что некоторые бытовые вопросы или вопросы о самочувствии должны были бы поставить машину в тупик – однако все такого рода проблемы легко было бы устранить, подключая соответствующие словари и базы данных со стандартными (и оригинальными) ответами на стандартные вопросы.

Тест Тьюринга имеет много слабых мест, однако, он послужил катализатором многих современных подходов и реализаций технологий искусственного интеллекта. Благодаря ему стало очевидно,

что создание искусственного интеллекта во многом дело «понимания» природы сознания, а не сугубо программистская или математическая практика.

Коммуникативная сторона разума является его «феноменальной формулой», единственной социально эксплицированной, явленной гранью его существования – и единственной гранью, верифицируемой в имеющихся сегодня тестах (с подобных позиций Кант выявил, что мерой рассудочности служит корректность использования категориального аппарата в рассуждениях, и, схожим образом, Макс Вебер по действиям субъекта предлагал судить о рациональности, обосновывающей эти действия. Таким образом, интеллектуальность, рассудочность, рациональность понимаются исследователем, как наблюдаемые: интеллектуальным именуется то, что в своих проявлениях демонстрирует знакомый образ интеллектуального поведения). Тест Тьюринга продемонстрировал, насколько феноменология сознания вынуждена ориентироваться на интерсубъективные проявления разума – разумность понимается как диалогическая форма адекватности когнитивной системы ее социальному контексту. При этом не принимаются во внимание собственно феноменологические глубины субъективности – квалиа,

130