5.2. От технократического мышления к искусственному интеллекту

На первый взгляд констатация распространения и побед технократического мышления может оцениваться как негативный прогноз развития

217

европейской в широком смысле слова культуры. И даже во многом напоминать и подтверждать взгляды О. Шпенглера. Тем не менее мы далеки от такой точки зрения. Нам более близка саркастическая позиция Г. Г. Шпета, призывавшего проверить, "так ли уж Европа закатывается". Эта позиция, кроме всего прочего, имеет немалые материальные и духовные подтверждения в современной жизни. Дело в том, что кроме описанных выше качеств, технократизму присуще еще одно качество, ставящее крест на его триумфальном шествии. Это стремление к самоуничтожению. Переоценивая возможности рассудочного постижения и освоения мира, технократическое мышление тем самым отрывается от бытийных, природных основ собственного существования. Наращивая технические бицепсы, технократизм одновременно теряет контроль за ситуацией, безмерно увеличивая производство и потребление, истощает природные ресурсы и обостряет экологическую обстановку.

Конечно, глаз технократа отмечает и неблагоприятные тенденции. Однако, неумолимая формальная логика ведет его к попыткам исправления положения все теми же привычными для него средствами. Так родился проект заполнения озоновых дыр с помощью самолетов и промышленно выработанного озона. Но такие средства представляют собой всего лишь паллиатив, имеющий ограниченный эффект и время действия. Накапливаясь, негативные последствия такой деятельности уже не могут быть скомпенсированы, становятся во многих случаях угрожающими самой жизни человечества. Что же остается делать? Воспроизводить стереотипы, накопленные десятилетиями, и тем самым готовить себе могилу или начать поиски новых способов видения и осмысления мира?!

Мысль о разумном и осторожном регулировании путей развития техники овладевает умами. Приведем мнение Фридриха Раппа, известного германского философа техники: "Для развивающейся компьютерной техники, возможно, требуется, чтобы ее преимущества и недостатки объяснялись и открыто обсуждались... Причем наряду с важными экономическими соображениями следовало бы принимать во внимание также отдаленные социальные, культурные и экологические последствия" [5, с. 166]. Мы не можем не согласиться с этой мыслью. Однако далее Рапп настаивает на все тех же технократических решениях: "...Относительно негативные результаты современной техники можно преодолеть лишь с помощью другой техники" [5, с. 166]. Такой путь может быть признан лишь коррективным, то есть по большому счету не ведущим к принципиальному преодолению складывающихся под воздействием техники проблем. Наиболее правильным было бы не доводить дело до их возникновения, своевременно отказываясь от проектов, таящих в себе источники зарождающихся проблем.

218

Н. А. Бердяев в статье "Человек и машина", которую он особенно ценил, подробно останавливался на проблемах, возникающих в ходе развития технического мира. Он определил двойственность техники: "Всегда есть эти две стороны в технике: с одной стороны, она несет в себе удобства, комфорт жизни и действует размягчающе, с другой стороны, она требует большей суровости и бесстрашия" [6, с. 154]. И далее: "Чудеса техники, всегда двойственной по своей природе, требуют небывалого напряжения духовности, неизмеримо большего, чем прежние культурные эпохи" [6, с. 157]. Философ по достоинству оценил и грядущие технократические тенденции, для которых характерна подмена истинно человеческих смыслов и целей жизни: "Техническая цивилизация по существу своему имперсоналистична, она не знает и не хочет знать личности. Она требует активности человека, но не хочет, чтобы человек был личностью. И личности необыкновенно трудно удержаться в этой цивилизации. Она прежде всего есть единство в многообразии и целостность, она из себя полагает свою цель, она не согласна быть превращена в часть, средство и орудие. Но техническая цивилизация, но технизированное и машинизированное общество хотят, чтобы человек был их частью, их средством и орудием, они все делают, чтобы человек перестал быть единством и целостностью, т. е. хотят, чтобы человек перестал быть личностью" [6, с. 158—159]. Иначе говоря, усилия технической цивилизации состоят в том, чтобы приблизить образ человека к образу машины.

По нашему мнению, диалектически связанным с тенденциями превращения человека в машиноподобное существо является встречный процесс уподобления техники человеку. Техническая цивилизация пытается уничтожить принципиальные преграды между человеком и машиной не только "подтягивая" человека к машине, но и создавая проекты человекообразных машин. Последние десятилетия продемонстрировали значительные успехи в создании искусственных рук, ног, сердца, легких и других натуральных органов человека. На вершине же галереи этих разработок находится проект создания искусственного интеллекта.

Возвратившись к технократической тенденции, к самоуничтожению, можно вновь сослаться на Н. А. Бердяева: "Настает время, когда будут совершенные машины, которыми человек мог бы управлять миром, но человека больше не будет. Машины сами будут действовать в совершенстве и достигать максимальных результатов. Последние люди сами превратятся в машины, но затем и они исчезнут за ненадобностью и невозможностью для них органического дыхания и кровообращения" [6, с. 157]. И эта фантасмогория вполне может случиться. Однако наша надежда состоит в том, что прессинг социальных и экологических трудностей позволит преодолеть технократические тенденции,

219

превратить их в глазах общества в опасный атавизм. Черты этого процесса уже отчетливо проявляются в настоящее время. Уже сейчас во многих странах удалось перейти от галопирующего технического развития, которому прощаются все прегрешения, к гуманитарной предпроектной экспертизе. Тот же Ф. Рапп отмечает: "Там, где технизация — непременная предпосылка выживания, на негативные сопутствующие явления обращают меньше внимания, чем там, где уже наблюдается перенасыщение техникой" [5, с. 166].

Очевидно, по мере того, как пагубность собственного технократизма будет становиться достоянием сознания каждого человека, будет происходить и освоение старых, но забытых гуманистических ценностей. По крайней мере это единственный вселяющий оптимизм путь развития общества.

Если все сказанное достаточно очевидно по отношению к атомной энергетике, химической промышленности и другим крупным производствам, то опасения, возникающие в связи с искусственным интеллектом, как нам кажется, нуждаются в пояснении.

Итак, проекты создания искусственного интеллекта являются самой последней "большой любовью" технократического мышления. В качестве его позитивной стороны помимо чисто экономических выгод называется также возможность с помощью моделирования интеллекта глубже познать механизмы естественного человеческого разума. Правда, в этом отношении единства мнений нет. Несколько огрубляя можно сказать, что различаются три позиции. Первая состоит в стремлении к возможно более полному сходству искусственного и естественного интеллекта, вторая точка зрения сводится к отстаиванию новых отличных от собственно человеческих способов работы компьютерных интеллектуальных систем; третья позиция состоит в отстаивании сочетания наиболее сильных собственно человеческих и машинных принципов работы систем искусственного интеллекта. Это различие точек зрения понадобится нам в дальнейшем.

Утверждается, что искусственный интеллект в состоянии стать надежным советчиком человека при принятии решений, сделает этот процесс более легким. Как не вспомнить здесь предостережение о неизбежности, необходимости бесстрашия при работе с техникой. В чем же должно быть проявлено бесстрашие при работе с компьютером? Дело в том, что на заложенные в программное обеспечение человеческие способы логического вывода накладываются совершенно нечеловеческие мощности в его скорости действия и переборе вариантов. В результате такой комбинации предлагаемая компьютером рекомендация становится совершенно неочевидной для ее получателя. Конечно, разработчики систем как могли позаботились о том, чтобы снять эту не очень приятную для человека ситуацию, разработав подсистему объяснения.

220

Эта подсистема по требованию пользователя может шаг за шагом растолковывать ему как был получен предложенный вывод. Тем не менее и такая процедура очень часто не снимает недоумения пользователя. Здесь сказываются по крайней мере два фактора: разница в уровне компетентности пользователя и эксперта, послужившего прототипом для компьютерной базы знаний, и значительная длина цепочки рассуждений, осуществленных системой. Ощущение недоумения и снижение самооценки пользователю в такой ситуации гарантировано.

Описываемая ситуация относится к работе так называемых консультирующих экспертных систем, которые далеко не исчерпывают всего разнообразия систем искусственного интеллекта. Так, другая их группа, предназначенная непосредственно для работы в условиях производства, самостоятельно осуществляет контроль и управление технологическими процессами, т. е. вступает в контакт с пользователем реже. В этом случае понимание пользователем принятых системой решений может быть нарушено еще в большей степени.

Теперь вернемся к описанным выше различиям в позициях относительно сходства процедур работы интеллектуальных систем и человека. Нам кажется ясным, что по мере роста различий между этими процедурами, уровень понимания пользователем происходящих процессов также будет снижаться.

Еще один фактор снижения понимания пользователем логики работы системы потенциально присутствует в создании класса так называемых самообучающихся интеллектуальных систем. Он должен проявиться в том случае, когда помимо полученных от эксперта знаний система будет в состоянии основываться в своих выводах на собственных полученных в работе знаниях, а также на знаниях, почерпнутых из доступных смежных баз знаний. Кроме этого в соответствии с широко известными проектами самообучающаяся система будет в состоянии использовать в диалоге с пользователем выводы, полученные в ходе взаимодействия с ним. Иначе говоря, такая система будет способна учитывать стиль деятельности пользователя, а в потенции и использовать как его сильные, так и слабые стороны.

Перечисленные особенности систем искусственного интеллекта могут вести при работе с ними по крайней мере к трем вариантам психологического решения. Первый — пользователь продолжает предпринимать усилия в освоении системы. Этот выход похож на соперничество интеллектов. Второй — пользователь отказывается от использования системы, не справившись с нею. Этот вариант можно условно назвать — отказ. Третий — пользователь доверяет системе и действует в соответствии с ее рекомендациями. Это похоже на подчинение. По нашему мнению, ни один из указанных вариантов не может быть

221

признан оптимальным. Соперничество может отнимать у пользователя слишком много сил. Отказ также будет иметь негативные психологические последствия для пользователя. А подчинение компьютеру как раз и может иметь отдаленным последствием фантасмогорию, предреченную Н. А. Бердяевым. Так что ж, предать интеллектуальные системы анафеме, а их создателей заклеймить?!

Нам кажется, существует позитивное решение данной проблемы. Оно опять-таки состоит в опоре на гуманистические традиции, на культуру. Во-первых, следовало бы ниспровергнуть разрабатываемые системы с пьедестала самоценной цели жизни и работы многих коллективов. "Техника всегда есть средство, орудие, а не цель. Не может быть технических целей жизни, могут быть лишь технические средства, цели же жизни всегда лежат в другой области, в области духа" [6, с. 148]. Мы хотим сказать, что решение проблемы лежит не в самих системах искусственного интеллекта, а прежде всего в сознании их создателей. И опустить разрабатываемые системы на достойное их место можно лишь способствуя обогащению культуры и образовыванию создающих их инженеров. Если это удастся, последствия не замедлят сказаться. В чем же они могут проявиться?

Прежде всего в более внимательном отношении инженеров к последствиям от внедрения разрабатываемых ими систем, в разграничении областей, безоговорочно пригодных для работы систем искусственного интеллекта, от условно пригодных и непригодных. Последствия второго порядка могут состоять в признании решающего влияния пользователя на принимаемое совместно с системой решение и создании более тонкой технологии слежения и контроля за работой системы, в полной "прозрачности" системы для экспертного совета пользователей, в независимой экспертизе принимаемых конструкторских решений.

Важно признать также, что наибольшая степень понимания пользователем системы возможна при максимальном сходстве ее функций с функциями естественного интеллекта. Это положение, очень важно. Дело в том, что значительное сходство позволяет использовать такой важный психологический механизм понимания как эмпатия, функционирующий обычно лишь при человеческом общении. Эмпатия позволяет человеку как бы встать на позицию другого человека, взглянуть на мир его глазами. Нечто подобное, в принципе, возможно и при работе с гипотетической интеллектуальной системой в том случае, если она будет более точно моделировать мыслительные и не только мыслительные процессы человека.

Из этого проистекает очень важное положение, прибавляющее аргументов сторонникам позиции, призывающей к значительному сходству разрабатываемых систем с естественным мышлением человека. А это в свою очередь должно вести к более интенсивному общению разработчиков

222

с психологами, к интенсификации психологических и психолингвистических исследований человеческого интеллекта. В дальнейшем мы попытаемся представить некоторые психологические результаты и выводы, дающие пищу для размышлений разработчикам интеллектуальных систем.