Добавил:
ivanov666
Опубликованный материал нарушает ваши авторские права? Сообщите нам.
Вуз:
Предмет:
Файл:Физика невозможного
.pdf
РОБОТЫ
из 300 с небольшим нейронов; вероятно, это одна из простейших нервных систем в природе. Но и в этой системе между нейронами наблюдается более 7000 связей-синапсов. Как бы ни был
примитивен C. elegans , его нервная система настолько сложна,
что никому еще не удалось создать компьютерную модель такого мозга . (В 1988 г. один компьютерный эксперт предсказал, что
к настоящему моменту у нас будут роботы примерно со 100 млн
искусственных нейронов. На самом же деле нейронная сеть из
ста нейронов уже считается выдающейся.)
Ирония ситуации заключается в том, что машины неустанно выполняют задания, которые людям кажутся «трудными», скажем перемножают большие числа или играют в шахматы, но застревают на совершенно «простых» для человека
заданиях, таких как походить по комнате, узнать кого-то по
лицу или посплетничать с приятелем. Причина в том, что даже
самые продвинутые наши компьютеры в основе своей всего
лишь усложненные до предела счетные машинки. А наш мозг
эволюция сформировала таким образом, чтобы он мог решать
глобальную задачу выживания. Для этого необходима сложная
и хорошо организованная структура мышления, включающая в
себя здравый смысл и распознавание образов . Сложные вычисления или шахматы не нужны для выживания в лесу — зато там
не обойтись без умения удрать от хищника, найти себе пару и
приспособиться к меняющимся условиям.
Вот как обобщил проблемы ИИ Марвин Мински из MIT,
один из основателей науки об искусственном интеллекте :
«История ИИ в чем-то забавна — ведь первыми реальными
достижениями в этой области были красивые машинки, способные к логическим доказательствам и сложнейшим вычислениям. Но затем мы захотели сделать машину, которая умела
бы отвечать на вопросы по простым рассказам, какие можно
найти в книжке для первоклассников. На сегодняшний день не
существует машины, способной на это».
171
ФИЗИКА НЕВОЗМОЖНОГО
Некоторые ученые считают, что когда-нибудь два подхода — «сверху вниз» и «снизу вверх» — сольются воедино, и такое слияние может стать ключом к созданию настоящего искусственного интеллекта и человекоподобных роботов . В конце
концов, когда ребенок учится, он пользуется обоими методами:
сначала маленький человек полагается в основном на методику «снизу вверх» — он натыкается на предметы, ощупывает их,
пробует на вкус и т. п.; но затем он начинает получать словесные
уроки от родителей и учителей, из книг — в этот момент приходит время для подхода «сверху вниз» . Даже будучи взрослыми,
мы постоянно смешиваем оба подхода. К примеру, повар читает
рецепт, но не забывает и пробовать блюдо, которое готовит.
Ганс Моравек говорит: «Полностью разумные машины
появятся не раньше, чем будет забит золотой костыль, который
соединит оба пути». Он считает, что произойдет это, вероятно,
в ближайшие 40 лет.
Эмоциональные роботы ?
Одной из постоянных тем в литературе и искусстве уже давно
стало механическое существо, мечтающее стать человеком,
обрести человеческие эмоции. Это существо не удовлетворено тем, что собрано из проводов и стали; оно хочет смеяться,
плакать и ощущать все эмоциональные радости человеческого
существа.
Типичный пример — марионетка Пиноккио, мечтавшая стать настоящим мальчиком. Железный Дровосек хотел
получить сердце. И Дейта, робот из «Звездного пути», хочет
стать человеком , хотя и превосходит любого человека в силе
и разумности.
Выдвигаются даже предположения о том, что наши эмоции представляют собой высшее неповторимое свойство и что
именно они делают человека человеком. Сторонники этой точки зрения утверждают, что ни одна машина никогда не сможет
172
РОБОТЫ
задохнуться от восторга при виде великолепного заката или
рассмеяться удачной шутке. А некоторые говорят, что машины
никогда не будут испытывать эмоций, потому что они, эмоции,
представляют собой вершину развития человека.
Но ученые, которые работают над созданием искусственного интеллекта и пытаются разгадать физику эмоций,
рисуют иную картину. Для них эмоции не только не квинтэссенция всего человеческого, но и наоборот — побочный
результат эволюции. Попросту говоря, эмоции полезны для
нас. Они помогли нам выжить в лесу и сегодня тоже помогают преодолевать невзгоды и ориентироваться среди жизненных опасностей.
К примеру, очень важно в эволюционном смысле понятие
«нравится» — ведь большинство вещей на свете представляют
для нас опасность. Из миллионов объектов, с которыми ежедневно сталкивается человек, лишь несколько способны принести ему пользу. Поэтому когда нам что-то «нравится», это
означает, что мы выделяем из миллионов опасных и бесполезных вещей ту крохотную их долю, которая может оказаться для
нас полезна.
Точно так же ревность — важное чувство, потому что
успех в продолжении рода обеспечивает передачу наших генов
будущим поколениям. (Именно поэтому с сексом и любовью
связано так много эмоционально заряженных чувств.)
Стыд и раскаяние важны, потому что помогают нам освоить
навыки социализации, необходимые для жизни в обществе. Если
мы не будем иногда извиняться, рано или поздно нас изгонят из
племени, серьезно уменьшив тем самым наши шансы на выживание и передачу генов.
Чувство одиночества тоже имеет значение. Поначалу кажется, что это чувство ненужно и избыточно — ведь человек же
способен жить один. Но стремление к обществу других людей
тоже важно для выживания, потому что человек всегда зависит
от ресурсов племени в целом.
173
ФИЗИКА НЕВОЗМОЖНОГО
Иными словами, в ходе дальнейшего развития роботы ,
возможно, тоже обзаведутся эмоциями. Может быть, программисты заложат в них эмоциональную связь с хозяевами, чтобы
роботы не закончили свои дни на свалке. Такие эмоции помогли бы им войти в наше общество, стать не соперниками, а надежными помощниками хозяев.
Эксперт по компьютерам Ганс Моравек считает, что роботы обязательно будут запрограммированы на такие эмоции,
как «страх»; это необходимо для самосохранения. К примеру,
если у робота заканчивается батарея, он «будет выражать возбуждение или даже панику таким образом, чтобы люди могли
его понять. Он направится к соседям и попросит разрешения
воспользоваться розеткой со словами: “Пожалуйста! Пожалуйста! Мне это необходимо! Это так важно для меня и так немного стоит! Мы вам заплатим!”»
Кроме всего прочего, эмоции важны при принятии решений . Люди, перенесшие определенную мозговую травму,
теряют способность испытывать эмоции. Интеллектуальные
способности остаются при них, но выражать чувства они не в
состоянии. Врач-невролог Антонио Дамасио из Медицинского
колледжа Университета Айовы, специально изучавший людей
с такого рода мозговыми травмами, говорит, что они «знают,
но не чувствуют».
Д-р Дамасио утверждает, что такие люди часто испытывают затруднения с принятием даже самых незначительных решений. Они не могут руководствоваться эмоциями, а потому
бесконечно перебирают и обдумывают варианты; результат —
губительная нерешительность. Один из пациентов доктора Дамасио целых полчаса выбирал дату следующего визита.
Ученые считают, что эмоции обрабатываются в «лимбической системе» мозга , расположенной глубоко в его центре. Если
у человека нарушается связь между новой корой головного
мозга (которая управляет рациональным мышлением) и лимбической системой, его разум остается при нем, но пропадают
174
РОБОТЫ
эмоции, которыми он мог бы руководствоваться в принятии
решений . Иногда нас «осеняет», мы «нутром чуем», как надо поступить. Люди, у которых нарушена связь между рациональной
и эмоциональной частями мозга, лишены такой способности.
К примеру, в магазине мы неосознанно производим тысячи оценок и решений; мы оцениваем практически все, что видим: «Эта вещь слишком дорогая, слишком дешевая, слишком
цветастая, слишком глупая, а вот это как раз то, что нужно».
Для человека с такой травмой мозга поход в магазин за покупками может стать настоящим кошмаром, потому что все вещи
покажутся ему одинаково хорошими или, если угодно, одинаково плохими.
По мере того как роботы будут становиться все разумнее
и начнут принимать собственные решения, они тоже станут,
вероятно, жертвой губительной нерешительности. (Вспомните
историю об ослике, который умер от голода между двумя стогами сена — он никак не мог решить, к которому стогу направиться.) Для решения этой проблемы у роботов будущего, скорее всего, в мозгу появится эмоциональный контур. Говоря об
отсутствии эмоций у роботов, д-р Розалинда Пикард из Медиалаборатории MIT замечает: «Они не чувствуют, что важнее
всего. Это один из главных их недостатков. Компьютеры этого
просто не понимают».
Как писал русский романист Федор Достоевский , «если бы
все на Земле было разумно, ничего бы не происходило».
Другими словами, эмоции могут потребоваться роботам
будущего , чтобы устанавливать цели, придавать своей «жизни»
смысл и структуру; в противном случае бесконечные возможности лишат их всякой способности к действию.
Обладают ли они сознанием?
По вопросу о том, могут ли машины обладать сознанием, нет
единого мнения; более того, нет его и по вопросу о том, что
175
ФИЗИКА НЕВОЗМОЖНОГО
такое сознание вообще. Никто еще не сумел сформулировать
приемлемое для всех определение сознания.
Марвин Мински считает, что сознание представляет собой скорее «совокупность сознаний»; имеется в виду, что процесс мышления в мозге не локализован, а распределен, и в
каждый момент времени за первенство в нем состязаются несколько различных центров. В этом случае сознание можно
рассматривать как последовательность мыслей и образов, исходящих из различных «сознаний» более низкого уровня, причем все они соревнуются между собой и стараются захватить
наше внимание.
Если это действительно так, то вполне возможно, что понятие «сознания» несколько раздуто; возможно, слишком много научных трудов посвящено предмету, затуманенному поколениями философов и психологов. Возможно, определить
сознание не так уж сложно. Сидни Бреннер из Института Солка в г. Ла-Холла говорит: «Я предрекаю, что к 2020 г. — черты
которого уже вполне различимы — сознание как научная проблема перестанет существовать… Наши преемники будут поражены количеством научной чепухи, которая сегодня всерьез
обсуждается, конечно, если у них хватит терпения копаться
в электронных архивах старых журналов».
Марвин Мински считает, что исследования в области ИИ
страдают «от зависти к физике ». В физике священным граалем,
добыть который мечтает любой ученый, является простое уравнение, которое объединило бы все физические взаимодействия
вселенной в рамках единой теории — «теории всего ». Под влиянием этой идеи исследователи искусственного интеллекта тоже
пытаются найти единую парадигму, которая объяснила бы сознание. Но Мински считает, что такой парадигмы, возможно,
вообще не существует.
(Члены «конструкционистской» школы, к которой принадлежу и я, считают, что вместо бесконечных дебатов о том, можно ли создать думающую машину, нужно взять и попытаться.
176
РОБОТЫ
Что же касается сознания, то, скорее всего, существует некое
пространство сознания, к которому принадлежит и примитивный термостат, который отслеживает температуру в комнате, и
осознающий себя организм, каким на сегодняшний день является человек. Животные, возможно, тоже обладают сознанием,
но сознанием более низкого уровня по сравнению с человеком.
Поэтому, вместо того чтобы без конца обсуждать философские
вопросы и спорить об определении сознания, следовало бы попытаться составить каталог всевозможных типов и уровней сознания и разложить все по полочкам. Возможно, роботы со временем обретут «силиконовое сознание». Вообще, когда-нибудь,
может статься, роботы воплотят в себе совершенно иную, чем
у нас, архитектуру мышления и обработки информации. Не исключено, что в будущем высококлассные роботы сумеют размыть грань между синтаксисом и семантикой и их реакция действительно станет неотличима от реакции человека. Если это
произойдет, вопрос о том, «понимают» ли они на самом деле
вопрос, потеряет всякий смысл. Робот, в совершенстве владеющий синтаксисом, понимает — для любых практических
целей — содержание разговора. Другими словами, идеальное
владение синтаксисом и есть понимание.)
Могут ли роботы представлять опасность?
Закон Мура (он утверждает, что производительность компьютеров удваивается каждые 18 месяцев) позволяет предположить,
что через несколько десятилетий появятся роботы с разумом,
скажем, собаки или кошки. Но вполне может так случиться,
что к 2020 г. закон Мура перестанет действовать, а кремниевая
эра подойдет к концу. Последние полвека производительность
компьютеров росла такими поразительными темпами благодаря тому, что появлялись все более крохотные кремниевые транзисторы, десятки миллионов которых легко умещались на ногте. Для вытравливания этих микроскопических транзисторов
177
ФИЗИКА НЕВОЗМОЖНОГО
на кремниевых пластинках использовалось ультрафиолетовое
излучение. Но процесс микроминиатюризации не может продолжаться до бесконечности. Со временем транзисторы могут
уменьшиться до размера молекул, и он автоматически прекратится. После 2020 г., когда закончится эра кремния, Силиконовая долина может превратиться в новый Ржавый пояс.
Процессор Pentium в вашем портативном компьютере имеет слои толщиной в 20 атомов. К 2020 г. толщина слоя
может уменьшиться до пяти атомов. В этот момент вступит в
действие принцип неопределенности Гейзенберга , и будет вообще невозможно сказать наверняка, где находится электрон.
И тогда в чипе возникнут утечки электричества , а в компьютере — короткое замыкание. В этот момент компьютерная революция и закон Мура уткнутся в глухую стену — ведь законы
квантовой механики обойти невозможно. (Кое-кто утверждает,
что цифровая эра — это «победа битов над атомами». Но когданибудь, когда закон Мура перестанет действовать, атомы возьмут свое.)
В настоящее время физики работают над посткремниевой
технологией , которая будет доминировать в мире компьютеров
после 2020 г., но пока результаты не слишком обнадеживают.
Как мы уже говорили, рассматривается несколько перспективных технологий, в том числе квантовые компьютеры , компьютеры на основе ДНК , оптические компьютеры, атомные компьютеры и т. п. Но на каждом направлении имеются громадные
трудности, которые предстоит преодолеть, прежде чем технология сможет примерить на себя мантию кремниевых чипов.
Технология манипулирования отдельными атомами и молекулами находится пока в зачаточном состоянии, и мы пока не в
состоянии изготовить миллиарды транзисторов, сравнимых по
размерам с атомами.
Но предположим на мгновение, что физики нашли способ преодолеть пропасть между кремниевыми чипами и, скажем, квантовыми компьютерами . Предположим также, что за-
178
РОБОТЫ
кон Мура в той или иной форме продолжает действовать и в
посткремниевую эру. В этом случае искусственный интеллект
действительно может стать реальностью. Тогда роботы могут
овладеть человеческой логикой и эмоциями и научиться уверенно проходить тест Тьюринга . Стивен Спилберг исследовал
эту тему в фильме «Искусственный интеллект»; в фильме рассказывается о том, как был создан первый искусственный мальчик, способный проявлять эмоции и пригодный поэтому для
усыновления в человеческую семью.
Возникает вопрос: могут ли такие роботы представлять
опасность? Наиболее вероятный ответ: да, могут. Роботы могут стать опасными, как только достигнут интеллекта обезьяны, — ведь обезьяна обладает сознанием и собственной волей.
Возможно, на достижение этого рубежа уйдет немало десятилетий, и ученым хватит времени понаблюдать за роботами,
прежде чем они начнут представлять угрозу. К примеру, в их
процессоры можно будет помещать специальный чип, который
не даст им «пойти вразнос». Или можно интегрировать в них
механизм саморазрушения или отключения, который срабатывал бы в случае чрезвычайной ситуации.
Артур Кларк писал: «Может быть, мы станем для компьютеров домашними любимцами и будем, как комнатные собачки, вести беззаботное существование, но я надеюсь, что у нас
всегда останется возможность в любой момент выдернуть вилку из розетки».
Более реальной угрозой представляется зависимость нашей инфраструктуры от компьютеров . Система водоснабжения
и электрическая сеть, не говоря уже о связи и транспорте, в будущем станут все более компьютеризованными. Наши города
уже превратились в сложнейшие организмы, и теперь для управления всей нашей инфраструктурой и ее мониторинга необходимы сложные и запутанные компьютерные сети. В будущем,
чтобы все это работало, придется вводить в эти компьютерные
сети искусственный интеллект . Ошибка или отказ в этой все-
179
ФИЗИКА НЕВОЗМОЖНОГО
охватной компьютерной инфраструктуре способны полностью
парализовать город, страну или даже всю цивилизацию .
Превзойдут ли компьютеры нас по разумности ? Разумеется, в принципе это не запрещено никакими законами природы.
Если роботы представляют собой самообучающиеся нейронные сети и если они достигли уровня развития, позволяющего
им учиться быстрее и эффективнее, чем учимся мы, то логично
предположить, что со временем они превзойдут нас в рассуждениях. Моравек говорит, что постбиологический мир — «это
такой мир, в котором род человеческий оказался сметен волной культурных изменений и вытеснен его собственными искусственными потомками… Когда это произойдет, наша ДНК
окажется никому не нужна, потому что она проиграет эволюционную гонку сопернику нового типа».
Некоторые изобретатели, например Рей Курцвейл , предсказывают даже, что это произойдет скоро, скорее, чем кажется, — возможно, в ближайшие десятилетия. Не исключено, что
мы сейчас создаем своих эволюционных преемников. Кое-кто
из ученых-компьютерщиков предвидит момент «сингулярности», как они это называют, — когда роботы смогут обрабатывать информацию все быстрее и быстрее, по экспоненте, и
одновременно создавать новых роботов, пока наконец их коллективная способность к усвоению информации не вырастет
практически до бесконечности.
Поэтому некоторые ученые в долговременной перспективе предлагают объединить углеродную и кремниевую технологии, не дожидаясь нашего полного истребления. Мы, люди,
основаны на углероде , роботы — на кремнии (по крайней мере
в настоящий момент). Возможно, решение кроется в слиянии
нас самих с нашими творениями. (Если мы когда-нибудь встретимся с инопланетянами, не стоит удивляться, если их тела окажутся частью органическими, частью механическими; так легче выдерживать тяготы космического путешествия и успешно
жить во враждебной среде.)
180
Соседние файлы в предмете [НЕСОРТИРОВАННОЕ]