Могут ли роботы представлять опасность?

Предположим на мгновение, что физики нашли способ преодолеть пропасть между кремниевыми чипами и квантовыми компьютерами. Предположим также, что закон Мура в той или иной форме продолжает действовать и в посткремниевую эру. В этом случае искусственный интеллект действительно может стать реальностью. Тогда роботы могут овладеть человеческой логикой и эмоциями и научиться уверенно проходить тест Тьюринга¹. Стивен Спилберг исследовал эту тему в фильме «Искусственный интеллект»; в фильме рассказывается о том, как был создан первый искусственный мальчик, способный проявлять эмоции и пригодный поэтому для усыновления в человеческую семью.

Возникает вопрос: могут ли такие роботы представлять опасность? Наиболее вероятный ответ: да, могут. Роботы станут опасными, как только достигнут интеллекта обезьяны, - ведь обезьяна обладает сознанием и собственной волей. Возможно, на достижение этого рубежа уйдёт немало десятилетий, и ученым хватит времени понаблюдать за роботами, прежде чем они начнут представлять угрозу. К примеру, в их процессоры можно будет помещать специальный чип, который не даст им «пойти вразнос». Или можно интегрировать в них механизм саморазрушения или отключения, который срабатывает в случае чрезвычайной ситуации.

Английский писатель, учёный, футуролог и изобретатель Сэр Артур Кларк писал: «Может быть, мы станем для компьютеров домашними любимцами и будем, как комнатные собачки, вести беззаботное существование, но я надеюсь, что у нас всегда останется возможность в любой момент выдернуть вилку из розетки».

¹ Тест Тьюринга. Устав от бесплодных и бесконечных философских дебатов о том, может ли машина «думать» и есть ли у неё «душа», он попытался внести в дискуссию об ИИ четкость и точность и придумал конкретный тест. Он предложил поместить машину и человека в отдельные изолированные и опечатанные помещения, а затем задавать обоим вопросы. Если вы окажитесь не в состоянии отличить по ответам машину от человека, можно считать, что машина прошла тест Тьюринга.

Более реальной угрозой представляется зависимость нашей инфраструктуры от компьютеров. Система водоснабжения и электрическая сеть, не говоря уже о связи и транспорте, в будущем станут все более компьютеризованными. Наши города уже превратились в сложнейшие организмы, и теперь для управления всей инфраструктурой и ее мониторинга необходимы сложные и запутанные компьютерные сети. В будущем, чтобы все это работало, придется вводить в эти компьютерные сети искусственный интеллект. Ошибка или отказ в этой всеохватной компьютерной инфраструктуре способны полностью парализовать город, страну или даже всю цивилизацию.

Превзойдут ли компьютеры нас по разумности? Разумеется, в принципе это не запрещено никакими законами природы. Если роботы представляют собой самообучающиеся механизмы и если они достигли уровня развития, позволяющего им учиться быстрее и эффективнее, чем учимся мы, то логично предположить, что со временем они превзойдут нас в рассуждениях. Сотрудник лаборатории искусственного интеллекта MIT, Ганс Моравек говорит, что постбиологический мир – «это такой мир, в котором род человеческий оказался сметен его собственными искусственными потомками… Когда это произойдет, наша ДНК окажется никому не нужна, потому что она проиграет эволюционную гонку сопернику нового типа».

Поэтому, некоторые ученые в долговременной перспективе предлагают объединить углеродную и кремниевую технологии, не дожидаясь нашего полного истребления. Мы, люди, основаны на углероде, роботы – на кремнии (по крайней мере в настоящий момент). Возможно, решение кроется в слиянии нас самих с нашими же творениями.

Моравек предвидит такое время в отдаленном будущем, когда мы научимся переносить структуру своего мозга, нейрон за нейроном, прямо в машину. В определенном смысле это даст нам бессмертие. Эта мысль кажется дикой, но, вообще говоря, не выходит за пределы возможного. Так что, по представлениям некоторых ученых, в будущем человека ждет бессмертие.