- •Роджер пенроуз
- •1.2. Спасут ли роботы этот безумный мир?
- •1.3. Вычисление и сознательное мышление
- •1.4. Физикализм и ментализм
- •1.5. Вычисление: нисходящие и восходящие процедуры
- •1.6. Противоречит ли точка зрения в тезису Черча—Тьюринга?
- •1.8. Аналоговые вычисления
- •1.9. Невычислительные процессы
- •1.10. Завтрашний день
- •1.11. Обладают ли компьютеры правами и несут ли ответственность?
- •1.12. «Осознание», «понимание», «сознание», «интеллект»
- •1.13. Доказательство Джона Серла
- •1.14. Некоторые проблемы вычислительной модели
- •1.15. Свидетельствуют ли ограниченные возможности сегодняшнего ии в пользу ?
- •1.16. Доказательство на основании теоремы Гёделя
- •1.17. Платонизм или мистицизм?
- •1.18. Почему именно математическое понимание?
- •1.19. Какое отношение имеет теорема Гёделя к «бытовым» действиям?
- •1.20. Мысленная визуализация и виртуальная реальность
- •1.21. Является ли невычислимым математическое воображение?
- •Примечания
- •2 Геделевское доказательство
- •2.1. Теорема Гёделя и машины Тьюринга
- •2.2. Вычисления
- •2.3. Незавершающиеся вычисления
- •2.4. Как убедиться в невозможности завершить вычисление?
- •2.5. Семейства вычислений; следствие Гёделя — Тьюринга
- •2.6. Возможные формальные возражения против
- •2.7. Некоторые более глубокие математические соображения
- •2.8. Условие -непротиворечивости
- •2.9. Формальные системы и алгоритмическое доказательство
- •2.10. Возможные формальные возражения против (продолжение)
- •Примечания
- •Приложение а: геделизирующая машина тьюринга в явном виде
- •3 О невычислимости в математическом мышлении
- •3.1. Гёдель и Тьюринг
- •О психофизи(ологи)ческой проблеме
- •Р.Пенроуз. Тени ума: в поисках потерянной науки о сознании. Penrose r. Shadows of the mind: a search for the missing science of consciousness. - Oxford, 1994. - XVI, 457 p.
Примечания
1. См., в частности, [161], [262], [266].
2. Моравек [266] основывает свои доводы в пользу такого срока на том, какая, по его мнению, часть коры головного мозга успешно реализована в виде модели (речь, в основном, идет о нейронах, расположенных в сетчатке), и на оценке темпов развития компьютерной технологии в ближайшем будущем. Любопытно, что к началу 1994 года он своего мнения не изменил; см. [267].
3. Эти четыре точки зрения были подробно описаны, например, в [214], с. 252 (следует, впрочем, отметить, что условие, называемое автором статьи «тезисом Черча—Тьюринга», является, по своей сути, скорее «тезисом Тьюринга» (в том смысле, в каком я употребляю этот термин в § 1.6), нежели «тезисом Черча»).
4. Например, Д.Деннет, Д. Хофштадтер, М. Мински, X. Моравек, Г. Саймон; подробнее о терминах можно прочесть в [339], [242].
5. См. [266].
6. [368]; см. также НРК, с. 5-14.
7. См. [339], [340].
8. Вопрос осложняется тем, что современная физика рассматривает, по большей части, непрерывные, а не дискретные(цифровые) процессы. Самый смысл термина «вычислимость» в данном контексте можно трактовать по-разному. С некоторыми рассуждениями на данную тему можно ознакомиться в [311], [345], [312], [313], [314], [315], [29], [326], [327]. К этому вопросу я еще вернусь в
9. Этой замечательной фразой я обязан диктору ВВС Radio 4, ведущему программу «Мысль дня».
10. Исследования в области создания ИИ начались в 1950-е годы с весьма успешного применения сравнительно элементарных нисходящих процедур (например, Грей Уолтер, 1953). Распознающий образы «перцептрон» Фрэнка Розенблатта [322] стал в 1959 году первым удачным «связным» устройством (искусственной нейронной сетью), вызвав тем самым значительный интерес к схемам восходящего типа. В 1969 году Марвин Мински и Сеймур Пейперт указали на некоторые существенные ограничения, присущие данному типу восходящей организации (см. [263]). Способ обойти эти ограничения предложил некоторое время спустя Хопфилд [206], и в настоящий момент искусственными устройствами, функционирующими по типу нейронной сети, активно занимаются ученые всего мира. (О применении таких устройств, например, в физике высоких энергий см. [19] и [141].) Что касается ИИ нисходящего типа, то здесь важными вехами стали работы Джона Маккарти [247] и Алана Ньюэлла в сотрудничестве с Гербертом Саймоном [271]. Впечатляющее изложение истории исследований проблемы ИИ можно найти в [123]. Из прочей литературы порекомендую [174], [15] (относительно недавние размышления о процедурах и перспективах ИИ); [97] (классическая критика идеи ИИ); [139] (свежий взгляд на проблему от пионера ИИ); также см. статьи в сборниках[40] и [220].
11. Описание лямбда-исчисления см. в [52] и [222].
12. Из различных публикаций, посвященных данной проблематике, могу порекомендовать, например, [311], [345], [315], [29]. Вопрос о функционировании мозга в связи с упомянутыми проблемами рассмотрен, в частности, в [325].
13. В действительности Роберт Бергер доказал, что общего алгоритмического решения не имеет лишь задача о замощении плоскости плитками Вана. Плитки Вана (названные так в честь математика Хао Вана) представляют собой единичные квадраты с окрашенными краями; при замощении цвета соседних плиток должны совпадать, сами же плитки при этом нельзя ни вращать, ни переворачивать. Впрочем, для любого набора плиток Вана несложно составить такой набор полиомино, которым можно будет замостить плоскость тогда и только тогда, когда ее можно замостить соответствующим набором плиток Вана. Таким образом, неразрешимость вычислительными методами задачи о замощении плоскости набором полиомино непосредственно следует из неразрешимости задачи о замощении плоскости набором плиток Вана.
В связи с задачей о замощении плоскости полиомино следует отметить, что если каким-либо набором полиомино не удается замостить плоскость, то этот факт вполне возможно установить вычислительным путем (точно так же, как мы можем предсказать остановку машины Тьюринга или убедиться в наличии решения у системы диофантовых уравнений), нужно лишь попытаться замостить плитками данного набора квадратную область размера п х п (последовательно увеличивая значение п); замостить всю плоскость не удастся уже при некотором конечном значении п. Алгоритмическим путем невозможно установить как раз те случаи, когда данным набором плиток можно-таки замостить плоскость.
14. О некоторых чересчур оптимистичных прогнозах относительно ИИ можно прочесть в [ 123].
15. Своим знакомством с этими вопросами я обязан очень многим людям, среди которых хочу особо поблагодарить Ли Левингера. Замечательное исследование связи современной физики и вычислительных методов с проблемами человеческого поведения можно найти в книге [199].
16. Сломен [343], например, пеняет мне на то, что в НРК я слишком часто прибегаю к такому неопределенному термину, как «сознание», в то время как сам он весьма свободно оперирует еще более неопределенным (на мой взгляд) термином «разум»!
17. См. [339], [340].
18. См. статью Серла [339] (ее также можно найти в сборнике [202], с. 372). Мне, правда, не совсем ясно, к какой точке зрения Серл склонился бы сейчас, к В или все же к В.
19. Занимательное рассмотрение подобного предположения представлено в [201]; см. также НРК, с. 21-22.
20. Суть понятия «алгоритмической сложности» доступным языком изложена в [45].
21. См. [207].
22. См. [123].
23. См..например,[267].
24. О доказательстве Лукаса см. [319], [344], [24], [162], [163], [235], [236], [201], [37]; см. также [246]. Что касается моей версии, кратко представленной в НРК, с. 416—418, то где только ее не критиковали: см., в особенности, [343] и многочисленные статьи в Behavioral and Brain Sciences: [36], [42], [46], [72], [73], [79], [96], [153], [198], [219], [250], [249], [252], [268], [306], [323], [365], [385]; мои ответы на критику см. в [291 ], [297] и [ 177]; см. также [94], [293].
25. Примеры взяты из какой-то английской телевизионной программы; возможно, из «Машины мечты» (The Dream Machine, декабрь 1991 г.) — четвертой из цикла программ ВВС «Мыслящая машина» (The Thinking Machine). О последних достижениях в области «искусственного понимания», а в особенности, о захватывающем проекте Дугласа Лената «CYC» можно прочесть в [123].
26. Весьма живо и популярно все это описано в [388].
27. Подобное предположение выдвинул, например, Ричард Доукинс в своих «Рождественских лекциях» (ВВС, 1992 г.).
28. См., например, рассказ Фридмена [123] о работе Лената и других исследователей в этом направлении.