
- •Сам себе университет
- •Часть I. Познание, модели, теории……………………………………..5
- •Часть II. Саморазвивающиеся системы: эволюция технологий и технология эволюции……………………..……………………………..10
- •Часть III. Искусственный интеллект……………………..………….18
- •Часть IV. Меняя человека, реальность и восприятие...............23
- •Часть V. Что с нами будет……………………..………………………...30
- •Введение (предупреждение)
- •Часть I. Познание, модели, теории Онтологические и гносеологические посылки. Позиция конструктора
- •Порядок и хаос
- •Роль иерархии в познании и управлении
- •Математическое отображение реальности
- •Моделирования
- •О познавательных и прогностических моделях
- •Имитационное моделирование
- •Требования к научно установленному закону
- •Сколько вопросов порождает ответ
- •Корреляции подснежниковости с зябликовостью
- •Часть II. Саморазвивающиеся системы: эволюция технологий и технология эволюции Классификация эффекторов
- •Сходные черты биологической и технологической эволюции
- •Вопросы к биологической эволюции
- •Приспособление и развитие: эволюционные тупики
- •О различии между живым и неживым
- •Саморазвивающиеся механизмы и выращивание информации
- •О мыслительном и операциональном аспектах языка
- •Количество элементов и надежность системы
- •Претензии к эволюции человека
- •Аргумент против существования телепатии
- •Часть III. Искусственный интеллект Слишком сложно для человека
- •Искусственный интеллект в роли менеджера
- •Верующие автоматы
- •Чувствующие автоматы
- •Восстание машин
- •О тесте Тьюринга
- •О значении
- •Бихевиоризм, или распознать разум по поведению
- •Часть IV. Меняя человека, реальность и восприятие Виртуальная реальность, или о фантоматике
- •Меняя мозг, меняя человека
- •Подключаясь к нервам
- •Копирование, телепортация и проблема тождественности
- •Сотворение миров
- •Упражнения в словотворчестве
- •Часть V. Что с нами будет Разнообразие культур
- •Возникновение технологической цивилизации
- •Технология и аксиология
- •Об опасности новых технологий
- •Отбор по генотипам
- •Будущее науки
- •Кибернетическая социология
- •Дезинтеграция слишком больших обществ
- •Приспособление себя
- •Сверхцивилизации
Вопросы к биологической эволюции
Лем (благоразумно не пытаясь дать ответ) задает «проклятые» вопросы к теории эволюции. Ведет ли естественный отбор автоматически к прогрессивной эволюции (к появлению все более высокоразвитых и разумных существ)? Какую роль играет изменение внешней среды? Правдоподобно рассуждение, что усложнение внешней среды предъявляет спрос на способный обучаться мозг и выявляет его преимущества перед инстинктами. Однако каким образом возникла такая избыточность в возможностях мозга – мозг кроманьонца, способный усвоить квантовую механику?
Приспособление и развитие: эволюционные тупики
Рассуждая об эволюционных тупиках, Лем упоминает интересное понятие поглощающего экрана. Это такое множество состояний, в которое с ненулевой вероятностью можно попасть, но из которого невозможно выбраться (глубокая яма на темной дороге, например). Он предполагает, что эволюционные тупики как в биологической, так и в социальной эволюции (мезолитические сообщества в XXI в., к примеру) обусловлены поглощающими экранами. Вообще, он справедливо замечает, что систему нужно оценивать не только по ее эффективности, но и по способности к развитию. Ибо понятно, что общество или вид, утратившие потенцию к развитию, сколь бы хорошо они ни были приспособлены к существующей среде, при ее изменении обречены на гибель. В связи с этим уместен вопрос о допустимых и недопустимых с точки зрения возможности развития средствах приспособления к среде. Например, очень мощным фактором поддержания порядка в древних обществах было мировоззрение «мировой порядок поддерживается каждым из нас». Люди Хараппы довели его до такого абсолюта, что даже дома после наводнений восстанавливались строго в том же месте, где стояли. У них получилась блестящая цивилизация, но она напрочь погибла, стоило Инду изменить свое русло – Авт.
О различии между живым и неживым
Лем приводит интересное наблюдение: в случае механизма мы имеем структуру, в которой можно запустить, остановить и вновь запустить некоторые процессы. При этом даже в отсутствии базового процесса структура механизма сохраняется. Так, мясорубка не разваливается, если вдруг перестать крутить ручку. В отличие от машины, в живом организме сама структура поддерживается базовым процессом. Организм нельзя включить и выключить, он разрушается сразу же, как только прекращает жить. Лем предполагает, что именно такие самоорганизующиеся машины может (должен?) в будущем создать человек.
Саморазвивающиеся механизмы и выращивание информации
Лем предсказывает любопытную технологию познания, которая станет возможной после того, как будет достигнут успех в создании саморазвивающихся систем. Пусть существует код типа генетического, посредством которого в строении системы может быть закодирована произвольная информация. В «затравочных» системах закодирована начальная информация об исследуемом явлении. Системы отпускаются «на волю» и развиваются всевозможным образом. Время от времени производится «естественный отбор»: системы, чья структура не соответствует уже известной информации о явлении, отбраковываются (разумеется, это нужно делать автоматически). По мысли Лема, в итоге мы «даром» (благодаря законам самоорганизации) получим модель явления, содержащую его ранее неизвестные свойства. Затем можно, выводя из игры по очереди разные учтенные параметры и наблюдая за результатом (тоже автоматически), отделить существенные параметры от несущественных, и, таким образом, получить модель целого класса явлений, содержащую только существенные параметры – т.е. теорию. В принципе, исходными данными не обязательно должны быть сведения о каком-то реально существующем объекте – можно заложить произвольные исходные постулаты и посмотреть, что получится, реализовав таким образом «чистую математику в пробирке». Построения Лема сомнительны. Если на каждом этапе своего развития система может с более или менее одинаковой вероятностью приобрести любой признак из достаточно широкого диапазона, то число возможных вариантов развития, определяемое комбинаторикой, будет невероятно велико. Мало того, что – как отмечает и сам Лем – комбинаторный взрыв быстро сожрет все наши сколь угодно автоматизированные мощности по поиску полезных результатов среди потопа бесполезных, так полезных результатов с огромной вероятностью не будет вообще. Если есть только один результат, соответствующий реальному строению исследуемой системы, а число всех возможных результатов, по добрым традициям комбинаторики, будет исчисляться десяткой в лохматой степени, то вероятность случайного выпадения единственно верного варианта можно смело считать равной нулю. Остается уповать на таинственные (сегодня неизвестные) законы самоорганизации, которые могут, в принципе, содержать некоторые требования к структуре системы и тем самым обуздывать хаос возможностей («раз уж есть жабры, то достраиваем не ноги, а плавники») – Авт.
Мимоходом Лем предсказывают эмбриомеханику – так, как она описана у Стругацких в новелле «Поражение»: кладешь в грунт яйцо, а оно развивается в дом или звездолет, потребляя местные ресурсы. Вообще, он занимает вполне отчетливую позицию: будущее технологии – в создании самоорганизующихся машин, причем мы будем не вполне понимать, как они работают. То есть машина будет – по крайней мере, до некоторой степени – представлять собой черный ящик, о котором известно, как он реагирует на внешние воздействия (в том числе – что надо сделать с «эмбрионом», чтобы вырос звездолет, а не башмак), но для которого нет алгоритма, исчерпывающей модели работы. Лем надеется, что это поможет нам обойти проблемы как проблемы формализации (теорема Геделя и т.д.), так и проблемы чрезмерной сложности моделей (как говаривал герой Амнуэля, «разве, чтобы сделать шаг, ты решаешь в уме уравнения натяжения сухожилий?»). Весьма вероятно, что первый шаг к созданию подобных машин делается уже сейчас, в экспериментах с «ДНК-процессорами». Лем, однако, ни слова не говорит о том, сколь опасно играть с самоорганизующимися системами – Авт.