- •Препринт
- •Часть 1. Общие обзоры темы 6
- •Часть 2. Оценка вероятности глобальной катастрофы 201
- •Часть 3. Глобальные риски и новые технологии 374
- •Часть 4. Глобальные риски, связанные с природными катастрофами 545
- •Предисловие
- •Часть 1. Общие обзоры темы глобальных рисков Билл Джой. Почему мы не нужны будущему
- •Вернор Виндж. Технологическая Сингулярность
- •Введение
- •Типология рисков
- •Ник Бостром. Угрозы существованию: Анализ сценариев человеческого вымирания и других подобных опасностей.
- •Риски существованию
- •Уникальность проблемы угроз существованию
- •4. Классификация рисков существованию
- •5. Взрывы
- •5.1. Преднамеренное злоупотребление нанотехнологиями
- •5.2. Ядерный холокост
- •5.3. Мы живем в симуляции, и она выключается
- •5.5. Генетически сконструированный биологический объект
- •5.6. Ошибочное применение опасных нанотехнологий («серая слизь»).
- •5.7. Нечто непредвиденное
- •5.8. Катастрофы в результате физических экспериментов
- •5.9. Естественно возникшее заболевание
- •5.10. Столкновение с астероидом или кометой
- •5.11. Неудержимое глобальное потепление
- •6. Сужения
- •6.1. Истощение ресурсов или разрушение экологии
- •6.2. Сбившееся с курса мировое правительство или другое неподвижное социальное равновесие остановит технологический прогресс
- •6.3. Давление «вырождения»
- •6.4. Технологическая остановка
- •7. Скрипы
- •7.2. Сверхинтеллект с ошибкой
- •7.3. Глобальный репрессивный тоталитарный режим
- •7.4. Нечто непредвиденное1
- •8. Всхлипы
- •8.1. Наш потенциал и даже наши базовые ценности разъедаются развитием в ходе эволюции
- •8.2 Уничтожение внеземной цивилизацией
- •9.2 Парадокс Ферми
- •9.3 Эффекты наблюдательной селекции
- •9.4 Рассуждение о Симуляции
- •9.5 Когнитивные искажения
- •9.6 Оценка собранных данных
- •10. Рекомендации, касающиеся стратегии и этики
- •10.1. Поднимать известность проблемы рисков существованию
- •10.2 Создать структуру для международных действий
- •10.3 Сохранять готовность к превентивному действию в качестве последнего средства
- •10.4 Регулирование скорости развития технологий
- •10.5 Программы, направленные на прямое уменьшение конкретных угроз существованию
- •10.6. Максипок: эмпирическое правило для этичных поступков
- •Выражения признательности
- •Приложение: очерк эволюционного «всхлипа»
- •Библиография
- •Елиезер Юдковски. Когнитивные искажения, влияющие на оценку глобальных рисков
- •Введение
- •1. Доступность информации
- •2. Когнитивные искажения, связанная со знанием «задним числом».
- •3. Черные лебеди
- •4. Ошибочное включение лишнего элемента
- •5. Ошибочность рассуждений, вызванная эффектом подтверждения
- •6. Якорение, настройка и загрязнение
- •7. Рассуждения, обусловленные аффектом
- •8. Пренебрежение масштабом
- •9. Калибровка и сверхуверенность
- •10. Апатия прохожего
- •Последнее предупреждение
- •Заключение
- •Рекомендуемое чтение
- •Библиография
- •Дэвид Брин. Сингулярность и кошмары
- •А.А. Кононов.Идеологические начала общей теории неуничтожимости человечества
- •Угрозы уничтожения человечества
- •Неуничтожимость как главная сверхзадача цивилизации
- •Качества неуничтожимой цивилизации
- •О необходимости разработки теоретических основ решения задач неуничтожимости человечества
- •Робин Хансен. Катастрофа, социальный коллапс и человеческое вымирание
- •Алексей Турчин. Процессы с положительной обратной связью как основной механизм глобальных катастроф
- •Часть 2. Оценка вероятности глобальной катастрофы Ник Бостром1, Макс Тегмарк2. Насколько невероятна катастрофа судного дня?
- •Ник Бостром. Рассуждение о Конце Света для начинающих
- •Ник Бостром. Doomsday Argument жив и брыкается
- •Ник Бостром Доказательство симуляции
- •1.Введение
- •2. Предположение о независимости от носителя
- •3.Технологические пределы вычислений
- •4. Ядро доказательства о симуляции
- •5. Мягкий принцип равнозначности
- •6. Интепретация
- •7. Заключение
- •Введение: угрозы существованию и эффекты наблюдательной селекции
- •«Карманная» модель антропного искажения1
- •Обобщение модели
- •Антропное искажение: недооценка естественных угроз
- •Какие угрозы существованию подвержены антропной тени?
- •Антропные тени и риски физических экспериментов
- •Заключение
- •Приложение: словарь
- •Благодарности
- •Алексей Турчин. Природные катастрофы и антропный принцип
- •Введение
- •1. Антропный принцип. Эффект наблюдательной селекции. Результаты Бострома и Тегмарка
- •2. Природные катастрофы
- •3. Применение антропного принципа для анализа частоты природных катастроф
- •4. Нарушение устойчивости природных систем, находящихся на грани равновесия, в связи с человеческой деятельностью
- •5. Быстрая эволюция разума в периоды высокой интенсивности природных катастроф
- •6. Заключение
- •Приложение a. Плотность наблюдателей во вселенной, частота катастроф и антропный принцип
- •Литература:
- •Тоби Орд, Рафаела Хиллербранд, Андрес Сандберг. Проверяя непроверяемое: методологические вызовы в оценке рисков с низкой вероятностью и высокими ставками
- •Введение
- •Оценка вероятностей
- •3. Теории, модели и вычисления
- •4. Применение нашего анализа к рискам экспериментов на ускорителях
- •5. Заключение
- •Эдриан Кент. Критический обзор оценок рисков глобальных катастроф
- •Часть 3. Глобальные риски и новые технологии Eлиезер Юдковски. Искусственный интеллект как позитивный и негативный фактор глобального риска
- •1. Систематическая ошибка, связанная с антропоморфизмом
- •1.1: Широта пространства возможных устройств ума
- •2: Предсказание и устройство
- •4: Способности и мотивы
- •4.1: Процессы оптимизации
- •4.2: Наведение на цель
- •5: Дружественный ии
- •6: Техническая неудача и философская неудача
- •6.1: Пример философской ошибки
- •6.2: Пример технической неудачи
- •7: Темпы усиления интеллекта
- •8: Оборудование
- •9: Угрозы и перспективы
- •10: Локальные стратегии и стратегии большинства
- •11: Ии и усиление человеческого интеллекта
- •12: Взаимодействие ии и других технологий
- •13: Ход прогресса в области Дружественного ии
- •Роберт Фрейтас. Проблема Серой Слизи
- •Crn. Опасности молекулярного производства
- •М. Вассер, р.Фрайтас. Проект «Нанощит»
- •Алексей Карнаухов. Парниковая катастрофа.
- •Милан Чиркович, Ричард Каткарт. Гео-инженерия, пошедшая насмарку: новое частное решение парадокса Ферми
- •1. Введение
- •2. Макроинженерия и сценарий катастрофы
- •3. Миссия к центру Земли
- •4.Начало процесса вымирания
- •5.Применение сказанного к проблемам астробиологии
- •6. Культурологические и климатологические аспекты
- •7.Заключение
- •Ричард Керригэн. Следует ли обеззараживать сигналы seti?
- •А.В.Турчин. Глобальные риски, связанные с программой seti
- •1. История вопроса
- •2. Сценарий возможной атаки
- •3. Анализ возможных целей атаки
- •4. Возражения
- •П.Д. Смит. Кобальтовая бомба (отрывок из книги «Люди судного дня»)
- •Часть 4. Глобальные риски, связанные с природными катастрофами Владислав Пустынский. Последствия падения на Землю крупных астероидов
- •Уильям Нейпьер. Опасность комет и астероидов
- •1. Нечто вроде огромной горы
- •2.Как часто по нам бьют?
- •2.1 Ударные кратеры
- •2.2. Поиск околоземных объектов
- •2.3. Динамический анализ
- •3. Эффекты столкновения
- •4. Роль пыли
- •5. Наземная проверка?
- •6. Неопределённости
- •Майкл Рампино. Супервулканизм и другие катастрофические геофизические процессы
- •3. Вулканическая зима
- •4. Возможные последствия сверхизвержения для окружающей среды
- •5. Сверх-извержения и человеческая популяция
- •6. Частота сверхизвержений
- •7. Влияние сверхизвержения на цивилизацию
- •8. Сверхизвержения и жизнь во Вселенной
- •Арнон Дар. Влияние сверхновых, гамма-всплесков, солнечных вспышек и космических лучей на земную окружающую среду
- •1. Введение
- •2. Радиационные угрозы
- •2.1 Достоверные угрозы
- •2.2. Солнечные вспышки
- •2.3. Солнечная активность и глобальное потепление
- •2.4 Вымирание в результате солнечной активности
- •2.5 Излучение от взрывов сверхновых
- •2.6 Гамма-всплески
- •3. Угрозы от космических лучей.
- •3.1 Изменения магнитного поля Земли
- •3.2 Солнечная активность, космические лучи и глобальное потепление
- •3.3 Прохождение через галактические спиральные рукава
- •3.4 Космические лучи от недалёкой сверхновой
- •3.5. Космические лучи от гамма-всплесков.
- •4. Причины крупнейших массовых вымираний
- •5. Парадокс Ферми и массовые вымирания
6. Культурологические и климатологические аспекты
Трудно избежать рассуждений на тему о возможных причинах, заставляющих или побуждающих технологические цивилизации предпринимать потенциально опасные геоинженерные проекты. Эти причины принадлежат к царству социологии науки и культурологи, и в силу этого вынуждены быть умозрительными экскурсиями о человеческом сознании или человекоподобном инопланетном сознании. Рассуждения этой главы, следовательно, должны восприниматься с осторожностью. Революционное воздействие астрономических наблюдений на историю науки и технологии на земле давно было отмечено и исследовано в разных контекстах. Наиболее исследованным случаем является, несомненно, революция Коперника (39), которая непосредственно ведёт к современной науке и технологии, но была также масса других. Не напрасно было сказано: «…именно Луна породила принципиальные идеи, равно как и позволила провести ключевые испытания нашего понимания Вселенной» (40). На более широкой культурной основе можно убедительно доказать, что характерной чертой человеческой цивилизации (-ий) является «устремлённость вверх». В большинстве человеческих культур всех эпох божества обитают на горных вершинах, на небе, на специфических небесных объектах или в абстрактном «небесном» царстве. Большинство святых мест человечества либо топографически приподняты, чтобы быть ближе к небу (Лхаса, гора Олимп, Синай, гора Афон, Теотиуакан) или ассоциированы с направленными вверх движениями/восхождениями (мечеть Скалы в Иерусалиме, Европейские соборы, Буддистские пагоды, исламские минареты). Зарождающаяся наука Астро-археология отслеживает следы влияния небесных тел на человеческую жизнь и культуру в течение, по крайней мере, 6 000 лет. Необходимым предусловием этого является то, что атмосфера Земли значительно прозрачна в тропических и континентальных средних широтах (или, по крайней мере, она была до наступления индустриальной эры с загрязнением атмосферы аэрозолями и ночным светом). Научное расследование ООН, «Проект азиатское коричневое облако», занимается исследованиями распространяющегося сажевого савана над Индией и Китаем. Что, если бы люди, обладающие превосходным зрением, никогда бы не могли видеть Луну и ~6 000 звезд вселенной, видимых с Земли? Предположим, что небо Земли представляет собой толстый слой облаков, сквозь который может проникать только рассеянный свет, как это сделал выдающийся математик Брайн Дэвис (41) в своём умозрительном историческом эссе «Роль астрономии в истории науки» (42) Стефан Уэбб предложил «Решение 29: Облачное небо является обычным» в книге, цитированной по ссылке 1 в качестве решения проблемы того, почему некоторые или большинство внеземных цивилизаций не имеют связи с нами. Мы считаем утверждаемую им идею о том, что плотные облака полностью предотвращают возникновение науки и технологий, довольно экстремальной и недоказанной. Проф. Дэвис, с другой стороны, защищает противоположный сценарий: а именно, что наука и технологии будут развиваться, хотя медленнее и неким образом по-другому, даже в отсутствии астрономических наблюдений и того вызова, которые они бросали людям в течение тысячелетий. Однако возможная зацепка лежит в самой природе этой разницы. Цивилизации, возникшие на планетах с плотным облачным покровом (аналогичным тому, что окружает Венеру или Титан) будут, вероятно, более «вниз-ориентированы». Они будут развивать науки о земле вместо астрономии и связанных с ней наук. Финансовые и материальные ресурсы такой цивилизации будут брошены на путешествия вниз, а не верх. Возможно, эквиваленты НАСА, ЕСА и других космических агентств возникнут в этом случае с целью исследования внутренностей планеты, а не космических окрестностей. Это будет иметь глубокое воздействие на возможность и вероятность того, что будут развивать потенциально опасные геоинженерные проекты. В дополнение, отсутствие ясного примера парникового эффекта (в этом состоит историческая роль, которую сыграла Венера для нашей цивилизации), вероятно, уменьшит осознание таких угроз как в научных, так и в общественных кругах. (Но я не хочу сказать, что влияние из глубин не было важным на протяжении человеческой истории. Стоит отметить, что череда греческих дев, которые входили в пророческий транс под влиянием различных газов, исходивших из-под земли в храме дельфийского оракула, определила ход греческой истории! (43) В наши дни наблюдается возрастающий общественный интерес к жизни под землёй. (44) С другой стороны, это непрямым образом подтверждает идею Дэвиса о том, что продвинутые культуры, обладающие наукой, могут, в принципе, формироваться под влияниями, «нацеленными вниз».(45) Мы предполагаем, что типичная планетарная человеческая цивилизация на планете, аналогичной земле, будет энергично стремиться проникнуть под поверхность Земли, поскольку это – единственная физическая царство, доступное для лёгких исследований; более того, мы предположили, что эта общность разумных существ с энтузиазмом примет и будет практиковать Макроинженерию (46). В конечном счёте, внедрение технологии аэроскосимческих самолётов позволит людям принять то, что «Небеса рассказывают о славе Бога» (Пс, 19:1), поскольку они смогут двигаться тогда в по сути бесконечном пространстве, простирающемся от земной поверхности через атмосферу к удалённейшим частям наблюдаемой Вселенной, особенно включая достижимые части Солнечной системы. (47) Но поскольку даже современные люди не имеют таких летающих аэрокосмических аппаратов, то кажется разумным игнорировать последствия их существования или несуществования. Есть ставшая клише классическая фраза, часто появляющаяся в эпической античной поэзии, которая называет безграничный океан «туманным» или «воздушным», имея в виду, очевидно, покров тумана, который является облаком, касающимся поверхности земли. Некоторые макроинженеры воспринимают это высокохудожественное греческое выражение как комментарий к земному гидрологическому циклу, циркулированию водяного пара, в частности, в земной атмосфере. Но, с точки зрения наших целей, древние имели в виду облака как выраженные физические границы известного мира (по-гречески – ойкумены). Наш отчёт имеет дело с горизонтальным облаком, окружающим всю планету, тогда как наши предшественники 2 тысячи лет назад должны вертикальное облако по периферии (Бассейн Средиземного моря) – или, по крайней мере, эффективно ограничивающее – их морские исследования восточной части Атлантического океана! (48) Естественный облачный покров нашей Земли составляет от ~65% до 68%, плюс минус 4.8%. Галактические космические частицы – особенно солнечные космические частицы, вылетающие из солнечной атмосферы, – сталкиваются с другими частицами и способствуют формированию некоторых облаков! (49) Другими словами, Солнце регулирует земное небо! (49) Важное дополнительное модулирование может придти, как было недавно заявлено, от галактических источников космических лучей, сконцентрированных в спиральных рукавах Млечного пути и центральных областей (балдж) (50). Следовательно, возможно, что существуют целые огромные регионы Галактики (субрегионы обитаемой зоны Галактики), в которых преобладают преимущественно закрытые облачностью землеподобные планеты, и большинство возникающих цивилизаций являются «оринетированными-вниз». Как этот сценарий может быть эмпирически проверен? Равно как и в отношении всех «местных» объяснений парадокса Ферми это довольно трудная задача, но есть несколько ключей к её решению. Обнаружение землеподобных планет у других звёзд остаётся, вероятно, наиболее важной наблюдательной задачей в астрономии в следующее десятилетие; несколько амбициозных проектов, включая космические обсерватории Дарвин (51) и Гайя (52), разработаны специально для этой целей. Поскольку астрономы уже исследовали атмосферу гигантской юпитероподобной экзопланеты, не кажется неразумным ожидать, что они откроют людям кое-что о геофизических свойствах землеподобных экзопланет. Это позволит нам исследовать то, насколько обычны облачные планеты в галактике. С другой стороны, мы определённо не должны эмпирически проверять безопасность МТЕС зонда Стевенсона и других подобных хитроумных изобретений; однако неинвазивные геофизические исследования определённо прольют больше света на проблемы высвобождения углерода и эффекты от возмущений в тонких обратных связях мантии, коры и атмосферы. (53) Наконец, следует надеяться, что будущие исследования в социологии науки и технологии откроют людям то, насколько типично наше относительно слабое понимание гео-науки в сравнении с рядом моделей других культур. Таким образом, гео-катастрофический сценарий более доступен для эмпирической верификации, чем большинство подобных сценариев разрешения парадокса Ферми.
