- •Препринт
- •Часть 1. Общие обзоры темы 6
- •Часть 2. Оценка вероятности глобальной катастрофы 201
- •Часть 3. Глобальные риски и новые технологии 374
- •Часть 4. Глобальные риски, связанные с природными катастрофами 545
- •Предисловие
- •Часть 1. Общие обзоры темы глобальных рисков Билл Джой. Почему мы не нужны будущему
- •Вернор Виндж. Технологическая Сингулярность
- •Введение
- •Типология рисков
- •Ник Бостром. Угрозы существованию: Анализ сценариев человеческого вымирания и других подобных опасностей.
- •Риски существованию
- •Уникальность проблемы угроз существованию
- •4. Классификация рисков существованию
- •5. Взрывы
- •5.1. Преднамеренное злоупотребление нанотехнологиями
- •5.2. Ядерный холокост
- •5.3. Мы живем в симуляции, и она выключается
- •5.5. Генетически сконструированный биологический объект
- •5.6. Ошибочное применение опасных нанотехнологий («серая слизь»).
- •5.7. Нечто непредвиденное
- •5.8. Катастрофы в результате физических экспериментов
- •5.9. Естественно возникшее заболевание
- •5.10. Столкновение с астероидом или кометой
- •5.11. Неудержимое глобальное потепление
- •6. Сужения
- •6.1. Истощение ресурсов или разрушение экологии
- •6.2. Сбившееся с курса мировое правительство или другое неподвижное социальное равновесие остановит технологический прогресс
- •6.3. Давление «вырождения»
- •6.4. Технологическая остановка
- •7. Скрипы
- •7.2. Сверхинтеллект с ошибкой
- •7.3. Глобальный репрессивный тоталитарный режим
- •7.4. Нечто непредвиденное1
- •8. Всхлипы
- •8.1. Наш потенциал и даже наши базовые ценности разъедаются развитием в ходе эволюции
- •8.2 Уничтожение внеземной цивилизацией
- •9.2 Парадокс Ферми
- •9.3 Эффекты наблюдательной селекции
- •9.4 Рассуждение о Симуляции
- •9.5 Когнитивные искажения
- •9.6 Оценка собранных данных
- •10. Рекомендации, касающиеся стратегии и этики
- •10.1. Поднимать известность проблемы рисков существованию
- •10.2 Создать структуру для международных действий
- •10.3 Сохранять готовность к превентивному действию в качестве последнего средства
- •10.4 Регулирование скорости развития технологий
- •10.5 Программы, направленные на прямое уменьшение конкретных угроз существованию
- •10.6. Максипок: эмпирическое правило для этичных поступков
- •Выражения признательности
- •Приложение: очерк эволюционного «всхлипа»
- •Библиография
- •Елиезер Юдковски. Когнитивные искажения, влияющие на оценку глобальных рисков
- •Введение
- •1. Доступность информации
- •2. Когнитивные искажения, связанная со знанием «задним числом».
- •3. Черные лебеди
- •4. Ошибочное включение лишнего элемента
- •5. Ошибочность рассуждений, вызванная эффектом подтверждения
- •6. Якорение, настройка и загрязнение
- •7. Рассуждения, обусловленные аффектом
- •8. Пренебрежение масштабом
- •9. Калибровка и сверхуверенность
- •10. Апатия прохожего
- •Последнее предупреждение
- •Заключение
- •Рекомендуемое чтение
- •Библиография
- •Дэвид Брин. Сингулярность и кошмары
- •А.А. Кононов.Идеологические начала общей теории неуничтожимости человечества
- •Угрозы уничтожения человечества
- •Неуничтожимость как главная сверхзадача цивилизации
- •Качества неуничтожимой цивилизации
- •О необходимости разработки теоретических основ решения задач неуничтожимости человечества
- •Робин Хансен. Катастрофа, социальный коллапс и человеческое вымирание
- •Алексей Турчин. Процессы с положительной обратной связью как основной механизм глобальных катастроф
- •Часть 2. Оценка вероятности глобальной катастрофы Ник Бостром1, Макс Тегмарк2. Насколько невероятна катастрофа судного дня?
- •Ник Бостром. Рассуждение о Конце Света для начинающих
- •Ник Бостром. Doomsday Argument жив и брыкается
- •Ник Бостром Доказательство симуляции
- •1.Введение
- •2. Предположение о независимости от носителя
- •3.Технологические пределы вычислений
- •4. Ядро доказательства о симуляции
- •5. Мягкий принцип равнозначности
- •6. Интепретация
- •7. Заключение
- •Введение: угрозы существованию и эффекты наблюдательной селекции
- •«Карманная» модель антропного искажения1
- •Обобщение модели
- •Антропное искажение: недооценка естественных угроз
- •Какие угрозы существованию подвержены антропной тени?
- •Антропные тени и риски физических экспериментов
- •Заключение
- •Приложение: словарь
- •Благодарности
- •Алексей Турчин. Природные катастрофы и антропный принцип
- •Введение
- •1. Антропный принцип. Эффект наблюдательной селекции. Результаты Бострома и Тегмарка
- •2. Природные катастрофы
- •3. Применение антропного принципа для анализа частоты природных катастроф
- •4. Нарушение устойчивости природных систем, находящихся на грани равновесия, в связи с человеческой деятельностью
- •5. Быстрая эволюция разума в периоды высокой интенсивности природных катастроф
- •6. Заключение
- •Приложение a. Плотность наблюдателей во вселенной, частота катастроф и антропный принцип
- •Литература:
- •Тоби Орд, Рафаела Хиллербранд, Андрес Сандберг. Проверяя непроверяемое: методологические вызовы в оценке рисков с низкой вероятностью и высокими ставками
- •Введение
- •Оценка вероятностей
- •3. Теории, модели и вычисления
- •4. Применение нашего анализа к рискам экспериментов на ускорителях
- •5. Заключение
- •Эдриан Кент. Критический обзор оценок рисков глобальных катастроф
- •Часть 3. Глобальные риски и новые технологии Eлиезер Юдковски. Искусственный интеллект как позитивный и негативный фактор глобального риска
- •1. Систематическая ошибка, связанная с антропоморфизмом
- •1.1: Широта пространства возможных устройств ума
- •2: Предсказание и устройство
- •4: Способности и мотивы
- •4.1: Процессы оптимизации
- •4.2: Наведение на цель
- •5: Дружественный ии
- •6: Техническая неудача и философская неудача
- •6.1: Пример философской ошибки
- •6.2: Пример технической неудачи
- •7: Темпы усиления интеллекта
- •8: Оборудование
- •9: Угрозы и перспективы
- •10: Локальные стратегии и стратегии большинства
- •11: Ии и усиление человеческого интеллекта
- •12: Взаимодействие ии и других технологий
- •13: Ход прогресса в области Дружественного ии
- •Роберт Фрейтас. Проблема Серой Слизи
- •Crn. Опасности молекулярного производства
- •М. Вассер, р.Фрайтас. Проект «Нанощит»
- •Алексей Карнаухов. Парниковая катастрофа.
- •Милан Чиркович, Ричард Каткарт. Гео-инженерия, пошедшая насмарку: новое частное решение парадокса Ферми
- •1. Введение
- •2. Макроинженерия и сценарий катастрофы
- •3. Миссия к центру Земли
- •4.Начало процесса вымирания
- •5.Применение сказанного к проблемам астробиологии
- •6. Культурологические и климатологические аспекты
- •7.Заключение
- •Ричард Керригэн. Следует ли обеззараживать сигналы seti?
- •А.В.Турчин. Глобальные риски, связанные с программой seti
- •1. История вопроса
- •2. Сценарий возможной атаки
- •3. Анализ возможных целей атаки
- •4. Возражения
- •П.Д. Смит. Кобальтовая бомба (отрывок из книги «Люди судного дня»)
- •Часть 4. Глобальные риски, связанные с природными катастрофами Владислав Пустынский. Последствия падения на Землю крупных астероидов
- •Уильям Нейпьер. Опасность комет и астероидов
- •1. Нечто вроде огромной горы
- •2.Как часто по нам бьют?
- •2.1 Ударные кратеры
- •2.2. Поиск околоземных объектов
- •2.3. Динамический анализ
- •3. Эффекты столкновения
- •4. Роль пыли
- •5. Наземная проверка?
- •6. Неопределённости
- •Майкл Рампино. Супервулканизм и другие катастрофические геофизические процессы
- •3. Вулканическая зима
- •4. Возможные последствия сверхизвержения для окружающей среды
- •5. Сверх-извержения и человеческая популяция
- •6. Частота сверхизвержений
- •7. Влияние сверхизвержения на цивилизацию
- •8. Сверхизвержения и жизнь во Вселенной
- •Арнон Дар. Влияние сверхновых, гамма-всплесков, солнечных вспышек и космических лучей на земную окружающую среду
- •1. Введение
- •2. Радиационные угрозы
- •2.1 Достоверные угрозы
- •2.2. Солнечные вспышки
- •2.3. Солнечная активность и глобальное потепление
- •2.4 Вымирание в результате солнечной активности
- •2.5 Излучение от взрывов сверхновых
- •2.6 Гамма-всплески
- •3. Угрозы от космических лучей.
- •3.1 Изменения магнитного поля Земли
- •3.2 Солнечная активность, космические лучи и глобальное потепление
- •3.3 Прохождение через галактические спиральные рукава
- •3.4 Космические лучи от недалёкой сверхновой
- •3.5. Космические лучи от гамма-всплесков.
- •4. Причины крупнейших массовых вымираний
- •5. Парадокс Ферми и массовые вымирания
4. Роль пыли
Столкновения астероидов в главном поясе астероидов могут привести к всплеску выпадения пыли на Землю (Parkin, 1985), и высказывались предположения о том, что это вызовет климатические и биологические последствия (Kortenkamp and Dermott, 1998).
Отложения на морском дне свидетельствуют о том, что выпадения пыли длительностью 1,5 млн. лет имели место 8 и 36 млн. лет назад. (Farley et al, 2006). Последнее событие совпадает по времени с известным распадом большого астероида в главном поясе, но прирост пыли был умеренным. Источник пылевого ливня 36 млн. лет назад неясен: ни одного распада астероида, который мог бы отвечать за этот эпизод бомбардировки, в главном поясе не обнаружено.
Короткие эпизоды (тысячелетия, а не миллионы лет) выпадения космической пыли должны случаться и на некотором уровне играть роль в модификации земного климата. Наиболее массивными объектами, входящими в окрестности Земли, являются редкие гигантские кометы, 100-200 км в диаметре, приходящие с интервалом раз в 100 000 лет в эпизоды бомбардировки. Если такое тело перейдёт на короткопериодичную орбиту, пересекающую Земную, такое тело распадётся под действием солнечного света и создаст массу пыли, эквивалентную массе пыли, которую бы создал одновременный распад 10 000 комет Галлея. Это может увеличить ежегодный приток кометного вещества в атмосферу Земли с текущей величины в 40 000 тонн в год до миллиона тонн в год на период в несколько тысячелетий. Метеороиды, сгорая в атмосфере, превратятся в смог, состоящий из частиц микронных размеров (Klekociuk et al., 2005), которые являются эффективными поглотителями солнечного света и время выпадения которых составляет примерно 3-10 лет. Атмосферная дезинтеграция влетающих метеороидов в микронного размера аэрозоли приведёт к значительному снижению количества солнечного света, достигающего поверхности Земли. Климатические эффекты выглядят неизбежными. (Clube et al 1996; Hoyle and Wickramasinghe, 1978; Napier, 2001). Таким образом, массовое вымирание не обязано быть связано с внезапным крупным событием: множественные бомбардировки и серии резких похолоданий также являются резонными астрономическими причинами для массового вымирания.
«Ископаемые» остатки последней большой кометы всё ещё могут быть обнаружены во внутреннем межпланетном окружении: уже давно признано, что предок кометы Энке и связанного с ней метеоритного потока Тауриды, был таким телом (Whipple, 1967). Из реконструкции исходных орбит (Steel and Asher, 1998) следует, что исходная комета была по крайней мере 10 км диаметром, и могла придти к концу своего активного периода примерно 10 000 лет назад, и проявляла значительную активность 5 000 лет назад. Имея орбитальный период 3.3 ± 0.2 лет, эта комета должна была быть ярким объектом небосклоне в эпоху неолита.
Орбитальная прецессия приводит к тому, что с интервалами 2500 лет Земля подвержена близким сближениям и ежегодным метеоритными штормам с интенсивностью, которая превосходит всё, что мы можем наблюдать сейчас. То есть здесь мы можем найти научные подтверждения мифом о небесном апокалипсисе! Предок Тауридов сам тоже может быть осколком гораздо большего космического тела: зодиакальное облако, – диск межпланетной пыли, который включает в себя Тауриды, на два порядка слишком массивен, чем должен быть в соответствии с известными источника его пополнения (Hughes, 1996). Из этого следует недавнее вторжение объекта в 2000 раз более массивного, чем комета Галлея, что соответствует комете диаметром 150 км. (Hughes, 1996).
Возникает вопрос, представляет ли материал из этого комплекса глобальный риск, значительно превосходящий фоновый уровень. То, что в нём по-прежнему есть много вещества, установлено на основании случайных наблюдений метеоритных роёв, на основании средневековых записей и сейсмически обнаруженных импактов на Луне (Табл.1). В течение периода 1971-1975 годов, когда действовали лунные сейсмографы, были обнаружены мощные рои булыжников, длиною в несколько дней, совпадающие с максимумами метеоритных потоков B Тауридов, Персеидов, Леонидов, и Геминидов. Но также близко (см. табл. 1) к пику этих ежегодных ливней находится импакт Тунгусского метеорита (30 июня), импакт мегатонного класса в 1930 году в амазонском лесу (13 августа) и столь же энергетичный импакт в Британской Гвиане в 1935 году (11 декабря 1935 года). Было бы слишком натянутым утверждение о том, что это наложение является всего лишь случайным совпадением. Вопрос о том, могут ли метеороиды, скажем, 1000 мегатонного класса концентрироваться внутри метеоритных ливней в значительных количествах, остаётся открытым. Существование этого космического материала привело к предположению, что быстрые короткие периоды иным образом необъяснимых охлаждений, происходящие с характерным временем раз в несколько тысячелетий, могут быть связаны с со столкновениями с суб-километровыми метеороидами в пределах комплекса Тауридов. Наиболее недавнее событие такого рода случилось в 536-545 гг. н. э. Данные по кольцам деревьев показывают на внезапное климатическую перемену глобального масштаба, сопровождаемую периодом сухой мглы протяжённостью 12-18 месяцев. Никаких типичных следов вулканической активности не обнаружено в кернах льда за этот период. Это событие – и похожее, имевшее место в 2345 году до н.э. – по предположению Baillie (1994, 1999) – вероятно, было связано с импактом кометы. Эта ситуация была промоделирована Rigby et al. (2004), и в этой модели испарившийся кометный материал выбрасывается в виде плюма поверх атмосферы в виде маленьких конденсирующихся частиц. Они обнаружили, что комета радиусом 300 метров может ослабить солнечный свет на 4%, что, как они считают, соответствует как историческим свидетельствам и внезапному глобальному похолоданию. Эффекты этой космической зимы могут быть обобщены как гибель урожая и последующий голод. Этот эффект сильнее всего ощутится в третьем мире, но охлаждение более года длиной скажется и в развитых странах (Engvild, 2003).
