- •Препринт
- •Часть 1. Общие обзоры темы 6
- •Часть 2. Оценка вероятности глобальной катастрофы 201
- •Часть 3. Глобальные риски и новые технологии 374
- •Часть 4. Глобальные риски, связанные с природными катастрофами 545
- •Предисловие
- •Часть 1. Общие обзоры темы глобальных рисков Билл Джой. Почему мы не нужны будущему
- •Вернор Виндж. Технологическая Сингулярность
- •Ник Бостром. Угрозы существованию: Анализ сценариев человеческого вымирания и других подобных опасностей.
- •Введение
- •Типология рисков
- •Риски существованию
- •Уникальность проблемы угроз существованию
- •4. Классификация рисков существованию
- •5. Взрывы
- •5.1. Преднамеренное злоупотребление нанотехнологиями
- •5.2. Ядерный холокост
- •5.3. Мы живем в симуляции, и она выключается
- •5.5. Генетически сконструированный биологический объект
- •5.6. Ошибочное применение опасных нанотехнологий («серая слизь»).
- •5.7. Нечто непредвиденное
- •5.8. Катастрофы в результате физических экспериментов
- •5.9. Естественно возникшее заболевание
- •5.10. Столкновение с астероидом или кометой
- •5.11. Неудержимое глобальное потепление
- •6. Сужения
- •6.1. Истощение ресурсов или разрушение экологии
- •6.2. Сбившееся с курса мировое правительство или другое неподвижное социальное равновесие остановит технологический прогресс
- •6.3. Давление «вырождения»
- •6.4. Технологическая остановка
- •7. Скрипы
- •7.2. Сверхинтеллект с ошибкой
- •7.3. Глобальный репрессивный тоталитарный режим
- •7.4. Нечто непредвиденное1
- •8. Всхлипы
- •8.1. Наш потенциал и даже наши базовые ценности разъедаются развитием в ходе эволюции
- •8.2 Уничтожение внеземной цивилизацией
- •9.2 Парадокс Ферми
- •9.3 Эффекты наблюдательной селекции
- •9.4 Рассуждение о Симуляции
- •9.5 Когнитивные искажения
- •9.6 Оценка собранных данных
- •10. Рекомендации, касающиеся стратегии и этики
- •10.1. Поднимать известность проблемы рисков существованию
- •10.2 Создать структуру для международных действий
- •10.3 Сохранять готовность к превентивному действию в качестве последнего средства
- •10.4 Регулирование скорости развития технологий
- •10.5 Программы, направленные на прямое уменьшение конкретных угроз существованию
- •10.6. Максипок: эмпирическое правило для этичных поступков
- •Выражения признательности
- •Приложение: очерк эволюционного «всхлипа»
- •Библиография
- •Елиезер Юдковски. Когнитивные искажения, влияющие на оценку глобальных рисков
- •Введение
- •1. Доступность информации
- •2. Когнитивные искажения, связанная со знанием «задним числом».
- •3. Черные лебеди
- •4. Ошибочное включение лишнего элемента
- •5. Ошибочность рассуждений, вызванная эффектом подтверждения
- •6. Якорение, настройка и загрязнение
- •7. Рассуждения, обусловленные аффектом
- •8. Пренебрежение масштабом
- •9. Калибровка и сверхуверенность
- •10. Апатия прохожего
- •Последнее предупреждение
- •Заключение
- •Рекомендуемое чтение
- •Библиография
- •Дэвид Брин. Сингулярность и кошмары
- •А.А. Кононов.Идеологические начала общей теории неуничтожимости человечества
- •Угрозы уничтожения человечества
- •Неуничтожимость как главная сверхзадача цивилизации
- •Качества неуничтожимой цивилизации
- •О необходимости разработки теоретических основ решения задач неуничтожимости человечества
- •Робин Хансен. Катастрофа, социальный коллапс и человеческое вымирание
- •Алексей Турчин. Процессы с положительной обратной связью как основной механизм глобальных катастроф
- •Часть 2. Оценка вероятности глобальной катастрофы Ник Бостром1, Макс Тегмарк2. Насколько невероятна катастрофа судного дня?
- •Ник Бостром. Рассуждение о Конце Света для начинающих
- •Ник Бостром. Doomsday Argument жив и брыкается
- •Ник Бостром Доказательство симуляции
- •1.Введение
- •2. Предположение о независимости от носителя
- •3.Технологические пределы вычислений
- •4. Ядро доказательства о симуляции
- •5. Мягкий принцип равнозначности
- •6. Интепретация
- •7. Заключение
- •Введение: угрозы существованию и эффекты наблюдательной селекции
- •«Карманная» модель антропного искажения1
- •Обобщение модели
- •Антропное искажение: недооценка естественных угроз
- •Какие угрозы существованию подвержены антропной тени?
- •Антропные тени и риски физических экспериментов
- •Заключение
- •Приложение: словарь
- •Благодарности
- •Алексей Турчин. Природные катастрофы и антропный принцип
- •Введение
- •1. Антропный принцип. Эффект наблюдательной селекции. Результаты Бострома и Тегмарка
- •2. Природные катастрофы
- •3. Применение антропного принципа для анализа частоты природных катастроф
- •4. Нарушение устойчивости природных систем, находящихся на грани равновесия, в связи с человеческой деятельностью
- •5. Быстрая эволюция разума в периоды высокой интенсивности природных катастроф
- •6. Заключение
- •Приложение a. Плотность наблюдателей во вселенной, частота катастроф и антропный принцип
- •Литература:
- •Тоби Орд, Рафаела Хиллербранд, Андрес Сандберг. Проверяя непроверяемое: методологические вызовы в оценке рисков с низкой вероятностью и высокими ставками
- •Введение
- •Оценка вероятностей
- •3. Теории, модели и вычисления
- •4. Применение нашего анализа к рискам экспериментов на ускорителях
- •5. Заключение
- •Эдриан Кент. Критический обзор оценок рисков глобальных катастроф
- •Часть 3. Глобальные риски и новые технологии Eлиезер Юдковски. Искусственный интеллект как позитивный и негативный фактор глобального риска
- •1. Систематическая ошибка, связанная с антропоморфизмом
- •1.1: Широта пространства возможных устройств ума
- •2: Предсказание и устройство
- •4: Способности и мотивы
- •4.1: Процессы оптимизации
- •4.2: Наведение на цель
- •5: Дружественный ии
- •6: Техническая неудача и философская неудача
- •6.1: Пример философской ошибки
- •6.2: Пример технической неудачи
- •7: Темпы усиления интеллекта
- •8: Оборудование
- •9: Угрозы и перспективы
- •10: Локальные стратегии и стратегии большинства
- •11: Ии и усиление человеческого интеллекта
- •12: Взаимодействие ии и других технологий
- •13: Ход прогресса в области Дружественного ии
- •Роберт Фрейтас. Проблема Серой Слизи
- •Crn. Опасности молекулярного производства
- •М. Вассер, р.Фрайтас. Проект «Нанощит»
- •Алексей Карнаухов. Парниковая катастрофа.
- •Милан Чиркович, Ричард Каткарт. Гео-инженерия, пошедшая насмарку: новое частное решение парадокса Ферми
- •1. Введение
- •2. Макроинженерия и сценарий катастрофы
- •3. Миссия к центру Земли
- •4.Начало процесса вымирания
- •5.Применение сказанного к проблемам астробиологии
- •6. Культурологические и климатологические аспекты
- •7.Заключение
- •Ричард Керригэн. Следует ли обеззараживать сигналы seti?
- •А.В.Турчин. Глобальные риски, связанные с программой seti
- •1. История вопроса
- •2. Сценарий возможной атаки
- •3. Анализ возможных целей атаки
- •4. Возражения
- •П.Д. Смит. Кобальтовая бомба (отрывок из книги «Люди судного дня»)
- •Часть 4. Глобальные риски, связанные с природными катастрофами Владислав Пустынский. Последствия падения на Землю крупных астероидов
- •Уильям Нейпьер. Опасность комет и астероидов
- •1. Нечто вроде огромной горы
- •2.Как часто по нам бьют?
- •2.1 Ударные кратеры
- •2.2. Поиск околоземных объектов
- •2.3. Динамический анализ
- •3. Эффекты столкновения
- •4. Роль пыли
- •5. Наземная проверка?
- •6. Неопределённости
- •Майкл Рампино. Супервулканизм и другие катастрофические геофизические процессы
- •3. Вулканическая зима
- •4. Возможные последствия сверхизвержения для окружающей среды
- •5. Сверх-извержения и человеческая популяция
- •6. Частота сверхизвержений
- •7. Влияние сверхизвержения на цивилизацию
- •8. Сверхизвержения и жизнь во Вселенной
- •Арнон Дар. Влияние сверхновых, гамма-всплесков, солнечных вспышек и космических лучей на земную окружающую среду
- •1. Введение
- •2. Радиационные угрозы
- •2.1 Достоверные угрозы
- •2.2. Солнечные вспышки
- •2.3. Солнечная активность и глобальное потепление
- •2.4 Вымирание в результате солнечной активности
- •2.5 Излучение от взрывов сверхновых
- •2.6 Гамма-всплески
- •3. Угрозы от космических лучей.
- •3.1 Изменения магнитного поля Земли
- •3.2 Солнечная активность, космические лучи и глобальное потепление
- •3.3 Прохождение через галактические спиральные рукава
- •3.4 Космические лучи от недалёкой сверхновой
- •3.5. Космические лучи от гамма-всплесков.
- •4. Причины крупнейших массовых вымираний
- •5. Парадокс Ферми и массовые вымирания
5. Сверх-извержения и человеческая популяция
Недавние споры о происхождении современных людей концентрировались на двух альтернативных гипотезах: (1) «мультирегиональная гипотеза», согласно которой основные подвиды нашего вида развивались медленно и на местах, и сходство между группами объясняется перетеканием генов и (2) гипотеза о «замене», согласно которой ранние популяции были заменены от 30 000 до 100 000 лет назад современными людьми, происходившими из Африки (Hewitt, 2000; Rogers and Joude, 1995).
Для проверки этих гипотез использовались генетические исследования. Исследования ядерной и митохондриальной ДНК современных человеческих популяций привели к заключению, что современные популяции возникли в Африке и распространились по всему Старому Свету примерно 50 000 ± 20 000 лет назад (Harpending et al., 1993; Jones and Rouhani, 1986; Wainscoat et al., 1986). Этот взрыв популяции, судя по всему, последовал за резким падением популяции, которое, по оценкам Harpending и др. (1993) уменьшило человеческую популяцию до примерно 500 способных к размножению женщин, или до полной популяции в примерно 4000 особей на примерно 20 000 лет. В то же время, Неандертальцы, которые, вероятно, были лучше приспособлены к холодам, переселились в регион Леванта, когда современные люди его покинули (Hewitt, 2000).
Harpending и др. (1993) предложили свидетельства того, что можно назвать промежуточной гипотезой «Слабого Эдемского Сада», о том, что маленькая популяция предков людей разделилась на изолированные группы около 100 000 лет назад и через 30 000 каждая из этих популяций прошла через бутылочное горлышко и последующее расширение в размере. Sherry и др. (1994) оценил среднее время расширения популяций от 65 000 до 30 000 лет назад, причём Африканское расширение, вероятно, было самым ранним.
Ambrose (1998, 2003; см также Gibbons, 1993) указал на то, что время сверхизвержения Тобы приблизительно соответствует предполагаемому времени бутылочного горлышка, и высказал догадку, что экологические последствия извержения Тобы могли быть настолько сильными, что могли привести к резкому спаду популяции предшественников людей (однако см. Gathorne-Hardy и Harcourt-Smith, 2003 за противоположными взглядами).
Rampino и Self (1993a) и Rampino и Ambrose (2000) пришли к заключению, что климатические эффекты Тобы могли привести к подлинной «вулканической зиме» и значительному повреждению среды обитания. Важно отметить, что анализ mtDNA восточных шимпанзе (Pan troglodytes schweinfurthii) показывает резкое снижение популяции примерно в то же время, что и человеческой популяции (см. Rogers and Jorde, 1995).
6. Частота сверхизвержений
Decker (1990) предположил, что если все извержения магнитуды 8 в недавнем прошлом оставили кальдерные структуры, которые были обнаружены, то частота VEI 8 извержений будет примерно 2*10-5 в год, или примерно одно VEI 8 в 50 000 лет.
Время и магнитуду вулканических извержении, однако, трудно предсказать. Стратегии предсказания включают (1) распознавание паттернов извержений конкретных вулканов (e.g., Godano and Civetta, 1996; Klein, 1982), (2) анализ предвестников различного рода (e.g., Chouet, 1996; Nazzaro, 1998) (3) анализ регионального и глобального распределения извержений в пространстве и времени (Carr, 1977; Mason et al., 2004; Pyle, 1995), и (4) теоретические предсказания, основанные на поведении материалов (Voight, 1988; Voight and Cornelius, 1991). Хотя значительный прогресс был сделан в краткосрочном предсказании извержений, ни один метод не оказался достаточно успешным в предсказании времени и, что более важно, магнитуды извержения или концентрации в магме и количества выброса серы.
Современные технологии, включающие непрерывный спутниковый мониторинг газовых выбросов, термальных аномалий и деформаций грунта (e.g., Alexander, 1991; Walter, 1990) обещает улучшение прогнозирования и конкретное предсказание вулканических событий, но эффективность этих технологий в значительной степени ещё не подтверждена.
Например, несмотря на то, что у нас есть 2000 лет наблюдений вулкана Везувий (Nazzaro, 1998), и длительная история его мониторинга и научных исследований, предсказание магнитуды и времени следующего крупного извержения остается проблемой (Dobran et al., 1994; Lirer et al., 1997). Для больших, формирующих кальдеру извержений, которые не имели места в исторически известное время, у нас мало значимых наблюдений, на которых можно обосновать предсказания или дать более длинные прогнозы.
