А. В. Турчин

СТРУКТУРА ГЛОБАЛЬНОЙ КАТАСТРОФЫ

Риски вымирания человечества в XXI веке

Предисловие Г.Г. Малинецкого

Вводное слово Н. Бострома

Проект

Российского Трансгуманистического Движения

Москва

2008

СЕРИЯ «ДИАЛОГИ О БУДУЩЕМ»

Т.2

Ответственные редакторы:

И. В. Следзевский

Валерия Прайд

Рецензенты:

Д.п.н. А.П. Назаретян

Д.г.н. Л.Я. Аранович

Д.ф.н. В.И. Аршинин

Содержание

Г. Г. Малинецкий. Размышления о немыслимом 5

1. Глобальная неустойчивость 6

2. Психологический дискурс 10

3. Проблема инструмента 13

4. В погоне за предвестниками 18

4.1. Анализ и предупреждение о глобальных рисках способны парировать или отодвинуть опасности планетарного масштаба. 18

4.2. Анализ глобальных последствий деятельности человека позволяет более адекватно оценивать те риски, которые недооцениваются. 19

4.3. Сложные системы гораздо более хрупки, чем кажется на первый взгляд. Обеспечение их безопасности неотделимо от исследования таких сложных объектов и создания эффективных систем мониторинга и управления рисками их развития и функционирования. 20

4.4. На обсуждении многих глобальных угроз, основ бытия отдельных цивилизаций, будущего человечества, фактически наложено табу, что весьма опасно. 21

4.5. Большого внимания заслуживают предвестники катастроф невиданного ранее масштаба. 21

Н. Бостром. Вводное слово 23

Предисловие 24

Термины 29

Введение 31

Часть 1. Анализ Рисков 33

Глава 1. Общие замечания 33

1.9 Принципы классификации глобальных рисков 58

Глава 2. Атомное оружие 60

2.9 Ядерный терроризм как фактор глобальной катастрофы 79

Глава 3. Глобальное химическое заражение 80

Глава 4. Биологическое оружие 85

Глава 5. Супернаркотик и другие риски, связанные с воздействием на человека 95

5.1. Воздействие на центр удовольствия и новые технологии 95

5.2 Риски, связанные с самокопирующимися идеями (мемами) 98

5.3. Риски, связанные с размыванием границ между человеческим и нечеловеческим 100

Глава 6. Искусственный интеллект 101

Глава 7. Риски, связанные с роботами и нанотехнологиями 117

7.1 Проблема создания микроскопических роботов и нанотехнологии 117

Глава 8. Технологические способы провоцирования природных катастроф 125

8.1 Искусственная инициация термоядерной детонации Земли и других небесных тел 125

Глава 9. Технологические риски, связанные с принципиально новыми открытиями 130

Глава 10. Риски, создаваемые космическими технологиями 135

Глава 11. Риски, связанные с программой SETI 140

11.1 История вопроса 140

11.2 Сценарий возможной атаки 143

11.3 Анализ возможных целей атаки 149

11.4 Анализ возможных возражений 152

Глава 12. Риски, связанные с природными катастрофами 159

Arnon Dar. Influence of Supernovae, gamma-ray bursts, solar flares, and cosmic rays on the terrestrial environment в книге Global catastrophic risks, 2008 русский перевод: См. Арнон Дар. Влияние сверхновых, гамма-всплесков, солнечных вспышек и космических лучей на земную окружающую среду.http://www.scribd.com/doc/10310965/- 477

Arnon Dar, Ibid. 477

Глава 13. Крайне маловероятные природные риски 178

13.6 Ложные и опровергнутые теории глобальных катастроф. 182

Глава 14. Природные катастрофы и эффект наблюдательной селекции 183

Глава 15. Глобальное потепление 186

Глава 16. Антропогенные риски, не связанные с новыми технологиями 189

16.8 Неизвестные нам сейчас причины катастроф 195

Глава 17. Способы обнаружения однофакторных сценариев глобальной катастрофы 196

Глава 18. Многофакторные сценарии 206

18.15 Универсальные причины вымирания цивилизаций. 231

Глава 19. События, изменяющие вероятность глобальной катастрофы. 233

19.24 Означает ли крах технологической цивилизации вымирание людей. 268

Глава 20. Факторы, влияющие на скорость прогресса 270

Глава 21. Защита от глобальных рисков 274

Максимализация функции удовольствия. 307

Глава 22. Непрямые способы оценки вероятности глобальной катастрофы 308

Глава 23. Наиболее вероятный сценарий глобальной катастрофы 327

Часть 2. Методология анализа глобальных рисков 332

Глава 1. Общие замечания. Ошибка как интеллектуальная катастрофа 332

Глава 2. Ошибки, возможные только относительно угроз существованию человечества 336

45. Неопределённость значений новых терминов 352

Глава 3. как когнитивные искажения, могущие касаться любых рисков, влияют на оценку глобальных рисков 352

5. Навык ведения споров вреден 353

16. Недооценка значения удалённых событий (discount rate) 358

17. Сознательное нежелание знать неприятные факты 358

23. Трудность в определении границ собственного знания 360

24. Юмор как фактор возможных ошибок 360

25. Паника 360

26. Сонливость и другие факторы естественной неустойчивости человеческого сознания, влияющие на появление ошибок 361

86. Верхняя граница возможной катастрофы формируется на основании прошлого опыта 379

97. Минимальный воспринимаемый риск 384

Глава 4. Общелогические ошибки, могущие проявиться в рассуждениях о глобальных рисках 388

24. Санкт-Петербургский парадокс 395

Глава 5. Специфические ошибки, возникающие в дискуссиях об опасности неконтролируемого развития искусственного интеллекта 400

Глава 6. Специфические ошибки, связанные рассуждениями о рисках использования нанотехнологий 409

12. Э. Дрекслер о возможных возражениях реализуемости нанотехнологий 412

Глава 7. Выводы из анализа когнитивных искажений в оценке глобальных рисков и возможные правила для эффективной оценки глобальных рисков 414

1. Открытая дискуссия как точка отсчёта 414

Заключение. Перспективы предотвращения глобальных катастроф 417

Литература 419

Приложение. Таблица катастроф 428

Примечания: 466

Г. Г. Малинецкий1. Размышления о немыслимом

Завидую Прусту. Упиваясь прошлым, он опирался на весьма прочную основу: вполне надежное настоящее и неоспоримое будущее. Но для нас прошлое стало прошлым вдвойне, время вдвойне утрачено, потому что вместе со временем мы утратили и самый мир, в котором текло это время. Произошёл обрыв. Поступательное движение веков прервалось. И нам уже неведомо, когда, в каком веке мы живем и будет ли у нас хоть какое-то будущее.

Р. Мерль. «Мальвиль»

Картина, нарисованная мною, не обязательно должна быть картиной полного уныния: ведь неизбежных катастроф, возможно, и нет. И, конечно, шансов избежать катастрофы становится больше, если мы смело посмотрим катастрофе в лицо и оценим её опасность.

А. Азимов. «Выбор катастроф»

Такая книга должна была появиться. Её время пришло. Хорошо было бы, чтобы она была написана лет на 20 раньше. Но прошлого уже не изменишь, а о будущем надо думать, проектировать его и осмысливать его опасности, риски и угрозы.

Эта книга находится на грани между обзором работ, посвященных сценариям глобальной катастрофы, выполненным в мире, между футурологическим исследованием и методологическим анализом существующих подходов. Автор книги – Алексей Турчин – стремится к объективному анализу, к научности, к целостному осмыслению глобальных рисков. Безусловным достоинством книги является её интеллектуальная честность, стремление к чёткому разделению фактов, результатов, гипотез, сомнений, домыслов.

Наверно, у многих читателей возникнет естественный вопрос, как соотносится предпринятое исследование с конкретными работами по управлению рисками и проектированию будущего, которые активно ведутся в России и во всем мире. О «мостике», соединяющим анализ гипотетических катастроф и работы по прогнозированию и предупреждению реальных аварий, бедствий, чрезвычайных ситуаций, наверно, и стоит сказать в предисловии к этой книге.

1. Глобальная неустойчивость

…макросдвиг – это трансформация цивилизации, в которой движущей силой является технология, а запускается сдвиг наличием критической массы людей, осознавших необходимость обновления системы ценностей.

Э. Ласло. «Макросдвиг»

Вероятно, именно сейчас человечество делает самый важный и значимый выбор в своей истории. В теории самоорганизации – синергетике (дословно, теории совместного действия) – есть принципиально важное понятие бифуркация. Слово пришло из французского языка, где означает раздвоение, ветвление. Бифуркацией называют изменение числа или устойчивости решений определенного типа при изменении параметра.

В нашем случае параметром является время (точнее, историческое «медленное время», как назвал его выдающийся французский историк Фернан Бродель). «Решение» – это важнейшие количественные параметры, характеризующие жизнеустройство нашей цивилизации. И в течение жизни одного поколения предыдущая траектория развития теряет устойчивость.

Очевидное свидетельство этому – технологический предел, к которому подошла цивилизация. По оценкам экологов, если весь мир сегодня начал бы жить по стандартам Калифорнии, то всех разведанных запасов полезных ископаемых хватит по одним видам на 2,5 года, по другим на 4. Человечество живет не по средствам – за год оно потребляет такое количество углеводородов, на создание которого у природы уходило более 2 миллионов лет. Несколько лет назад был пройден важный рубеж – более трети нефти начало добываться на шельфе и с океанических глубин. Бразильские и американские кампании начали бурить в море на глубинах 2,5 километра. То, до чего легко было дотянуться, уже освоено или исчерпано.

Наука ХХ века не решила задачу производства необходимого количества дешёвой чистой энергии и её эффективного аккумулирования. Наглядное свидетельство нынешнего мирового нефтяного кризиса рост цен на нефть с 7 (несколько десятилетий назад) до 140 долларов за баррель. То же касается производства продовольствия, сценариев экономического развития, обостряющихся проблем глобализации¹. Становится очевидным, что прежняя траектория развития человечества потеряла устойчивость. И надо осознанно и разумно выбирать новую траекторию, либо обстоятельства выберут её за нас.

В синергетике показано, что вблизи точки бифуркации имеет место неустойчивость. И малые причины могут иметь большие следствия. Мы видим множество признаков неустойчивости современной реальности. Неустойчивости всегда были спутником развития человечества.

Неустойчивости, как показывает синергетика, носят разный характер. Например, в линейных системах они развиваются по экспоненциальному закону или, что то же самое, по геометрической прогрессии – в одинаковое число раз за одинаковое время. Простейший пример такого роста дает уравнение Мальтуса.

. (1)

По предположению английского священника и профессора Ост-Индийской компании Томаса Мальтуса (1766-1834), по этому закону растет численность всех видов, включая человека. Из школьной математики известно решение этого уравнения N(t) = N₀·exp(t). Если увеличить начальные данные вдвое, то и решение возрастет вдвое: отклик, пропорциональный воздействию – общая черта всех линейных систем.

Это очень «быстрый» закон. В соответствии с ним, например, с 1960-х годов, развивается компьютерная индустрия. Там он называется закон Мура: каждые 18 месяцев степень интеграции элементов микросхемы (а с ней и быстродействие компьютеров) удваивается.

Однако есть и ещё более быстрые законы, характерные для нелинейных систем, например, систем с положительной обратной связью. В них отклонение вызывает реакцию системы, увеличивающую отклонение, увеличивающую более сильно, чем в уравнении (1).

Такую неустойчивость, например, описывает уравнение (2)

. (2)

Но закон роста здесь совсем другой

. (3)

Здесь имеет место режим с обострением¹, когда исследуемая величина неограниченно возрастает за ограниченное время t_f, которое само зависит от начальных данных t_f = 1 / N₀.

Всё это не является математическим упражнением, а имеет непосредственное отношение к нашему настоящему и будущему. Исследования последних десятилетий ХХ века, данные палеодемографов, показали, что именно по закону (2), а не по закону (1) росла численность человечества на протяжении двух миллионов лет, и определили момент обострения t_f  2025 год.

Закон (3) описывает сингулярность (особенность). Специалисты по прогнозированию связывают с сингулярностью гипотетическую точку во времени вблизи 2030 года, в которой ряд прогностических кривых уходят в бесконечность. Многие эксперты связывают его с взрывным развитием технического прогресса, в особенности информационно-телекоммуникационных, нано-, био- и когнитивных технологий (английское сокращение NanoBioInfoCogno – NBIC), с качественным изменением человечества.

Будем рассуждать как реалисты, твердо стоящие на Земле. Нас не может быть бесконечно много. Поэтому закон (3), гиперболический рост численности человечества – главная пружина истории на протяжении многих веков – должен измениться. И это происходит. Происходит в последние 20 лет – на протяжении жизни одного поколения. Речь идет об изменении алгоритмов развития цивилизации. Самое близкое по масштабу событие – неолитическая революция, в результате которой человечеству удалось перейти от охоты и собирательства к земледелию и к скотоводству. По оценкам ряда экспертов, в ходе этой революции численность человечества уменьшилась почти в 10 раз.

Человечеству и науке брошен вызов, сравнимого с которым ещё не было. Состояние ресурсов, биосферы, общества заставляет нас в очень короткий срок 15-20 лет обновить или радикально изменить весь набор жизнеобеспечивающих технологий (энергетика, производство продовольствия, транспорт, управление обществом и многое другое).

По сути, речь идет о типе бифуркации. В синергетике различают мягкие бифуркации, при прохождении которых возникшие траектории лежат в окрестности прежней, потерявшей устойчивость. И далее постепенно, эволюционно удаляются от неё при изменении параметра. Делается важный и ответственный выбор, суть и значение которого выясняется позже, однако развитие идёт эволюционно. Это вариант будущего, который предвидит профессор С. П. Капица.

Но бывают и жесткие бифуркации, когда близкой ветви нет и, скажем, происходит переход на другую, достаточно далёкую от предыдущей ветвь. Это революционное событие. Не хочется думать, что это ждёт человечество в ближайшие десятилетия, но и исключать такого варианта нельзя. И здравый смысл подсказывает, что, надеясь на лучшее, следует рассчитывать на худшее и, конечно, всерьёз размышлять о нем.

Это и является лейтмотивом книги А. В. Турчина. По сути, она является первой научной (насколько это возможно при анализе трагического, невиданного, никогда не происходившего) работой, посвященной данному кругу проблем. Обсуждаемое направление мысли уже несколько десятилетий развивается на Западе. Соответствующие работы публикуются во многих авторитетных научных журналах, в частности, в Nature. Естественно познакомить с этим направлением поисков, которое может оказаться очень важным («кто предупрежден, тот вооружен») и отечественного читателя.

В точке бифуркации очень велика неопределенность. И обещания светлого будущего соседствует с апокалиптическими сценариями. Но и те, и другие гипотезы должны быть предметом серьёзного обсуждения и анализа. Автор весьма добросовестно подошёл к проблеме. Он обладает отличной логикой, огромной эрудицией, хорошим стилем и прекрасной способностью к классификации. Тем не менее, свою книгу он называет дискуссионной. Местоимение «я» появляется на её страницах гораздо чаще, чем это принято в научной литературе. Думаю, что и это стремление взять на себя ответственность за сделанные утверждения заслуживает уважения.