- •Введение
- •Вопросы, вынесенные на обсуждение
- •Благодарности от авторского коллектива
- •Список участников обсуждения
- •Доклады
- •Интеллект как фактор эволюционного развития
- •Литература
- •Трансгуманизм — философские истоки и история возникновения
- •Краткий обзор основных идей современного трансгуманизма
- •Предыстория и возникновение трансгуманизма
- •Трансгуманизм в современной России
- •Литература
- •Конвергенция технологий — новая детерминанта развития общества
- •1. Понятие конвергенции технологий. Описание nbic-конвергенции в свете новейших достижений технологий. Технологические перспективы
- •2. Философские и мировоззренческие проблемы, порождаемые nbic-конвергенцией. Стирание границ или новое пограничье?
- •3. Возможное влияние nbic-конвергенции на дальнейшую эволюцию цивилизации
- •Заключение
- •Литература
- •Увеличение продолжительности жизни: социальные изменения, прогнозы
- •1. Основная тенденция
- •Диаграмма 1. Пожилое население Великобритании в 1901−2031 гг.
- •2. Современное состояние технологий, влияющих на продолжительность жизни
- •3. Социальные последствия увеличения продолжительности жизни и прогнозы
- •3.1. Изменения в структуре социальной стратификации общества
- •Диаграмма 2.Смертность в Великобритании в 1976—1989 гг. Мужчин в возрасте от 15 до 64 лет. Распределение по причинам смерти и социальным классам в 1971 г.
- •3.2. Изменение пенсионного возраста и пенсионной политики
- •Диаграмма 3. Расходы государств на пенсионные выплаты и медицинское обслуживание в семи странах в 1995 г. И прогнозируемые на 2030 г.
- •3.3. Развитие переквалификации, обучения взрослых и пожилых людей (Lifelong Education)
- •3.4. Конфликт между новой реальностью и традиционными представлениями о возрасте и «возрастном расписании» в различных этнокультурах
- •3.5. Размывание возрастной стратификации и формирование безвозрастного общества
- •3.6. Возможное снижение популярности радикальных движений
- •3.7. Изменения в семейном укладе, связанные с увеличением продолжительности жизни
- •3.8. Перенаселение?
- •Заключение
- •Литература
- •Неотехнологические субкультуры в современном мире
- •Литература
- •Влияние высоких технологий на ход глобализации: надежды и опасения.
- •1. Демографическая ситуация и новые технологии
- •2. Перенаселение? Бедность? Ресурсные вопросы
- •3. Развитие компьютерных сетей и технологий, создание суперинтеллекта и микро - и нанороботов
- •4. Решение существующих экологических проблем
- •5. Генная инженерия, клонирование и внеутробное воспроизводство
- •Заключение
- •Приложение: еще о липфроггинге
- •Литература
- •Обсуждение
- •Литература и источники, упомянутые в ходе дискуссии
- •Приложение
- •Систематические ошибки в рассуждениях, потенциально влияющие на оценку глобальных рисков
- •Введение
- •1. Доступность информации
- •2. Интеллектуальная ошибка, связанная со знанием «задним числом» (hindsight bias)
- •3. «Черные лебеди» (Black Swans)
- •4. Ошибки в ситуациях с логическим «и»
- •5. Ошибочность рассуждений, вызванная эффектом подтверждения
- •6. Якорение, настройка и наложение (anchoring, adjustment, and contamination)
- •7. Рассуждения, обусловленные аффектом
- •8. Пренебрежение масштабом
- •9. Калибровка и сверхуверенность
- •10. Апатия прохожего
- •Последнее предупреждение
- •Заключение
- •Рекомендуемая дополнительная литература
- •Литература
- •Угрозы существованию: анализ сценариев человеческого вымирания и других подобных опасностей
- •Введение
- •1. Типология рисков
- •2. Риски существованию
- •3. Уникальность проблемы угроз существованию
- •4. Классификация рисков существованию
- •5. Взрывы (Bangs)
- •5.1. Преднамеренное злоупотребление нанотехнологиями
- •5.2. Ядерный холокост
- •5.3. Мы живем в симуляции, и она выключается
- •5.4. Плохо запрограммированный суперинтеллект
- •5.5. Генетически сконструированный биологический объект
- •5.6. Ошибочное применение опасных нанотехнологий («серая слизь»).
- •5.7. Нечто непредвиденное
- •5.8. Катастрофы в результате физических экспериментов
- •5.9. Естественно возникшее заболевание
- •5.10. Столкновение с астероидом или кометой
- •5.11. Неудержимое глобальное потепление
- •6. Сужения (Crunches)
- •6.1. Истощение ресурсов или разрушение экологии
- •6.2. Сбившееся с курса мировое правительство или другое неподвижное социальное равновесие остановит технологический прогресс
- •6.3. Давление «вырождения»
- •6.4. Технологическая остановка.
- •6.5. Нечто непредвиденное1.
- •7. Скрипы (Shrieks)
- •7.1. Захват власти превосходящим интеллектом, загруженным в компьютер
- •7.2. Сверхинтеллект с ошибкой
- •7.3. Глобальный репрессивный тоталитарный режим
- •7.4. Нечто непредвиденное1
- •8. Всхлипы
- •8.1. Наш потенциал и даже наши базовые ценности разъедаются развитием в ходе эволюции
- •8.2 Уничтожение внеземной цивилизацией
- •8.3 Нечто непредвиденное
- •9. Определение величины вероятности рисков существованию
- •9.1 Прямые методы против непрямых
- •9.2 Парадокс Ферми
- •9.3 Эффекты селективности наблюдения (Observation selection effects)
- •9.4 Рассуждение о Симуляции
- •9.5 Психологические предубеждения?
- •9.6 Оценка собранных данных
- •10. Рекомендации, касающиеся стратегии и этики
- •10.1. Поднимать известность проблемы рисков существованию.
- •10.2. Создать структуру для международных действий
- •10.3. Сохранять готовность к превентивному действию в качестве последнего средства
- •10.4 Регулирование скорости развития технологий
- •10.5 Программы, направленные на прямое уменьшение конкретных угроз существованию
- •10.6. Максипок: эмпирическое правило для этичных поступков
- •Выражения признательности
- •Приложение: очерк эволюционного «всхлипа»
- •Литература
- •Три начала проективной метафизики свободы.
- •I. Понятие и основные положения проективной философии.
- •I. Первичное положение проективной философии, дающее ее начальное определение:
- •II. Гносеологические положения проективной философии:
- •III. Онтологические положения проективной философии:
- •IV. Новое понимание человека: проективный гуманизм:
- •V. Этико-аксиологические принципы проективной философии:
- •II. Начало метафизики свободы. Три формулы категорического императива и три постулата проективной антропологии
- •III. Золотой канон вечной метафизики Платона — Соловьёва.
- •Литература
- •Основная рекомендуемая литература
2. Риски существованию
В этой статье мы обсудим риски шестой категории, которая отмечена в таблице как Х. Это категория глобальных смертельных рисков. Я буду называть их угрозами существованию.
Угрозы существованию отличаются от глобальных переносимых рисков. Примерами последних являются: угрозы биоразнообразию земной экосферы, умеренное глобальное потепление (и даже большое), и, возможно, удушающие культурные и религиозные эры, такие как «темные века», даже если они охватывают все общество, если они рано или поздно закончатся (хотя см. главу о «Визге» ниже). Сказать, что некий глобальный риск является переносимым, очевидно не означает сказать, что он является приемлемым или не очень серьезным. Мировая война с применением обычных вооружений или десятилетие рейха в нацистском духе будут чрезвычайно жуткими событиями, несмотря на то, что они попадают в категорию переносимых глобальных рисков, поскольку человечество может, в конце концов, восстановиться. (С другой стороны, эти события будут местным смертельным риском для многих индивидуумов и для преследуемых этнических групп.)
Я буду использовать следующее определение риска существованию:
Угроза существованию — это такой риск, в котором негативный результат или уничтожает возникшую на Земле разумную жизнь, или необратимо и значительно сокращает ее потенциал.
Угроза существованию — это такой риск, в котором человечество как целое находится под угрозой. Такие катастрофы имеют огромные негативные последствия для всего будущего земной цивилизации.
3. Уникальность проблемы угроз существованию
Риски этой шестой категории появились недавно. Это одна из причин, по которой полезно выделить их в отдельную категорию. Мы не развили механизмов, ни природных, ни культурных, чтобы справляться с такими рисками. Наши учреждения и защитные стратегии сформировались под влиянием столкновения с такими рисками как опасные животные, враждебные люди или племена, отравленная еда, автомобильные аварии, Чернобыль, Бхопал, извержения вулканов, землетрясения, засухи, Первая мировая война, Вторая мировая война, эпидемии гриппа, оспы, черной чумы и СПИДа. Катастрофы этого типа случались многократно, и наше культурное отношение к риску сформировалось посредством метода проб и ошибок в управлении такими угрозами. Но будучи трагедией непосредственно для участников этих событий, с широкой точки зрения — с точки зрения всего человечества — даже самые страшные из этих катастроф были только рябью на поверхности великого моря жизни. Они не повлияли значительно на полное число счастливых и страдающих людей и не определили долгосрочную судьбу нашего вида.
За исключением истребляющих целые виды комет и столкновений с астероидами (случающихся исключительно редко), вероятно, не было значительных угроз существованию до середины XX века, и определенно ни с одной из них мы не могли ничего сделать.
Первой созданной человеком угрозой существованию была первая атомная бомба. В то время было некоторое беспокойство по поводу того, что взрыв запустит цепную реакцию посредством «поджигания» атмосферы. Хотя теперь мы знаем, что такой итог был физически невозможен, в то время это предположение соответствовало определению угрозы существованию. Чтобы нечто было риском, исходя из доступных знания и понимания, достаточно, чтобы была субъективная вероятность неблагоприятного исхода, даже если потом выясняется, что объективно не было ни одного шанса на то, чтобы случилось нечто плохое. Если мы не знаем, является ли что-то объективно рискованным, это является рискованным для нас лично, то есть в субъективном смысле. Но именно на субъективном смысле нам приходится основывать наши решения.1 В любой момент мы должны использовать нашу наилучшую субъективную оценку того, каковы объективные факторы риска.2
Гораздо большая угроза существованию возникла одновременно с появлением арсеналов ядерного оружия в СССР и США. Полноценная ядерная война была возможна со значительной степенью вероятности и с последствиями, которые могли быть настолько устойчивыми, чтобы характеризоваться как глобальные и окончательные. Среди людей, лучше всего знакомых с информацией, доступной в то время, было распространено реальное беспокойство, что ядерный Армагеддон может случиться и что он может истребить наш вид или навсегда разрушить человеческую цивилизацию.3 Россия и США продолжают обладать огромными ядерными арсеналами, которые могут быть использованы в будущей конфронтации, случайно или нарочно. Есть также риск, что другие страны могут однажды создать большие арсеналы. Отметим, однако, что небольшой обмен ядерными ударами, например, между Индией и Пакистаном, не является угрозой существованию, так как он не уничтожит человечество и не повредит необратимо человеческий потенциал. Такая война, однако, будет местным смертельным риском для тех городов, на которые будут нацелены удары. К сожалению, мы увидим, что ядерный Армагеддон и кометный или астероидный удар — это только прелюдия к угрозам существованию в XXI веке.
Особая природа задач, возникающих благодаря угрозам существованию, может быть проиллюстрирована следующими замечаниями.
Наш подход к угрозам существованию не может быть основан на методе проб и ошибок. Здесь нет возможности учиться на ошибках. Реактивный подход — смотреть, что случилось, ограничить ущерб и учиться на этом опыте — не работает. Скорее, мы должны использовать предупреждающий подход. Это требует предвидения для обнаружения новых типов рисков и готовности принимать решительные превентивные меры и оплачивать их моральную и экономическую цену.
Мы не можем с уверенностью полагаться на наши учреждения, моральные нормы, социальные позиции или политику в области национальной безопасности, которые развились на основе нашего опыта управления другими типами рисков. Угрозы существованию — это другой зверь. Нам, может быть, трудно принимать их настолько серьезно, насколько они того заслуживают, поскольку мы никогда не сталкивались с такими катастрофами.1 Наша коллективная реакция страха, скорее всего, плохо откалибрована на масштаб угроз.
Уменьшение угроз существованию является всеобщим общественным благом (Kaul 1999) и по этой причине может быть недостаточно поставляемо рынком (Feldman 1980). Угрозы существованию являются угрозой для каждого и могут требовать реакции на международном уровне. Уважение к национальному суверенитету не является законным извинением для провала в принятии контрмер против важнейших угроз существованию.
Если мы принимаем во внимание благополучие будущих поколений, то ущерб от угроз существованию умножается на еще один фактор, который зависит от того, учитываем ли мы и насколько будущую пользу (Caplin, Leahy 2000; Schelling 2000: 833—837).
Удивительно, в виду неоспоримой важности темы, как мало систематической работы сделано в это области. Частично это объясняется тем, что наиболее серьезные риски происходят (как мы покажем в дальнейшем) от ожидаемых будущих технологий, которые мы только недавно начали понимать. Другой частью объяснения может быть неизбежно междисциплинарная и умозрительная природа предмета исследований. И отчасти, пренебрежение может быть объяснено нежеланием думать всерьез на депрессивные темы. Из этого не следует, что мы должны впасть в уныние, но нужно бросить трезвый взгляд на то, что может пойти неправильно, чтобы мы смогли создавать надежные стратегии для улучшения наших шансов на выживание. Чтобы сделать это, мы должны знать, на чем фокусировать наши усилия.
