Анализ сценариев человеческого вымирания и связанных опасностей.
Бостром Н
По причине ускорения технологического прогресса, человечество, возможно, быстро приближается к критической точке в своём развитии. В дополнение к хорошо известным угрозам, вроде ядерного холокоста, перспективы быстро развивающихся технологий, таких как наносистемы и машинный интеллект, преподносят нам беспрецедентные возможности и риски. Наше будущее, и то, будет ли у нас вообще будущее, зависит от того, как мы справимся с этими вызовами. В связи с быстро развивающимися технологиями, нам нужно лучшее понимание динамики перехода от человеческого к «пост-человеческому» обществу. Особенно важно знать, где расположены ловушки: пути, на которых всё может пойти смертельно неправильно.
Хотя мы имеем большой опыт подверженности различным личным, местным или переносимым ( endurable ) всемирным опасностям, эта статья анализирует недавно появившуюся категорию: рисков существованию (existential risks ). Это – риски, которые могут привести к нашему вымиранию или повредить потенциал развившейся на Земле разумной жизни. Некоторые из этих опасностей относительно известны, тогда как другие совершенно не замечаются. Риски существованию имеют ряд черт, которые делают обычное управление рисками неэффективным. Последняя глава этой статьи обсуждает некоторые этические и политические приложения. Более ясное понимание картины угроз позволит нам сформулировать лучшие стратегии.
|
|
|
Введение.
Жить опасно, и риски находятся везде. К счастью, не все риски одинаково серьёзны. Для наших целей мы можем использовать три измерения для описания величины рисков: масштаб, интенсивность и вероятность. Под «масштабом» я имею в виду размер группы людей, подверженных риску. Под «интенсивностью» я имею в виду то, насколько большой вред будет причинён каждому индивидууму из группы. И под «вероятностью» я имею в виду наилучшую текущую субъективную оценку вероятности негативного исхода. (прим. 1)
Типология рисков.
Мы можем различить 6 качественно различных групп рисков в зависимости от их масштаба и интенсивности (таб.1). Третье измерение, вероятность, может быть наложено на два измерения, вычерченных на таблице. При прочих равных, риск является более серьёзным, если он имеет значительную вероятность и если наши действия могут увеличить её или уменьшить.
| Масштаб / интенсивность: | Переносимая интенсивность | Смертельная интенсивность |
| глобальный | Уменьшение озонового слоя | Х |
| местный | Экономический спад в стране | Геноцид |
| личный | Кража машины | Смерть |
Таблица 1. Шесть категорий риска.
«Личный», «местный» или «глобальный» относится к размеру популяции, которая непосредственно подвергается воздействию; глобальный риск воздействует на всё человечество (и на наших потомков). «Переносимый» в сравнении с «окончательный» ( terminal ) означает то, насколько сильно пострадает подверженная риску популяция. Переносимый риск тоже может привести к большим разрушениям, но остаётся возможность восстановиться от повреждений или найти пути преодолеть негативные последствия. В противоположность тому, окончательный риск – это тот риск, когда подверженные ему объекты или гибнут, или необратимо повреждаются таким образом, что радикально уменьшают свой потенциал жить той жизнью, которой они стремятся жить. В случае личных рисков окончательный исход может быть, например, смерть, необратимое серьёзное повреждение мозга, или пожизненное тюремное заключение. Примером локального окончательного риска может быть геноцид, приводящий к уничтожению всех людей (что случилось с несколькими индийскими народностями). Другой пример – обращение в постоянное рабство.
|
|
|
Риски существованию.
В этой статье мы обсудим риски шестой категории, которая отмечена в таблице как Х. Это категория глобальных окончательных рисков. Я буду называть их рисками существованию.
|
|
|
Риски существованию отличаются от глобальных переносимых рисков. Примерами последних являются: угрозы биоразнообразию земной экосферы, умеренное глобальное потепление (и даже большое), и, возможно, удушающие культурные и религиозные эры, такие как «тёмные века», даже если они охватывают всё общество, если они рано или поздно закончатся (хотя см. главу о «Визге» ниже). Сказать, что некий глобальный риск является переносимым, очевидно не означает сказать, что он является приемлемым или не очень серьёзным. Мировая война с применением обычных вооружений или десятилетие рейха в нацистском духе будут чрезвычайно жуткими событиями, несмотря на то, что они попадают в категорию переносимых глобальных рисков, поскольку человечество может, в конце концов, восстановиться. (С другой стороны, эти события будут местным окончательным риском для многих индивидуумов и для преследуемых этнических групп.)
Я буду использовать следующее определение риска существованию:
Риск существованию – это тот риск, в котором негативный результат или уничтожает возникшую на Земле разумную жизнь, или необратимо и значительно сокращает её потенциал.
|
|
|
Риск существованию – это тот риск, в котором человечество как целое находится под угрозой. Такие катастрофы имеют огромные негативные последствия для всего будущего пути земной цивилизации.
2. Уникальность проблемы рисков существованию
Риски этой шестой категории появились недавно. Это она из причин, по которой полезно отделить их от других рисков. Мы не развили механизмов, ни природных, ни культурных, чтобы справляться с такими рисками. Наши учреждения и защитные стратегии сформировались под влиянием столкновения с такими рисками как опасные животные, враждебные люди или племена, отравленная еда, автомобильные аварии, Чернобыль, Бхопал, извержения вулканов, землетрясения, засухи, Первая мировая война, Вторая мировая война, эпидемии гриппа, оспы, чёрной чумы и СПИДа. Катастрофы этого типа случались многократно, и наше культурное отношение к риску сформировалось посредством метода проб и ошибок в управлении такими угрозами. Но будучи трагедией непосредственно для подверженных людей, с широкой точки зрения – с точки зрения всего человечества – даже самые страшные из этих катастроф были только рябью на поверхности великого моря жизни. Они не повлияли значительно на полное число счастливых и страдающих людей и не определили долгосрочную судьбу нашего вида.
За исключением истребляющих целые виды комет и столкновений с астероидами (случающихся исключительно редко), вероятно, не было значительных рисков существованию до середины 20 века, и определённо ни с одним из них мы не могли ничего сделать.
Первым созданным человеком риском существованию была первая детонация атомной бомбы. В то время было некоторое беспокойство на тему того, что взрыв запустит убегающую цепную реакцию посредством «поджигания» атмосферы. Хотя мы теперь знаем, что такой итог был физически невозможен, в то время это соответствовало определению риска существованию. Чтобы нечто было риском, исходя из доступных знания и понимания, достаточно, чтобы была субъективная вероятность неблагоприятного исхода, даже если потом выясняется, что объективно не было ни одного шанса, что что-нибудь плохое случится. Если мы не знаем, является ли нечто объективно рискованным или нет, это является рискованным в субъективном смысле. Этот субъективный смысл является, конечно, тем, на чём мы должны основывать наши решения. [прим. 2] В любой момент мы должны использовать нашу лучшую субъективную оценку того, каковы объективные факторы риска. [прим. 3]
Гораздо больший риск существованию возник вместе с арсеналами ядерного оружия в СССР и США. Полноценная ядерная война была возможностью со значительной вероятностью и с последствиями, которые могли быть настолько устойчивыми, чтобы характеризоваться как глобальные и окончательные. Среди тех, кто был лучше всего знаком с информацией, доступной в то время, было реальное беспокойство, что ядерный Армагеддон может случиться и что он может истребить наш вид или навсегда разрушить человеческую цивилизацию. [прим. 4] Россия и США продолжают обладать огромные ядерными арсеналами, которые могут быть использованы в будущей конфронтации, случайно или нарочно. Есть также риск, что другие страны могут однажды построить большие арсеналы. Отметьте, однако, что небольшой обмен ядерными ударами, например, между Индией и Пакистаном, не является риском существованию, так как он не уничтожит человечество и не повредит необратимо человеческий потенциал. Такая война, однако, будет местным окончательным рискам для тех городов, на которые удары, скорее всего, будут нацелены. К сожалению, мы увидим, что ядерный Армагеддон и кометный или астероидный удар – это только прелюдия к рискам существованию в 21 веке.
Особая природа задач, ставимых рисками существованию, может быть проиллюстрирована следующими замечаниями:
Наш подход к рискам существованию не может быть основан на методе проб и ошибок. Здесь нет возможности учиться на ошибках. Реактивный подход – смотреть, что случилось, ограничить ущерб и учиться на этом опыте – не работоспособен. Скорее, мы должны использовать предупреждающий подход. Это требует предвидения для обнаружения новых типов рисков и готовности принимать решительные превентивные меры и оплачивать их моральную и экономическую цену.
Мы не можем надёжно полагаться на наши учреждения, моральные нормы, социальные позиции или политику в области национальной безопасности, которые развились на основе нашего опыта управления другими типами рисков. Риски существованию – это другой зверь. Нам может быть трудно принимать их настолько серьёзно, насколько они того заслуживают, поскольку мы никогда не сталкивались с такими катастрофами. [прим. 5] Наша коллективная реакция страха, скорее всего, плохо откалибрована на масштаб угроз.
Уменьшение рисков существованию является всеобщим публичным благом ( global public goods ) [13 – здесь и далее номера в квадратных скобках означают книги из библиографии в конце статьи, кроме случаев, когда написано, что это «прим.» - примечание] и по этой причине может быть недостаточно поставляемо ( undersupplied ) рынком. [14] Риски существованию являются угрозой для каждого и могут требовать реакций на международном уровне. Уважение к национальному суверенитету не является законным извинением для провала в принятии контрмер против важнейших рисков существованию.
Если мы принимаем во внимание благополучие будущих поколений, то ущерб от риска существованию умножается на ещё один фактор, который зависит от того, учитываем ли мы и насколько будущую пользу. [15,16]
Удивительно, в виду неоспоримой важности темы, как мало систематической работы сделано в это области. Частично это объясняется тем, что наиболее серьёзные риски происходят (как мы покажем в дальнейшем) от ожидаемых будущих технологий, которые мы только недавно начали понимать. Другой частью объяснения может быть неизбежно междисциплинарная и спекулятивная природа предмета исследований. И отчасти, пренебрежение может быть отнесено к нежеланию думать всерьёз на депрессивные темы. Из этого не следует, что мы должны впасть в уныние, а следует только то, что нужно бросить трезвый взгляд на то, что может пойти неправильно, чтобы мы смогли создавать надёжные стратегии для улучшения наших шансов на выживание. Чтобы сделать это, мы должны знать, на чём фокусировать наши усилия.
Дата добавления: 2019-03-09; просмотров: 208; Мы поможем в написании вашей работы! |
Мы поможем в написании ваших работ!