«Повезло, что создать ядерное оружие непросто». Как любая новинка грозит нам гибелью

Философ Ник Бостром и научный ассистент Оксфорда Мэтью ван дер Мерве рассуждают, как инновации могут привести к гибели человечества. Главное из материала Aeon — в материале DK.RU.

— Способность человека к творчеству можно представить как процесс вытаскивания шаров из гигантской урны. Шары олицетворяют идеи, открытия и изобретения. На протяжении истории мы добыли множество шаров, большинство из которых принесло нам пользу. Остальные же представляют собой различные оттенки серого: смесь хорошего и плохого, чистый эффект которых трудно оценить.

Что мы еще не извлекли из этой урны, так это черный шар: технологию, которая неизбежно уничтожит цивилизацию, создавшую ее. Это не потому, что мы особенно осторожны или мудры в том, что касается инноваций. Нам просто повезло. Но что, если этот шар все же скрывается где-то в урне? Если научные и технологические исследования продолжатся, мы в конечном итоге вытащим его и не сможем вернуть обратно. Мы можем изобрести что-то, но не можем отыграть это назад. Человечество, похоже, просто надеется, что черного шара нет.

К счастью для нас, самую разрушительную технологию человечества на сегодняшний день — ядерное оружие — чрезвычайно трудно освоить. В 1933 году физику Лео Сциларду пришла в голову идея цепной ядерной реакции. Более поздние исследования показали, что для создания атомного оружия потребуется несколько килограммов плутония или высокообогащенного урана, которые очень сложно и дорого производить. А теперь представьте, что Сциллард нашел бы более простой способ создать ядерную бомбу — скажем, в обычной кухонной раковине, используя кусок стекла, металла и батарейку.

Сциллард столкнулся бы с дилеммой. Он мог бы никому не рассказывать о своем открытии, но это не помешало бы другим ученым наткнуться на него. А рассказав, он гарантировал бы дальнейшее распространение опасных знаний.

Нам повезло, что создать ядерное оружие оказалось непросто. Мы вытащили серый шар. Тем не менее, с каждым новым изобретением человечество снова запускает руку в урну.

Предположим, что в урне творчества есть хотя бы один черный шар. Мы называем это «гипотезой уязвимого мира». Интуитивная идея состоит в том, что существует некий уровень технологий, на котором цивилизация почти наверняка будет уничтожена, если только не будут применены экстраординарные и исторически беспрецедентные меры превентивного полицейского контроля и/или глобального регулирования. Мы не утверждаем, что гипотеза верна — мы считаем ее открытым вопросом. Суть в том, что эта гипотеза полезна, поскольку помогает прояснить важные моменты о макростратегической ситуации человечества.

Учитывая разнообразие человеческих характеров и обстоятельств, всегда найдется какая-то часть людей («апокалиптический остаток»), которые решат предпринять какое-либо неблагоразумное, аморальное или саморазрушающее действие — мотивированные идеологической ненавистью, нигилистической деструктивностью или местью за предполагаемую несправедливость, с целью вымогательства, либо просто заблуждаясь. Существование этого апокалиптического остатка означает, что любой достаточно простой инструмент массового уничтожения практически наверняка приведет к уничтожению цивилизации.

Однако есть несколько способов спасти цивилизацию от технологического черного шара. Можно вообще перестать вытаскивать шары из урны, прекратив всякое технологическое развитие. Вряд ли это реально, и, даже если возможно, это было бы чрезвычайно дорого, вплоть до того, что само по себе вызвало бы катастрофу.

Другой теоретически возможный способ решения проблемы — это фундаментальная перестройка человеческой природы для устранения апокалиптических остатков. Можно было бы пресечь любые стремления влиятельных деятелей рисковать будущим цивилизации, даже если это служит жизненно важным интересам национальной безопасности, а также привычки обычных людей выбирать личное удобство, когда это наносит малозаметный ущерб глобальному благополучию. Такая перестройка глобальных предпочтений кажется очень сложной, и у нее есть собственные риски. Ее частичный успех не обязательно приведет к пропорциональному снижению уязвимости цивилизации. Например, сокращение апокалиптического остатка на 50% не снизит вдвое риски ужасного сценария, поскольку во многих случаях , чтобы разрушить цивилизацию, достаточно одного человека. Риск значительно снизился бы только при практически полном устранении апокалиптического остатка во всем мире.

Остается два варианта обезопасить мир от черного шара. Первый — чрезвычайно надежный контроль, который помешает любому отдельному человеку или небольшой группе совершать опасные незаконные действия. А второй — сильное глобальное управление, которое могло бы решить самые серьезные проблемы коллективных действий и обеспечить прочное сотрудничество между государствами — даже когда у них есть серьезные мотивы отступить от соглашений. Пробелы в управлении, на устранение которых направлены эти меры, — это две ахиллесовы пяты современного мирового порядка. Пока они не решены, цивилизация остается уязвимой для технологического черного шара. Однако до тех пор, пока такое открытие не появится из урны, эту уязвимость легко не заметить.

Читайте также: Татьяна Черниговская: «Как в обществе будут сосуществовать люди с чипами и без?»