Колонка записана во время выступления Ивана Яковины в рамках проекта НВ Диалоги о будущем
Сегодня развитие науки, технологий и даже общественных дисциплин идет по экспоненте. Думаю, в 1900-м году предсказать 2000-й было легче, чем сейчас, в 2017-м — предсказать 2030-й. Скорость изменений просто фантастическая.
Мы подошли к точке, когда может произойти самый радикальный перелом — прекращение существования нашей цивилизации в целом. Есть несколько сценариев, как это может произойти:
1. Космические катастрофы: падение астероида, гамма-вспышка, взрыв на звезде Бетельгейзе.
Эта звезда находится примерно в 650 световых годах от нас. Несколько месяцев назад астрономы заметили, что она уже не круглая, а с пупырышками. Звезду трясет в разные стороны, она может взорваться в любой момент. Возможно, уже взорвалась, но мы этого не знаем, потому что должно пройти 650 лет, пока до нас оттуда долетит свет.
Если она взорвалась, и если ось ее вращения в этот момент была направлена на Землю, то нам, скорее всего, конец. Прилетит поток гамма-лучей и снесет всю атмосферу Земли.
2. Природные катастрофы на Земле.Например, извержение супервулкана. Земля переживала пять почти тотальных вымираний жизни, и шестое может произойти в любой момент.
Главная опасность для нас сейчас – глобальное потепление. В прошлом периоды потепления и обледенения Земли чередовались по одной причине — как только накапливались углекислоты (вследствие, опять же, вулканической активности в воздухе), планета нагревалась. От этого разрастались деревья, поглощавшие СО2, перерабатывавшие его в целлюлозу и выбрасывавшие в атмосферу огромное количество кислорода. Далее Земля снова охлаждалась, деревья вымирали, и все начиналось заново.
По оценкам ООН, к 2025 году примерно 200 миллионов человек не смогут жить там, где они живут на данный момент
Сейчас появилась проблема — у нас нет деревьев. Деревья вырубаются очень активно. И, несмотря на потепление, площадь лесов сокращается, а не увеличивается. Не очень понятно, как в будущем остановить это потепление.
Нагревание планеты тянет за собой много проблем. Одна из них – массовая миграция. Во многих регионах мира людям скоро будет нечего есть и пить. Например, практически высохло озеро Чад в Северной Африке, регион покрылся пустыней. А ведь это озеро было источником воды и, соответственно, еды для многих десятков миллионов людей.
На северо-западе Индии и юго-востоке Пакистана ситуация еще более тяжелая. Там настолько жарко и настолько влажно, что люди перестают потеть. Вернее, потеть они продолжают, но пот не создает потери теплоты. Человеческий организм разогревается и, по сути, варится заживо. Из-за этого ежегодно гибнут десятки тысяч людей. И этот процесс нарастает.
Та же история в Иране и Африке. Во многих регионах Африки из-за жары попросту невозможно жить. По оценкам ООН, к 2025 году примерно 200 миллионов людей не смогут жить там, где они живут на данный момент. Им нужно будет куда-то переселяться. Значительная доля может отправиться опять-таки в Европу, и это породит кошмарный кризис.
3. Неизлечимые болезни. Появляется все больше болезней, которые абсолютно не восприимчивы к антибиотикам. Антибиотики становятся все более мощными, и тем не менее, не работают.
Кроме того, появились такие болезни, как Зика и Эбола. Если они немного модифицируются, скажем, если Эбола станет переноситься воздушно-капельным путем, у нас будут очень большие проблемы. Та же проблема с Зика, этот вирус практически уничтожает способность человека к репродукции. То есть, если всех заразить Зика, люди просто перестанут размножаться.
Я уже молчу об опасностях создания какого-то мощного биологического оружия или выхода его из-под контроля.
4. Ядерные войны. Тут стразу несколько сценариев вырисовывается. Во-первых, есть Китай, который стремится к глобальному лидерству, и, скорее всего, достигнет его в ближайшие годы или десятилетия. К 2030 году китайская экономика, наверняка, станет мощнее американской. Но и это еще не главное.
Самые большие проблемы, связанные с Китаем, лежат в Южно-Китайском море. Это территория примерно размером с Индию (или 120 Крымских полуостровов). Китай совершенно открыто заявляет, что это его акватория, хочет ее аннексировать и активно в этом направлении работает. Бывший советник американского президента Стив Беннон говорил, что война с Китаем за Южно-Китайское море абсолютно неизбежна в течение ближайших 10 лет.
Если две ядерные державы, две мощнейшие экономики мира, вступают в ядерное противостояние, мало никому не покажется. У нас всех будут очень большие проблемы. Свобода судоходства — краеугольный камень американской внешней политики. Посягательство Китая на одну из главных судоходных артерий мира неизбежно ведет к лобовому столкновению интересов США и Китая в этом регионе. И на данный момент оно не может быть разрешено каким-то мирным способом: либо Китай должен отказаться от суверенитета над этим морем, либо Америка должна отказаться от краеугольного камня своей внешней политики. Ни того, ни другого не предвидится.
Тот же Беннон недавно сказал, что США и их союзники проиграли сражение в Северной Корее. Красная черта американской внешней политики заключалась в недопущении появления у КНДР ядерного оружия и средств его доставки. Похоже, сейчас у северных корейцев есть и то, и другое.
Из-за этого могут возникнуть проблемы у всех. В Северной Корее управляет не очень рациональный человек Ким Чен Ын, в США — не очень рациональный Дональд Трамп, в Китае при власти крайне националистический режим. Все три режима не вполне адекватны, у кого-то могут сдать нервы, может начаться ядерная война.
Кроме того, очень серьезный сюжет разворачивается между Индией и Китаем. У них огромное количество спорных территорий вдоль границ южно-китайской и северо-индийской. На одной из них, есть маленький перешеек, которым хочет овладеть Китай. Индия категорически отказывается, обе стороны сгонят в этот район войска. Ситуация очень взрывоопасная.
Еще одна угроза — Пакистан, где к власти приходят все более неадекватные правители. При этом у страны самый быстрорастущий ядерный потенциал в мире. У Пакистана ядерных боеголовок больше, чем у Великобритании и Франции. Более того, эта страна, по некоторым данным, может продать ядерное оружие саудитам, а у Саудовской Аравии сейчас усложняются отношения с Ираном, у которого тоже есть ядерная программа. Плюс есть Израиль, который поклялся не допустить появления у Ирана ядерной бомбы.
Отойдем от Ближнего Востока и перейдем к нашему региону. Распад России. Он возможен. Конечно, сейчас говорить об этом рано, но если на месте России появится несколько государств, обладающих ядерным оружием, это тоже крайне опасно. Учитывая нынешние тенденции, к власти в стране придут какие-то неадекватные люди. Неизвестно, что может остановить какого-то Гиркина от запуска ядерной ракеты на Вашингтон или на Киев.
Отдельно хочу сказать о Европе. Наблюдается крайне неприятная ситуация фрагментации континента, последствия которой предсказать трудно. Мы видели попытку отделения Шотландии, видели Брекзит, сохраняется напряженная ситуация в Каталонии. К чему это приведет? Либо Европа полностью перестроится с Европы nation states на Европу регионов, либо конфликты тут тоже неизбежны. Кроме того, меняется демографический состав Европы. В Швеции уже живут люди, которые застанут момент, когда мусульман в стране будет больше, чем немусульман. Это тоже может породить разные проблемы.
5. Технологии. Наиболее вероятным является наше уничтожение с помощью технологий. Каждый новый технологический прорыв приводил ко все большим жертвам. Последний пример — ядерное оружие. Целых два города были в секунды сметены с лица земли (Хиросима и Нагасаки).
Сейчас стоим на пороге появления искусственного интеллекта, так называемого общего искусственного интеллекта, который может привести нас всех к беде. Дело в том, что пока мы не знаем, с чем имеем дело. Когда сбрасывалась первая ядерная бомба, люди тоже не знали, сработает ли она — раньше такого не было. Сейчас примерно та же ситуация с искусственным интеллектом. Мы не очень понимаем, к чему он приведет.
Над созданием искусственного интеллекта работает очень много организаций по всему миру. Минимум полтора десятка. Все они стараются обскакать друг друга и создать общий искусственный интеллект как можно быстрее. Развитие технологий идет по экспоненте, поэтому он может появиться хоть завтра — у кого-то случится внезапное озарение.
Почему это опасно? Если у кого-то появится искусственный интеллект, это фактически будет означать создание бога. Создание сущности с божественными возможностями. Это будет нечто такое, чего мы не можем себе даже представить. В результате это существо или машина будет настолько превосходить людей, что мы, по своему интеллектуальному потенциалу, будем в сравнении с ним как неандертальцы в сравнении с кроманьонцами. Потом — как обезьяны, далее — как кролики, а потом уж как муравьи и микробы.
И это очень опасно — быть не самым разумным существом на планете. Мы помним, что случилось с индейцами, когда к ним приехали более технологически развитые и в какой-то степени разумные колонизаторы из Европы. Индейцев просто перебили. Примерно та же история была с неандертальцами.
Но есть еще более серьезная опасность — как только страны мира узнают, что какое-то государство близко к созданию искусственного интеллекта, скажем, китайцы узнают, что американцы близки, у них будет два варианта: либо объявить, что они проиграли во всемирной гонке и больше никогда не смогут догнать США, либо нанести ядерный удар по тому месту, где создается эта штука. Опасность войны в такой ситуации очень велика.
Предположим, войны не случилось, создали искусственный интеллект. Неизвестно, как он себя поведет. Из-за конкуренции практически никто не думает о системах безопасности, никто не думает о том, как сделать кнопку "выключить". Точнее, думают, но мало.
Допустим, все идеально. Мы создали искусственный интеллект, который подчиняется нашим желаниям, думает о нас хорошо, любит нас, желает нам только добра — идеальный вариант. Но и в этом случае есть большая проблема. Есть такая философская позиция, что у людей есть то, что называется existence bias, то есть мы считаем, что лучше существовать, чем не существовать, даже если существуем не очень хорошо. Искусственный интеллект может в какой-то момент понять, что те страдания, которые причиняют себе люди, гораздо более мощные и сильные, чем наслаждения, которые они могут испытывать. В результате, просто из чувства сострадания к нам, искусственный интеллект может прекратить наше существование. Ведь у него не будет existence bias.
Поэтому даже создание идеального добродушного, милого и мягкого искусственного интеллекта несет в себе какие-то риски.
Единственное спасение от большинства проблем — расселение человечества по галактике. Для этого уже готовятся средства. В 2022 году, скорее всего, состоится первый полет на Марс двух беспилотных космических кораблей, в 2024-м — полетят два пилотируемых корабля. Начнется заселение — сначала солнечной системы, а потом и галактики.
Главный вопрос, что произойдет раньше: мы сами себя уничтожим или же сперва сумеем куда-то распространиться?