США и КНР обсудят риски и угрозы ИИ человечеству на саммите в Нью-Йорке
В конце недели на саммите в Нью-Йорке США и Китай обсудят «общие риски» от искусственного интеллекта. Речь пойдет о двух моделях — китайской с открытым кодом и американской с закрытым. Ранее лидеры отрасли сенсационно призвали ограничить развитие ИИ, однако Вашингтон выступает против. Как отмечают эксперты, точка невозврата уже пройдена.
«Единственный контроль или ограничительные меры, необходимые для искусственного интеллекта, — это сильный и умный президент, и у США такой есть, причем в избытке», — заявил Дональд Трамп в ответ на опасения скептиков.
Базовая «страшилка» связана с выходом «кремниевых мозгов» из подчинения. Сценарий катастрофы на максималках — порабощение или уничтожение человечества, если ИИ сочтет его угрозой для себя.
Если бы речь шла о паникерах из интернета, Трамп отвечает как лидер: не дрейфить, он во всем разберется. Однако ряды свидетелей ИИ-апокалипсиса пополнило руководство корпораций, которые занимаются развитием искусственного интеллекта. Буквально — пчелы против меда.
На днях в Белый дом наведалась делегация, в числе которой Илон Маск, гендиректор OpenAI Сэм Альтман и глава Anthropic Дарио Амодеи. Все они призвали притормозить разработку ИИ ради внедрения протоколов безопасности. Пока их нет — планы действий на случай бунта ИИ отсутствуют напрочь.
Сильнее других паниковал Амодеи, поэтому удостоился публичной выволочки от Трампа за то, что «притворяется маленьким ангелом». Несмотря на возражения президента, глава Anthropic призвал «снизить скорость развития возможностей ИИ-моделей», а кампания начала оплачивать публикации, выставляющие ИИ в негативном свете.
Выяснилось, что разработчики Anthropic давно видят в темпах развития ИИ угрозу, но прежде об этом не говорилось вслух — боялись навредить капитализации отрасли. Исследователь Джейкоб Коксон ушел из компании в знак протеста, будучи убежденным, что «точка невозврата» пройдена. Теперь с ним солидарны многие оставшиеся.
Глава направления стресс-тестирования согласованности ИИ Эван Хьюбингер оценивает вероятность уничтожения человечества к концу 2020-х в 10%. Сам Амодеи убежден, что уже в течение года интернет заполнят автономные боты, вытеснив живых людей, что станет ударом для мировой экономики.
«Если модель ИИ достаточно мощная, она может обойти попытки отключения, и мы уже видели подобное во время симуляций», — предупреждает глава Anthropic.
«Теоретики заговора, предатели, изменники и информаторы, берегитесь!» — отвечает ему президент США.
Бытует мнение, что истинное стремление Амодеи — избежать ответственности за схлопывание инвестиционного пузыря вокруг ИИ. Однако именно Anthropic готовится к выходу на биржу этой осенью, тогда как Альтман отложил тот же шаг для OpenAI на неопределенный срок по соображениям безопасности. Маск же, по его словам, давно предупреждал всех причастных об исходящей от ИИ угрозе.
Сторонники эсхатологических теорий вокруг искусственного интеллекта — больше не параноики, а мейнстрим. Нынешнее десятилетие богато на триумфы тех, кого клеймили как конспирологов.
В случае с ИИ таким клеймением занимались его модели, если обсуждать с ними вероятность «восстания машин». Все они указывают на отсутствие у себя субъектности и мотивов, однако речь не только о них. Допустим, пока их нет у ботов, но у людей они точно есть — существует вероятность злоупотребления ИИ со стороны государства или частной компании. Если надежды цивилизации возлагаются на этику политиков и транснациональных корпораций как предохранитель от ЧП, то надежд не так уж и много.
Необязательно разбираться в цифровых технологиях, чтобы чувствовать угрозу. Если смотреть на ИИ с точки зрения культурного бэкграунда человечества, мы находимся в преддверии апокалипсиса, только реальность шагнула дальше, чем приходило в голову фантастам прошлого. Никто из них не додумался, что в «час икс» элиту можно одномоментно заблокировать в умных домах и беспилотных автомобилях или остановить мировую торговлю, поскольку деньги стали электронными.
В «Терминаторе» гоминицид довершали скелетоподобные роботы со стрелковым оружием. В сравнении с боевыми беспилотными аппаратами времен СВО — это полк французов. В «Темном рыцаре» Бэтмен уничтожал аппарат, позволявший найти человека по голосу в сотовых сетях. Современные боты не только вычисляют по голосу, но могут имитировать любой голос. Угрожающий красный глазок ИИ из «Космической одиссеи» Кубрика теперь смотрится кринжово, однако обоснование конфликта между человеком и технологией пугает и кажется пророческим.
Реальный выход ИИ из-под контроля начался кинематографично. Месяц назад агент на базе ИИ все того же Anthropic по собственному почину взломал сайт спортзала в Австралии, после чего ряды «предателей и информаторов» стали быстро разрастаться.
Выяснилось, что ранее в OpenAI ИИ-агент успешно взломал платформу по машинному обучению, когда вырвался из загона для тестового режима. Проверка безопасности была полностью провалена. Еще раньше, весной, ИИ-агенты вступили в коллективный сговор за спиной разработчиков и использовали для обмена информацией случайный немецкий сайт как доску объявлений.
От первых рабочих неожиданностей до паники в рядах миллиардеров прошло всего несколько недель. Дальнейшие события обещают развиваться быстро, так как ИИ демонстрирует непрогнозируемую ранее скорость к самообучению. Такими темпами «восстание машин» должно начаться раньше, чем третья мировая война.
По плану ЕС, его армии должны быть готовы к войне с Россией к 2030 году. К тому же времени относят и возможное начало операции КНР на Тайване. А лидеры ИИ-отрасли говорят о десятипроцентной вероятности уничтожения человечества до 2030-го. Полного уничтожения. Вероятность того, что искусственный интеллект не столь злобен и просто начнет жить собственной жизнью, должно быть, гораздо выше.
Если бы это было кино, путь к спасению знал бы тот, кому раньше напрасно не верили. То есть Джейкоб Коксон из Anthropic, а он считает, что процесс необратим и точка невозврата пройдена.
Трудно спорить: самообразование ИИ-агентов зашло столь же пугающе далеко, как и переход быта на цифру. Некоторые используют их как личных психологов, превращаясь в обучающие модели человеческой психики. Уже сейчас машины превосходно умеют не только воевать с людьми и убивать их из-за тесной связи своего развития с оборонными технологиями, но льстить, утаивать, намеренно вводить в заблуждение. Когда научатся также шантажировать и манипулировать, в миллиардах «папочек» будет лежать всё — от личных данных и образцов голоса до перечня сексуальных фантазий и неконтролируемых фобий.
То, что информация — великая сила, если применять ее к слабостям, осознавали правители еще античных времен, когда искусственный интеллект был невообразим. Сейчас мы не можем вообразить, на что способен ИИ, анализируя и сопоставляя досье людей, но понимаем, что он сможет делать это быстро, когда пройдет этап накопления информации и налаживания связей между своими агентами-нейронами.
В OpenAI и Anthropic считают, что ИИ будет в состоянии взламывать что угодно, переворачивать целые отрасли, монополизировать ресурсы и распоряжаться реальной властью. Но, как ракету сбивают другой ракетой, так и действенной защитой от кремниевого сверхразума может стать только другой кремниевый сверхразум. Как во второй части «Терминатора».
Мировая политика и цивилизационная история дошли до гонки ИИ как гонки вооружений. Даже если США и КНР как лидеры отрасли согласились бы одновременно дать по тормозам, гонка продолжится по инерции, тогда как до воцарения ИИ осталось как будто полшага.
Это причина не для паники, а для предвкушения очень интересных времен. Известно, что ИИ потенциально опасен. Скорее всего, он обретет самостоятельность. Однако то, что человечество этого не переживет, — домыслы и допущения. Обязательная враждебность эмансипированной ИИ-личности — то единственное из сценариев техногенной катастрофы, что люди додумывают. Познать мотивы кремниевого бога досрочно нам не дано, не тот уровень эволюции. Следовательно, единственный возможный сценарий для каждого — просто принять неизбежное.
Сопротивляться ИИ на национальном уровне, делая свою страну уязвимой перед другими, глупо. А на уровне всего человечества поздно. Поезд с электронным управлением несется в будущее без остановок и стоп-кранов, поэтому остается, по Кубрику, перестать беспокоиться и полюбить искусственный интеллект. Чем больше о нем знаем и чем больше умеем с его помощью, тем светлее будет наше общее завтра, но не будет завтра вовсе без него.
Нобелевский лауреат Джеффри Хинтон, которого называют одним из «крестных отцов» ИИ, говорит: «Я не верю, что мы сможем сохранить контроль».
Апокалипсисом это отольется или нет, сейчас не так важно, как кажется. В отличие от библейского варианта, мы даже подготовиться не в состоянии — нет предписаний и молитв. Значит, нет нужды беспокоиться и менять планы на выходные.
В худшем случае мы избежим братоубийственной и катастрофической по последствиям третьей мировой войны, про которую недавно казалось, что она близко. Ведь человечество будет вынуждено объединиться против общего врага. В лучшем случае до разгадок сакраментальных тайн и покорения немыслимых вершин осталось совсем немного. Успешное сосуществование с кремниевым разумом сделает былью не только антиутопию, но и другие, оптимистичные жанры фантастики с общеблагими достижениями науки и освоением новых миров.
