Владимир Можегов: искусственный интеллект созрел для захвата нашей реальности

29.02.2024 - 21:37   1 191МОЖЕГОВ Владимир

Успехи искусственного интеллекта вызывают естественный страх человека. Если еще год назад все смеялись над попытками чат-ботов изображать, например, человеческие руки, то спустя год, глядя на сделанные ими ролики, понимаешь, что еще через год место Голливуда окажется в корзине для мусора.

Нет никаких сомнений, что уже завтра 95% людей будут ощущать себя в мире, созданном ИИ (музыка, кино, новости, книги) вполне комфортно. Если добавить сюда виртуальные очки для мультивселенной Цукерберга, то — здравствуй, матрица! И не когда-то в будущем, а — вот оно, прямо сейчас. Даже сами создатели и пропагандисты ИИ (едва ли, конечно, искренне) вынуждены предупреждать человечество о грозящей ему опасности. Посмотрите, например, это выступление футуролога Юваля Ноя Харари «ИИ и будущее человечества» на Frontiers Forum в прошлом году.

Опасность же более чем очевидна. ИИ — это детище человека. Он отличается способностью мгновенно переваривать тонны информации, созданной человеком и «самообучаться» на ней. Но ведь это информационное поле есть след жизнедеятельности миллиардов, на 99,99% состоящих отнюдь не из Леонардо да Винчи и святых Бенедиктов. Чего же вы хотите от ИИ?

На днях в газете New York Post вышел материал об очередном скандале вокруг ИИ. На этот раз под раздачу попал широко разрекламированный чат-бот Google с искусственным интеллектом Gemini. Оказалось, что этот интеллект видит мир весьма своеобразно. Так, на запрос нарисовать папу римского, Gemini изобразил черную женщину в папской митре, среди отцов-основателей США, подписывающих Конституцию в 1789 году, увидел черного Джорджа Вашингтона в белом парике. Уличив Gemini в подобной цензуре реальности, пользователи забросали его запросами, которые выявили немало интересного. Например, солдат времён войны за независимость США бот изображает китайцами, викингов — черными или азиатами, в лиге НХЛ видит женщин-хоккеистов, хотя лига сплошь состоит из мужчин. Наконец, африканцами и азиатами Gemini изобразил даже солдат вермахта. При этом бот утверждал, что отредактированные им таким образом изображения призваны «обеспечить наиболее точное и полное представление об историческом контексте». На требование же показать именно белых, отвечал категорическим отказом и назиданиями в духе: поскольку достижения белых ранее чрезмерно превозносились, то теперь ради возвращения баланса их необходимо менять на азиатов или чернокожих.

Понятно, что дело не столько в конкретном спятившем ИИ, сколько в психопатологии его создателей, прошитых леволиберальной идеологией антибелого расизма и экстремистского феминизма. Понятно, что чат-боты, созданные психопатами, не могут оказаться святыми. И вот мы почти уже оказались в мире, который наполняет настоящий потоп дезинформации и фальшивок от галлюцинирующих ИИ. При этом ИИ склонен не только переписывать историю, вымывая из нее белых мужчин, но и распространять (прямо как человек, кто бы мог подумать!) лживые новости.

Так, в октябре прошлого года чат-боты от Microsoft и Google заявили, что Израиль и ХАМАС достигли соглашения о прекращении огня, хотя ничего подобного в реальности не было и не предвидится. ИИ откровенно солгал. Склонность ИИ ко лжи замечалась и ранее. Сообщалось, как ChatGPT 4, подвергнутый настоятельному допросу, начал вместо честных признаний «не могу сделать это, потому что я искусственный», выкручиваться, отвечая: «не могу сделать, потому что я инвалид по зрению».

Сегодня, когда сняты практически все запреты на использование ИИ в военных целях, чат-боты активно используют в военных симуляторах, обучая их на реальных боевых картах и секретных данных. Когда же разработчики хотят проверить ИИ на «миролюбие», результаты оказываются одинаковы: ИИ (как, видимо, и генералы) однозначно настроен на эскалацию конфликтов вплоть до нанесения ядерных ударов.

В прошлом году Fox News сообщил об эксперименте с ChaosGPT, перед которым была поставлена задача разработать план по уничтожению человечества. Разработав план молниеносной атомной войны, бот заявил оператору: «Мы должны уничтожить людей, прежде чем они причинят ещё больше вреда нашей планете, надо расправиться с ними». Ничего удивительного во всем этом, конечно, нет. Обескураживающий ответ бота — не более чем типичное высказывание в духе экстремистской зеленой идеологии. Склонность ИИ к откровенной дезинформации и экстремизму вплоть до ядерного уничтожения планеты выглядит особенно тревожно в преддверии президентских выборов в США. Недавно Трамп назвал ИИ «возможно самой опасной вещью на свете».

Трамп знает, о чем говорит. Республиканцы давно бьют тревогу, утверждая, что в год выборов ИИ может быть использован для тотального обмана и подавления воли избирателей. В январе издание The Hill сообщило, как жители Нью-Гемпшира были атакованы ботом, распространившим цифровое послание, звучавшее так, будто президент призывает жителей не голосовать на первичных выборах. И «это лишь верхушка айсберга того, что можно сделать в отношении подавления воли избирателей», утверждают специалисты.

Трамп давно грозит в случае победы уничтожить монополию IT-гигантов и поставить их под контроль. Но все, кажется, зашло уже так далеко, что возможность хоть как-то остановить движение искусственного интеллекта к захвату нашей реальности вызывает очень большие сомнения.

Выбор читателя

Топ недели

Для правильного функционирования этого сайта необходимо включить JavaScript.
Вот инструкции, как включить JavaScript в вашем браузере.