Маск и Возняк попросили приостановить разработку систем ИИ, превосходящих по мощности GPT-4
Владелец Twitter, SpaceX и Tesla Илон Маск, сооснователь Apple Стив Возняк и другие видные деятели в сфере технологий подписали открытое письмо с просьбой остановить как минимум на шесть месяцев обучение систем искусственного интеллекта (ИИ) мощнее, чем GPT-4.
«Мы призываем все лаборатории ИИ немедленно приостановить как минимум на шесть месяцев обучение всех ИИ систем, которые по мощности превосходят GPT-4», — говорится в письме, опубликованном в среду на сайте некоммерческой организации Future of Life Institute.
Отмечается, что все разработчики ИИ, по мнению авторов письма, должны использовать это время для совместных разработки и введения протоколов безопасности для продвинутых систем. Разработчикам необходимо сфокусироваться на том, чтобы сделать современные ИИ более безопасными, интерпретируемыми, транспарентными.
Письмо, помимо Маска и Возняка, подписали сооснователь Skype Яан Таллинн, сооснователь Pinterest Эван Шарп, а также многие другие деятели в технологической сфере и профессоры из различных университетов.
«Системы ИИ с интеллектом, который может соревноваться с человеческим, могут предоставлять серьезный риск для общества и человечества, это обозначается в обширных исследованиях и признается лучшими ИИ лабораториями», — говорят авторы письма.
По их мнению, в последнее время лаборатории ИИ все более активно разрабатывают мощные «цифровые умы», которые на данном этапе никто не способен понять, предсказать или надежно контролировать. Современные ИИ могут соревноваться с людьми в базовых задачах, и в письме выражаются опасения в связи с тем, что они способны перегрузить информационные каналы пропагандой, отобрать работы у людей и в целом «заменить» их.
Мощные системы ИИ должны разрабатываться только после того, как человечество обретет уверенность в их пользе, а все риски, связанные с ними, можно будет взять под контроль, говорят авторы письма.
GPT-4 или Generative Pre-trained Transformer 4 является большой языковой моделью (БЯМ), разработанной американской компанией OpenAI. Она была выпущена 14 марта 2023 года. GPT-4 способна читать и анализировать тексты, а также генерировать до 25 тыс. слов. Одним из основателей OpenAI является Илон Маск.
