МВД РФ предупредило о риске цифровых досье на пользователей ChatGPT
Использование персонализированной памяти ChatGPT может приводить к накоплению личных сведений пользователей и формированию их цифровых досье. Об этом предупредило управление по организации борьбы с противоправным использованием информационно-коммуникационных технологий МВД России. Сообщение опубликовано в официальном канале ведомства на платформе MAX.
В МВД сослались на исследование The Algorithmic Self-Portrait, авторы которого изучили особенности сохранения персональной информации пользователей ИИ. «В рамках исследования The Algorithmic Self-Portrait специалисты выяснили, что OpenAI, вопреки собственной политике конфиденциальности данных, сохраняла личные сведения пользователей, формируя их цифровые портреты», — говорится в публикации ведомства. Как утверждается в сообщении, большинство записей в памяти ИИ создавалось без согласия пользователей.
По данным исследования, в памяти большинства изученных аккаунтов содержались имена, адреса, сведения о материальном положении и социальном статусе людей. При этом примерно у половины пользователей сохранялась информация о состоянии здоровья и личных убеждениях. Практически во всех исследованных аккаунтах присутствовали сведения о целях, намерениях, предпочтениях и об особенностях поведения.
В МВД отметили, что совокупность таких данных потенциально позволяет идентифицировать человека, даже если он использует псевдоним. «Совокупность сведений о профессиональной деятельности, здоровье, доходах и личных переживаниях может быть использована для формирования цифрового досье», — предупредили в ведомстве.
Отдельную опасность, по оценке правоохранителей, представляет возможность манипулирования памятью искусственного интеллекта через внедрение ложных инструкций в обрабатываемые документы. В МВД считают, что подобные методы могут использоваться для скрытого воздействия на решения государственных служащих и учёных с учётом их персональных данных и психологических особенностей.
Для защиты информации ведомство рекомендует проверять настройки памяти и персонализации ИИ-сервисов, не загружать служебные документы и конфиденциальные сведения, обезличивать запросы и пользоваться временными чатами.
Ранее в управлении по борьбе с киберпреступностью МВД России рассказали о мошеннических схемах, направленных на хищение персональных данных граждан в общественных местах. Кроме того, МВД предупредило о мошенниках, которые под предлогом помощи в получении кредита даже с плохой кредитной историей пытаются получить удалённый доступ к телефонам россиян.
