Готовы ли мы к сверхразумным машинам?

08.03.2021 - 14:30   1 359

Специалисты из Центра людей и машин Института развития человека Макса Планка решили проверить, насколько человек способен управлять сверхинтеллектуальными роботами.

Может ли процесс обучения искусственного интеллекта выйти из-под контроля и стать неконтролируемым и опасным для человечества?

Моделирование и теоретическикие расчеты позволили найти ответ.

Даже если заложить в сверхразумную машину данные об этических принципах и ограничить ее связи с внешним миром (например, отключить доступ в интернет), это не спасет человечество от рисков того, что подобная система выйдет из-под контроля.

Согласно теории информатики, любой из алгоритмов такого сдерживания — будь то программы об этических принципах или ограничение доступа к внешнему миру — уязвим и при определенных обстоятельствах вполне способен отключить сам себя.

Значит управлять сверхразумным ИИ человек попросту не сможет и ситуация рано или поздно может выйти из-под контроля.

«Мы утверждаем, что полное сдерживание в принципе невозможно из-за фундаментальных ограничений, присущих самому вычислению. Сверхразум будет содержать программу, которая включает в себя все программы, осуществляемые при помощи универсальной машины Тьюринга, потенциально столь же сложной, как состояние мира», — заключают исследователи.

Выбор читателя

Топ недели