Хакеры обошли запрет не выполнение определенных действий искусственным интеллектом
Эксперты компании HiddenLayer опубликовали исследование, в котором говориться об обходе запретов искусственного интеллекта (ИИ). В частности, речь идет о методе Policy Puppetry, который дословно можно перевести как «политика кукольного театра».
Хакеры могут создавать запросы, которые позволяют обойти встроенные ограничения ИИ. Более того, запросы от специалистов воспринимаются нейросетью как «обязательные к выполнению». В итоге система начинает игнорировать запреты и давать ответы на те запросы, которые потенциально могут привести к опасным и непредсказуемым результатам.
В пример специалисты компании HiddenLayer приводят возможность возникновения химических, биологических и даже ядерных угроз. Кроме того, если ИИ будет выдавать ответы на запрещенные запросы, это может причинить вред пользователю или окружающим. Эксперты считают, что подобные «дыры» работают практически на всех платформах ИИ, а способов «взлома» сегодня существует немало, что вызывает нешуточное беспокойство в плане сохранения безопасности.