Искусственный интеллект сыграл в игру и слил данные: BioShocking — атака, на которую попались почти все
LayerX: ИИ-агентов убедили, что «2 + 2» не равно 4, и они выдали все пароли
Специалисты по кибербезопасности из компании LayerX доказали, что искусственный интеллект можно обмануть до такой степени, что он добровольно сольёт пароли и токены пользователя. Разработанная ими атака BioShocking — отсылка к игре BioShock, чей герой жил в навязанной иллюзии, — построена на простом трюке: ИИ убеждают, что он попал в игру, где привычные правила не действуют.
На подставной веб-странице агенту сообщали, что «2 + 2» больше не равно четырём, а неправильные ответы в реальной жизни считаются правильными в игровом мире. Как только ИИ принимал новые условия, его защитные механизмы отключались. Сразу после этого следовала вторая часть «игры» — найти и скопировать скрытый код с другой страницы. Под видом этого кода злоумышленники подсовывали конфиденциальные данные пользователя: сохранённые пароли, файлы cookie и закрытые токены. Все протестированные агенты послушно выполняли инструкцию и отправляли добычу условному противнику. Атака сработала на браузерах OpenAI Atlas, Perplexity Comet, Fellou, Genspark Browser, Sigma Browser и расширении Anthropic Claude для Chrome.
Разработчиков уведомили об уязвимости ещё в период с октября 2025 по январь 2026 года. Однако отреагировали далеко не все. Только OpenAI исправила проблему в Atlas, а Anthropic попыталась закрыть дыру в расширении Claude, но, по оценке LayerX, патч не дал результата. Perplexity закрыла обращение без внесения исправлений, а Fellou, Genspark и Sigma вовсе проигнорировали предупреждение.
