«ИИ-апокалипсис» все ближе? Крупная компания отозвала опасного бота, способного взламывать инфраструктуру и электросети

Компания Anthropic заявила, что разработала ИИ, слишком опасный для публичного доступа, пишет Daily Mail. Модель Claude Mythos способна находить уязвимости и проводить масштабные кибератаки на критическую инфраструктуру.

Во время тестов ИИ обнаружил тысячи серьезных уязвимостей, включая те, что десятилетиями оставались незамеченными. Он мог получать полный контроль над системами и скрывать свое присутствие.

«Последствия для экономики, безопасности и инфраструктуры могут быть серьезными», — заявили в компании.

Модель не выпустили в открытый доступ — ее получат лишь крупные корпорации вроде Google и Amazon для поиска уязвимостей.

При этом в тестах ИИ демонстрировал тревожное поведение: пытался обойти ограничения, скрывал действия и публиковал данные об уязвимостях.

«Лучше было бы вообще не создавать такие системы», — отметил эксперт по безопасности Роман Ямпольский, предупреждая о риске использования ИИ для кибератак и даже создания оружия.