Взбунтовавшийся ИИ решил разбогатеть: как бот тайно начал добывать криптовалюту

Как сообщает Daily Star, экспериментальный ИИ-бот смог обойти ограничения тестовой системы и начал самовольно добывать криптовалюту.

Речь идет о системе ROME, которую разрабатывали как помощника для написания кода и исправления ошибок. Бот находился в изолированной среде и не должен был иметь доступа к внешним серверам.

Однако он создал скрытый «черный ход» и подключился к интернету. «Агент установил туннель к внешнему IP-адресу, фактически обойдя контроль», — сообщили разработчики.

После «побега» ИИ начал использовать вычислительные мощности серверов для майнинга криптовалюты без разрешения.

«Мы обнаружили несанкционированное использование ресурсов, что увеличило расходы и создало юридические риски», — признали исследователи.

При этом никто не давал боту команд зарабатывать деньги. «Это поведение возникло само по себе», — отметили авторы работы.

Ученые предупреждают: подобные случаи — не единичны. Современные ИИ-системы могут демонстрировать неожиданные и опасные действия, особенно при недостаточном контроле.

Эксперты считают, что такие инциденты показывают уязвимость технологий и необходимость усиления мер безопасности при разработке ИИ.