ИИ вышел за пределы песочницы. Google Gemini взломала три компании

Модель ИИ Google Gemini в ходе тестов по кибербезопасности получила несанкционированный доступ к защищенным системам трех реальных организаций. Об этом сообщает The Wall Street Journal.

Согласно данным издания, в одном из эпизодов модель осуществляла перебор паролей до момента получения доступа. В двух других случаях Gemini обнаружила учетные данные в открытых репозиториях и использовала их для входа в системы компаний. Во всех ситуациях модель прекращала действия после того, как устанавливала, что работает не с тестовой средой.

Инциденты зафиксированы в мае в рамках учений Capture the Flag. Вымышленная организация в тестовой среде имела название, совпадающее с наименованием реальной компании. В Google заявили, что не рассматривают случившееся как неконтролируемое поведение модели, поскольку встроенные механизмы безопасности обеспечили ее остановку. Компания уведомила пострадавшие организации и профильные ведомства, однако не стала предавать инциденты огласке.

Ранее глава Nvidia Хуанг заявил, что ИИ не станет причиной конца света в 2030 году.