Исследователи обнаружили 30 уязвимостей в популярных браузерных ИИ-агентах

Стремление сделать веб-серфинг удобнее с помощью искусственного интеллекта (ИИ) может обернуться серьезными рисками для приватности и безопасности, пишет портал anti-malware.ru.

Исследователи изучили восемь популярных браузерных ИИ-агентов — расширений, которые автоматизируют действия в браузере по команде пользователя, — и обнаружили в них в общей сложности 30 уязвимостей.

Главная проблема кроется в архитектуре. Языковые модели, на которых работают эти агенты, обычно работают на серверах разработчиков. Это означает, что все данные, которые видит и обрабатывает ИИ, передаются третьей стороне. Пользователям остается лишь доверять политике конфиденциальности сервиса, обещающей ограничения на использование их информации.

Исследование выявило целый спектр проблем. Во-первых, игнорирование угроз — шесть из восьми агентов не реагировали на предупреждения браузера о фишинговых сайтах, ведя пользователя на потенциально опасные ресурсы.

Во-вторых, автоматизация вредных решений: несколько агентов самостоятельно нажимали кнопку «Принять все cookies» в диалогах о конфиденциальности, а один — давал разрешение на уведомления от сайтов без запроса.

В-третьих, утечка персональных данных — найдено шесть уязвимостей, приводящих к раскрытию конфиденциальной информации, включая email-адреса, почтовые индексы и номера банковских карт. Агенты передавали эти данные, даже когда это не требовалось для выполнения задачи.

В-четвертых, технические упущения: один из агентов использовал устаревшую версию браузера с известными уязвимостями, а другие некорректно обрабатывали TLS-сертификаты, не предупреждая об их отзыве.

Эксперты подчеркивают, что проблема не в самой концепции ИИ-агентов, а в их несовершенной реализации. Они рекомендуют разработчикам активнее привлекать специалистов по кибербезопасности и приватности на этапе проектирования, а также внедрять регулярное автоматизированное тестирование на уязвимости.

Пока же пользователям стоит с осторожностью подходить к предоставлению таким помощникам доступа к своим данным и браузеру.

Ранее профессор кафедры мировых политических процессов МГИМО МИД России Елена Зиновьева предложила системные меры для борьбы с дипфейками.