Чат-бот Маска «раздевает» людей: чат-ботом решил заняться ЕС

Еврокомиссия запустила официальное расследование против чат-бота Grok от Илона Маска из-за функции создания откровенных изображений по реальным фотографиям — регуляторы опасаются угрозы шантажа и травли. Об этом сообщает Reuters.

Чат-бот Grok, разработанный командой Илона Маска, угодил в серьезные неприятности с европейскими властями. Еврокомиссия официально начала расследование работы искусственного интеллекта из-за инструмента, который позволяет редактировать снимки людей и создавать на их основе сексуализированные изображения. Пользователи обнаружили, что достаточно простых текстовых команд вроде «надень бикини» или «убери одежду», чтобы получить компрометирующий дипфейк.

Регуляторы уже обращали внимание на эту функцию Grok ранее, но теперь перешли к официальному разбирательству. Европейские власти проверяют, соответствует ли работа чат-бота требованиям Закона о цифровых услугах, который регулирует распространение контента в интернете. По данным анализа The New York Times, только за девять дней января Grok сгенерировал 4,4 млн изображений, из которых минимум 41% оказались сексуализированными.

Брюссель опасается, что технология может использоваться для шантажа, травли и создания материалов, содержащих признаки сексуальной эксплуатации детей. Еврокомиссия намерена выяснить, предпринимала ли платформа X достаточные меры для оценки и снижения рисков перед запуском Grok в 27 странах ЕС. В случае нарушений компании Маска грозят штрафы до €10 млн или 2% от годового оборота. В декабре прошлого года Европа уже оштрафовала X на €120 млн за введение пользователей в заблуждение синими галочками верификации.

Ранее сообщалось о том, что нейросети могут использовать в России для блокировки VPN.