ChatGPT получит скрытые метки: что это значит для пользователей?

OpenAI внедрит невидимые водяные знаки в тексты, созданные искусственным интеллектом. Технология textGrain появится в ChatGPT и Codex для пользователей Евросоюза — это требование европейского закона об ИИ. Об этом сообщила компания.

Механизм основан на особенностях выбора слов моделью: при достаточно длинной генерации формируется закономерность, которую человек не замечает, но распознает специальный детектор. Метка не позволяет установить личность пользователя, его запрос или переписку, а также не показывает, какая часть материала написана человеком.

С сегодняшнего дня добавлять водяные знаки смогут пользователи API OpenAI по всему миру. Компании разрешат отключать функцию. Детектор пока не станет общедоступным: сначала его получат одобренные исследователи и экспертные организации для тестирования.

OpenAI признает, что textGrain не дает полной гарантии обнаружения. Для текста объемом около 200 токенов точность составляет примерно 80%, при 400 токенах — около 95% при уровне ложных срабатываний в 1%. Эффективность резко падает после редактирования: замена 10% слов синонимами снижает вероятность обнаружения с 92% до 66%, а замена четверти слов — до 17%. Поэтому отсутствие водяного знака само по себе не доказывает, что текст написал человек.