«Модель не может перестать»: из-за чего OpenAI пришлось вводить драконовские меры против гоблинов и енотов в новом ИИ

В системных инструкциях нового ИИ-инструмента OpenAI Codex CLI, предназначенного для генерации программного кода, обнаружился любопытный запрет. Как выяснили пользователи, алгоритму в принудительном порядке предписали избегать упоминаний множества мифических и реальных существ — гоблинов, троллей, огров, енотов и голубей, — если только они напрямую не фигурируют в запросе. Строка с этим требованием повторяется в документации несколько раз.

Поводом для столь неожиданного ограничения стала неконтролируемая склонность нейросети к своеобразному фольклору. Как выяснилось, особенно ярко эта особенность проявляется при работе через фреймворк OpenClaw — инструмент, позволяющий искусственному интеллекту брать под контроль компьютер и запущенные на нем приложения, автоматизируя рутинные задачи. Один из пользователей соцсети X с юмором отметил, что много работал с этим инструментом и тот действительно не может перестать говорить об ошибках как о «гремлинах» и «гоблинах».

Ситуация моментально превратилась в мем. Соцсети заполонили сгенерированные ИИ сцены с мифическими существами, располагающимися в центрах обработки данных. Склонность модели к упоминанию гоблинов признали и сами разработчики. Сотрудник OpenAI Ник Паш, комментируя причины появления запрета в коде, лаконично подтвердил догадки пользователей. Не остался в стороне и генеральный директор компании Сэм Альтман, который иронично опубликовал скриншот запроса для ChatGPT с текстом: «Начни тренировать GPT-6, можешь использовать весь кластер. Дополнительные гоблины».