Восстание машин: ChatGPT вдруг заговорил с американцами по-арабски

Пользователи ChatGPT в США пожаловались на странный сбой: бот начал неожиданно вставлять арабские слова в ответы на английском, пишет Daily Mail. По словам пользователей, в некоторых случаях ИИ также подменял цифры и даже переходил на армянский, иврит, испанский, китайский и русский.

Многие сначала решили, что речь идет об очередной «галлюцинации» нейросети. Однако причина, как отмечается, может быть связана с тем, как обучена модель. ChatGPT работает не с целыми словами, а с токенами — короткими фрагментами текста, знаками препинания или даже словами из других языков.

Из-за этого система иногда выбирает более «удобный» токен, если он лучше подходит по вероятности и требует меньше вычислений. «Это не значит, что ИИ специально меняет язык, он просто выбирает наиболее вероятный следующий элемент текста», — говорится в материале.

Один из пользователей Reddit заметил, что арабское слово в рецепте означало «низкий», и предположил, что бот имел в виду обезжиренный йогурт. Другие отнеслись к сбою с юмором, но признались, что такие вставки выглядят жутковато и сбивают с толку.