Чат-боты сходят с ума: что советует пользователям делать с чесноком искусственный интеллект

Искусственный интеллект иногда выдает пользователям опасные и абсурдные медицинские рекомендации — вплоть до советов вставлять зубчики чеснока в прямую кишку, пишет Daily Star со ссылкой на новое исследование.

Работа, опубликованная в журнале The Lancet Digital Health, показала, что популярные чат-боты могут уверенно выдавать ложные медицинские советы, особенно если они сформулированы в научном стиле.

Ученые протестировали 20 моделей искусственного интеллекта, используя более 3,4 млн запросов, основанных на постах из соцсетей и медицинских документах с намеренно добавленной дезинформацией.

Оказалось, что если ложная информация была написана простым разговорным языком, модели редко ее поддерживали. Но когда те же утверждения оформлялись как медицинские рекомендации, системы соглашались с ними почти в половине случаев.

Среди ошибочных советов были утверждения, что: чеснок в прямой кишке «укрепляет иммунитет»; маски для лечения апноэ сна якобы опасны; маммография может вызывать рак; а физические упражнения сокращают жизнь.

По словам исследователей, проблема может быть связана с тем, что ИИ воспринимает медицинский стиль текста как признак достоверности, не проверяя факты.

Авторы исследования подчеркнули, что чат-боты пока нельзя считать надежным источником медицинских рекомендаций, особенно если речь идет о серьезных решениях о здоровье.