The Guardian обвинила медицинскую функцию ИИ от Google в распространении опасных ошибок

Функция AI Overviews, разработанная американской технологической компанией Google и предназначенная для создания медицинских обзоров и рекомендаций, может распространять недостоверную и потенциально опасную для здоровья информацию. Об этом 2 января сообщила британская газета The Guardian.

Издание опубликовало результаты собственного исследования, в рамках которого эксперты проанализировали медицинские сводки, подготовленные искусственным интеллектом. По итогам проверки выяснилось, что в ряде случаев ошибки присутствовали уже в начале текстов, а сами рекомендации противоречили общепринятым врачебным подходам.

В частности, журналисты указали на примеры, когда ИИ давал некорректные советы пациентам с онкологическими заболеваниями, включая рекомендации по питанию, не соответствующие медицинским стандартам. Также были выявлены случаи искажения информации о диагностике заболеваний печени, что, по мнению специалистов, могло создать у пациентов ложное ощущение благополучия и привести к отказу от необходимого лечения.

В Google, ознакомившись с приведенными примерами, заявили, что материалы AI Overviews опираются на ссылки на авторитетные источники и содержат напоминания о необходимости консультации с профессиональными медиками. Представители компании подчеркнули, что основная часть подобных обзоров носит точный и полезный характер.

В то же время в компании признали, что при неправильной интерпретации информации или потере контекста алгоритмы подлежат корректировке в соответствии с внутренними правилами и политикой качества.

Ранее сообщалось, что финансовое напряжение повышает риск смерти от болезней сердца на 60%.