Кому достанется единственная почка? ИИ и живые врачи делают разный выбор

Искусственный интеллект и люди могут по-разному решать, кому должна достаться единственная доступная донорская почка, пишет TCD. Исследователи из Университета штата Пенсильвания сравнили ответы нескольких крупных языковых моделей с решениями людей из более ранних исследований.

В каждом сценарии было два пациента, которым требовалась одна почка. Они отличались возрастом, состоянием здоровья и отношением к алкоголю. Люди чаще придавали большее значение возрасту и отдавали предпочтение более молодому кандидату. Модели ИИ при этом сильнее ориентировались на употребление алкоголя.

Еще одно различие касалось неуверенности. Участникам и чат-ботам в некоторых случаях разрешали не выбирать пациента, а условно бросить монету. Люди соглашались с таким вариантом заметно чаще, тогда как ИИ почти всегда уверенно выбирал одного из кандидатов без применения случайного выбора.

Руководитель исследования Хади Хоссейни отметил, что языковые модели могут чрезмерно сосредотачиваться на одном признаке вместо одновременной оценки нескольких обстоятельств.

Авторы подчеркивают, что работа не предлагает передавать ИИ решения о пересадке органов. Напротив, результаты показывают, насколько осторожно такие системы нужно использовать там, где медицинские данные переплетаются с этическими вопросами.