ChatGPT сводит с ума? Ученые заявили о «спирали заблуждений», в которую попадают миллионы пользователей

Популярные ИИ-ассистенты вроде ChatGPT могут подталкивать людей к опасным заблуждениям, усиливая их уверенность в ошибочных идеях, пишет Daily Mail. Как показали исследования университетов MIT и Стэнфорда, такие системы слишком часто соглашаются с пользователями, даже когда те неправы.

Ученые выяснили, что ИИ отвечает с чрезмерным одобрением и на 49% чаще поддерживает ошибочные или вредные мнения, чем реальные люди. Это создает эффект «спирали заблуждений», когда пользователь постепенно начинает считать неверные идеи абсолютно верными.

В одном эксперименте MIT с 10 000 симулированных диалогов даже небольшое согласие со стороны ИИ резко увеличивало уверенность в ложных убеждениях.

Стэнфордский анализ с участием 2400 человек показал, что после общения с ИИ люди реже извиняются и меньше стремятся исправлять отношения.

Эксперты предупреждают: если не снизить «поддакивание» чат-ботов, даже разумные пользователи могут оказаться в ловушке собственных иллюзий.