Нейросети научились навязывать людям негативные стереотипы

В научном журнале Science появилась статья о влиянии искусственного интеллекта на людей. В ходе исследования ученые выяснили, что нейросети могут распространять негативные стереотипы про людей.

Ученые отметили, что ИИ обучается на основе информации из интернета, которая не всегда может являться достоверной. При этом, если человек сомневается в предоставляемой им информации, он добавит фразу по типу «я думаю/считаю», а нейросеть, обделенная мнением и самосознанием, будет выдавать любой имеющийся ответ за абсолютную правду. 

Подобные ответы нейросетей могут восприниматься людьми, как достоверные. Что приведет к тому, что люди будут убеждены в фактах, являющихся ложными. Подобные утверждения вскоре начнут передаваться в социуме, и исправить это «будет нелегко», отмечают ученые.

Авторы исследования приводят данные: статистика утверждает, что чернокожие ответчики в суде менее надежны. Искусственный интеллект, в свою очередь, сообщит о том, что афроамериканцы зачастую совершают повторные преступления. 

Сильнее всего эти предубеждения скажутся на несовершеннолетних, считают исследователи. Одновременно с развитием ИИ надо учить людей отличать фактические возможности технологий от воображаемых, заявляют ученые.