Меньше точности — больше уверенности: с приходом ИИ люди почти разучились говорить «не знаю»

Подсказки искусственного интеллекта (ИИ) могут делать людей не умнее, а лишь увереннее в своих ошибках, пишет TNW со ссылкой на исследователей из французских и итальянских университетов: Высшей педагогической школы в Париже, Римского университета Ла Сапиенца и Университета Милано-Бикокка. В эксперименте доступ к ИИ резко снизил готовность участников отвечать «не знаю»: без него такой ответ выбирали 44% участников, а с ним — всего 3%.

При этом точность ответов упала с 27% до 9%, тогда как уверенность выросла с 30% до 76%. По словам доцента Университета Милано-Бикокка Валерио Капраро, люди стали примерно у три раза чаще ошибаться, но при этом в два раза увереннее оценивали свои ответы.

Авторы специально выбрали вопросы, на которых ИИ часто ошибается: например, связанные с визуальными деталями из фильмов. Это позволило проверить не полезное использование надежного инструмента, а слепое доверие к его ответам. Некоторые участники, которые могли бы ответить правильно самостоятельно, обращались к ИИ и в итоге выбирали неверный вариант.

Денежное вознаграждение помогло лишь немного: готовность признать незнание выросла до 8%, а точность — до 16%, что все равно оказалось ниже результата без ИИ.

Капраро считает тревожным сам механизм: люди могут утрачивать способность оценивать границы собственных знаний. Особенно важно это для детей, которые растут с системами, почти всегда выдающими уверенный ответ вместо честного «не знаю».