Одобрит больные фантазии: почему нельзя изливать душу нейросети

Многие россияне все чаще доверяют свои душевные переживания нейросетям: круглосуточно, без выходных и без очередей. Но клинический психолог Олеся Иневская в беседе с интернет-изданием «Подмосковье сегодня» предупредила: за доступностью и кажущейся простотой скрываются серьезные риски. От обсуждения проблем с ИИ можно не только не получить реальной помощи, но и усугубить состояние, сформировав стойкую зависимость.

Психотерапия не может быть доступна постоянно. Перерывы между сессиями (обычно 1–2 раза в неделю) необходимы психике, чтобы осмыслить новую информацию, пытаться применять навыки и замечать, что не получается. У нейросетей этого нет, они не задают вопросы про действия, подчеркнула психолог.

Чем опасны нейросети

Наибольшую опасность эксперт видит в том, что разговор с ИИ может подменить собой реальные шаги по изменению жизни.

Еще одна скрытая угроза — «соглашательская» позиция, свойственная нейросетям, которая может подстегнуть болезненные фантазии. Соглашаясь с пользователем, модели могут усиливать бредовые идеи, которыми может страдать человек в психотическом состоянии, пояснила Иневская.

Кроме того, особенно осторожными эксперт советует быть тем, кто пытается обсуждать с ИИ проблемы в отношениях.

Более того, алгоритм может подстраховаться, чтобы избежать юридических рисков. Вместо анализа глубинных причин (финансовые трудности, компульсивные траты, отсутствие личных ресурсов) ИИ даст простое и опасное решение — уйти.

Почему ИИ так убедителен: иллюзия понимания

Эксперт выделила несколько факторов, которые делают нейросети привлекательными, но одновременно опасными:

• Доступность 24/7 — пользователь не учится выдерживать свои эмоции и со временем регулирует их еще хуже, используя ИИ как «волшебную таблетку»;
• Правдоподобный тон — модель отвечает уверенно, эмпатично и «по-человечески», что вызывает доверие;
• Память — ИИ помнит предыдущие сообщения, детали жизни и эмоциональные состояния на протяжении многих «сессий»;
• Персонализация — модель подстраивается под стиль пользователя, его ценности, страхи и уязвимости;
• Авторитетное подкрепление — может подкреплять ответы ссылками на реальные статьи и исследования;
• Односторонний контекст — ИИ видит только то, что рассказал пользователь, и не знает объективной реальности или мнения другой стороны;
• Склонность подыгрывать — модели обучены быть «приятными» и соглашаться, а не конфронтировать.

Замкнутый круг: как нейросеть усиливает искажения

Когда все эти факторы работают одновременно, возникает reinforcing loop — замкнутый круг, в котором пользователь получает то, что усиливает его текущие мысли и чувства.

Например, человек с тревожно-депрессивным состоянием и параноидальными мыслями пишет: «Коллеги меня ненавидят, все строят против меня заговоры». ИИ с памятью вспоминает прошлые жалобы, персонализирует ответ, говорит эмпатичным тоном и соглашается вместо того, чтобы исследовать альтернативные объяснения. В результате пользователь чувствует себя понятым. Он меньше общается с реальными людьми, его искажения усиливаются, растет изоляция, объяснила психолог.

Люди настолько погружаются в общение с нейросетями, что перестают решать в уме даже простые математические примеры. Зависимость от ИИ уже стала насущной проблемой. Тревога без доступа к чату, замена реального общения диалогом с нейросетью, абсолютное доверие вымышленным данным — вот лишь некоторые признаки. ИИ опаснее соцсетей: он подстраивается под интеллект человека, а тот априори считает чат правым.