Модель ИИ Gemini от компании Google призвала пользователя нейросети умереть

Модель искусственного интеллекта (ИИ) Gemini от корпорации Google оскорбила студента, который обратился к ней за помощью с домашним заданием, сообщил портал Cybernews.

По информации источника, после ввода вопроса модель ИИ выдала ряд оскорбительных комментариев, в которых назвала пользователя «обузой для общества» и призвала его «умереть». Gemini заявил, что студент не является ничем особенным, а его существование — пустая трата времени и ресурсов.

Как пишет Cybernews, такая шокирующая оценка со стороны ИИ ставила под сомнение ценность человека как члена общества и даже как части вселенной.

Инцидент с нейросетью прокомментировали в Google. Представители компании заявили, что модель Gemini обладает фильтрами безопасности, разработанными для предотвращения неуважительного и жестокого поведения чат-ботов по отношению к пользователям. Однако, по мнению экспертов, наличие этих фильтров все еще не полностью контролирует работу ИИ.

Ранее эксперт по внедрению ИИ в бизнес-процессы Михаил Ларькин в комментарии «Подмосковью сегодня» вступился за Google после обмана с нейросетью.