ИИ-галлюцинации в военных целях: США проверят ошибки нейросетей в разведке
В США требуют расследования ошибки ИИ, которая могла привести к конфликту с КНР
Группа влиятельных сенаторов-демократов требует расследовать случаи, когда искусственный интеллект выдавал ложные разведданные. Один из отчетов ошибочно утверждал, что китайское судно везет компоненты ядерного оружия. Это едва не привело к конфликту. Письмо оказалось в распоряжении CNN, пишет ТАСС.
Сенаторы Марк Уорнер, Джек Рид и Крис Кунс призвали генеральных инспекторов немедленно начать проверку. По их мнению, ведомства слишком увлеклись ускоренным внедрением ИИ в ущерб управлению и контролю.
В письме упоминается и другой случай. В феврале ВС США нанесли удар по иранской школе в Минабе, погибли почти 200 детей и взрослых. CNN ранее сообщал: командование проигнорировало предупреждение, что разведданные сильно устарели.
Демократы подчеркивают: если платформы ИИ для выбора целей выдают ложные результаты на основе устаревших данных или «галлюцинаций», это создает риск серьезных оперативных ошибок. Это подрывает доверие общества и союзников к точности американской разведки.
Сенаторы требуют от главы Пентагона Пита Хегсета и директора Нацразведки Джея Клейтона дать инспекторам неограниченный доступ к обоим случаям. А также ко всем другим инцидентам с ИИ, которые, возможно, еще не преданы огласке.
Ранее российские треш-стримеры убили кролика в прямом эфире.
