Запретить суперинтеллект: почему Нобелевский лауреат требует остановить развитие ИИ

Один из основоположников современных нейросетей и лауреат Нобелевской премии по физике Джеффри Хинтон заявил о необходимости ввести глобальный мораторий на разработку суперинтеллекта. В интервью изданию The Times ученый подчеркнул, что научное сообщество до сих пор не разработало надежных механизмов контроля над системами, превосходящими человека по уровню интеллекта. По мнению эксперта, продолжение таких исследований без гарантированной системы безопасности создает риски для самого существования человечества. Об этом информирует портал The Times.

Ключевые предупреждения и научные аргументы Джеффри Хинтона

Основные тезисы выступления выдающегося исследователя искусственного интеллекта:

• Угроза потери контроля: В научном сообществе отсутствует консенсус по поводу того, как гарантированно контролировать цифровой суперинтеллект после его создания.
• Экзистенциальный риск: Хинтон не исключает катастрофических сценариев, при которых автономные ИИ-системы высокой мощности могут выйти из-под управления человека и поставить под угрозу существование цивилизации.
• Призыв к ограничениям: Исследователь настаивает на законодательном запрете создания сверхмощных ИИ-моделей до тех пор, пока безопасность их применения не будет научно доказана.
• Авторитет исследователя: Джеффри Хинтон — Нобелевский лауреат 2024 года по физике, создатель архитектоники AlexNet (2012 год), совершившей революцию в сфере глубокого машинного обучения и распознавания образов.