Что будет, если ИИ выйдет из-под контроля? Шокирующее заявление Германа Грефа

Глава крупнейшего банка страны Герман Греф высказал прогноз о приближающемся революционном переломе в сфере искусственного интеллекта.

Как сообщает издание «КоммерсантЪ», по мнению топ-менеджера, этот скачок способен трансформировать принципы решения сложнейших задач в глобальном масштабе.

Суть предстоящего прорыва, как считает Греф, заключается в предоставлении нейросетям возможности автономно определять наиболее эффективные методы достижения поставленных целей, без оков контролирующих алгоритмов. Такой шаг, по его выражению, ознаменует наступление настоящей «революции революций» в технологиях.

В эксклюзивном интервью «Русскому пионеру» глава Сбера пояснил: «Ключевая идея — предоставить машине свободу. Нам не следует диктовать ей каждый шаг. Вместо этого необходимо определить границы, в рамках которых она будет действовать, подобно правовому полю для человека».

При этом он акцентировал внимание на dual-use nature технологий: с ростом мощи «гиперумных систем» потенциальные риски также многократно увеличиваются. В ответ на это Сбербанк уже предпринял меры, значительно нарастив команду специалистов по кибербезопасности и контролю за ИИ. Компания работает над поиском оптимального баланса между свободой развития нейросетей и внедрением необходимых защитных механизмов для предотвращения их злонамеренного использования.

Ранее сообщалось о том, что исследование выявило склонность ИИ к ядерной эскалации в конфликтах.