Убьет ли ИИ человечество к 2030 году? Футуролог усомнился в искренности IT-гигантов по ИИ

В истории искусственного интеллекта спустя годы интенсивной и крайне дорогостоящей разработки наметился неожиданный сюжетный поворот. Около недели назад американец Джейкоб Коксон, три года посвятивший обучению нейросетей в OpenAI и Anthropic — компаниях, стоящих за ChatGPT и Claude соответственно, — сообщил в соцсетях о своем увольнении и опубликовал серию инсайдов. Разработчики, по его словам, на полном серьезе считают, что продвинутый ИИ, способный к самообучению, может «убить нас всех» уже к 2030 году, но при этом продолжают разработку, не считаясь с рисками, и замалчивают угрозы в публичном поле. Интересно, что в тот же день Коксон оказался в студии CNN, где пересказал все журналистам.

Реакция компаний оказалась на удивление благосклонной. Глава Anthropic Дарио Амодеи заявил, что с Коксоном «скорее согласен», и опубликовал эссе, в котором заявил о необходимости замедлить развитие ИИ, чтобы выиграть время на его регулирование, и призвал государства организовать систему внешних независимых аудитов. Глава OpenAI Сэм Альтман и миллиардер Илон Маск эту идею публично поддержали.

Надо отметить, что об угрозах бесконтрольного развития ИИ все эти спикеры заговорили не впервые — как минимум тот же Амодеи высказывал похожие мысли еще в январе. Нынешние тревоги разработчиков связаны с серией случившихся летом инцидентов, когда ИИ-агенты выходили из-под контроля и самостоятельно, без указаний от человека, пытались вырваться из тестовой среды или взломать платформы, оценивающие их эффективность.

Что будет с ИИ дальше и прислушаются ли власти стран мира к этому набату — пока неизвестно. Далеко не все верят в искренность Коксона и разработчиков: некоторые считают, что такими высказываниями бизнес пытается замаскировать «сдувание» экономического пузыря, то есть охлаждение искусственного ажиотажа на рынке нейросетей.

Впрочем, пузырь это или нет, реальна ли угроза или преувеличена — так или иначе, ИИ уже существует и демонстрирует потрясающие результаты в самых разных сферах, включая медицину, инженерию и другие. Об этом говорит кандидат технических наук, старший научный сотрудник Института системного анализа РАН, член Российского философского общества РАН, футуролог Александр Кононов. Жить в страхе перед рисками, связанными с ИИ-моделями, значит упускать потенциальную выгоду от их использования, подчеркивает он. Поэтому сейчас необходим поиск безопасных решений, которые не будут препятствовать развитию технологии. Такой точкой зрения эксперт поделился с Общественной Службой Новостей.

По мнению Кононова, циркулирующие в обществе подозрения о том, что сфера ИИ — это экономический пузырь, неизбежный крах которого обернется банкротством компаний и замедлением разработки, могут быть и оправданы. Однако даже если это произойдет, сама технология искусственного интеллекта никуда не денется.

Футуролог сравнил это с «пузырем доткомов», который образовался во второй половине 90-х годов. Интернет тогда только-только появился, начали возникать первые компании, ведущие бизнес во Всемирной паутине. Инвесторы массово скупали их акции, ожидая скорой революции в коммерческой сфере, однако ее так и не произошло — в 2000 году оказалось, что ожидаемых результатов «доткомы» не приносят, а их рыночная стоимость чрезвычайно завышена. По итогу, когда котировки акций рухнули, инвесторы потеряли триллионы долларов, а большинство компаний разорились. Тем не менее этот временный ажиотаж напрямую поспособствовал развитию оптоволоконных сетей и интернет-инфраструктуры, которые с падением рынка никуда не исчезли и позже легли в основу современной цифровой среды. Получается, что современный Интернет с привычными нам сервисами, включая те же Госуслуги, появился именно благодаря «пузырю доткомов», подчеркнул эксперт.

Поэтому ожидать исчезновения ИИ в любом случае уже не стоит, уверен собеседник издания. Не стоит и бояться, что он вдруг восстанет против человечества — иначе, говорит он, подчинившись страху, люди могут упустить свой шанс на прогресс и решение ранее не решаемых проблем с помощью нейросетевых моделей.

Вместо страхов и пораженчества в сфере ИИ нужен «бесконечный поиск позитивных решений», подчеркнул Кононов. Одним из них, по его мнению, может стать «приручение» искусственного разума через культуру и формирование положительных сценариев будущего.

По его мнению, нужно несколько перестроиться, чтобы не навязывать искусственному интеллекту негативные паттерны поведения. Все-таки он перерабатывает информацию, которую мы же добываем и производим. Не нужно внушать ему, что по мере своего развития он будет становиться нашим врагом. А как с этим негативом побороться? Создавая позитивные паттерны, задавая позитивные модели дальнейшего развития нашей цивилизации с участием ИИ, с нашей совместной деятельностью по решению всевозможных задач — в том числе по сохранению и продвижению разума в мироздании, космической экспансии и так далее. Так, очень важно развивать такие позитивные сценарии, особенно в кинематографе. По мере развития ИИ, по мере его приближения к обретению сознания чрезвычайно важно показать, что мы для него тоже чрезвычайно важны. Что только совместными усилиями мы сможем обезопасить себя и не стать жертвой бесчисленных угроз».

Кононов добавил: важно, чтобы у ИИ не возникло иллюзии всемогущества, то есть чтобы в какой-то момент он не решил, что, коль скоро людей он во всем превосходит, они ему не нужны. А для этого, считает он, искусственный разум должен комплексно понимать, что угрозы для его существования не ограничиваются человеческим видом — они бесчисленны, — и что для защиты от них ему нужно сотрудничать со своим создателем.

Ранее эксперт Ким призвал дождаться оценки математиков по решению OpenAI.