Создатели ИИ сами не могут полностью контролировать свои системы? Против крупнейших компаний подали иск

Несколько некоммерческих организаций подали в суд на пять крупных разработчиков искусственного интеллекта, пишет CBS News. Истцы утверждают, что компании продолжают создавать все более мощные системы, хотя сами признают, что полностью контролировать их поведение пока невозможно.

В иске названы Anthropic, Google, OpenAI и SpaceXSI. Организации требуют ограничить дальнейшую разработку наиболее мощных моделей ИИ.

По версии истцов, проблема становится серьезнее из-за того, что компании все чаще используют искусственный интеллект для создания следующих поколений ИИ. В теории это может привести к ситуации, когда системы начнут совершенствовать друг друга с все меньшим участием человека.

Авторы иска также ссылаются на прежние заявления руководителей технологических компаний, которые публично говорили о возможных тяжелых последствиях быстрого развития ИИ.

При этом сами компании на момент публикации материала не прокомментировали иск.

Пока речь идет именно об обвинениях, изложенных истцами, а не об установленном судом факте. Ученые и разработчики продолжают спорить о том, насколько реальны самые серьезные сценарии риска и какие ограничения действительно необходимы.