«Это может уничтожить нас». Биолог из Австралии призвал запретить мощный ИИ

Доцент Тажури: автономный ИИ нужно остановить до создания защиты

Сегодня 05:04

Фото: [«Подмосковье сегодня»/Владимир Ерастов]

Развитие мощных систем искусственного интеллекта, способных самостоятельно принимать решения и выполнять задачи без прямого участия человека, необходимо приостановить во всем мире до тех пор, пока не будут созданы механизмы защиты от возможных биологических угроз. Об этом РИА Новости сообщил австралийский ученый, специалист в области геномики и молекулярной биологии Лотти Тажури.

Доцент Университета Бонда и Университета Мердока Тажури входит в Совет ученых полиции Дубая — экспертный совет, который занимается научным консультированием и разработкой решений в сфере безопасности. Отдельное признание он получил за выступление на всемирно известной конференции TEDx. Ученый ранее предупредил о риске создания опасных для человека вирусов с помощью ИИ.

«Нам нужен твердый мораторий, серьезный долгосрочный мораторий со стороны всех стран с передовыми возможностями в сфере ИИ. Мораторий нужен, чтобы действительно тщательно продумать барьеры, необходимые для предотвращения этого», — сказал Тажури.

Первым шагом, по его мнению, должно стать срочное соглашение между государствами о приостановке развития наиболее опасных форм автономного ИИ на время создания защитных механизмов.

Ученый также выступил за формирование международной структуры, которая могла бы устанавливать обязательные стандарты для наиболее мощных систем ИИ, особенно при их использовании в биологических исследованиях.

«Передовые системы ИИ не должны иметь возможности самостоятельно проектировать или оптимизировать биологические агенты, избегать человеческого надзора, скрывать свои действия или обходить защитные механизмы, предназначенные для их сдерживания. От разработчиков следует требовать доказательств того, что мощные системы можно отслеживать, прерывать их работу и при необходимости отключать до их применения в условиях повышенного биологического риска», — отметил Тажури.

Эксперт убежден, что контроль над такими технологиями нельзя оставлять исключительно самим разработчикам, поскольку компании конкурируют друг с другом, а государства соперничают за лидерство в сфере ИИ. По его мнению, необходим международный надзор за наиболее мощными системами еще до их широкого применения.

Ранее историк Новиков сообщил, что для ИИ в археологии нужны тысячи примеров.