Эксперт оценила возможность передачи важных задач ИИ

Доцент и академический руководитель магистратуры «Искусственный интеллект» факультета компьютерных наук НИУ ВШЭ Елена Кантонистова в беседе с «Известиями» заявила, что в будущем системы ИИ смогут участвовать в коллективном принятии решений, затрагивающих интересы миллионов людей. Однако ключевая роль в определении правил работы таких систем и контроле их решений должна оставаться за человеком.

Кантонистова пояснила, что искусственный интеллект эффективен там, где существуют четкие критерии оценки и формализуемые цели. Важнейшее условие, по ее словам, — заранее определенные правила и прозрачные алгоритмы. Модели не должны придумывать правила в процессе работы, они обязаны действовать строго в рамках принципов, ограничений и приоритетов, заданных человеком. Это особенно критично для систем, влияющих на большие группы людей.

При этом, как отметила эксперт, полностью формализовать социальные, политические или этические вопросы пока невозможно, поэтому в этих областях участие человека остается обязательным. Одновременно с развитием технологий необходимо создавать механизмы контроля и регулирования ИИ.

Главный вопрос сегодня, по мнению Кантонистовой, — распределение ответственности за решения, принятые алгоритмами. Нужно заранее определить, кто отвечает за последствия: разработчик модели, компания-внедритель или оператор. Без четкой юридической ответственности даже самые совершенные ИИ-системы останутся источником повышенных рисков.

Помимо правового регулирования, добавила эксперт, важны технические механизмы контроля: прозрачность алгоритмов, объяснимость логики решений, аудит систем, логирование действий и строгие ограничения на полномочия моделей.

Ранее сообщалось, что фейковые инвесторы разводят людей на сайтах знакомств.