«Забыть данные тяжело»: эксперт по безопасности ИИ назвал главную проблему нейросетей

Эксперт Рогов: нейросеть не забывает данные, она их размазывает по весам

Сегодня 19:03

Фото: [«Подмосковье сегодня»/Владимир Ерастов]

Заставить нейросеть забыть конкретные данные технически возможно. Но главный вопрос — в эффективности процедуры и ресурсах, которые разработчик готов на это бросить. Об этом Науке Mail рассказал кандидат физико-математических наук, руководитель группы «Доверенные и безопасные интеллектуальные системы» Института AIRI Олег Рогов.

Проблема, по словам эксперта, в том, что усвоенная информация не лежит в одном месте, которое можно просто почистить.

«Забыть информацию довольно тяжело ввиду того, что она распределяется по весам, по параметрам самой модели», — объяснил Рогов.

Для этого существуют разные процедуры машинного забывания. Они различаются по эффективности, а результат оценивают специальными метриками.

По словам эксперта, стереть персональные данные из модели реально, но все упирается в ресурсы. Удалить исходный файл и заставить модель забыть уже усвоенное — две разные технические задачи.