В МГУ создали метод, объясняющий решения ИИ при анализе молекул

Сотрудники Исследовательского центра искусственного интеллекта МГУ имени М. В. Ломоносова создали метод MolgraphX, который позволяет объяснять решения графовых нейронных сетей при анализе молекул. Результаты исследования опубликованы в журнале Journal of Chemical Information and Modeling.

Графовые нейронные сети активно применяются для прогнозирования свойств молекул, поиска новых химических соединений и разработки лекарств. Однако такие модели часто остаются для ученых «черным ящиком» — они выдают результат, но не объясняют, какие именно особенности структуры молекулы повлияли на прогноз. Это затрудняет практическое использование подобных систем в химических исследованиях.

Особенно остро проблема проявляется при работе с симметричными молекулами. Многие существующие методы объяснения анализируют отдельные атомы и связи независимо друг от друга, не учитывая молекулярную симметрию. В результате одинаковые с химической точки зрения фрагменты могут получать разные оценки важности, что противоречит представлениям специалистов.

Разработанный подход MolgraphX позволяет определять вклад отдельных атомов и молекулярных фрагментов в предсказания нейросети с учетом симметрии молекулы. Как пояснил соавтор исследования, доцент кафедры радиохимии химического факультета МГУ Артем Митрофанов, современные модели ИИ способны достаточно точно предсказывать свойства молекул, однако для исследователей важно понимать причины таких предсказаний. Предложенный метод учитывает симметрию молекул и позволяет связывать предсказания нейросети с конкретными химическими фрагментами, что приближает объяснение ее решений к химической логике, которой пользуются специалисты.

Тестирование показало, что алгоритм позволяет точнее выделять химически значимые фрагменты и сохраняет вычислительную эффективность даже при анализе сложных структур. В ходе слепой экспертной оценки химики в большинстве случаев отдавали предпочтение результатам метода MolgraphX, отмечая, что они лучше согласуются с химической интуицией.