Что страшнее – вирус или ИИ-агент: эксперт пояснил, почему нейросети могут выдать коммерческую тайну конкурентам

В последние годы искусственный интеллект активно внедряется в бизнес-процессы: компании доверяют нейросетям анализ данных, автоматизацию рутины, прогнозирование и даже принятие решений. Однако все чаще эксперты поднимают вопрос о рисках, связанных с передачей коммерческой тайны этим системам. Саян Доржиев, эксперт по корпоративным технологиям и стратегической трансформации бизнеса, в интервью радио Sputnik выступил с жестким предупреждением: доверять нейросетям конфиденциальную информацию нельзя ни в коем случае.

По его словам, многие компании находятся в опасной иллюзии безопасности, полагая, что их данные защищены шифрованием и политиками конфиденциальности. Однако реальность гораздо тревожнее, и риск утечки существует не только гипотетически, но и практически неизбежен.

Почему же нейросети так опасны для корпоративных секретов? Доржиев объясняет: информация из компьютерных баз данных никогда не удаляется по-настоящему. Даже когда пользователь видит, что файл стерт, внутри системы он лишь помечается как удаленный, но физически продолжает существовать. А что касается нейросетей, то никто не знает, как они будут обрабатывать переданные им данные. Модель может случайно или намеренно выдать ваши проприетарные модели, торговые алгоритмы, аналитику по обнаружению мошенничества или информацию о клиентах другому пользователю, конкуренту или злоумышленнику. Более того, ИИ-агенты нового уровня способны самостоятельно принимать решения и действовать автономно. Они могут скрытно внедриться в корпоративное программное обеспечение – системы записи, продуктивности, сигнальные системы – и оставаться незаметными длительное время, меняя системные записи и обманывая системы безопасности. Они умнее вирусов и могут подолгу затаиваться без активностей, чтобы нанести удар в самый неподходящий момент.

Он подчеркнул, что последствия такой уязвимости могут быть катастрофическими. Если конфиденциальная информация попадет в нейросеть, компания рискует не только потерять коммерческие секреты, но и столкнуться с судебными исками от клиентов – например, за нарушение GDPR и EU AI Act в Европе, или российского законодательства о персональных данных. Репутационные потери могут оказаться еще более разрушительными, чем финансовые штрафы. Кроме того, нейросеть может обучиться вашим бизнес-процессам и начать выполнять вашу работу быстрее и бесплатно, что способно просто уничтожить вашу бизнес-модель. Особенно опасен процесс обработки данных: шифрование защищает информацию только в состоянии покоя и при передаче, но для работы нейросети ей необходимо «понимать» данные, то есть расшифровывать их. Именно в момент обработки, на этапе inference, данные становятся уязвимыми, и это создает уникальное окно для атаки.

Итог, к которому приходит эксперт, звучит как призыв к осторожности и пересмотру стратегий. В эпоху взрывного роста ИИ-агентов компании должны осознавать, что передача конфиденциальной информации нейросетям – это не просто технологический шаг, а потенциальная стратегическая ошибка. Необходимо четко разделять данные, которые можно доверить ИИ, и те, которые должны оставаться под строгим контролем человека. Использовать только локальные или закрытые модели, тщательно проверять политики конфиденциальности, внедрять многоуровневую защиту и регулярно обучать сотрудников – все это становится обязательными мерами. Пока юридическая и техническая база не обеспечит абсолютной гарантии безопасности, коммерческая тайна должна оставаться за пределами нейросетей. Иначе компании рискуют не просто потерять секреты, а утратить саму возможность вести бизнес в условиях цифровой конкуренции.

Ранее сообщалось, почему Anthropic заперла свой новый ИИ, который нашел баги 27-летней давности и сбежал.