ИИ может создать вирус на заказ: техногиганты требуют срочно закрыть опасную лазейку

Крупные игроки в сфере искусственного интеллекта неожиданно выступили единым фронтом из-за риска создания биологического оружия, пишет Forbes. Руководители OpenAI, Anthropic, Google DeepMind, Microsoft AI, Stripe и эксперты по биобезопасности подписали открытое письмо к Конгрессу США с требованием ввести обязательную проверку всех заказов синтетической ДНК и РНК при помощи нейросетей.

Опасение звучит почти как сюжет антиутопии: мощные ИИ-модели могут помочь злоумышленникам спроектировать опасные вирусы, токсины или другие патогены, а затем попытаться получить нужные генетические материалы через компании, занимающиеся синтетической биологией. Авторы письма предупреждают: по мере развития ИИ старые барьеры, которые раньше защищали от таких сценариев, быстро слабеют.

Коалиция предлагает единый федеральный стандарт: компании должны проверять личности клиентов, анализировать заказы на опасные материалы и вести подробные журналы закупок, чтобы у следователей оставались зацепки в случае инцидента.

Поводом стала законодательная инициатива — Biosecurity Modernization and Innovation Act of 2026, которую в феврале внесли сенаторы Том Коттон и Эми Клобушар. Законопроект как раз направлен на ужесточение проверки клиентов и заказов, при этом должен сохранить исключения для обычных безопасных исследований.

Некоторые компании уже делают такие проверки добровольно, но сторонники закона считают это недостаточным: система получается слишком разрозненной. Противники, особенно небольшие биотехнологические фирмы, опасаются дорогой бюрократии и спорных критериев опасности.

Авторы письма признают: биотерроризм — достаточно редкая угроза. Но цена ошибки может быть огромной. Поэтому разработчики ИИ и специалисты по ДНК впервые заявляют одно и то же: правила нужно ввести до того, как технология обгонит безопасность.