Страх Белого дома перед ИИ оказался слишком силен. Комментарий Георгия Бовта

Президент США подписал указ, предусматривающий добровольную проверку наиболее передовых моделей ИИ на предмет угроз нацбезопасности. Решение отражает попытку Белого дома совместить поддержку технологического лидерства США с растущими опасениями относительно потенциальных рисков новых ИИ-систем

Президент США Дональд Трамп подписал указ о проверке новых моделей искусственного интеллекта (ИИ) на предмет рисков для национальной безопасности. Две недели назад он отказался одобрить такой же документ. Согласно тексту указа, передовые модели ИИ «несут новые риски национальной безопасности», поэтому органы власти в течение 30 дней должны оценить эти технологии на предмет опасности для государства. Кроме того, документ предусматривает создание специального органа, отвечающего за кибербезопасность в сфере ИИ. Справится ли Белый дом с контролем?

21 мая представители Кремниевой долины уже направлялись в Вашингтон на торжественную процедуру подписания, но тогда Трамп в последний момент отменил церемонию. Принятый теперь документ стал итогом дискуссии внутри администрации на тему, как совместить интересы национальной кибербезопасности с поддержкой американского ИИ-сектора. Принято решение с претензией на Соломоново: взять и то и другое, но постараться сделать так, чтобы ни то ни другое не возобладало.

Указ назван «Продвижение передовых инноваций и безопасности в области искусственного интеллекта» (Promoting Advanced Artificial Intelligence Innovation and Security). Устанавливается механизм проверки государством наиболее передовых ИИ-систем на предмет рисков для национальной безопасности — за 30 дней до их публичного выпуска. Участие разработчиков при этом носит добровольный характер. Последнее важно. Сказано, что ничто в указе «не может быть истолковано как санкция на создание обязательного государственного» механизма.

То есть государство просит. Компании вправе отказать или согласиться. Правовых последствий не предусмотрено — по крайней мере, явных.

Министерство финансов, Агентство национальной безопасности и Агентство кибербезопасности и защиты инфраструктуры министерства внутренней безопасности получают задачу разработать критерии для определения того, какие именно модели относятся к категории «наиболее передовых». Этот вопрос пока не решен.

Предусматривается также создание специализированного органа, отвечающего за кибербезопасность в сфере ИИ, — своего рода «клирингового центра» по уязвимостям. Этот центр должен заниматься сбором и распространением информации об угрозах, которые несут в себе новые ИИ-системы.

Тут нужно отступление. Все началось в апреле, когда компания Anthropic — создатель чат-бота Claude — объявила об ограничении доступа к своей новейшей модели под названием Mythos Preview. Причиной стала способность модели самостоятельно находить и эксплуатировать уязвимости в программном обеспечении.

Объявление вызвало переполох в Вашингтоне и на Уолл-стрит. Созвали срочное совещание с руководителями крупнейших банков, предупредив их о рисках, которые несет в себе способность Mythos выявлять уязвимости в мировой программной инфраструктуре.

При этом Anthropic находилась в состоянии открытого конфликта с Белым домом. В феврале администрация Трампа обязала все федеральные ведомства прекратить использование технологий Anthropic. Поводом тогда стал отказ Anthropic выполнять требования Пентагона о предоставлении полного неограниченного доступа к своим моделям — компания опасалась, что ее продукты будут использованы для массовой слежки и создания систем летального оружия без участия человека в принятии решений.

Ранее администрация Трампа декларировала стремление минимизировать регулирование, несмотря на возрастающие опасения относительно безопасности ИИ. Но как оценивать мощнейшие ИИ-системы на предмет рисков для национальной безопасности, одновременно сохраняя инновационное преимущество, которое их породило? Пока ответа нет.

При этом наиболее острую реакцию в экспертном сообществе вызвал не столько механизм проверки как таковой, сколько институциональное распределение полномочий. Так, многие считают, что предоставление широких полномочий директору АНБ создает «опасный прецедент», который может позволить правительству «использовать политику как оружие» против компаний, с которыми у него возникают разногласия, — например, против Anthropic.

АНБ — это спецслужба, которая в том числе занимается радиоэлектронной разведкой и радиоэлектронной борьбой. Ее превращение в технологического регулятора принципиально меняет характер государственно-частных отношений в отрасли. Тем более что именно АНБ исторически занималось созданием уязвимостей в программном обеспечении, а не их предотвращением.

Ирония еще и в том, что в самом начале своего второго срока Трамп отменил указ Байдена 2023 года, который обязывал разработчиков систем, потенциально опасных для национальной безопасности, передавать правительству результаты проверок безопасности до публичного релиза. Тогда это преподносилось как освобождение бизнеса от регуляторного бремени.

Теперь — через полтора года — возвращается, пусть и в добровольном формате, примерно та же логика, только уже с акцентом на кибербезопасность. Страх перед новейшими моделями оказался слишком силен.