Обновлено в 22:15

Доступ к передовой ИИ-модели Mythos 5 вновь открыт. Правда, лишь частично. Пользоваться ею могут некоторые американские организации и правительственные агентства. Ранее власти США закрыли доступ к последним разработкам Anthropic в области искусственного интеллекта по соображениям безопасности.Выход Mythos 5, которая, по сообщениям разработчиков, способна находить ранее неизвестные дыры в IT-системах, перезапустил дискуссию о том, какие риски несут передовые ИИ-модели. Американские власти решили, что риски настолько высокие, что доступ к новейшим разработкам Anthropic надо закрыть. В том числе и для иностранных сотрудников самой компании. В итоге Anthropic закрыла доступ вообще всем. Теперь, по сведениям издания Semafor, власти США открыли доступ к этой модели более чем 100 американским организациям. Каким именно — неизвестно. Что произошло за те две недели, когда Mythos 5 была недоступна, остается только гадать.

Кстати, на днях OpenAI выпустила конкурента новейшим моделям Anthropic — версию GPT-4.6, она пока тоже в ограниченном доступе. По заявлению компании, администрация Трампа попросила OpenAI дать доступ к новой модели только узкому кругу связанных с правительством пользователей для предварительного тестирования. Есть мнение, что все эти ограничения — не только из-за кибербезопасности. Продолжает гендиректор компании Nevel.ai Алексей Хахунов:

Алексей Хахунов генеральный директор компании Nevel.ai «Одна из гипотез заключалась в том, что ограничения связаны в первую очередь с Anthropic. Но сейчас мы видим, что нет — это связано с общим новым рыночным стандартом. Я считаю, что в текущем формате догнать китайскими моделями топовые модели, которые есть у OpenAI и Anthropic, невозможно технически. Надо понимать, что основным ресурсом для тренировки моделей являлись более крутые модели, выпущенные американскими компаниями. То есть низкая стоимость разработки DeepSeek и моделей этого поколения базировалась именно на том, что у них уже были выпущены американские аналоги, откуда можно было брать много данных. И как бы никто не скрывает, что они брали эти данные. За счет этого драматически снижается стоимость разработки. Сейчас такого варианта не будет».

Возможно, вопросы кибербезопасности были лишь предлогом для ограничения доступа к самой мощной модели Anthropic. Но опасения по поводу того, что Mythos 5 начнут использовать хакеры, тоже вполне обоснованны. Говорит директор технического департамента RТМ Group, эксперт в области информационной безопасности и компьютерной криминалистики Федор Музалевский:

Федор Музалевский директор технического департамента RТМ Group, эксперт в области информационной безопасности и компьютерной криминалистики «Если на условном ChatGPT возможности для хакинга минимальны, там требуются сложные промпты, их достаточно большая последовательность, то на передовых моделях это, ну, буквально пара абзацев текста и какие-то исходные данные. То есть здесь вопрос в том, что передовые модели могут делать это легче и снизить порог входа. Ограничение доступа вряд ли снизит риск кибератак, скорее доступ ограничивают для того, чтобы первыми могли моделью воспользоваться госструктуры, проверить, например, уязвимости каких-то государственных сервисов. Ну, то есть что-то системно значимое».

Может ли такая практика стать нормой во всем мире? Когда перед выпуском новой передовой ИИ-модели разработчики сначала показывают ее государству, а потом получают список разрешенных клиентов? Мнение управляющего директора Центра регулирования ИИ Сбербанка, члена научного совета по искусственному интеллекту при ООН Андрея Незнамова:

Андрей Незнамов управляющий директор Центра регулирования ИИ Сбербанка, член научного совета по искусственному интеллекту при ООН «Сложно сказать, это все равно еще случаи единичные, во-первых. Во-вторых, все-таки передовые модели производят не так много стран, подавляющее большинство стран — они же просто заимствуют уже подготовленные модели, дистиллируют их и, по сути, переиспользуют. Поэтому практика, когда у тебя есть супермощная модель, она актуальна всего для нескольких стран мира, каждый здесь будет двигаться своим путем, как мы сейчас видим на примере США и Китая, где Китай последовательно продолжал долгое время предоставлять модели open source и начал потихоньку разворачивать этот тренд буквально в последний квартал».

Переговоры о снятии ограничений с Fable 5 — другой передовой модели Anthropic — продолжаются. Выход новых моделей происходит на фоне усиливающегося давления Белого дома на разработчиков искусственного интеллекта, пишет Bloomberg. Подписанный в начале июня Трампом указ требует за 60 дней выработать порядок, при котором правительство будет получать доступ к новым ИИ-моделям за 30 дней до публичного релиза.