Обновлено в 20:25

Над Anthropic вновь сгущаются тучи. Американские власти обязали компанию ограничить доступ к своим флагманским моделям для иностранных клиентов. В Белом доме объяснили это мерами нацбезопасности. Стартапу пришлось отключить модели для всех, так как оперативно «отделить» пользователей невозможно. В министерстве торговли США заявили, что доступ восстановят только после усиления мер безопасности. При этом «подставил» Anthropic один из собственных крупнейших инвесторов — Amazon. В компании сообщили Белому дому об уязвимости Fable 5.Сотрудники Amazon, тестируя новую модель Anthropic обнаружили, что ИИ может игнорировать собственные механизмы защиты и предоставлять данные, полезные для кибератак. Politico писала, что эта информация быстро подняла на уши половину администрации, но переговоры чиновников с компанией, которые длились целые сутки, так ни к чему и не привели.

Заблокировать доступ пришлось к пятым моделям Claude под названиями Mythos и Fable. Первая, выпущенная в начале апреля, и так была доступна ограниченному кругу IT-компаний с разрешения американского правительства. Вторую презентовали буквально на неделе и позиционировали как модель со схожими характеристиками, но публичную за счет усиленных мер защиты.

Об ограничениях рассуждает гендиректор компании Nevel. ai, автор телеграм-канала AI Happens Алексей Хахунов:

Алексей Хахунов генеральный директор компании Nevel.ai «Единственная причина, почему Китай, например, до сих пор делает opensource -- просто потому, что данных, необходимых для обучения, моделей у них сильно меньше, и это их способ как бы их дополучить. И это был вопрос, конечно, времени, когда такое произойдет. Anthropic еще в первой версии сказал, что если они считают использование вами модели недобросовестным, например, вы обучаете своего конкурента или используйте его для кибератак, то они могут незаметно для вас, перевести вас на более глупую модель. Компании видят риск, в том числе Amazon, видит риск для себя, и если они нашли способы, как можно абьюзить использование модели, с этим надо разбираться. Другой вопрос, что, судя по всему, из-за того, что Anthropic не отреагировал, пришлось включить государственный ресурс и запретить и ввести экспортный контроль. Непонятно, могут ли их отменить или нет, будет ли у нас AI по паспортам. В каком-то чате я читал смешную шутку, что водители, которые лишатся работы в Америке из-за SDC, теперь будут продавать свои паспорта людям за пределами Америки, чтобы они могли использовать топовый AI. Мне кажется, это очень похоже на ближайшее будущее».

В Anthropic назвали проблему преувеличенной, указав, что найденные способы обхода защиты встречаются у многих ИИ-моделей, даже не таких продвинутых. Парадоксально, что о так называемой прорехе в коде стало известно от Amazon — одного из крупнейших инвесторов самой Anthropic. Известно, что корпорация поставляла чипы для тех самых моделей Claude, а в апреле объявила новые многомиллиардные инвестиции в стартап. При этом Amazon не вставлял палки в колеса партнеру специально -- по данным Politico, компания отвечала на прямой запрос администрации оценить новую модель.

Глава Пентагона Пит Хегсет назвал правильным решение «выгнать» разработчика из Министерства войны, припоминая конфликт ведомства с Anthropic по поводу использования Claude в военной операции в Венесуэле. В Белом доме уже уточнили, что прошлые разногласия не имеют отношения к нынешним запретам властей.

Не считая забот администрации о нацбезопасности, ситуация может стать переломной для рынка ИИ, считает гендиректор Angel Relations Group, преподаватель бизнес-моделей и ИИ в ВШЭ, Алексей Карлов:

Алексей Карлов гендиректор Angel Relations Group, преподаватель бизнес-моделей и ИИ в ВШЭ«Подобные прецеденты уже были по заявлениям в прессе от компании OpenAI и Anthropic о том, что китайские решения и другие мировые дистиллируют свои решения, то есть обучают свои нейронки на базе американских решений. Второе, возможно, это попытки войти в новый мир лицензирования не только физических технологий, например, процессоров, но и software-технологий -- нового вида ПО, а именно ИИ-моделей. А если можно что-то лицензировать, значит, с этого можно получать налоги».

Для Anthropic события разворачивается на фоне подготовки к IPO -- в начале июня стартап конфиденциально подал документы на первичное размещение, опередив своего главного конкурента Open AI. По итогам последнего инвестраунда компания также получила оценку свыше 900 млрд долларов, став самым дорогим разработчиком ИИ-моделей. Эксперты уверены, что последние ограничения не помешают Anthropic вырасти в цене, а, наоборот, только привлекут инвесторов в ходе IPO — часто технологии, вызывающие резонанс и запреты, только подтверждают революционность решений. Источник Axios также сообщал, что правительство планирует заблокировать Fable 5 только на несколько недель, которые потратит на укрепление киберзащиты официальных органов США.