Anthropic сообщила о злоупотреблениях, в которых пытались использовать ИИ-модель Claude

Компания представила отчет о попытках злоупотреблений возможностями модели Claude за декабрь 2025-го — август 2026 года. Фигурирует создание фальшивых приложений, систем слежки и контроля, кибершпионажа, создания биооружия (или вакцин) и разработки ПО для баллистики

ИИ-модель Claude пытались использовать для мошенничества, шпионажа и разработки оружия, в том числе биологического. Такие данные представила Anthropic в своем отчете о злоупотреблениях моделью с декабря по август. Вариантов злоупотребления Claude предостаточно, следует из доклада.

Есть случаи частного мошенничества — например, Claude использовался для создания сети фальшивых дейтинг-приложений, которые создавались для обмана пользователей. Но много и тревожных эпизодов использования ИИ на уровне государств. Например, описаны кейсы использования нейросети для создания систем слежки и контроля за диссидентами.

Кроме того, в докладе есть описание попытки использования модели для предполагаемого кибершпионажа за Украиной в пользу России. Злоупотребляли моделью Claude, согласно Anthropic, и китайские ИИ-разработчики — их компания обвинила в так называемой «дистилляции». То есть переносе возможностей Claude в свои ИИ-модели для их обучения.

Также из отчета следует, что группа, базирующаяся на севере Йемена, использовала модель Claude для разработки ПО для управляемого и баллистического оружия. Ей удалось провести тестовый запуск, который, впрочем, окончился неудачей.

Отдельно компания выразила озабоченность использованием Claude для возможной разработки биологического оружия. Как пишет FT, в документе говорится о пяти случаях, когда ученые из России, КНР и Ирана якобы пытались обойти защитные механизмы модели, скрыв цели своих исследований.

Впрочем, искомые данные могли использоваться как для разработки биооружия, так и для создания вакцин. Поэтому утверждать, что ученые планировали причинить вред, Anthropic не может.

Предупреждения об опасностях, которые несет ИИ, в последнее время звучат регулярно. В частности, теперь крайнюю озабоченность развитием искусственного интеллекта выразил один из ранних инвесторов Anthropic и OpenAI Грег Дженсен. По его мнению, самый правильный путь сейчас — замедление разработки и всей индустрии в целом. Однако, по его словам, «пока ИИ не начнет убивать людей», никто ничего не предпримет.

Ранее Reuters писало, что США намерены предложить Китаю сотрудничество в отслеживании кибератак, совершаемых с использованием ИИ.

Этот вопрос должен стать одним из ключевых на первых двусторонних переговорах по ИИ, которые пройдут в середине сентября.