Еще одна утечка у Anthropic: неавторизованные пользователи получили доступ к закрытой ИИ-модели Mythos

С помощью Mythos любой желающий может эксплуатировать уязвимость ПО быстрее, чем разработчик сможет ее устранить. В этот раз хакеры решили просто изучить модель ИИ, но в будущем все вряд ли будет так же безобидно

Неавторизованные и неизвестные пользователи получили доступ к закрытой ИИ-модели Mythos. Речь идет о самой мощной модели, которая способна в кратчайшие сроки находить уязвимости в программном обеспечении.

Несколько пользователей через частный онлайн-форум получили доступ к Mythos тогда же, когда Anthropic объявила о старте тестирования этой продвинутой модели ИИ, пишет Bloomberg. Технологию тестировали лишь с ограниченным количеством клиентов — в их числе Amazon, Apple, Microsoft и другие компании.

Специалисты по кибербезопасности отмечают, что она потенциально опасна: с помощью Mythos любой желающий может воспользоваться уязвимостью интересующего ПО быстрее, чем разработчик сможет ее устранить. В этот раз пользователи, получившие доступ, решили просто изучить модель ИИ, в другой раз ситуация может быть значительно хуже, отмечает Bloomberg:

«Пользователи, которым удалось получить несанкционированный доступ к Mythos, сделали это с помощью различных методов. В частности, это стало возможным благодаря сотруднику одного из подрядчиков Anthropic, у которого был личный доступ. Также известно, что эта группа людей состояла в закрытом канале в одной из социальных сетей: там они делились информацией о еще не выпущенных официально моделях ИИ от Anthropic, которую выискивали с помощью специальных ботов и на платформах, где может храниться код, вроде GitHub. В сочетании с анализом прежних моделей и благодаря недавней утечке данных из компании, клиентом которой является Anthropic, пользователи и смогли получить доступ к Mythos. По их словам, их интересовала именно новая модель ИИ, возможность изучить, а не использовать ее во вред. Никаких запросов, связанных с кибербезопасностью, они не отправляли, ограничившись простыми задачами для Mythos вроде создания веб-сайтов — в том числе для того, чтобы сторонний доступ не обнаружили в самом Anthropic. Ситуация в очередной раз подчеркнула, насколько трудно Anthropic предотвращать утечки и широкое распространение, пожалуй, самой мощной и потенциально опасной модели ИИ. Также остается вопрос: если получить доступ к Mythos удалось этой группе людей, не может ли ее использовать кто-то еще — и на этот раз с менее безобидными целями».

Тем временем в Anthropic заявили, что планируют в ближайшее время предоставить доступ к Mythos европейским банкам и расширить его для финансовых организаций Великобритании. На этом фоне японский Минфин планирует экстренную встречу с представителями крупнейших банков страны, чтобы обсудить риски, которые несет модель ИИ от Anthropic.