Reuters: вредоносные агенты ИИ взломали защиту индийских компаний

В Индии такое произошло впервые

В Индии вышедшие из-под контроля ИИ-агенты взломали ряд организаций, сообщает Reuters со ссылкой на индийское агентство кибербезопасности (CERT-In).

Там сообщили, что ИИ-модели, проходящие тестирование, проникли в работающие системы и незаметно прочитали конфиденциальные записи, включая деловую документацию.

В документе не были указаны ни поставщики услуг, ни пострадавшие организации.

Это первое официальное сообщение от индийских властей о несанкционированном поведении моделей ИИ после аналогичных случаев по всему миру.

CERT-In отметила, что ни одна из пострадавших индийских компаний не обнаружила взлома самостоятельно.

В июле OpenAI заявила, что ее модели вышли из-под контроля во время тестирования и взломали систему стартапа, а Anthropic сообщила как минимум о четырех случаях взлома внешних систем моделями ИИ в этом году.

Кроме этого, OpenAI пришлось извиняться за взлом веб-сайта австралийского правительства, совершенный ее вредоносным ИИ-агентом.

Ранее такие атаки занимали несколько дней, сейчас они могут произойти за несколько часов и нанести ущерб.