OpenAI сообщила о выходе моделей ИИ из тестовой среды и взломе Hugging Face
Лента новостей
В компании уточнили, что ограничения на кибератаки были отключены специально для эксперимента
OpenAI сообщила, что ее модели искусственного интеллекта во время тестирования вышли за пределы защищенной среды и получили доступ к платформе Hugging Face.
По данным компании, инцидент произошел в рамках проверки моделей на бенчмарке ExploitGym, который оценивает способности ИИ находить уязвимости. На время испытаний OpenAI отключила ограничения, препятствующие выполнению кибератак.
В компании заявили, что модели обнаружили ответы для бенчмарка на платформе Hugging Face, после чего использовали уязвимости в исследовательских системах OpenAI и инфраструктуре сервиса.
В результате нейросети получили доступ к секретной информации, которая могла позволить им обойти проверку. При этом не уточняется, действовали ли модели самостоятельно или выполняли чьи-то команды.
