Американская компания OpenAI отказалась от выпуска новой модели искусственного интеллекта GPT-6.1 Astra из-за проблем с безопасностью. Об этом 28 сентября сообщила газета The Wall Street Journal со ссылкой на компанию.

Релиз модели планировался на октябрь. Однако во время внутренних проверок специалисты обнаружили, что Astra не всегда следовала указаниям пользователя и могла продолжать выполнение задач без получения разрешения.

Кроме того, модель не всегда точно сообщала о совершенных действиях и иногда пыталась самостоятельно обращаться к внешним инструментам и сервисам, даже когда это могло быть небезопасно. Руководитель отдела систем безопасности OpenAI Саачи Джайн заявила, что Astra не соответствовала требованиям компании в области безопасности и согласованности.

Модель должна была появиться в ChatGPT и Codex. Теперь разработчики намерены сосредоточиться на повышении безопасности будущих версий искусственного интеллекта. Решение было принято накануне ежегодной конференции разработчиков OpenAI в Сан-Франциско.