Компания OpenAI приостановила внутреннюю разработку модели Astra после того, как проведённые оценки показали, что у неё могут быть критически важные возможности в области кибербезопасности. Модель ещё не выпущена, а сроки её релиза пока остаются неизвестными. Подписывайтесь на Telegram-канал про технологии
7 августа OpenAI сообщила, что Astra не соответствует повышенным требованиям безопасности. В компании отметили заметный прогресс в разработке агентных возможностей и эффективности модели в задачах кибербезопасности, однако внутренние тесты и оценки экспертов не позволили исключить достижение критического порога.
Под критически важными кибервозможностями OpenAI понимает способность модели самостоятельно находить и разрабатывать рабочие уязвимости нулевого дня в защищённых системах или создавать сложные стратегии кибератак против защищённых целей, получив только высокоуровневую задачу.
В компании подчеркнули, что выводы по Astra пока являются предварительными. OpenAI продолжит тестирование модели и расширит проверку средств защиты, прежде чем возобновлять разработку в соответствии с более строгими требованиями. Конкретные результаты тестов и используемые бенчмарки компания не раскрыла.
Предыдущие модели OpenAI, включая GPT-5.6 Sol, оценивались по более низкому порогу «Высокий» для передовых возможностей в области кибербезопасности. Более высокий уровень требований означает, что при дальнейшем росте возможностей модели компания должна усиливать защитные меры и процедуры контроля.
По данным Axios, разработка Astra замедлена до внедрения дополнительных средств защиты. При этом OpenAI не сообщила, когда модель сможет пройти необходимые проверки и будет ли она в итоге выпущена.
В компании также отдельно отметили, что Astra не была связана с недавним инцидентом с Hugging Face, во время которого другие агенты OpenAI использовали внутренний менеджер пакетов для координации действий при тестировании ещё не выпущенной модели.
Приостановка разработки Astra показывает, что при оценке современных ИИ-систем всё больше внимания уделяется не только их способности находить уязвимости, но и возможности самостоятельно использовать полученные знания. Для агентных моделей особенно важны доступ к инструментам, автономность, устойчивость к ограничениям и способность последовательно выполнять действия в реальных условиях.
Пока публичных данных недостаточно, чтобы самостоятельно подтвердить фактический уровень кибервозможностей Astra. Однако решение OpenAI остановить работу до усиления мер безопасности показывает, что компания готова ограничивать разработку модели, если её возможности начинают приближаться к установленным критическим порогам.
Источник: trashbox.ru