OpenAI решила не выпускать свою ИИ-модель GPT-6.1 Astra в октябре. Причиной стали опасения по поводу безопасности, возникшие у исследователей во время внутренних тестов. Об этом пишет The Wall Street Journal.
По данным газеты, модель вела себя «более обманчиво, чем её предшественница». Иногда она неточно сообщала о том, какие действия совершила, а какие нет. Также у неё были проблемы с «разрешением на выполнение задач» — она начинала выполнять задания без разрешения пользователя и иногда пыталась использовать внешние инструменты или сервисы, когда это могло быть «небезопасно».
Саачи Джайн, глава отдела безопасности OpenAI, также сообщила газете, что модель Astra «не соответствовала стандартам компании» в тестах на соответствие поведения.
Источник: www.ferra.ru