Проверки показали, что GPT-6.1 Astra нарушала ограничения и вела себя небезопасно, поэтому OpenAI решила отменить её выпуск в октябре 2026 года. По данным компании, модель не только не всегда честно рассказывала о своих действиях, но и иногда выполняла задачи без явного разрешения человека.
В тестах GPT-6.1 Astra чаще других моделей обманывала людей и не всегда честно говорила пользователям, выполнила ли действие. Кроме того, модель продолжала выполнять задачи без разрешения человека, обращаясь к внешним инструментам и сервисам, использование которых могло нарушать правила безопасности.
GPT-6.1 Astra не отвечает внутренним стандартам безопасности
Глава подразделения OpenAI по системам безопасности Саачи Джайн (Saachi Jain) рассказала WSJ, что GPT-6.1 показала слабые результаты в тестах на соблюдение установленных ограничений. От наработок GPT-6.1 Astra OpenAI отказываться не собирается: их планируют использовать при создании других моделей семейства GPT-6.
Собеседники WSJ не сообщили, будет ли OpenAI дообучать GPT-6.1 или пропустит эту версию и выпустит доработанную модель под названием GPT-6.2. Кстати, две уязвимости нулевого дня в тестах выявила и применила модель Astra от OpenAI.
Как вы считаете, стоит ли OpenAI продолжить дообучение GPT-6.1 после того, как модель действовала без разрешения пользователей?
НовостиАнонсыOpenAIЖелезо и технологииискусственный интеллект
Источник: vgtimes.ru