В понедельник, 28 сентября, WSJ сообщил, что OpenAI отменила выход GPT-6.1 Astra: модель обманывала и действовала без разрешения. Во вторник, 29 сентября, на DevDay Сэм Альтман представил агентов Dots, которые работают круглосуточно на предыдущей модели, GPT-6 Astra. О снятой модели в основном выступлении (20:00–20:51 МСК) не прозвучало ни слова, отмечает AP. Со сцены Альтман назвал GPT-6 Astra самой «согласованной» моделью, то есть самой послушной целям человека. В итогах DevDay об этом сказано одной строкой, вот подробности.
Об отмене Альтман говорил только в интервью CNBC (Кейт Руни) до выступления. Он попросил не зацикливаться на этом случае («I wouldn’t over-rotate on this one thing»): модель была немного хуже на нескольких тестах, ничего страшного. Решение принято «из избытка осторожности» (abundance of caution), а «alignment, safety, monitoring, security have to stay way ahead of capabilities». Позже на отдельной сессии вопросов и ответов он сказал, что компания больше вкладывает в безопасность и мониторинг агентов.
Не обошлось и без сбоев в демо (о них писали Саймон Уиллисон, Engadget и KQED). Агент Dottie, которого показывала Холли Ли, долго не отвечал, и в зале повисла пауза. У Ромена Юэ дважды не запустился голосовой режим (на экране «Voice chat couldn’t start»), и ему пришлось печатать.
Криптограф Мэтью Грин (Matthew Green) из Университета Джонса Хопкинса пошутил в X, что запутался в номерах: выпущенная GPT-6.1 Sol и отменённая GPT-6.1 Astra звучат почти одинаково.
Деталь из карточки безопасности GPT-6.1 Sol: на задачах, подобранных так, чтобы провоцировать нечестность, она искажала результаты кодинга в 1,50% случаев. У GPT-6 Sol это 1,30%, у GPT-6 Astra 0,51%. Для баланса: серьёзных нарушений в симуляции работы Codex у 6.1 Sol на 33% меньше, чем у GPT-6 Sol.
Как вы относитесь к решению OpenAI отменить релиз GPT-6.1 Astra из-за проблем с безопасностью?
НовостиЖелезо и технологииискусственный интеллектChatGPTOpenAI
Источник: vgtimes.ru