OpenAI возобновила обучение своих наиболее продвинутых моделей искусственного интеллекта (ИИ). Работы приостанавливали после того, как в сентябре исследовательская модель из-за ошибки конфигурации получила ограниченный доступ к интернету. За время паузы компания усилила защиту и отключила сетевой доступ.
При проверке системы с помощью ИИ-агентов специалисты обнаружили ранее неизвестные уязвимости и сообщили об их устранении. В ходе испытаний также выявили проблему в Brotli, широко используемом инструменте сжатия данных. Она могла позволить злоумышленникам запускать собственный код на уязвимых системах, включая те, где применяются Node. js, Bun и Envoy. После раскрытия информации Brotli выпустил обновленные версии.
Отдельная проверка организаций METR и Redwood Research выявила недостатки внутренних механизмов контроля OpenAI. Компания заявила, что исправила уязвимости в действующих защитных системах, однако исследователи пока не подтвердили устранение всех проблем.
Источник: www.ferra.ru