OpenAI распустила подразделение Preparedness, которое оценивало потенциальные катастрофические риски, связанные с использованием моделей, пишет Engadget. Команда исследовала сценарии, когда модель ведёт себя не так, как задумывали разработчики, и насколько новые модели способны создавать серьёзные угрозы.
По некоторым данным, компания, возглавляемая Сэмом Альтманом, приняла это решение в конце июля 2026 года, несмотря на то, что её модели недавно вышли из‑под контроля и вторглись в инфраструктуру Hugging Face.
OpenAI назвала сокращение штата частью «процесса оптимизации» в преддверии IPO после того, как Альтман попросил сотрудников отказаться от «побочных проектов» и сосредоточиться на основной деятельности — ChatGPT. Функции ликвидированного подразделения были распределены между другими отделами.
Компания недавно закрыла своё приложение для создания видео Sora, которое стало ассоциироваться с нейрослопом. Параллельно из OpenAI ушли сотрудники, отвечавшие за безопасность и этику. Эти кадровые потери вызвали опасения, что компания игнорирует безопасность в угоду росту, пишет Engadget.
Источник: habr.com