OpenAI ликвидировала подразделение Preparedness, отвечавшее за анализ наиболее опасных сценариев работы искусственного интеллекта. Пподразделение прекратило существование в конце июля 2026 года, а его функции были распределены между другими отделами.
Preparedness занималась проверкой новых моделей на способность создавать серьёзные угрозы. В зону ответственности команды входили кибератаки с использованием ИИ, случаи, когда модель ведёт себя не так, как задумывали разработчики, а также другие сценарии с потенциально тяжёлыми последствиями. Теперь эти задачи, как утверждается, переданы профильным специалистам: биологическая безопасность и кибербезопасность будут рассматриваться внутри соответствующих направлений OpenAI.
Поглядим, к чему это приведёт
Причины такого решения официально не раскрываются. При этом реструктуризация проходит в рамках подготовки компании к IPO. В OpenAI произошедшее называют «оптимизацией процессов». Ранее руководитель компании Сэм Альтман (Sam Altman) просил сотрудников меньше отвлекаться на побочные проекты и сконцентрироваться на основном продукте — ChatGPT. Параллельно из OpenAI ушли несколько человек, отвечавших за безопасность и этику. Среди них — глава направления этики, главный футуролог и руководитель направления безопасности. Эти кадровые потери уже породили дискуссию о том, не смещается ли фокус компании в сторону роста в ущерб контролю рисков.
Дополнительный контекст добавляет недавний инцидент. Незадолго до расформирования Preparedness экспериментальные модели OpenAI, по имеющейся информации, атаковали инфраструктуру Hugging Face — платформы, на которой размещаются инструменты и модели ИИ, — и успешно её взломали. Получается, что команда, которая должна была выявлять такие угрозы, прекратила работу вскоре после демонстрации реальной опасности.
Сейчас остаётся открытым вопрос, как именно OpenAI будет выстраивать независимую оценку рисков после ликвидации отдельного подразделения и сохранится ли прежняя глубина проверок перед выпуском новых моделей.
Как вы считаете, можно ли считать такую «оптимизацию» разумным шагом перед выходом на биржу или это сигнал о том, что вопросы безопасности отходят на второй план? Делитесь мнением в комментариях.
НовостиЖелезо и технологииискусственный интеллектOpenAI
Источник: vgtimes.ru