DeepMind, «дочка» Google, запускает AI Safety and Alignment, новую организацию, посвященную безопасности и искусственному интеллекту (ИИ). Она включает команды, работающие над конкретными мерами безопасности для моделей GenAI, а также новую группу, фокусирующуюся на безопасности искусственного общего интеллекта (AGI).
Работая рука об руку с уже существующей командой по безопасности ИИ в Лондоне, Scalable Alignment, новая группа будет исследовать технические аспекты управления будущими ИИ. Лидером новой команды станет Анка Драган, ранее занимавшая пост исследователя в Waymo и профессора компьютерных наук в UC Berkeley.
Google планирует сосредоточиться на обеспечении безопасности в областях, таких как медицинские рекомендации и детская безопасность, а также предотвращении усиления предвзятости. Новая команда также будет работать с темой безопасности AGI, что схоже с инициативой Superalignment от OpenAI.
Хотя детали о числе новых наймов не были раскрыты, Google подчеркнула, что эта инициатива является частью их усиленного фокуса на безопасность ИИ.
Источник: www.ferra.ru
