OpenAI переименовала свой комитет по безопасности и защите в «независимый комитет по надзору за советом директоров», который сможет откладывать запуски моделей искусственного интеллекта. Такое решение приняли после 90-дневного обзора процессов и мер безопасности в компании.
Комитет возглавляет Зико Колтер, директор департамента машинного обучения Школы компьютерных наук Университета Карнеги-Меллона, а также Адам Д’Анджело, соучредитель и генеральный директор Quora, отставной генерал армии США Пол Накасоне и Николь Селигман, бывший исполнительный вице-президент и главный юрисконсульт Sony Corporation. Комитет будет контролировать, среди прочего, процессы безопасности, направляющие разработку и развёртывание моделей OpenAI.. Он «будет проинформирован руководством компании об оценках безопасности для основных выпусков моделей и будет, вместе со всем советом директоров, осуществлять надзор за запуском моделей, включая полномочия откладывать выпуск до тех пор, пока проблемы безопасности не будут решены». Полный совет директоров OpenAI также будет получать «периодические брифинги» по вопросам безопасности и защиты.
90-дневный обзор комитета предоставил OpenAI «дополнительные возможности для отраслевого сотрудничества и обмена информацией ради повышения безопасности отрасли ИИ». Компания также будет искать «больше способов делиться и объяснять работу по безопасности» и «больше возможностей для независимого тестирования систем».
Члены комитета по безопасности OpenAI входят в совет директоров компании, поэтому неясно, насколько он независим на самом деле.
В мае OpenAI сформировала комитет по безопасности и защите, в состав которого вошли генеральный директор компании Сэм Альтман, а также члены совета директоров Брет Тейлор, Адам Д’Анджело и Николь Селигман. Также участие в его работе принял главный научный сотрудник Open AI Якуб Пахоцки и глава службы безопасности Мэтт Найт. Позднее к комитету присоединился бывший глава Агентства национальной безопасности Пол Накасоне. Альтман же теперь вышел из его состава.
В июле крупные IT-компании объявили о создании отраслевой организации «Коалиция за безопасный искусственный интеллект» (Coalition for Secure AI, CoSAI). В число участников и спонсоров-основателей коалиции вошли Microsoft, Google, Nvidia, Intel, IBM, PayPal, Amazon, Atrophic, Cisco, Chainguard, Cohere, GenLab, OpenAI и Wiz.
Источник: habr.com
Похожие новости:
Альтман полностью восстановлен в Совете директоров OpenAI после увольнения 17 ноября и возвращения 22 ноября 2023 года
OpenAI создает «независимый» совет по безопасности, который может остановить выпуск их моделей
Time включил актёров и блогеров в список 100 самых важных людей в сфере ИИ
Time включил актёров и блогеров в список 100 самых важных персон в сфере ИИ