OpenAI сообщила о создании комитета по безопасности и защите и начала обучение новой модели искусственного интеллекта (ИИ), которая заменит систему GPT-4, на которой работает ее чат-бот ChatGPT. Стартап из Сан-Франциско заявил в своем блоге, что комитет будет консультировать полный состав правления по «важным решениям в области безопасности» для проектов и операций.
Комитет по безопасности появился во время ожесточенных дебатов вокруг безопасности ИИ в компании, которая оказалась под большим вниманием после ухода исследователя Яна Лейке, который поднял критику против OpenAI за то, что безопасность «отодвинута на второй план».
OpenAI заявила, что «недавно начала обучение своей следующей модели» и что ее модели ИИ являются лидерами в отрасли по возможностям и безопасности. Комитет по безопасности заполнен внутренними сотрудниками компании, включая CEO Сэма Альтмана и председателя Брета Тейлора, и четырех экспертов по техническим и политическим вопросам OpenAI.
Источник: www.ferra.ru
Похожие новости:
Альтман полностью восстановлен в Совете директоров OpenAI после увольнения 17 ноября и возвращения 22 ноября 2023 года
OpenAI создала комитет по безопасности ИИ-проектов и подтвердила, что работает над новой ИИ-моделью
Альтман и Брокман заявили об отсутствии проблем безопасности в ИИ-продуктах OpenAI после ухода Суцкевера и Лейке
Илон Маск объявляет войну OpenAI: что это значит для будущего искусственного интеллекта?