Сэм Альтман основал OpenAI в 2015 году с высокой миссией: разработать искусственный интеллект общего назначения, который «принесет пользу всему человечеству». Для поддержки этой миссии он выбрал некоммерческую организацию.
Но по мере того как компания приближается к разработке искусственного интеллекта общего назначения, пока еще теоретической версии ИИ, способного рассуждать не хуже человека, денег от инвесторов становится все больше. Некоторые беспокоятся, что Альтман теряет из виду часть цели — «принести пользу всему человечеству».
В 2019 году OpenAI объявила о создании коммерческого подразделения, чтобы помочь финансировать свою некоммерческую миссию, но, следуя своему первоначальной цели, компания ограничила прибыль, которую смогут получить инвесторы.
«Мы хотим расширить наши возможности по привлечению капитала и в то же время служить нашей миссии, и ни одна из известных нам юридических структур не обеспечивает правильного баланса», — заявили тогда в OpenAI. Наше решение — создать OpenAI LP как гибрид коммерческой и некоммерческой компании, которую мы называем «capped-profit»».
Это был ловкий ход, который, на первый взгляд, должен был удовлетворить сотрудников и заинтересованных лиц, обеспокоенных безопасным развитием технологии, а также тех, кто хотел видеть компанию более активной в производстве и выпуске продуктов. Но по мере того как инвестиции вливались в коммерческую сторону, а известность компании и Альтмана росла, некоторые занервничали.
В прошлом году совет директоров OpenAI ненадолго сместил Альтмана из-за опасений, что компания слишком активно выпускает продукты, не уделяя приоритетного внимания безопасности. Сотрудники и, в первую очередь, Microsoft (с ее многомиллиардными инвестициями) пришли на помощь Альтману. Альтман вернулся на свой пост всего через несколько дней.
Два ведущих исследователя компании, Ян Лейке и Илья Суцкевер, вскоре ушли в отставку. Этот дуэт возглавлял так называемую команду супер-согласования, в задачи которой входило обеспечение безопасной разработки искусственного интеллекта общего назначения — главного постулата миссии OpenAI. В том же месяце OpenAI полностью расформировала команду супер-согласования.
«OpenAI должна стать компанией, создающей AGI с учетом требований безопасности», — написал Лейке, добавив, что создание генеративного ИИ — „опасное занятие по своей сути“, но сейчас OpenAI больше озабочена созданием „блестящих продуктов“.
Похоже, что OpenAI уже почти завершила свое превращение в компанию Big Tech. Fortune сообщила, что на прошлой неделе Альтман сказал сотрудникам на встрече, что в течение следующего года компания планирует отойти от управления некоммерческим советом, который она «переросла».
В субботу многие источники сообщили, что OpenAI находится на грани получения еще 6,5 миллиардов долларов инвестиций, что оценит компанию в 150 миллиардов долларов. По информации Reuters, инвестиции не заставят себя ждать: OpenAI должна отказаться от ограничения прибыли для инвесторов.
Таким образом, OpenAI окажется идеологически далека от своих мечтательных первых дней, когда ее технология должна была быть с открытым исходным кодом и служить на благо всех.
OpenAI сообщила Business Insider в своем заявлении, что она по-прежнему сосредоточена на «создании ИИ, который приносит пользу всем», продолжая работать со своим некоммерческим советом. «Некоммерческая организация является основой нашей миссии и будет продолжать существовать», — заявили в OpenAI.
Источник: habr.com
Похожие новости:
Альтман полностью восстановлен в Совете директоров OpenAI после увольнения 17 ноября и возвращения 22 ноября 2023 года
Альтман и Брокман заявили об отсутствии проблем безопасности в ИИ-продуктах OpenAI после ухода Суцкевера и Лейке
Технологии в агрокомплексе: мастера, подмастерье и искусственный интеллект
Уровень «цифровой зрелости» компаний в России выше, чем в среднем по миру