Группа бывших сотрудников OpenAI, исследователей и некоммерческих организаций призывает регулирующие органы заблокировать предложенную корпоративную реструктуризацию OpenAI, утверждая, что она ставит под угрозу основополагающую миссию компании по разработке общего искусственного интеллекта (AGI) на благо человечества.
В открытом письме группа выступает против запланированной передачи операционного контроля от некоммерческой организации корпорации общественного блага (PBC), заявляя, что такой переход поставит интересы акционеров выше общественной ответственности и безопасности.
Среди видных подписавших письмо — эксперт AI и лауреат Нобелевской премии Джеффри Хинтон (Университет Торонто), исследователь этики AI Маргарет Митчелл (Hugging Face) и ученый-компьютерщик Стюарт Рассел (Калифорнийский университет в Беркли). Письмо также поддержали бывшие сотрудники OpenAI, преподаватели Гарварда, Калифорнийского университета в Лос-Анджелесе и Колумбийского университета, а также такие организации, как Центр гуманных технологий.
OpenAI была основана в 2015 году как некоммерческая организация, мотивированная опасениями, что коммерческие компании могут разрабатывать AGI без достаточного соответствия общественному благу. В 2019 году OpenAI создала коммерческую дочернюю компанию OpenAI LP для привлечения капитала, сохраняя при этом некоммерческий надзор. В рамках этой гибридной модели прибыль была ограничена, был учрежден независимый совет директоров, а право собственности на технологию AGI оставалось за некоммерческой организацией.
Предлагаемая реструктуризация передаст операционный контроль новому PBC, оставив некоммерческую организацию в качестве акционера без полномочий управления. Согласно письму, это устранит ключевые правовые гарантии, которые в настоящее время отдают приоритет миссии OpenAI над прибылью:
Гарантии управления
Сегодня
Предлагаемая реструктуризация
1. Мотивы получения прибыли подчинены благотворительным целям.
Да
Нет
2. Руководство имеет фидуциарную обязанность содействовать благотворительным целям, выполнение которой контролируется генеральным прокурором.
Да
Нет
3. Прибыль инвесторов ограничена, а прибыль, превышающая установленный лимит, принадлежит некоммерческой организации.
Да
Ходят слухи, что нет
4. Большинство независимых приверженностей совета директоров
Да
Неизвестный
5. После разработки AGI будет принадлежать некоммерческой организации, которая будет служить на благо человечества.
Да
Нет по умолчанию
Авторы пишут: «Предлагаемая реструктуризация ставит под угрозу все эти гарантии и поэтому должна быть остановлена». В письме подчеркивается, что некоммерческая структура OpenAI не является символической, а представляет собой юридически обязательный механизм, который гарантирует, что ее миссия остается первостепенной. Группа призывает генеральных прокуроров Калифорнии и Делавэра, которые курируют некоммерческие организации, зарегистрированные в их штатах, расследовать предлагаемые изменения.
В письме далее критикуется отсутствие прозрачности в отношении того, кто будет контролировать технологию AGI в рамках новой структуры, или получит ли Microsoft — крупнейший инвестор OpenAI — доступ к ней. Авторы также выражают обеспокоенность тем, что пункт «остановить и помочь» из устава OpenAI, который требует от компании поддерживать другие проекты AGI, ориентированные на безопасность, если они первыми достигнут AGI, больше не будет иметь юридической силы.
Согласно письму, реструктуризация OpenAI «принесет пользу акционерам OpenAI за счет общественности». Они утверждают, что это повлияет на то, как будет развиваться AGI, кто получит от этого прибыль и кто в конечном итоге будет его контролировать.
Авторы утверждают, что на карту поставлено, «будет ли OpenAI вкладывать время и ресурсы в обеспечение безопасности и пользы своих систем AI для человечества или безрассудно устремится вперед ради конкурентной и финансовой выгоды».
Авторы также оспаривают обоснование реструктуризации OpenAI. OpenAI ссылается на необходимость упрощенной структуры капитала, чтобы оставаться конкурентоспособной с другими хорошо финансируемыми фирмами AI. Но в письме оспаривается это обоснование, отмечая, что конкуренты OpenAI не связаны фидуциарными обязательствами отдавать приоритет общественному благосостоянию, в отличие от ее текущей некоммерческой структуры.
«OpenAI называет тот факт, что интересы инвесторов подчинены миссии, проблемой, которую необходимо решить, но это именно то, что нельзя изменить, не подрывая миссию», — говорится в письме.
OpenAI также заявила, что реорганизация позволит некоммерческой организации стать «одной из наиболее обеспеченных ресурсами некоммерческих организаций в истории». Однако авторы полагают, что некоммерческая организация получит только справедливую рыночную стоимость своей доли в коммерческом подразделении и потеряет контроль над управлением AGI.
Эти опасения не ограничиваются открытым письмом. Двенадцать бывших сотрудников OpenAI ранее направили письмо в поддержку иска Илона Маска против компании, повторяя многие из тех же критических замечаний. В их иске утверждается, что OpenAI использовала свой некоммерческий статус для привлечения исследователей, ориентированных на безопасность, в то время как внутри компании готовилась к коммерческому повороту.
В заявлении под присягой бывший исследователь Тодор Марков обвинил генерального директора Сэма Альтмана в применении ограничительных соглашений о конфиденциальности и искажении долгосрочных намерений компании. По мнению группы, запланированный переход к PBC будет представлять собой фундаментальное нарушение основополагающей миссии OpenAI.
Если реструктуризация не будет продолжена, OpenAI может столкнуться со значительными финансовыми проблемами. Сообщается, что часть финансирования текущего инвестиционного раунда зависит от завершения реорганизации к концу года. Без этого OpenAI рискует потерять поддержку инвесторов и может столкнуться с трудностями в сборе миллиардов, необходимых для вычислительной инфраструктуры, обучения моделей и кадрового обеспечения.
Источник
Источник: habr.com
Похожие новости:
Тест ARC-AGI-2: новый стандарт для измерения интеллекта ИИ
Reuters: OpenAI станет коммерческой организацией, её глава Сэм Альтман получит долю в компании
Франсуа Шоле является соучредителем некоммерческой организации по разработке бенчмарков для AGI
OpenAI и концепция AGI: планы генерального директора Сэма Альтмана