Генеральный директор OpenAI Сэм Альтман заявил о сохраняющихся фундаментальных различиях в подходах его компании и конкурирующей фирмы Anthropic к вопросу регулирования искусственного интеллекта. В интервью Politico он отметил, что преимущества этой технологии оправдывают определённые риски, а сам ИИ должен оставаться широко доступным для общественности.
«Я думаю, между нами существует значительная разница в позициях», — сказал Альтман. Отвечая на вопрос о том, в чём именно расходятся взгляды OpenAI и Anthropic, он пояснил: «Мы считаем, что мир должен быть готов принять определённые негативные последствия ради преимуществ этой технологии и сохранения за людьми возможности самостоятельно принимать решения».
Компания Anthropic давно считается самым активным сторонником регулирования сферы ИИ в отрасли; до недавнего времени эта позиция контрастировала с более мягким подходом, которого придерживалась OpenAI. Однако в последние месяцы разногласия между двумя ведущими ИИ‑компаниями сгладились: OpenAI начала поддерживать более жёсткие правила на фоне громких инцидентов со взломами и случаев непредсказуемого поведения своих моделей.
Альтман поддержал озвученный главой Anthropic Дарио Амодеи в прошлом месяце призыв замедлить разработку наиболее совершенных моделей ИИ. Вслед за Anthropic его компания одобрила новые законы штатов, устанавливающие более строгие требования к безопасности, чем те, что ранее поддерживал создатель ChatGPT, — что свидетельствует о тонком изменении прежней стратегии взаимодействия с властями штатов. Кроме того, лоббисты OpenAI недавно поддержали двухпартийный законопроект Палаты представителей, обязывающий ведущие ИИ‑компании привлекать сторонних экспертов для оценки безопасности систем.
Несмотря на сближение позиций, Альтман попытался провести различие между подходом своей компании к регулированию и подходом Anthropic, сославшись на критику со стороны технических советников, близких к президенту Дональду Трампу, которые обвиняли Anthropic в стремлении к «захвату регулятора».
«Я не согласен с такой точкой зрения, но понимаю людей, которые рассуждают так: „Эта технология станет настолько мощной и опасной, что только одна лаборатория в Сан‑Франциско должна обладать ею, следить за тем, чтобы не случилось ничего плохого, и решать, как распределять выгоды от её использования“», — сказал Альтман. Он назвал такой подход «совершенно неприемлемым компромиссом», противоречащим принципу «мягкого регулирования», который поддерживает OpenAI.
«Я бы не пошёл на сделку, подразумевающую: „Мы гарантируем отсутствие крупных взломов, злоупотреблений технологией, мошенничества и прочих негативных последствий“», — заявил Альтман. — «Потому что я считаю, что люди принесут колоссальную пользу — на порядки большую, чем вред».
Позже генеральный директор OpenAI добавил, что не приемлет сценариев, связанных с «по‑настоящему катастрофическими рисками», включая возможность «серьёзной потери контроля над ИИ».
В ответ на просьбу прокомментировать ситуацию представитель Anthropic заявил, что их «предложения по регулированию касаются только передовых моделей». Компания также сослалась на августовскую дискуссию в социальных сетях, в ходе которой Амодеи обсуждал с одним из инвестиционных менеджеров критику по поводу «захвата регулятора» и влияния новых правил на небольшие компании.
«Anthropic всегда очень взвешенно подходила к разработке предложений по регулированию», — отмечал тогда он. — «Мы стремимся формулировать предложения так, чтобы они ставили в невыгодное положение (замедляли развитие) компаний, занимающихся передовыми системами ИИ, и при этом давали преимущество более мелким конкурентам».
Ранее Альтман говорил, что его беспокоит перспектива того, что ИИ будет контролироваться несколькими крупными игроками. По его словам, это приведёт к тому, что люди не смогут влиять на то, как технология будет формировать мир. «Правильный подход — позволить людям контролировать будущее. Общество и модели будут развиваться вместе», — заявил Альтман в подкасте Дэвида Сенры. Ещё одна тревожная перспектива, по его словам, заключается в том, что ИИ «освободится от человеческого контроля». При этом, как считает Альтман, страх перед последним может привести к реализации первого.
Источник: habr.com