По словам гендиректора OpenAI Сэма Альтмана, его беспокоит перспектива того, что ИИ будет контролироваться несколькими крупными игроками. По его словам, это приведёт к тому, что люди не смогут влиять на то, как технология будет формировать мир.
«Правильный подход — позволить людям контролировать будущее. Общество и модели будут развиваться вместе», — заявил Альтман в подкасте Дэвида Сенры.
Ещё одна тревожная перспектива, по его словам, заключается в том, что ИИ «освободится от человеческого контроля». При этом, как считает Альтман, страх перед последним может привести к реализации первого.
«Некоторых так беспокоит этот риск, что они чувствуют необходимость защитить мир, пожертвовать частью свободы ради безопасности», — отметил он, по‑видимому, имея в виду генерального директора Anthropic Дарио Амодеи, который много раз предупреждал об опасностях, связанных с быстрым развитием ИИ.
В июне Амодеи опубликовал эссе о новых моделях Mythos, где заявил, что передовые ИИ‑модели представляют «очень реальные риски» для кибербезопасности, нацбезопасности, финансов и критической инфраструктуры. Компания Anthropic также стала единственной крупной компанией в сфере ИИ, которая не подписала письмо в поддержку моделей с открытым исходным кодом.
Источник: habr.com