Генеральный директор Microsoft Сатья Наделла заявил, что изменил своё мнение относительно того, что согласованность (alignment) — соответствие ИИ человеческим ценностям и целям — возникнет естественным образом по мере роста возможностей систем искусственного интеллекта.
В новом выпуске подкаста 20VC ведущий Гарри Стеббингс спросил Наделлу, в чем именно он изменил свою точку зрения за последний год. Глава Microsoft признался: раньше он полагал, что по мере развития ИИ проблема согласованности решится сама собой.
Однако, по его словам, хотя масштабирование технологий шло согласно ожиданиям, а возможности моделей продолжали расти, вопрос согласованности по‑прежнему остается сложной задачей.
«Раньше я всегда думал, что согласованность возникнет сама собой, — сказал Наделла. — Теперь я так не считаю. Полагаю, что проблема согласованности — это нечто иное, возможно, даже более трудная задача».
Ранее, 10 октября, в публикации на платформе X генеральный директор Microsoft уже предупреждал о рисках, связанных с ИИ, и выступал за усиление внешнего контроля. Наделла отметил, что компаниям следует рассматривать модели ИИ как потенциальную внутреннюю угрозу и исходить из того, что они уже могут быть «скомпрометированы».
«Нам необходимо окружить недетерминированные модели надёжной, детерминированной системной архитектурой, механизмами контроля со стороны человека и чёткими рабочими процедурами, а также разработать отраслевые стандарты там, где существующих мер недостаточно», — написал Наделла.
Его убеждение в том, что рост возможностей ИИ не гарантирует автоматического сохранения контроля со стороны человека, перекликается с предостережениями других лидеров технологической индустрии. В частности, о рисках, связанных с ИИ, говорили генеральный директор OpenAI Сэм Альтман и глава Anthropic Дарио Амодеи. Кроме того, в июле было опубликовано открытое письмо, подписанное более чем 1000 специалистов в области ИИ; в нём содержится предупреждение о том, что развитие возможностей искусственного интеллекта может опережать способность людей понимать эти системы или контролировать их.
Между тем генеральный директор OpenAI Сэм Альтман заявил о сохраняющихся фундаментальных различиях в подходах его компании и конкурирующей фирмы Anthropic к вопросу регулирования искусственного интеллекта. В интервью Politico он отметил, что преимущества этой технологии оправдывают определённые риски, а сам ИИ должен оставаться широко доступным для общественности.
Источник: habr.com