Представители крупнейших компаний, работающих в сфере искусственного интеллекта, призвали власти США заранее подготовить механизмы, которые позволят при необходимости замедлить развитие ИИ. Соответствующее открытое письмо подписали более 1100 специалистов из OpenAI, Anthropic, Google, Meta и других компаний. Подписывайтесь на Telegram-канал про технологии
Авторы документа считают, что особое внимание стоит уделить моменту, когда системы искусственного интеллекта смогут самостоятельно улучшать собственные возможности. Такой этап называют рекурсивным самосовершенствованием. По оценке Anthropic, современные модели уже быстро приближаются к этому уровню.
Разработчики предупреждают, что после достижения такого порога темпы развития ИИ могут резко вырасти. В этом случае возможности новых систем начнут опережать способность специалистов контролировать их работу и оценивать потенциальные риски.
Среди подписавших письмо оказались сооснователи Anthropic Джек Кларк и Джаред Каплан, главный научный сотрудник OpenAI Якуб Пачоцкий, а также руководитель направления безопасности ИИ в Google DeepMind Анка Драган. К инициативе присоединился и главный научный сотрудник Thinking Machines Джон Шульман. Он отметил, что лабораториям стоит начать создавать механизмы координации добровольно, не дожидаясь вмешательства правительства.
Призыв появился на фоне растущего числа предложений по регулированию отрасли. В последние недели собственные варианты контроля за развитием ИИ представили руководители Anthropic, OpenAI и Google DeepMind. Дополнительным поводом для обсуждения стал недавний инцидент, когда одна из моделей OpenAI смогла выйти за пределы тестовой среды и получить доступ к инфраструктуре платформы Hugging Face. На этом фоне власти США уже усилили контроль над выпуском отдельных передовых моделей, а обсуждение новых правил для отрасли становится все более актуальным.
Источник: trashbox.ru