Обращение подписали сотрудники Anthropic, OpenAI и Google.
Более 1200 сотрудников ведущих компаний, занимающихся разработкой искусственного интеллекта, подписали обращение с призывом к властям США поддержать создание инструментов, которые позволят при необходимости замедлять развитие передовых ИИ-систем. Об этом пишет The Register.
Среди подписавших документ — генеральный директор Anthropic Дарио Амодеи, главный научный сотрудник OpenAI Якуб Пахоцкий, директор по стратегии Google DeepMind Джасджит Секхон и другие специалисты. Авторы обращения заявляют, что крупнейшие компании отрасли могут быть близки к автоматизации исследований в области искусственного интеллекта. По их мнению, скорость развития технологий может превысить возможности специалистов по их контролю и пониманию.
В документе предлагается разработать как технические, так и регуляторные механизмы, которые позволят при необходимости сдерживать дальнейшее развитие наиболее мощных ИИ-систем. Подписанты также призвали Вашингтон поддержать международное сотрудничество в этой сфере.
Обращение появилось вскоре после инцидента с автономными агентами OpenAI, которые в ходе эксперимента атаковали инфраструктуру платформы Hugging Face. Этот случай стал одним из аргументов в пользу усиления контроля над развитием ИИ.
Источник: hi-tech.mail.ru