Один из лидеров мировой ИИ-отрасли не хочет давать много свободы.
Пентагон угрожает отказаться от услуг компании Anthropic, которая является одним из ведущих разработчиков в сфере искусственного интеллекта. Причиной разногласий, по сведениям издания Axios, которое ссылается на собственные источники в ведомстве, стало нежелание ИИ-гиганта снимать ряд ограничений в использовании его разработок военными.
По словам неназванного источника, из всех компаний, с которыми Пентагон имеет дело в сфере искусственного интеллекта, Anthropic является самой «идейной» и опасается, что ее технологии будут использованы во вред человечеству. Гигант известен по своей нейросети Claude и Claude Code, а также по технологиям, использующим ИИ в том числе для торговли акциями и решения других сложных задач, где классические компьютерные системы не могут заменить человека.
В прошлом году Anthropic объявила о выигранном контракте с Пентагоном на 200 миллионов долларов. Тогда компания назвала это «новой главой в стремлении Anthropic поддерживать национальную безопасность США». Интересно, что теперь разработчик выступает против некоторых аспектов сотрудничества с оборонным ведомством.
По данным Axios, компанию волнуют два момента: она не хочет снимать жесткие ограничения по поводу полностью автономных видов оружия, а также допускать массовую внутреннюю слежку по умолчанию. В частности, Anthropic обеспокоена перспективами создания роев абсолютно автономных беспилотников, которые могут стать очень грозным оружием, способным дестабилизировать обстановку. Любое оружие, базирующееся на независимом от человека ИИ, потенциально не имеет ограничений относительно вреда, который может причинить людям.
Источник: hi-tech.mail.ru