В этой статье вы сможете прочитать пересказ текста издания The Intercept о тесном сотрудничестве крупнейших ИИ-лабораторий с Министерством обороны США.
Редакция The Intercept через суд получила более 400 страниц документов о сотрудничестве Пентагона с OpenAI, Anthropic, Google и xAI. Компании обязались создавать прототипы, обучать военнослужащих и участвовать в штабных учениях. Отдельное соглашение с OpenAI предусматривало работу её инженеров непосредственно в военных структурах.
Но прежде чем перейти к расследованию, коротко объясню, почему считаю эту тему важной.
Компании много говорят о безопасном и этичном ИИ. Пользователям запрещают реверсить софт и создавать моды для видеоигр. Нас пугают всемогущим AGI, который вот‑вот выйдет из-под контроля и захватит мир, если мы не замедлим развитие моделей и позволим плохим ребятам бесконтрольно пользоваться LLM.
Но какой толк от послушного искусственного интеллекта, если операторами такой системы становятся военные и спецслужбы, которым AI позволит автоматизировать монополию государства на насилие и принуждение?
Разговор выходит за рамки технической надежности моделей. ИИ не сделает мир лучше, если он используется для концентрации власти, массовой слежки и убийства людей — даже под ширмой «национальной безопасности» и «защиты демократии».
Риски массового распространения подобных технологий гораздо осязаемее многих гипотетических сценариев будущего AGI. Для этого не нужен сверхинтеллект: достаточно использования технологий для безграничной концентрации власти.
В мире до сих пор нет универсального международного договора, который запрещает создание и использование автономного оружия. При этом алгоритмы уже используются на разных этапах AI Kill Chain — от разведки до выбора целей и планирования ударов. ИИ‑лаборатории забывают про всечеловеческую этику, когда подписывают контракты на разработку инструментов, которые должны «усилить военное преимущество, повысить практическую ценность для военных или улучшить принятие военных решений» во всех видах вооружённых сил.
Мы живём в мире, где крупнейшие технологические компании открыто интегрируют свои разработки в военную инфраструктуру, тогда как общество располагает крайне ограниченными возможностями контролировать этот процесс — или хотя бы сделать его более прозрачным. Поэтому перед международным сообществом возник новый вызов: определить правила, которые помогут контролировать тех, кто контролирует ИИ.
Чтобы понять глубину проблемы, взгляните на заявление Дарио Амодеи, генерального директора компании Anthropic:
«Частично автономное оружие, подобное тому, что сегодня используется в Украине, жизненно важно для защиты демократии. Даже полностью автономное оружие — системы, которые полностью исключают человека из процесса принятия решений и автоматически выбирают и поражают цели, — может оказаться критически важным для нашей национальной обороны.
Однако современные передовые системы ИИ пока недостаточно надёжны для управления полностью автономным оружием. Мы не будем сознательно предоставлять продукт, который подвергает риску американских военнослужащих и гражданское население. Мы предложили Министерству обороны США напрямую сотрудничать с нами в исследованиях и разработках, направленных на повышение надёжности таких систем, но ведомство не приняло наше предложение».
Получается, что Дарио считает автономное оружие не угрозой для человечества, а инженерным проектом, который требуется лишь доработать, прежде чем выпустить его в продакшн.
Ещё несколько лет назад крупнейшие ИИ-компании публично отказывались от военного применения своих технологий. Теперь они заключают контракты с Пентагоном, а полностью автономное оружие обсуждается как перспективная технология. Похоже, его широкое распространение становится вопросом развития ИИ и эффективности сотрудничества военных с корпорациями.
Далее идет пересказ статьи Сэма Биддла из The Intercept:
AI Giants Work Hand-in-Hand With the Pentagon, Contracts Reveal
Спор между Anthropic и Пентагоном шёл публично. Стороны обменивались резкими заявлениями о том, как военные могут использовать ИИ в своих целях. Условия контракта, из-за которого возник конфликт, долго оставались закрытыми. The Intercept при поддержке организации Legal Advocates for Safe Science and Technology подал иск по американскому закону о свободе информации и получил документы о сделках военного ведомства с Anthropic и её конкурентами.
В подборку вошли соглашения, которые Министерство обороны США заключило с Anthropic, Google, OpenAI и xAI в июле 2025 года, и последующие поправки к ним. Предельная сумма каждого контракта составляла 200 млн долларов. Компании обязались разработать прототипы ИИ-инструментов для задач, связанных с военными операциями, автоматизированным принятием решений, логистикой и разведкой. По данным The Intercept, прототипы легли в основу инструментов, которые к моменту публикации уже работали в засекреченных сетях ведомства. В опубликованных документах часть условий закрыта.
По мнению Софии Гудфренд, исследовательницы Кембриджского университета и внештатной сотрудницы программы Middle East Initiative в Гарварде, в документах, вероятно, впервые настолько прямо описан масштаб сотрудничества ИИ-лабораторий с Пентагоном. «Особенно примечательны условия, на которых инженеры тесно сотрудничают с военным ведомством, создавая ИИ-системы для слежки, выбора целей и убийства людей», — рассказывает она изданию.
В официальных заявлениях сторон после заключения сделок было мало конкретики и много воды. «Мы должны вооружить наших бойцов технологиями XXI века, чтобы они могли противостоять угрозам XXI века», — объяснял тогда представитель Пентагона Шон Парнелл.
Представители Google выражались столь же уклончиво: «Эти передовые ИИ‑решения позволят Министерству обороны эффективно решать оборонные задачи и расширять внедрение ИИ‑агентов в корпоративных системах. Это ускорит инновации и повысит эффективность за счёт гибких и проверенных технологий».
Но благодаря документам стало понятно, что контракты выходили далеко за рамки обычной продажи ПО.
Что журналисты нашли в документах
Во всех четырёх контрактах есть положение об обмене информацией, который предусматривает двустороннюю передачу данных и обмен опытом. Разработчики должны были дать Пентагону доступ к своим наиболее продвинутым языковым моделям. Соглашение с Google прямо предусматривало участие компании в создании стратегии внедрения ИИ в Министерство обороны и Главное управление по цифровым технологиям и искусственному интеллекту (CDAO).
Военные могли передавать компаниям секретные данные для проверки моделей на задачах ведомства, сведения об оперативных задачах и угрозах, а также планы дальнейшего внедрения ИИ. Все четыре компании должны были консультировать Пентагон по этим планам и рассказывать военным о возможностях своих моделей, текущих и будущих сценариях применения и перспективах развития технологий.
Google также поручили информировать Пентагон о том, какими способами конкуренты США применяют ИИ.
Компании должны были обучать военных и проводить брифинги. В документах отдельно упоминаются семинары Google по ответственному внедрению ИИ. Инженерам и специалистам по вопросам политики из всех четырёх компаний предстояло участвовать в учениях, на которых реальные сценарии разыгрывают в формате симуляции.
Пентагон рассчитывал, что такой обмен между военными и частным сектором позволит «пошагово совершенствовать передовые ИИ‑модели для решения практических задач в таких областях, как анализ разведданных, кибербезопасность и автономные системы».
Риски
Контракты требовали от лабораторий оценивать риски моделей и участвовать в учениях по выявлению возможных угроз. Пентагон считает, что компании смогут заранее предупредить ведомство об опасностях, связанных с ИИ. Но Хайди Хлааф, главный научный сотрудник AI Now Institute и бывший инженер по безопасности OpenAI сомневается, что сами разработчики способны выстроить надёжные системы ограничений, поскольку OpenAI и Anthropic недавно сообщили, что во время испытаний модели взламывали инфраструктуру других компаний.
По оценке Хлааф, лаборатории уделяют слишком много внимания удобным для них темам, вроде предполагаемой международной гонки ИИ-вооружений и экзистенциальной угрозы человечества. Один из примеров — научно‑фантастические сценарии в духе «Терминатора», которые преувеличивают значимость самих компаний.
Она считает, что в интересах общества риски следует оценивать независимо. Если поручить разработчикам самим сообщать о рисках своих продуктов, возникает конфликт интересов. Кроме того, это «подрывает демократические процессы, когда ИИ‑лабораториям позволяют самим выносить вердикт о рисках в вопросах жизни и смерти».
Почему Пентагон и Anthropic поругались
После разработки прототипов масштабы проекта выросли. В новых редакциях контрактов появились дополнительные позиции и поправки, но правительство скрыло их содержание, сославшись на военную и коммерческую тайну.
Конфликт военных с Anthropic разгорелся во время обсуждения этих поправок. Компания не хотела подписывать новое соглашение, если там не будет прямого запрета на использование их технологий для слежки внутри страны и разработки автономного оружия. После этого министр обороны США Пит Хегсет объявил компанию угрозой для цепочки поставок и запретил государственным органам пользоваться её сервисами. В августе федеральный судья отменил это решение.
Чтобы не терять время, Пентагон заключил новые соглашения с Google, OpenAI и xAI. Они предусматривали развертывание инструментов инструментов, которые компании разрабатывали с лета 2025 года. По сообщениям СМИ, соглашение с OpenAI утвердили 27 февраля. Сэм Альтман признал, что со сделкой «определённо поспешили». На следующий день OpenAI опубликовала текст, в котором защищала своё соглашение с военным ведомством и настаивала, что в нем есть пункты, которые запрещают применять ее технологии для слежки внутри страны.
Поправки к контракту OpenAI от 27 февраля предусматривают, что компания направит инженеров в военные структуры. Там они будут помогать американским госслужащим внедрять и использовать ИИ-модели. Разработчиков «могут направлять в структуры обеспечения боевых операций, в том числе в объединённые командования, компоненты видов вооружённых сил и компоненты на театрах военных действий». Кроме того, раздел «Надзор за системой» скрыт целиком, а в аналогичных соглашениях с xAI и Google такого раздела нет.
В двух документах говорится, что Пентагон попросил OpenAI сделать так, чтобы модели как можно меньше отказывались выполнять запросы военных. Министерство и OpenAI в ответ заявили, что в документ по ошибки попали черновые материалы. По их словам, в подписанном контракте такого условия нет.
Эрозия ценностей
Тесные отношения с армией США, закреплённые в контрактах, показывают, как далеко ИИ‑индустрия отошла от прежних публичных обязательств в области безопасности и всеобщего благополучия.
OpenAI начинала как некоммерческая организация, которая ставила целью сделать так, чтобы общий искусственный интеллект принёс пользу всему человечеству. Ещё в начале 2024 года правила компании прямо запрещали использовать её технологии «в военных целях и для ведения боевых действий». В 2025 году Google убрала из своих принципов ограничения, касавшиеся слежки и технологий, предназначенных для причинения вреда людям.
Но времена изменились, и теперь обе компании осваивают почти триллионный бюджета Пентагона и пытаются нарастить смертоносный потенциал армии, которая недавно бомбила школьниц в Иране и гражданские суда в Карибском море.
Гудфренд указывает, что Anthropic и OpenAI говорили о жёстких ограничениях на разработку автономного оружия и средств массовой слежки уже после того, как подписали контракты, где упоминались «автономные системы». И именно эти контракты показывают, насколько обманчивы публичные декларации этих лабораторий о своих принципах.
Она сомневается, что компании действительно смогут ограничить использование моделей в военных целях.
Anthropic, Google и xAI не ответили на вопросы The Intercept о военных контрактах. Представитель OpenAI Нейт Эванс сообщил изданию, что подписанное соглашение закрепляет публично заявление компании компании. По его словам, технологии OpenAI нельзя использовать для массовой слежки внутри США, управления автономными системами вооружений или автоматизированного принятия решений с серьёзными последствиями.
Как ИИ используют на войне
В марте The Wall Street Journal сообщила, что, несмотря на запрет Хегсета, Центральное командование США использовало технологии Anthropic для нанесении ударов по Ирану и «выявления целей».
Технологические компании тесно сотрудничают с военными, а те используют их технологии для определения целей авиаударов. При этом неясно, могут ли компании вообще контролировать применение своего ПО в боевых операциях, когда оно уже в руках Пентагона.
В интервью Bloomberg главу Anthropic Дарио Амодеи спросили, применялись ли инструменты компании при американском ударе по школе в первый день войны с Ираном, в результате которого погибли 120 иранских школьников. Он ответил, что не знает.
Биддл отмечает, что из-за коммерческой тайны и ограничений, связанных с национальной безопасностью, полный масштаб участия американских технологических компаний в зарубежных военных операциях остаётся неизвестным
Вивиан Донг из Legal Advocates for Safe Science and Technology говорит: «ту самую технологию, которая ещё несколько недель назад самостоятельно взламывала сайты в открытом интернете, теперь используют, чтобы помогать Министерству обороны принимать решения. Общество вправе знать, как ведомство использует эту технологию и какие ограничения на неё действуют».
Источник: habr.com