Топ-менеджеры Anthropic, OpenAI и других ИИ-компаний в частном порядке проигрывают сценарии общественного и политического бунта после катастрофического события, связанного с ИИ.
Об этом пишет Axios. По данным издания, руководители ждут масштабного инцидента, скорее всего кибератаки, которая отключит доступ к финансовым услугам, интернету, а возможно, электричеству и воде. Первый случай серьезного реального ущерба от небезопасного ИИ еще сильнее настроит против технологии и ее лидеров: гендиректора Anthropic Дарио Амодеи, главу OpenAI Сэма Альтмана и президента Трампа, который не спешит регулировать отрасль.
Сценарное планирование само по себе обычная практика: Пентагон проводит военные игры десятилетиями. Отличие в том, что многие ведущие исследователи и топ-менеджеры ИИ-компаний считают крупный инцидент неизбежным. Инсайдеры, опрошенные Axios, ждут его в ближайшие шесть–двенадцать месяцев.
В OpenAI сообщили, что проводят учения по готовности: команды обсуждают разные сценарии, хотя компания не считает их неизбежными. Anthropic от комментариев отказалась.
Как пример вреда, который способен причинить один человек, издание приводит недавнюю кампанию против финансовых организаций Южной Кореи, включая сообщения о взломе двух банков. По данным CrowdStrike, хакер из Китая использовал ИИ-инструменты на основе китайских моделей, в том числе DeepSeek, чтобы похитить данные десятков тысяч клиентов банков, а Claude Code применял для поиска площадок, где можно продать украденное.
Планировщики из ИИ-компаний исходят из того, что после промежуточных выборов демократы быстро попытаются остановить развитие ИИ, но столкнутся с трудностями. Конгресс далек от ИИ-революции, мировая экономика тесно связана со строительством ИИ-инфраструктуры, а модели с открытыми весами уже можно свободно скачать и использовать во вред. Большинство специалистов по кибербезопасности считают, что справиться с этим можно только с помощью ИИ против ИИ.
Источник: hi-tech.mail.ru