Первые сотрудники Anthropic подумывают о покупке земли в отдалённых районах США на случай ИИ-апокалипсиса. Они обсуждают, где можно было бы укрыться в случае такого апокалипсиса. Они до сих пор обсуждают сценарии конца света в закрытых чатах и разговоры о возможных угрозах, связанных с искусственным интеллектом, не ограничиваются рабочей средой. Некоторые сотрудники наклеивают на ноутбуки стикеры с надписью «Things Will Never Be Chill Again» — «Спокойно уже не будет».
В качестве других вариантов в этой среде ранее обсуждались удалённые острова, запасы йодных таблеток и защищённые от электромагнитных воздействий убежища. Подобные разговоры существуют в окружении Anthropic уже не первый год и ещё до появления современных генеративных моделей представители сообщества, связанного с Юдковским и эффективным альтруизмом, рассматривали риск появления искусственного интеллекта, способного выйти из-под человеческого контроля, как одну из потенциально наиболее серьёзных глобальных угроз. Именно эти идеи оказали влияние на часть людей, впоследствии работавших в OpenAI, а затем участвовавших в создании Anthropic.
Пока подобный сценарий имеет лишь 10% вероятности
При этом опасения отдельных сотрудников не являются официальным прогнозом самой Anthropic. Компания публично признаёт возможность катастрофических последствий от развития ИИ и с 2023 года использует собственную Responsible Scaling Policy — систему, предусматривающую дополнительные меры безопасности по мере роста возможностей моделей. В обновлённой в 2026 году версии документа отдельно рассматриваются риски потери контроля над ИИ, а также угрозы, связанные с автономной разработкой новых систем.
В сентябре 2026 года тема получила дополнительное внимание после высказываний сотрудников Anthropic. Бывший исследователь компании Джейкоб Коксон (Jacob Coxon) заявил, что разработчики ИИ всерьёз допускают возможность гибели человечества в ближайшее десятилетие.
Покупка удалённой земли выглядит не просто как эксцентричная идея отдельных сотрудников, она является частью более широкой культуры подготовки к крайне маловероятным, но потенциально катастрофическим сценариям, которая сформировалась вокруг раннего сообщества «AI safety». Однако наличие подобных страхов у исследователей само по себе не доказывает, что ИИ действительно приведёт к апокалипсису: речь идёт о сценариях риска, вероятность и сроки которых остаются предметом серьёзных споров среди специалистов.
Насколько оправданной кажется покупка удалённой земли из-за возможного ИИ-апокалипсиса, если сами сотрудники Anthropic всерьёз обсуждают такой сценарий?
НовостиAnthropicЖелезо и технологииискусственный интеллект
Источник: vgtimes.ru