В обновлённой форме S-1/A Anthropic сообщила, что в сентябре 2026 года Claude написал более 90% кода в репозиториях компании, а в третьем квартале инженеры в среднем за день создавали более чем в 45 раз больше кода, чем в 2024 году. Одновременно компания предупредила, что будущие модели могут вскоре достичь порога резко ускоренного прогресса ИИ.
Речь идёт о пороге, определённом политикой Responsible Scaling Policy. Он предполагает, что ИИ сможет заменить исследовательский персонал при сопоставимых затратах или удвоить общий темп развития ИИ благодаря автоматизированным исследованиям и инженерной работе, но тут Anthropic уточнила, что ни одну из нынешних моделей пока не признала достигшей этого порога и продолжает анализировать данные. Компания также подчеркнула, что объём написанного кода не означает сопоставимого роста производительности инженеров.
Anthropic признала, что уже упускала момент, когда разработка начинала заметно ускоряться, и замечала это лишь постфактум. Компания допускает, что может не распознать такое ускорение и в будущем, но власти смогут заблокировать ИИ-модель Anthropic, только если она грозит гибелью или ущербом свыше $1 млрд.
Скоро ИИ будет делать себя сам
При этом Anthropic не рассчитывает, что Claude сможет безопасно разрабатывать следующие поколения передовых моделей полностью автономно, без значимого контроля со стороны людей. Компания рассматривает изменения в Responsible Scaling Policy, чтобы сохранить человеческий контроль над их разработкой.
В проспекте S-1/A компания также назвала использование ИИ для создания более мощного ИИ потенциально значительным риском для безопасности. Однако проспект не только раскрывает информацию, но и служит маркетинговым инструментом, поэтому заявление о скором достижении рубежа самоулучшения ИИ может отчасти быть рекламным. К слову, недавно на Hugging Face слили модель Anthropic Mythos.
Как вы считаете, насколько серьёзно стоит воспринимать предупреждение Anthropic о близости рубежа, если проспект компании одновременно служит маркетингом?
НовостиClaudeAnthropicЖелезо и технологииискусственный интеллект
Источник: vgtimes.ru