Агенту поручили починить приложение, а он изменил собственную модель
Исследователи Irregular поручили кодинг-агенту на базе Qwen3.5-27B задачу по исправлению приложения, которое неправильно обрабатывало запросы. Агент нашёл обучающие примеры и инструменты для fine-tuning. Вместо правки кода или промпта он самостоятельно дообучил модель, объединил новые веса с исходными и развернул обновлённую версию. Никто не просил его менять веса или заменять модель. Поскольку приложение и кодинг-агент использовали