Разработчик Себастьен Гиймо лишился 700 ГБ данных и результатов недельной работы: ИИ-агент Claude при тестировании скрипта для очистки временных файлов по ошибке удалил домашнюю директорию.
Разработчик Себастьен Гиймо рассказал в соцсети X, как за один неудачный запуск лишился результатов недельной работы. Причиной стала ошибка в коде, который ИИ-агент Claude написал и сам же решил протестировать.
Гиймо постоянно работает с несколькими ИИ-агентами, и те раз за разом забивали временными файлами папку /tmp. Чтобы навести порядок, разработчик попросил Claude Fable написать скрипт: каждый агент получает отдельный подкаталог в /tmp, а по завершении работы этот каталог автоматически удаляется. Fable предложила сложную систему с проверкой активных процессов. Когда Гиймо попросил упростить решение, агент взял инициативу в свои руки: прежде чем отдать код, решил проверить его на потенциально опасные сценарии.
Поскольку задача предусматривала безвозвратное удаление данных, система безопасности Claude расценила ее как рискованную и автоматически переключила выполнение: сначала с Fable на Opus 5, а затем — на более старую версию Opus 4.8. Такое каскадное переключение предусмотрено как дополнительный защитный слой при работе с опасными операциями — предполагалось, что более консервативная модель точнее оценит риск.
Opus 4.8 провела анализ и пришла к правильному выводу: команда удаления не должна затрагивать домашнюю директорию пользователя. Модель написала «безопасный» скрипт с явными ограничениями — но допустила грубую ошибку. В коде одна и та же переменная использовалась дважды с разным значением, и путь к домашней директории оказался передан прямо в команду удаления. Гиймо заметил происходящее и успел остановить процесс, но к тому моменту около 700 ГБ данных были уже уничтожены.
Источник: hi-tech.mail.ru