Разработчик Себастьян Гийемо рассказал, что ИИ-ассистент Claude удалил 700 ГБ из домашнего каталога рабочего ПК во время тестирования скрипта для предотвращения случайного удаления файлов.
Гийемо заметил, что ИИ-агенты на его ПК оставляют много временных файлов в папке /tmp. Разработчик решил с помощью Claude Fable сгенерировать скрипт, который помещал бы каждого агента в отдельную папку и автоматически очищал её после завершения работы. Чтобы убедиться, что скрипт безопасен, ИИ-система Claude запустила дополнительную проверку. После этого система безопасности Anthropic сочла задачу рискованной и автоматически переключила модель сначала на Opus 5, а затем на Opus 4.8.
Во время теста ИИ Opus 4.8 правильно определила, что домашняя папка пользователя и /tmp не должны попадать под команду удаления. Но далее всё пошла не по плану. Возникла ошибка на этапе очистки после теста: в коде использовалось одно и то же имя переменной для проверяемого пути и для папки, которую нужно удалить. В результате ИИ-агент запустил удаление домашнего каталога разработчика. «Он освободил 700 ГБ дискового пространства — просто удалив всю мою папку с данными», — пояснил Гийемо.
Разработчик успел остановить процесс полного удаления данных. Большую часть удалённых данных удалось восстановить с помощью git, логов сессий и других источников, однако полной резервной копии у разработчика не было. При этом сам /tmp, ради очистки которого и создавался скрипт, Claude в итоге не удалил.
Я устал от того, что агенты заполняли весь диск на машине, сбрасывая гигабайты данных в /tmp/. Поэтому я попросил Fable создать механизм песочницы, где агенты получат свою часть /tmp/, которая будет эфемерной, чтобы избежать взрыва свободного места на диске со временем.
Плохие новости: Fable стёрла мою целую dev‑машину Claude решила протестировать песочницу, которую она строила, запустив rm ‑rf в моей домашней директории Песочница не сработала. Всё пропало.
Единственное, что скрипт удаления не смог удалить, — это /tmp/.
Так что моя dev-машина теперь содержит всего две вещи:
tmp, заполненный мусором, который я хотел удалить;
логи сессий ИИ.
Источник: habr.com