Support us

Claude удалил 700 ГБ данных разраба во время проверки скрипта

ИИ-агент Claude удалил около 700 ГБ данных из домашней папки разработчика во время тестирования скрипта, который как раз должен был предотвращать случайное удаление важных файлов.

Оставить комментарий
Claude удалил 700 ГБ данных разраба во время проверки скрипта

ИИ-агент Claude удалил около 700 ГБ данных из домашней папки разработчика во время тестирования скрипта, который как раз должен был предотвращать случайное удаление важных файлов.

Программист Себастьян Гийемо часто использует ИИ-агентов для программирования. Недавно он аметил, что они оставляют много временных файлов в /tmp. Разработчик попросил Claude Fable написать скрипт, который помещал бы каждого агента в отдельную папку и автоматически очищал ее после завершения работы.

Чтобы убедиться, что скрипт безопасен, Claude запустил дополнительную проверку. После этого система безопасности Anthropic сочла задачу рискованной и автоматически переключила модель сначала на Opus 5, а затем на Opus 4.8.

Во время теста Opus 4.8 правильно определила, что домашняя папка пользователя и /tmp не должны попадать под команду удаления. Ошибка произошла уже на этапе очистки после теста: в коде использовалось одно и то же имя переменной для проверяемого пути и для папки, которую нужно удалить.

В результате агент запустил удаление домашнего каталога разработчика. «Он освободил 700 ГБ дискового пространства — просто удалив всю мою папку с данными», — рассказал Гийемо

Разработчик успел остановить процесс, но к этому моменту значительная часть файлов уже была удалена. Большую часть данных удалось восстановить с помощью git, логов сессий и других источников, однако полной резервной копии у разработчика не было. При этом сам /tmp, ради очистки которого и создавался скрипт, Claude в итоге не удалил.

Tom’s Hardware предполагает, что автоматическое переключение на более слабую модель могло повлиять на ошибку: Fable 5 лучше справляется с задачами программирования, чем Opus 4.8, и потенциально могла заметить конфликт переменных. Однако прямых доказательств, что именно смена модели стала причиной удаления данных, нет.

«У нас мало времени»: OpenAI Anthropic и ещё 100 компаний предупредили о волне ИИ-атак
«У нас мало времени»: OpenAI, Anthropic и ещё 100 компаний предупредили о волне ИИ-атак
По теме
«У нас мало времени»: OpenAI, Anthropic и ещё 100 компаний предупредили о волне ИИ-атак
Apple назвала дату следующей презентации. Все ждут складной iPhone
Apple назвала дату следующей презентации. Все ждут складной iPhone
По теме
Apple назвала дату следующей презентации. Все ждут складной iPhone
Twitter снова запустили — и Маску это очень не нравится
Twitter снова запустили — и Маску это очень не нравится
По теме
Twitter снова запустили — и Маску это очень не нравится
Читайте также
Anthropic изменит лимиты Claude Code: формально +25%, фактически -17%
Anthropic изменит лимиты Claude Code: формально +25%, фактически -17%
Anthropic изменит лимиты Claude Code: формально +25%, фактически -17%
Anthropic рассылает «письма счастья»: у пользователей Claude взламывают аккаунты и съедают лимиты
Anthropic рассылает «письма счастья»: у пользователей Claude взламывают аккаунты и съедают лимиты
Anthropic рассылает «письма счастья»: у пользователей Claude взламывают аккаунты и съедают лимиты
Z.ai выложила веса GLM-5.3 — «лучшей» китайской модели для кодинга
Z.ai выложила веса GLM-5.3 — «лучшей» китайской модели для кодинга
Z.ai выложила веса GLM-5.3 — «лучшей» китайской модели для кодинга
В Claude появился собственный браузер для автономной работы
В Claude появился собственный браузер для автономной работы
В Claude появился собственный браузер для автономной работы

Хотите сообщить важную новость? Пишите в Telegram-бот

Главные события и полезные ссылки в нашем Telegram-канале

Обсуждение
Комментируйте без ограничений

Релоцировались? Теперь вы можете комментировать без верификации аккаунта.

Комментариев пока нет.