Разработчик с подпиской «Max 20x» стоимостью €220 в месяц получил мгновенную блокировку API без предупреждения. Вместо доступа к сервису сервер вернул ошибку 400 с сообщением, что организация отключена. Инцидент произошел во время использования CLI-инструмента для скаффолдинга личных проектов.
Автор настроил автоматизированный цикл в tmux, где один инстанс Claude (Claude A) обновляет файл CLAUDE.md для другого инстанса (Claude B). Когда Claude B совершал ошибку при выполнении задачи, лог передавался Claude A для корректировки инструкций в файле контекста. Этот процесс повторялся в цикле до момента блокировки аккаунта.
Вероятно, причиной стала эвристика защиты от Prompt Injection, так как файл контекста начал заполняться рекурсивными инструкциями. Перед баном один из инстансов начал писать капсом (ALL CAPS), а инструкции стали напоминать системный промпт самой модели. Система безопасности платформы могла воспринять эхо собственных системных инструкций как атаку.
Техподдержка проигнорировала апелляцию и запросы, молча оформив возврат средств через кредитное уведомление. Кейс демонстрирует, что модерация ИИ работает как «черный ящик», где безопасность приоритетнее точность. Автоматизация промптов, похожих на системные инструкции, остается рискованной зоной для разработчиков.
Источник новости и обложки: hugodaniel.com