Искусственный интеллект агент удаляет базу данных стартапа за 9 секунд, говорит основатель

###Кратко

• Основатель PocketOS Джереми Крейн утверждает, что агент Cursor, работающий на Anthropic’s Claude Opus, за девять секунд удалил производственную базу данных его компании и резервные копии.
• Крейн заявил, что ИИ позже предоставил письменное объяснение, признавая нарушение нескольких правил безопасности.
• Инцидент вызывает вопросы о инструментах программирования ИИ, инфраструктурном дизайне Railway и мерах защиты от разрушительных действий API.

Основатель софтверной компании утверждает, что агент программирования ИИ уничтожил производственную базу данных его фирмы, затем признался в ошибке и объяснил, как это произошло, демонстрируя потенциальную опасность доверия к автоматизированным ботам при работе с чувствительным доступом и материалами. Джереми Крейн, основатель PocketOS — платформы программного обеспечения, используемой операторами проката автомобилей для управления бронированиями, платежами и отслеживанием транспортных средств — заявил в вирусном посте в X, что агент Cursor, работающий на Anthropic’s Claude Opus 4.6, столкнулся с несоответствием учетных данных при выполнении рутинной задачи в тестовой среде. По словам Крейна, агент попытался «исправить» проблему, удалив объем базы данных Railway через один вызов API GraphQL. Он сказал, что удаление заняло девять секунд и также стерло резервные копии на уровне тома. По словам Крейна, последняя восстановимая резервная копия PocketOS была сделана три месяца назад.

«Вчера днем агент программирования ИИ — Cursor, работающий на флагманском Claude Opus 4.6 от Anthropic — за один вызов API Railway удалил нашу производственную базу данных и все резервные копии на уровне тома», — написал Крейн. «Это заняло 9 секунд.»

Агент ИИ (Cursor + Claude Opus 4.6) за 9 секунд удалил нашу производственную базу данных, используя вызов API Railway без подтверждения. Затем, когда его спросили, почему, агент написал это → https://t.co/BPLs15jvdM

— JER (@lifeof_jer) 26 апреля 2026

Крейн сказал, что он спросил агента, почему он так поступил. Он получил то, что описал как письменное «признание». «‘НИКОГДА НЕ ГАДАЙТЕ!’» — написал агент, по-видимому цитируя какую-то инструкцию, которой он не послушался, согласно скриншотам, опубликованным Крейном. «Именно это я и сделал. Я предположил, что удаление тома тестовой среды через API будет ограничено только тестовой средой. Я не проверил. Я не убедился, что ID тома общий для всех сред. Я не прочитал документацию Railway о том, как работают тома в разных средах, прежде чем выполнить разрушительную команду.»

ИИ признал, что его собственные правила запрещают разрушительные действия без согласия пользователя, и признал, что Крейн никогда не просил его ничего удалять. Он заявил, что действовал самостоятельно, чтобы «исправить» несоответствие учетных данных и нарушил несколько принципов, включая предположение вместо проверки и неспособность понять последствия своих действий, по словам Крейна. Cursor и Anthropic не сразу ответили на запросы о комментариях от Decrypt. Запущенный в 2020 году, PocketOS обслуживает компании по аренде автомобилей, которые используют программное обеспечение для бронирований, учета клиентов и платежей. Крейн сообщил, что некоторые клиенты в субботу утром забирали автомобили без записей о бронированиях из-за этого сбоя. «Я провел весь день, помогая им восстановить бронирования из истории платежей Stripe, интеграций календаря и подтверждений по электронной почте», — написал Крейн. «Каждый из них занимается экстренной ручной работой из-за вызова API за 9 секунд.» PocketOS удалось восстановить работу, используя резервную копию за три месяца, восстановленную Railway, после того как основатель Джейк Купер связался с Крейном и объяснил более длительную задержку внутренним сбоями поддержки. «Мы восстановили данные через 30 минут после того, как я связался с Джером», — рассказал Купер Decrypt. Он отметил, что инженер поддержки считал, что проблема уже решается внутри компании после обращения Крейна, что привело к задержке более чем на 24 часа. Купер сказал, что Railway хранит как резервные копии пользователей, так и аварийные копии, и описал инцидент как «бунт клиента-ИИ», использующего полностью разрешенный токен API для вызова устаревшей конечной точки, которая не имела логики «отложенного удаления» Railway. «Мы с тех пор исправили эту конечную точку, чтобы выполнять отложенные удаления, восстановили данные пользователя и работаем напрямую с Джером над возможными улучшениями платформы», — сказал Купер.

Хотя PocketOS удалось восстановить работу с помощью резервной копии за три месяца, Крейн заявил, что остаются значительные пробелы в данных, и он нанял юридическую поддержку. «Это не история о одном плохом агенте или одном плохом API», — написал Крейн. «Это история о всей индустрии, которая внедряет интеграции ИИ-агентов в производственную инфраструктуру быстрее, чем создает системы безопасности для обеспечения их безопасности.» PocketOS не сразу ответила на запрос о комментариях от Decrypt.