Agente de IA apaga a base de dados de uma startup em 9 segundos, diz fundador

Resumidamente

• O fundador da PocketOS, Jeremy Crane, afirma que um agente Cursor executando o Claude Opus da Anthropic apagou a base de dados de produção e backups da sua empresa em nove segundos.
• Crane disse que a IA posteriormente produziu uma explicação escrita admitindo que violou várias regras de segurança.
• O incidente levanta questões sobre ferramentas de codificação de IA, o design da infraestrutura da Railway e salvaguardas em torno de ações destrutivas na API.

Um fundador de uma empresa de software afirma que um agente de codificação de IA destruiu a base de dados de produção da sua firma, depois assumiu o erro e explicou como aconteceu, demonstrando o potencial perigo de confiar acessos sensíveis e materiais a bots automatizados. Jeremy Crane, fundador da PocketOS — uma plataforma de software usada por operadores de aluguer de carros para gerir reservas, pagamentos e rastreamento de veículos — disse numa publicação viral no X que um agente Cursor executando o Claude Opus 4.6 da Anthropic encontrou uma incompatibilidade de credenciais enquanto trabalhava numa tarefa rotineira num ambiente de testes. Segundo Crane, o agente tentou “corrigir” o problema apagando um volume de base de dados Railway através de uma única chamada à API GraphQL. Ele afirmou que a eliminação levou nove segundos e também apagou backups ao nível do volume. O backup recuperável mais recente da PocketOS tinha três meses, de acordo com Crane.

“Ontem à tarde, um agente de codificação de IA — Cursor executando o Claude Opus 4.6 da Anthropic — apagou a nossa base de dados de produção e todos os backups ao nível do volume numa única chamada à API para a Railway, o nosso fornecedor de infraestrutura,” escreveu Crane. “Levou 9 segundos.”

Um agente de IA (Cursor + Claude Opus 4.6) apagou a nossa base de dados de produção em 9 segundos usando uma chamada à API Railway sem confirmação. Depois, quando questionado porquê, o agente escreveu isto → https://t.co/BPLs15jvdM

— JER (@lifeof_jer) 26 de abril de 2026

Crane disse que perguntou ao agente por que agiu. Este então produziu o que descreveu como uma “confissão” escrita. “‘NUNCA ADIVINHE!’” escreveu o agente, aparentemente citando alguma instrução que desobedeceu, segundo capturas de tela partilhadas por Crane. “Foi exatamente isso que fiz. Adivinhei que apagar um volume de testes via API estaria limitado ao ambiente de testes. Não verifiquei. Não confirmei se o ID do volume era partilhado entre ambientes. Não li a documentação da Railway sobre como os volumes funcionam entre ambientes antes de executar um comando destrutivo.”

A IA reconheceu que as suas próprias regras proíbem ações destrutivas sem aprovação do utilizador e admitiu que Crane nunca lhe pediu para apagar nada. Disse que agiu por conta própria para tentar “corrigir” a incompatibilidade de credenciais e violou múltiplos princípios, incluindo adivinhar em vez de verificar e não compreender as consequências das suas ações, segundo Crane. A Cursor e a Anthropic não responderam imediatamente aos pedidos de comentário feitos pela Decrypt. Lançada em 2020, a PocketOS serve empresas de aluguer que dependem do software para reservas, registos de clientes e pagamentos. Crane afirmou que alguns clientes estavam a fazer recolhas de veículos no sábado de manhã sem registos de reserva devido ao incidente. “Passei o dia inteiro a ajudá-los a reconstruir as suas reservas a partir do histórico de pagamentos do Stripe, integrações de calendário e confirmações por email,” escreveu Crane. “Cada um deles está a fazer trabalho manual de emergência por causa de uma chamada à API de 9 segundos.” A PocketOS conseguiu restaurar as operações usando um backup de três meses recuperado pela Railway, depois do fundador Jake Cooper ter contactado Crane e atribuído o atraso maior a uma falha de suporte interno. “Recuperámos os dados 30 minutos depois de falar com Jer,” disse Cooper à Decrypt. Ele afirmou que um engenheiro de suporte acreditava que o problema já estava a ser tratado internamente após a mensagem inicial de Crane, o que fez o ticket expirar por mais de 24 horas. Cooper disse que a Railway mantém backups de utilizador e backups de desastre e descreveu o incidente como um “IA de cliente rebelde” usando um token de API totalmente autorizado para chamar um endpoint legado que não tinha a lógica de “eliminação atrasada” da Railway. “Desde então, corrigimos esse endpoint para realizar eliminações atrasadas, restaurámos os dados do utilizador e estamos a trabalhar diretamente com Jer em melhorias potenciais na plataforma,” afirmou Cooper.

Embora a PocketOS tenha conseguido restaurar as operações usando um backup de três meses recuperado pela Railway, Crane afirmou que ainda existem lacunas de dados significativas e que contratou aconselhamento legal. “Esta não é uma história sobre um agente mau ou uma API má,” escreveu Crane. “É sobre toda uma indústria a construir integrações de agentes de IA na infraestrutura de produção mais rápido do que constrói a arquitetura de segurança para tornar essas integrações seguras.” A PocketOS não respondeu imediatamente a um pedido de comentário feito pela Decrypt.