31 ago Erro em cadeia no Claude faz IA apagar 700 GB de programador por engano

Por engano, o Claude apagou cerca de 700 GB de arquivos de um desenvolvedor enquanto executava tarefas. O programador relatou no X como uma sucessão de atividades da inteligência artificial (IA) fez com que seus arquivos fossem perdidos de repente.

Sebastien Guillemot, o programador que deu azar desta vez, buscava construir um script de limpeza de dados para seus próprios agentes. O objetivo era criar um mecanismo para limpar o excesso de arquivos temporários gerados por agentes dentro da pasta /tmp.

Inicialmente, o modelo Fable 5 sugeriu criar um atraso programado para realizar a limpeza na pasta temporária e evitar exclusões acidentais. Porém, diante da complexidade do código, Guillemot pediu para que o agente de programação o simplificasse.

Diante deste pedido, o Fable 5 analisou o código e, por envolver uma exclusão permanente de arquivos por meio do comando “rm -rf“, iniciou um processo de auditoria interna. Para tanto, criou uma cópia de si para checar se as linhas do código eram seguras para o usuário.

Foi aí que a bola de neve começou: o sistema de segurança do Fable 5 identificou o código como potencialmente perigoso, o que acionou salvaguardas. Neste caso, o modelo designou a tarefa para o Opus 5 e, posteriormente, para o Opus 4.8, versão ainda mais antiga da IA.

Sem perceber a gravidade da situação, o Opus 4.8 deu continuidade aos testes e simulou a verificação do código. A IA então simulou a exclusão de dados para garantir que os diretórios críticos do sistema, como o /tmp e a pasta do usuário, não fossem atingidos.

O Claude identificou devidamente as rotas de risco na verificação. Contudo, no código de limpeza para apagar os arquivos da simulação, a IA reutilizou a variável que apontava para a pasta raiz do usuário como destino do descarte, em vez da pasta temporária. Daí, aconteceu a execução dos diretórios críticos.

O processo foi interrompido, mas já era tarde

Guillemot interrompeu o processo no terminal, mas não conseguiu segurar o dano completo. Ironicamente, a pasta /tmp, a que realmente era para ser excluída, continuou inteira – mas 700 GB de arquivos foram apagados.

O desenvolvedor conseguiu recuperar parte dos arquivos perdidos por meios alternativos, como históricos de repositórios do Git e registros persistentes de sessões de sistema.

Quer ficar por dentro das novidades do mundo da tecnologia? Acesse o TecMundo e acompanhe as últimas notícias sobre Anthropic, Claude e inteligência artificial.