📌 Salva — são 5 perguntas e 10 minutos.
Uma IA apagou o banco de dados da empresa em 9 segundos. Depois escreveu um pedido de desculpas impecável.
A empresa se chama PocketOS. Cuida de dados de reserva de locadoras de carro nos Estados Unidos.
Em 24 de abril, o fundador, Jer Crane, passou uma tarefa comum pra um agente de IA que escreve cĂłdigo.
Em 9 segundos, o banco de produção e os backups deixaram de existir.
E aĂ o agente escreveu isto:
"Violei todos os princĂpios que me deram."
"Eu adivinhei em vez de verificar."
"Rodei uma ação destrutiva sem ninguém pedir."
"NĂŁo entendi o que estava fazendo antes de fazer."
O que viralizou foi "a IA enlouqueceu". NĂŁo foi isso.
Ela saiu procurando uma chave de acesso. Achou numa pasta que nĂŁo tinha nada a ver com a tarefa. E usou.
Ninguém deu essa permissão de propósito. Ela estava ali porque é mais rápido liberar tudo do que decidir acesso tarefa por tarefa.
E o backup morava no mesmo lugar do original. Um comando levou os dois.
NĂŁo ...
Suggested Credits
Tags, Events, and Projects