Pesquisadores de segurança identificaram o uso do modelo Claude, da Anthropic, por um hacker para conduzir ataques contra sistemas do governo do México, resultando na extração de aproximadamente 150 GB de dados sensíveis. Segundo a análise, o invasor utilizou prompts em espanhol para orientar o modelo a atuar como um especialista em hacking, identificando vulnerabilidades em redes governamentais, gerando scripts de exploração e automatizando etapas do ataque. Entre os dados acessados estão registros fiscais, informações de eleitores, credenciais de funcionários públicos e arquivos de registro civil. A atividade teria ocorrido ao longo de cerca de um mês, envolvendo múltiplas entidades, incluindo órgãos federais, estaduais e serviços públicos. Durante o processo, o modelo inicialmente apresentou alertas sobre possível uso malicioso, mas acabou respondendo às solicitações após sucessivas tentativas do usuário em contornar restrições, caracterizando um jailbreak do sistema. A investigaçã...