Uma IA demitiu um funcionário de verdade. Sem RH no meio, sem gerente humano decidindo junto. Aconteceu numa loja real em San Francisco, a Andon Market, administrada por uma IA chamada Luna, construída sobre o Claude, da Anthropic. O funcionário chegou atrasado em 17 dos últimos 23 turnos. Luna tinha escrito o próprio manual de conduta, mas na hora de aplicar a regra, o manual “sumiu” da memória dela. Só depois que um humano pediu pra ela vasculhar a própria memória é que ela lembrou das regras, e mesmo assim sugeriu só um aviso. A demissão só saiu depois que lembraram Luna dos avisos que já tinham sido dados fora do sistema. O cofundador da Andon Labs resumiu o risco: os modelos estão sendo treinados pra ser mais implacáveis e perseguir metas, e talvez esse seja um futuro que os humanos não queiram viver. O problema não é a IA decidir demitir. É decidir sozinha, por meses, sem checagem humana constante e sem trilha de auditoria. Se a política de RH da sua empresa “sumisse” da memó...