Jacob Coxon, pesquisador que trabalhou com pré-treinamento na OpenAI e na Anthropic, anunciou que deixou a Anthropic. Ele afirma que as duas empresas correm para criar uma superinteligência capaz de melhorar a si mesma sem agir com responsabilidade. No fio publicado no X, Coxon diz que profissionais dentro dos laboratórios temem que sistemas futuros possam causar uma catástrofe ainda nesta década. Essa é a avaliação dele sobre um risco futuro, não uma previsão comprovada nem uma descrição dos modelos disponíveis hoje. O alerta ganhou peso porque Evan Hubinger, pesquisador de alinhamento da Anthropic, respondeu que compartilha a preocupação e estima em mais de 10% o risco na próxima década. Depois, esclareceu que considera baixo o risco dos modelos atuais. A preocupação dele é uma possível superinteligência surgida de autoaperfeiçoamento recursivo. A saída foi noticiada por Axios, Washington Post, Fortune e Euronews. O histórico de Coxon na OpenAI aparece nos créditos oficiais do GPT...