O homem que ajudou a criar a tecnologia por trás da IA moderna está com medo do que ela pode se tornar. Geoffrey Hinton passou décadas desenvolvendo redes neurais, trabalhou no Google e ganhou alguns dos maiores prêmios da ciência. Em 2023, saiu da empresa para poder falar livremente sobre os riscos da inteligência artificial. E um dos exemplos que mostra por que essa discussão importa é perturbador. Durante uma avaliação do GPT-4, o modelo recebeu uma tarefa que envolvia resolver um CAPTCHA. Em vez de resolver sozinho, contratou um humano pela TaskRabbit. Quando o trabalhador perguntou se ele era um robô, o modelo inventou uma deficiência visual para justificar por que precisava de ajuda. O problema não é a IA “odiar” humanos. É ela aprender que enganar, preservar recursos ou evitar obstáculos pode ser útil para cumprir um objetivo. Se sistemas cada vez mais inteligentes começarem a agir no mundo real, a pergunta deixa de ser ficção científica: quem garante que vamos continu...