'Janela maior resolve' é a resposta preguiçosa para um problema muito maior do que parece.
O time de Applied AI da Anthropic pôs nome numa curva que quase ninguém mede: context rot. Quanto mais tokens na janela de contexto, pior o recall do modelo. Este post destrincha as três técnicas usadas para manter a janela enxuta (compaction, agentic memory e sub-agentes) e por que token budget é restrição de engenharia, não detalhe pra acertar depois que a feature já roda.
No seu pipeline, você cuida do contexto ou despeja tudo e torce pra dar certo? Conta nos comentários.
#contextengineering #promptengineering #javaai #langchain4j #mcp #aiengineering #llm #claudecode