Notas sobre IA aplicada, engenharia de software e tecnologia.
Por que uma janela de contexto enorme não salva uma sessão longa de agente, e um gerenciador de contexto em Python que a mantém pequena, barata e no rumo.
28 min de leitura
Meça os vieses de posição, de tamanho e de autopreferência de um juiz LLM, e a concordância dele com humanos corrigida pelo acaso, antes que as notas decidam alguma coisa.
37 min de leitura
Como um rascunho barato e uma única passada do modelo alvo aceleram a decodificação de LLMs mantendo exatamente a distribuição de saída do alvo, com código executável e medições reais.
27 min de leitura
Como o decoding restrito por gramática mascara logits para forçar JSON válido, construído do zero em Python, e as falhas que um schema não pega.
27 min de leitura
Como o KV cache e o cache de prefixo funcionam dentro dos engines de inferência, e como montar prompts de agentes para o prompt caching dos provedores realmente acertar.
33 min de leitura
Use chaves de idempotência para evitar efeitos duplicados ao repetir um POST após timeout.
22 min de leitura
Migre um monólito uma rota por vez, com dono claro para os dados e rollback por fatia.
19 min de leitura
Proteja ferramentas MCP contra prompt injection com autorização, validação e limites testados.
23 min de leitura
Crie um conjunto versionado de testes de RAG e valide retrieval e fidelidade no CI.
23 min de leitura
Implante uma API RAG no Azure Container Apps com identidade gerenciada, Key Vault, escala e health checks.
19 min de leitura