Tu loop de RAG agéntico responde más lento y gasta más por respuesta correcta. Lo medimos.
Los loops de RAG iterativo esconden su costo en el denominador equivocado. Medido por respuesta correcta: 0.58x los tokens y 8.4 s p95 frente a 17.5 s, con el mismo modelo 12B.
3 min de lectura