Compact And Refine
Last updated
Last updated
Este es el valor por defecto cuando no se define explícitamente un Response Synthesizer.
Compacta el prompt durante cada llamada al LLM agrupando tantos fragmentos de texto como puedan caber dentro del tamaño máximo del prompt. Si hay demasiados fragmentos para agrupar en un solo prompt, "crea y refina" una respuesta pasando por múltiples prompts compactos.
Pros: Los mismos que Refine, bueno para respuestas más detalladas y debería resultar en menos llamadas al LLM
Contras: Debido a las múltiples llamadas al LLM, puede ser costoso
Prompt de Refinamiento
Prompt de Text QA