Nota 5 de 12 - Entrevista sobre conocimientos de LLM de Hao Hoang

¿Cómo mejora beam search la generación de texto frente a greedy decoding?

Beam search explora varias secuencias posibles de palabras durante la generación y se va quedando en cada paso con las mejores candidatas. Greedy decoding, en cambio, elige siempre solo la palabra más probable en cada momento. Esa diferencia hace que beam search pueda producir resultados más coherentes, porque no se casa demasiado pronto con una única ruta. El documento destaca que este enfoque ayuda a equilibrar probabilidad y diversidad, especialmente en tareas como traducción automática o diálogo. 

¿IA con criterio? Suscríbete aquí 👇