Me ha pasado cien veces, y apuesto a que a ti también: crees que tu agente de IA lo tiene todo, le has dado un prompt que consideras una obra de arte, con contexto, roles y ejemplos… y, de repente, se inventa un dato crucial. O peor, olvida algo que le dijiste hace diez turnos de conversación. Es como hablar con alguien con amnesia selectiva. Ahí es cuando mi cabeza hace ‘click’ y me digo: ‘Necesitamos algo más que prompts’.
No me malinterpretes, soy un firme creyente en el poder de un buen prompt. He dedicado incontables horas a perfeccionar esa habilidad. De hecho, tengo un artículo sobre El Contexto lo es todo en Agentes de IA. Pero la realidad es que, por muy grande que sea la ventana de contexto de un LLM, no es una memoria a largo plazo fiable ni una base de datos de hechos. Es un buffer temporal, y un buffer que, además, puede llenarse de ruido si no lo gestionas bien.
El Problema con la ‘Memoria’ de los LLMs Puros
Mis LLMs son lingüistas prodigiosos, capaces de generar texto coherente y entender matices. Pero no son bases de datos vivientes. Su ‘conocimiento’ es una amalgama estadística de todo lo que vieron durante el entrenamiento. No tienen una comprensión estructurada de las relaciones entre entidades del mundo real. Si le pregunto a un LLM qué comió Juan en el restaurante