Menos contexto, mejores agentes: cuatro trampas que debes evitar

Las ventanas que antes guardaban unos miles de tokens hoy superan el millón, y mi primera reacción fue la alegría: una mesa más ancha promete un trabajo más ancho. Una medición sobre dieciocho sistemas punteros dice lo contrario. A medida que la ventana se llena, cada modelo usa cada dato con menos fiabilidad. Los equipos hablan de desgaste del contexto, y las cifras brutas siguen visibles en GitHub. Mi lectura es simple: la ventana puede ser inmensa mientras el foco que la recorre sigue siendo estrecho, y cada token añadido bebe de ese foco.

Un caso concreto vuelve la idea tangible: un agente que traslada un viejo controlador de datos hacia uno nuevo. Al frente de su ventana preside la instrucción permanente, seguida de una nota de misión de dos líneas. Luego llegan las notas propias del proyecto, y después la definición de cada herramienta que el agente puede llamar. Desde ahí la ventana se vuelve un diario en marcha: cada paso del agente, más los resultados que esos pasos devuelven. Tras una hora, la pila es enorme: contenidos de archivos, salidas de pruebas, registros de errores, vuelcos de esquemas. Y escondida dentro, una pequeña nota que el ayudante se escribió: el nuevo controlador restablece solo los enlaces caídos, así que el viejo bloque de reintentos puede irse.

El primer fallo es el envenenamiento: un dato falso recibe trato de hecho. En nuestra historia, la nota del ayudante es falsa; hojeó el manual del controlador, leyó mal un pasaje y concluyó que el bloque de reintentos sobraba. Para un modelo, su propia nota parece la verdad, así que el agente recorre los archivos uno por uno y retira una lógica de reintentos que funcionaba bien. La versión de cocina: una medida mal copiada en el recetario arruina cada plato. El remedio es la validación. Si una pequeña prueba de enlace real hubiera corrido antes de que esa nota entrara en la ventana, el error habría muerto al nacer.

El segundo fallo es la dispersión: el diario crece tanto que el modelo mira su pasado más que su tarea. Un modelo de lengua es en el fondo un continuador de patrones, y una hora de sus propios pasos dentro de la ventana se vuelve el patrón más ruidoso, más fuerte que el juicio heredado del entrenamiento. El resultado es conocido: el agente pisa senderos viejos y repite etapas ya superadas. Es como revolver los cuadernos de ayer en lugar de hacer la tarea de hoy. El remedio es el resumen: cuando el diario se alarga, el ayudante lo pliega en una breve recapitulación y avanza, mientras el detalle descansa en archivos duraderos y entra en la ventana solo cuando se lo pide.

El tercer fallo es la confusión, y la culpable es la abundancia de herramientas: nuestro agente toca el control de versiones, una consola de datos, el seguimiento de billetes, y mucho más. Cada definición ocupa la ventana, se use o no. Con más opciones, acertar se vuelve más difícil; en una medición, la misma misión falló con cuarenta y seis herramientas ofrecidas y pasó con diecinueve. La caja de herramientas repleta lo dice bien: cuanto más hinchado el estuche, más tarda la búsqueda del destornillador justo. El remedio es la selección. Una migración de controlador solo quiere un puñado de herramientas, así que el ayudante parte con esas y busca otra solo ante una necesidad real.

El cuarto fallo es el choque: dos datos que se contradicen se sientan lado a lado. Tarde o temprano, el agente nota que no ocurre ningún reintento, comprende que la primera nota era falsa y deja constancia del hallazgo en su historial. La ventana guarda entonces las dos versiones, la falsa y la verdadera, con igual peso. Como dos listas de compra en la nevera sin marca de cuál vale. El remedio es la poda. Cuando llega la información fresca, el dato vencido sale; mejor aún, el ayudante puede abrir una ventana limpia que reformule el estado corregido y deje atrás el contenido viciado.

Lo que me gusta es el hilo común de los cuatro remedios: cada uno retira algo, y el ayudante mejora guardando menos. Esta idea ya pertenece a todo un campo, no a una sola charla: Anthropic defiende un presupuesto de atención ajustado con pocas entradas fuertes. LangChain propone cuatro caminos — escribir, seleccionar, resumir, aislar. IBM describe tuberías de ensamblaje y compresión. Cualquiera puede examinar la medición de los dieciocho sistemas vía GitHub, mientras un amplio estudio en arXiv reúne más de mil trabajos en un solo marco. La regla de mi cuaderno dice: cada dato añadido a la ventana carga al ayudante, así que guarda lo que la tarea exige y deja el resto fuera.