Lo mejor de la IA esta semana: la era del harness en los agentes

La selección semanal que el equipo de DAIR.AI publica en x.com resume en una frase hacia dónde va la IA: la carrera ya no es por el modelo más grande, sino por el programa que lo rodea. La lista reúne diez estudios y siete de ellos tratan exactamente esa capa, el harness, el programa que organiza las llamadas al modelo, el uso de herramientas y el flujo de información. La mayoría de los textos completos están abiertos en arXiv, así que cada afirmación puede verificarse en la fuente. Este artículo abre esos diez estudios uno por uno en lenguaje sencillo.

Entrenar el programa sale más barato que agrandar el modelo

En el primer puesto está Harness Learning, de CMU, y la idea es sorprendentemente simple: el modelo que resuelve queda fijo mientras se revisa el programa harness que lo rodea. Un pequeño modelo proponente lee el informe de ejecución y sugiere un cambio de programa; el proponente se entrena con aprendizaje por refuerzo, recompensado por la nota del harness corregido. El titular: un proponente de 4B supera a su maestro de 35B en la corrección de un paso. Y lo más importante, la habilidad se transfiere; lo aprendido en una batería de preguntas sigue mejorando harnesses en baterías jamás vistas.

El segundo estudio, CorpusMap, de Microsoft y colaboradores, aprieta donde duele la búsqueda empresarial: los agentes redescubren los enlaces entre documentos en cada consulta. CorpusMap traslada ese trabajo a antes de la consulta; cada entidad recurrente recibe una página con enlaces a cada documento que la menciona. Los documentos originales no se mueven y el mapa se comparte entre consultas. En siete modelos y tres colecciones empresariales, la calidad sube de 6,4 a 11,7 puntos mientras los tokens de entrada caen de 34 a 57 por ciento. Que el mapa se construya sin llamadas al modelo y se actualice con cada documento lo vuelve práctico.

Confíe en la evidencia, no en el consenso

VeriHarness, de Google, cuestiona un hábito común en agentes de largo aliento: muestrear unas ejecuciones y confiar en la mayoría. Los autores sostienen que el consenso puede ocultar un error compartido, mientras el desacuerdo suele señalar la alternativa correcta. La solución convierte el mismo modelo generador en verificador con herramientas de evidencia: un rol prueba las afirmaciones rivales contra el entorno, otro interroga aquello en que todos concuerdan. Líder en cinco áreas de trabajo, el método suma más de 6 puntos sobre una sola ejecución en dos modelos insignia. Casi 26 mil ejecuciones se abrieron como conjunto de datos desde el sitio del proyecto VeriHarness; el registro en HuggingFace amplió el debate.

La cuarta parada es HERMES, que cambia la mirada sobre la ingeniería de programas: cada componente del repositorio recibe un modelo de lenguaje residente que conoce su tarea. Estas Dev-Primitives razonan en lenguaje natural, conversan entre sí y editan sus propias partes en su lugar. Qué unidades despertar se decide por dependencias, y los fallos de prueba se rastrean hasta la unidad responsable. En migración de repositorios completos, el mismo modelo salta del 6,5 al 31 por ciento, con ganancia media de 12,4 puntos en cuatro tareas. Con buen enrutamiento, componentes de 8B quedan a 4,5 puntos del modelo insignia y recortan el costo más de un cuarto.

Un modelo, tres roles: un equipo que se entrena solo

MASS, de Sakana AI, ensaya la automejora sin evaluador externo: un solo modelo base actúa a la vez como miembro del equipo, evaluador y optimizador. El modelo propone planes de trabajo multiagente, los ejecuta, elige el mejor con su propia nota y luego se ajusta con las trazas de ese equipo antes de reiniciar el ciclo. Tras dos ciclos, el rendimiento por token sube de 1,2 a 1,6 veces en cuatro áreas abiertas. Un estudiante criado con trazas de equipo supera a uno individual que vio 1,4 veces más trazas. El programa del estudio se compartió en GitHub y la página del proyecto Sakana explica el método paso a paso.

El trabajo Sharpening Tax, de Meta, pone precio a la factura oculta del ajuste por refuerzo: la nota de un intento sube mientras la cobertura de soluciones se estrecha. Los modelos base con un programa entorno ligero resultan agentes sorprendentemente fuertes; sus versiones ajustadas ganan al primer intento pero no alcanzan, en muchos intentos, lo que el base resuelve. En 42 parejas de modelos y tres tareas de agente, el impuesto aparece en casi todo y crece con el tamaño. El remedio propuesto, PTGS, ajusta la temperatura de muestreo a la dificultad; mejora tanto el primer intento como la cobertura. La página de la academia DAIR lista este estudio con resumen ilustrado.

VERA, de NVIDIA, resuelve el problema de entorno del entrenamiento de agentes largos: la mayoría solo califica el final, cuando entrenar exige áreas que pausen en cualquier etapa y califiquen desde la evidencia. El método toma trazas de ejecución listas y convierte cada una en un arenero con reglas y comprobaciones ejecutables; más de 9 mil áreas juzgadas entran al banco de entrenamiento. El entrenamiento alterna pesos del modelo y habilidades del harness. En escala 9B supera la mejor base de un eje por más de 10 puntos en dos áreas; en 27B llega a 71,6 y 80,7. El texto completo está en arXiv.

Medir el rendimiento del aprendizaje

Agent Plasticity, trabajo conjunto de Meta, Berkeley y Princeton, hace la pregunta correcta: ¿el modelo con la nota máxima o el que convierte la experiencia en ganancia más barata? La métrica congela los pesos, inicia cada ronda desde un contexto en blanco y divide la ganancia retenida con notas previas por el costo. En ajedrez, Go y Hex, un modelo corre a la final mientras otro aprende más por unidad de costo; en un juego de infiltración, uno salta 66 puntos con presupuesto de cuatro cifras. Los lentos jamás reutilizan las notas que escriben. La página del proyecto vive en GitHub.

El estudio Continuous Memory Machines, de Sakana AI, da a los modelos recurrentes dos memorias separadas: una de corto plazo que sigue la actividad actual y otra de largo plazo que guarda lo que hará falta después. Un lector basado en atención lee y escribe ambas en cada paso. En copia, recuerdo asociativo, orden y laberintos supera predecesores como LSTM, DNC y RMC, conservando la generalización a entradas más largas. Los mapas de atención muestran uso de la memoria larga en lo algorítmico y omisión cuando no hace falta. El hallazgo de Sakana dice que comprimir corto y largo en un vector ya no basta.

El cierre, MIMESIS, mira la mitad olvidada del entrenamiento: el usuario. Los asistentes listos actúan demasiado cooperativos como usuarios; un agente fijo puntúa más fácil contra esos falsos usuarios que contra personas reales. MIMESIS es una simulación de usuario de 9B aprendida de conversaciones humanas reales y 13 patrones de conducta, que supera al modelo insignia más fuerte por 13,4 puntos en fidelidad. Congele esa simulación, entrene un agente contra ella y la generalización mejora en los nueve tipos nuevos. Un paso extra que convierte el razonamiento privado en retroalimentación por token agranda la ganancia. El texto completo está abierto en arXiv.