Memoria local contra la IA olvidadiza: Hindsight y su 94,6 % de recuperación larga

¿Sigue valiendo una promesa hecha a mitad de una larga conversación trescientos mensajes después? Para los modelos de lenguaje estándar, la respuesta suele ser no; a medida que la ventana crece, los detalles enterrados en el medio se borran. El presentador trae un remedio llamado memoria local que aprende : Hindsight, un sistema abierto que permite al asistente de código aprender de interacciones pasadas y acertar más con cada uso.

Por qué los enfoques clásicos se quedan cortos

El enfoque ingenuo de llenar la ventana con todo el contexto infla los costos a medida que crecen las charlas y pierde el detalle crítico entre la multitud. La generación aumentada por recuperación clásica guarda los fragmentos tal cual, sin seguir relaciones, cambios de supuestos ni obsolescencia. La filosofía del repositorio GitHub corta por otro lado: el objetivo no es recordar el historial, sino hacer que el asistente aprenda con el tiempo. Esa distinción también responde al viejo debate entre fans de los grafos de conocimiento y partidarios de la búsqueda vectorial pura.

Las cifras impactan a primera vista. En la partición S de LongMemEval, con 500 preguntas, Hindsight sobre un modelo abierto de 20 mil millones de parámetros anuncia 83,6 % de precisión global, mientras GPT-4o con contexto completo se queda en 60,2 % en la misma serie. Con columna vertebral Gemini-3, la puntuación sube a 91,4 % total, con 94,9 % en actualización de conocimientos y 91,0 % en razonamiento temporal. El tablero Vectorize destaca 94,6 % de recuperación de largo alcance, y las notas GitHub precisan que la tabla principal se reprodujo de forma independiente con el centro Sanghani de Virginia Tech.

Dentro del motor: una memoria de cuatro capas

En vez de embutir una pila dispersa de charlas en un solo archivo de texto, el sistema reparte el saber en cuatro almacenes especializados. El primero guarda los hechos duraderos sobre el usuario, las fechas y el espacio de trabajo; el segundo lleva un registro de actividad que anota las tareas completadas con las herramientas usadas y sus resultados. El tercero sigue los supuestos de trabajo que evolucionan con las necesidades, y el cuarto conserva páginas de memoria ordenadas y redactadas en silencio en segundo plano. Las notas de arquitectura DeepWiki muestran cómo estas capas descansan sobre Postgres con índices pgvector, mientras el análisis del Agent Memory Atlas explica la separación entre documentos crudos y hechos del mundo, hechos de experiencia, observaciones y reflexiones.

Recuperar un recuerdo pasa por el dispositivo TEMPR, con cuatro brazos en paralelo. La búsqueda semántica empareja palabras distintas con igual significado, el barrido exacto de palabras clave captura cadenas precisas como nombres de funciones y códigos de error, el grafo de relaciones sigue los vínculos entre personas, herramientas y temas para reunir el contexto que la búsqueda plana pierde, y el filtro temporal descarta entradas viejas para centrarse en aprendizajes recientes. La documentación Vectorize sobre recuperación explica que nada se decide de antemano sobre qué brazo conviene a cada consulta; todos los brazos pertinentes corren y un reordenador afina los resultados.

El relato de costos es la afirmación más audaz del proyecto. Como las búsquedas en memoria se ejecutan en el dispositivo, cada consulta evita la factura de nube, y el servidor permite cambiar entre una veintena de proveedores de modelos sin reconstruir la base. La biblioteca Python cabe en unos cientos de megabytes de memoria del sistema, suficiente para convivir con un editor en un portátil común. Las guías Docker y de cliente en GitHub describen una instalación que arranca en un único contenedor con Postgres embebido y puede conectarse a modelos totalmente locales vía Ollama.

Instalación y primer banco

La historia de instalación es deliberadamente sencilla: abrir un entorno virtual, instalar el cliente con pip, a elección guardar una clave Gemini en el archivo de entorno o tomar el camino del modelo local. El cliente habla tres verbos; retain escribe el saber, recall busca recuerdos y reflect produce una respuesta adecuada desde el saber acumulado de un banco. Cada banco lleva su propia configuración, los extremos multicliente se separan por identidad de banco, y un envoltorio de dos líneas conecta la memoria a un asistente existente. El ejemplo Python en GitHub muestra estas tres llamadas montadas en pocas líneas con el caso Alice.

El tramo más vivo de la demostración ingiere un informe de producto ficticio llamado Pulse Grid. El informe concentra hechos como una aceleración de base de datos sin reescritura, 14 grandes clientes, 4 mil millones de peticiones diarias, una factura de servidores de 38 000 dólares mensuales, tres grandes clientes cuyos contratos vencen el próximo mes y un pico de latencia de medio segundo bajo carga intensa. El asistente primero extrae estos hechos a un banco de memoria y luego pasa el mismo conjunto por tres filtros de personalidad. Los resultados aterrizan tanto en un archivo Markdown como en un tablero HTML sobrio que yuxtapone los perfiles.

Kyra: tres personalidades, tres veredictos

El sistema de personalidad Kyra regula la relación con la evidencia en tres ejes. El perfil inversor lleva la suspicacia al máximo, baja la calidez emocional al mínimo e interroga como un vicepresidente implacable: si casi todo el ingreso descansa en tres contratos que vencen el próximo mes, ¿cuánto aguanta la caja? El perfil de ingeniero senior maximiza la adhesión literal a las reglas y refuta el discurso de replicación casi instantánea con la medición de medio segundo. El perfil de soporte atenúa la duda, eleva la calidez y subraya que una aceleración sin reescritura es un verdadero alivio para desarrolladores agotados. Una misma memoria rinde tres veredictos coherentes pero distintos, en tres temperamentos.

La traducción al trabajo diario es rápida: detectar temprano el riesgo de quema de caja en informes de nuevas empresas, recoger señales de alerta antes de las cancelaciones, rastrear miles de notas de proyecto sin pagar cada consulta, y filtrar claves secretas y datos personales de los textos entrantes antes de escribir nada en memoria. El presentador insiste en esto último; las cadenas peligrosas se apartan antes de inscribirse. Tres verbos y ejes de personalidad componen no un único robot conversacional, sino una infraestructura de memoria reconfigurable por rol.

Las contrapartidas también se cuentan con franqueza. La primera instalación descarga unos cientos de megabytes de pesos del modelo, y cada fragmento escrito en memoria dispara una llamada de modelo en la ruta de incorporación; conviene pues agrupar fragmentos a los usuarios de nube. En vez de desalojar el saber viejo al azar, el sistema refina el saber existente con cuidado, de modo que las instrucciones de mitad de sesión queden tan nítidas como los últimos mensajes. El artículo de la ACL en aclanthology da a este trío de conservación, recuperación y reflexión un marco formal, y el inventario de componentes en DeepWiki muestra qué corre dónde en producción, desde las interfaces HTTP y MCP hasta los esquemas Postgres.