EAGLE-4 lleva Qwen 27B a 3,59x con pausas selectivas

Quizá ya ejecutes Qwen 3.8 27B en tu ordenador de casa. Responde con calidad alta pero escribe con pausas visibles. El 20 de octubre, el blog eagle.ai presentó EAGLE-4 como más veloz que DFlash 2 y DSpark, con una tabla que anuncia 3,59x sobre la decodificación base. La cifra es auténtica, pero el entorno lo cambia todo: cuatro aceleradores B300 que atienden a un solo usuario con la aleatoriedad desactivada. En ese marco estrecho la promesa se cumple. Fuera de él, la calibración y la concurrencia alteran el resultado con velocidad.

**Origen** **académico** de las **propuestas** **adaptativas**

El mérito corresponde a quienes iniciaron esta línea de trabajo. EAGLE-4 nace en Eagle AI, bajo la dirección de Hongyang Zhang, de Waterloo, coautor de las versiones 1, 2 y 3. El mismo grupo lanzó EAGLE 3.1 este año con soporte de vLLM, así que la continuidad es real. Los cabezales de predicción múltiple integrados en DeepSeek V4, Qwen 3 y Gemma 4 siguen el mismo diseño general, de modo que muchos usuarios ya probaron un primo de esta idea. El historial de GitHub bajo SafeAILab/EAGLE traza ese linaje desde las primeras versiones con licencia Apache, mientras el nuevo estudio de 12 páginas más el código GitHub bajo eagle-hq/EAGLE-4 añaden borradores para Qwen 27B y Nemotron Super. Nvidia, AMD, vLLM y SGLang figuran como socios de lanzamiento.

Un solo concepto explica la ruptura con sus rivales. Un modelo grande se vuelve lento porque cada token nuevo obliga a leer los 27.000 millones de pesos desde la memoria. El cálculo es veloz, la espera domina. Imagina una cocina concurrida con un chef jefe y un ayudante ágil. El ayudante adelanta los próximos platos, el chef revisa toda la fila de una vez, conserva los correctos y repite el primer fallo. Una revisión libera varios platos, y la calidad iguala el trabajo solitario del chef porque cada pieza pasó inspección. MTP, DFlash 2, DSpark y EAGLE-4 comparten este ciclo de verificar tras proponer, con salida sin pérdidas. Sus rivales solo difieren en el modo de proponer: DFlash 2 y DSpark preparan juntos un bloque de tamaño fijo, mientras EAGLE-4 propone paso a paso y reconsidera antes de cada avance .

EAGLE-4 no gana por adivinar mejor, sino por contenerse. El sistema EAGLE-Harness mide la velocidad del acelerador, cuenta los usuarios activos y pondera la confianza del borrador antes de profundizar. Con poca carga invita a borradores profundos con opciones ramificadas; con carga alta propone poco y se detiene pronto. El trabajo omitido nunca desperdicia presupuesto de verificación. El borrador es diminuto: una sola capa frente a cinco en los borradores rivales, lo que recorta el cómputo por intento unas 3,8x . El segundo ahorro ataca la puntuación del vocabulario. El vocabulario de Qwen ronda 248.000 entradas y puntuarlo todo consumía la mayor parte del tiempo del borrador. EAGLE-4 arma primero una lista breve de 128 candidatos probables y solo puntúa ese subconjunto. Cada paso se reduce a más de la mitad, y la lista breve aún contiene la respuesta correcta en cerca del 98% de los casos.

**Calibración** y **concurrencia** redefinen el **liderazgo**

Las cifras estrella dependen de la calibración . Con aleatoriedad cero, donde el modelo toma siempre el token más probable, EAGLE-4 alcanza 3,59x para un usuario solitario, delante de DFlash 2 con 2,80x, DSpark con 2,57x y el MTP integrado con 2,22x. Con aleatoriedad uno, habitual en el chat, EAGLE-4 baja a 2,59x y DFlash 2 se queda en 2,39x, así que el margen se estrecha del 28% a cerca del 8%. La aleatoriedad castiga cada borrador porque las coincidencias se vuelven raras. La programación y las matemáticas ganan más con aleatoriedad cero, pues allí las respuestas deterministas ya son deseables. La escala vuelve a cambiar el orden: con 512 usuarios a la vez, la base sirve unos 21.000 tokens por segundo en total y EAGLE-4 sirve unos 28.000, o sea 1,34x, mientras DFlash 2 cae a 0,78x, DSpark a 0,67x y MTP apenas empata. Los bloques fijos siguen proponiendo trabajo sin capacidad libre de verificación, mientras la profundidad adaptativa mantiene a EAGLE-4 por delante. Ante cada cifra de velocidad, pregunta por el nivel de aleatoriedad y el número de usuarios.

El estudio alinea cuatro opciones, de la más familiar a la más nueva. El MTP integrado no exige descargas y ya funciona en llama.cpp y LM Studio: logra 2,2x para un usuario, pero cae hacia 1,6x con aleatoriedad uno porque propone una cadena fija. DSpark combina la propuesta paralela por bloques con un cabezal secuencial pequeño que ordena el resultado, con 2,57x medidos. Como su equipo no publica borradores para Qwen, la prueba usó un porte comunitario de RedHat. El informe arXiv 2607.05147 documenta ese diseño paralelo más secuencial con todo detalle. DFlash 2, de Inco y lanzado en agosto, propone cada bloque en una sola pasada de difusión y sigue como favorito para este Qwen. Eagle midió 2,8x, pero el blog de Inco anuncia de 2,7x a 3,4x en Qwen 27B, así que el techo de ese rango roza el terreno de EAGLE-4. El propio EAGLE-4 marca 3,59x, unos 864 tokens por segundo frente a 240 sin ayuda. También rinde en otros equipos: 3,49x en un acelerador solitario MI355X y 2,74x frente a 2,41x del MTP en Nemotron Super. La guía de Unsloth ofrece un camino práctico para el MTP local en llama.cpp y LM Studio, útil mientras maduran las opciones pesadas.

Conviene la cautela porque falta la reproducción independiente. Cada cifra comparativa publicada procede de Eagle o sus socios. Las pruebas rivales corrieron en un motor que el estudio no nombra, así que Inco aún no muestra lo que DFlash 2 logra en el mismo equipo con ajustes propios. Las recetas públicas también quedan bajo el pico: el código GitHub bajo eagle-hq/EAGLE-4 da soporte a versiones adaptadas de SGLang y vLLM, y la página de soporte anuncia cerca de 3,3x a 3,4x en SGLang y cerca de 3x en vLLM para un usuario. Los documentos de vLLM describen la configuración de decodificación especulativa y la aceptación de borradores con detalle, lo que ayuda a interpretar la brecha. Los documentos reconocen sus límites con franqueza inusual, buena señal. Hasta que un laboratorio neutral repita la matriz, considera el liderazgo sobre DFlash 2 una afirmación fuerte con una pregunta abierta.

Esta noche no podrás instalarlo en casa. Lo publicado cubre solo SGLang, vLLM y TokenSpeed en versiones adaptadas, validado en aceleradores B300 y MI355X de centro de datos. No existe integración con llama.cpp, LM Studio, MLX ni Ollama, y al momento del vídeo no había ninguna solicitud abierta para ellos. El peso es alto: el Qwen 27B probado en precisión completa de 16 bits ocupa unos 55 GB repartidos en cuatro aceleradores, más un borrador de 6,2 GB que carga su propia copia del vocabulario enorme. En un Mac mini de 16 GB, el borrador solo consumiría más de un tercio de la memoria unificada antes de cargar los pesos base. La licencia añade fricción: EAGLE-4 es de código visible, no abierto del todo; gratis para uso personal e investigación y gratis en lo comercial solo bajo 20 millones de ingreso anual, con una cláusula extra sobre marcos de inferencia competidores. Esa estructura puede retrasar el porte comunitario donde hoy trabaja la mayoría. Las versiones 1 a 3 de EAGLE usaron términos Apache, y EAGLE-3 llegó a llama.cpp en junio: el contraste es marcado .

El dato más ilusionante vive fuera del centro de datos. Un Gemma compacto en 4 bits corrió en un Motorola Razr 70 Ultra usando solo los procesadores del móvil con llama.cpp en un equipo sin modificar. La decodificación base logró unos 23 tokens por segundo en una prueba de programación; con EAGLE-4 llegó a unos 83, o sea 3,6x . La energía cayó a más de la mitad: 166 milijulios por token frente a 356, y la misma respuesta terminó en 14 segundos en vez de 43. El borrador para ese Gemma solo pide 134 MB, y un nodo pequeño en la nube con cuatro núcleos y 8 GB de memoria promedió 2,7x, donde EAGLE-3 lograba de 1,25x a 1,65x. Dos reservas: el móvil empezó frío y el estrangulamiento térmico aparece tras 30 a 45 segundos de salida continua. Y la mayor: la versión adaptada de llama.cpp y el borrador diminuto siguen sin publicarse, así que la parte más doméstica de EAGLE-4 aún no se puede descargar .

Si usas Qwen 27B en llama.cpp o LM Studio, activa hoy el MTP integrado. No cuesta nada y ya funciona. Luego prueba DFlash 2 o DSpark, ambos incluidos en LM Studio 0.4.22. En Mac, un porte comunitario de MLX alcanzó unos 40 tokens por segundo en un M4 Pro con 48 GB, cerca de 2,7x con DFlash 2 y DSpark justo detrás. Los equipos de centro de datos con alta concurrencia y licencia compatible deberían probar EAGLE-4, pues la carga densa muestra su ventaja más nítida. Donde veas cifras, pide el nivel de aleatoriedad y el número de usuarios: una marca con aleatoriedad cero y un usuario solitario marca el techo, no la norma. En breve: la mejor velocidad nace de las conjeturas sabiamente contenidas , en un móvil con igual fiabilidad que dentro de un centro de datos.