La arquitectura descabellada de DeepSeek V4.1 Flash: memoria compartida que reduce la caché KV 437x

DeepSeek V4.1 Flash ocupa el centro del episodio «Insane New Architecture» de Two Minute Papers, que abre con pura velocidad y dos afirmaciones audaces: en algunos benchmarks Flash puede superar a modelos de la clase Claude Opus y a Kimi K3, y vence de forma fiable al propio DeepSeek V4. El presentador pone cifras al costo para hacerlo tangible — ejecutar V4 Pro en local requiere unos 300.000 $ en hardware, mientras que Flash hace el mismo trabajo por aproximadamente un cuarto. La curva apunta hacia un agente de bolsillo en un año, ofrecido como optimismo cauteloso y no como hype.

Qué se volvió más rápido, qué se volvió más pequeño: la anatomía del 437x

La idea más llamativa es que el modelo es enorme y pequeño a la vez. Enorme porque la columna vertebral tiene 552 mil millones de parámetros con hasta un millón de tokens de contexto — el video señala «más de 500 mil millones». Pequeño porque la caché KV que sostiene el contexto se desploma: 437x más pequeña que la de V1 de hace tres años y 4x más pequeña que la de V4 Flash de hace apenas meses. El abstract del artículo arXiv 2609.19969 fija la cifra: huella global reducida a 890 bytes por token, aproximadamente un cuarto de DeepSeek-V4-Flash en HBM. Con SWA Bounded Replay, la huella persistente en SSD o memoria del host cae a cerca de un octavo de V4-Flash. Para cargas de trabajo de agentes de largo horizonte e intensivas en entrada, eso ataca directamente el cuello de botella de cómputo, almacenamiento y ancho de banda.

¿Cómo se logra la reducción? El video lo nombra: Compressed Sparse Attention 2, CSA2. En un Transformer clásico cada capa conserva su propia memoria KV; DeepSeek V4.1 Flash la comparte entre capas. No todos tienen que recordar todo — hay una memoria compartida. La dificultad es que distintas capas necesitan vistas distintas de la misma historia. La solución es un Causal Encoder-Decoder de 40 capas, CED: un codificador causal de 20 capas proyecta una memoria global a partir de sus estados ocultos finales, y un decodificador de 20 capas lee de esa memoria global en lugar de derivar el KV de sus propios estados. Añade caché KV en FP4 y tanto la caché global residente en HBM como la caché persistente residente en SSD caen drásticamente.

Números de la arquitectura: 8B de prefill, 16B de decode, 45T de tokens

La asimetría importa para la economía de los agentes. El modelo activa 16B de parámetros por token durante el decode pero solo 8B durante el prefill, lo que reduce a la mitad el costo del prefill para trabajos intensivos en entrada. DeepSeek informa haber racionalizado la arquitectura V4, añadido extensiones eficientes y preentrenado sobre un corpus multimodal de 45T de tokens seguido de un amplio post-entrenamiento para escenarios de agentes textuales y multimodales. El anuncio del 10 de septiembre de 2026 en deepseek.com lo posiciona como el miembro más pequeño de la nueva familia con comprensión visual nativa, prometiendo inferencia más rápida y mayor rendimiento. Los checkpoints están abiertos en Hugging Face.

El video no se detiene en la arquitectura; muestra dos sondas de capacidad concretas. Primero, comprensión visual nativa — se le da al modelo la imagen de un menú de juego icónico y se le pide escribir un juego que la reproduzca. Segundo, reproducción de física — en el artículo del honey-coiling, GPT-6 Astra clava el resultado como «absolutamente impresionante», Opus 5.1 acierta la física con un renderizado algo más débil, y Flash se presenta a unos cuantos artículos de alcanzar ese nivel. El presentador insiste en mostrar la verdad más allá de los titulares y señala, con un aparte irónico, que YouTube dejó de recomendar sus artículos de simulaciones físicas.

La trampa y la factura: un modelo que piensa mucho y quema tokens

La trampa al final reequilibra la historia. A V4.1 Flash le gusta pensar y quema muchos tokens. No es caro por token, pero el volumen total es alto. Con hardware puedes ejecutarlo gratis; sin él, la nube de GPU de Lambda se presenta como el puente práctico — el presentador comenta que usa Lambda para reproducir artículos en minutos y probar ideas rápido. Cada nuevo artículo de DeepSeek, dice el argumento, baja el costo de inferencia para todos, lo que ayuda directamente a médicos y científicos. Pesos abiertos más un artículo abierto mantienen intacto el hilo de «la ciencia abierta gana».

Tomando distancia, la locura de V4.1 Flash no es el músculo bruto sino la economía de la memoria. El uso compartido entre capas, la proyección de codificador a decodificador y la compresión FP4 reducen juntas un contexto de un millón de tokens a un rastro de 890 bytes por token mientras empujan el rendimiento por encima de la línea base. Reducir una barrera local de 300.000 $ a un cuarto y a la mitad la activación del prefill convierte la frase «en tu bolsillo en un año» de especulación en hoja de ruta de ingeniería. Al contar la reducción en dos escalas a la vez — 437x vs V1 y 4x vs V4 Flash — el video ofrece un marco compacto para quien sigue las arquitecturas.