Lección de Karpathy para usar bien los modelos de lenguaje

Abrir una conversación nueva equivale a empezar una tira larga de piezas pequeñas que se va alargando por turnos. Tú escribes tu parte, el modelo continúa donde lo dejaste y emite una señal especial de cierre que te devuelve la palabra. Esa alternancia ordenada convierte todo el diálogo en una única secuencia compartida que se relee entera en cada paso. El sistema no guarda el pasado en otro cajón, así que el desorden y el relleno desvían la respuesta sin hacer ruido.

Conviene imaginar la ventana de contexto como un escritorio pequeño donde solo cabe lo que tienes a la vista. Todo lo que colocas encima resulta legible para el modelo, y lo que queda fuera simplemente no existe para él. Cuando acumulas mensajes viejos, la atención se dispersa, la respuesta tarda más y el coste sube sin aportar claridad. Los hilos largos y serpenteantes rinden peor que los breves y ordenados. Si el tema cambia por completo, abrir un chat limpio equivale a despejar la mesa y recuperar el foco.

El preentrenamiento funciona como meter internet entero en una maleta con compresión con pérdida, donde se conserva la idea general y se sacrifican los detalles exactos. El resumen publicado en maggiemchen.com ilustra bien esa escala colosal: unos diez terabytes de texto procesados con seis mil tarjetas gráficas durante doce días, con un coste cercano a los dos millones de dólares, destilados en apenas ciento cuarenta gigabytes de pesos. Lo que aparece mil veces queda nítido, lo raro se vuelve borroso. Por eso el modelo brilla en temas populares y patina, incluso inventa, en datos escasos.

Después llega una segunda fase que no añade datos sino modales y trato, como enseñar educación en una oficina nueva. Con miles de ejemplos humanos, el sistema aprende a sonreír, a ofrecer ayuda y a explicar paso a paso con paciencia. Casi todo el conocimiento viene de la compresión anterior, mientras el tono servicial y los hábitos de respuesta se ajustan aquí. Conviene separar ambas capas porque un estilo amable no garantiza una información correcta. El envoltorio puede sonar perfecto y aun así esconder un contenido que merece comprobación.

Cada modelo arrastra una fecha de corte que lo deja varios meses por detrás del presente, como leer el periódico con medio año de retraso. Todo lo ocurrido después del entrenamiento, como elecciones, precios, estrenos y récords recientes, nunca entró en su memoria. Preguntar por la actualidad apelando solo al recuerdo invita a respuestas seguras pero anticuadas. La frontera debe tomarse en serio para no confundir una pauta vieja con un hecho vigente. Ante cualquier asunto vivo, lo prudente es activar herramientas que consulten fuentes frescas.

Las dudas cotidianas muestran dónde la memoria rápida acierta y dónde conviene frenar. La cantidad de cafeína de un café filtrado, alrededor de sesenta y tres miligramos, o la dosis orientativa de DayQuil contra el resfriado, reciben respuestas fluidas en segundos porque son datos muy repetidos. Esa velocidad resulta ideal para tareas de bajo riesgo y recados domésticos. Sin embargo, cuando hay salud o seguridad en juego, la vía responsable pasa por mirar la caja y contrastar una fuente fiable antes de actuar. Lo frecuente no equivale a lo seguro.

El desplegable de modelos influye más de lo que parece, como elegir coche según el viaje. Los planes gratuito y de pago abren estantes distintos, y las variantes pequeñas como GPT-4o mini cambian profundidad y chispa por velocidad. Esas versiones ligeras resuelven borradores y preguntas sencillas con soltura, pero se quedan cortas en juicio y creatividad cuando el problema se enreda. Para el trabajo diario que pide criterio, el modelo insignia compensa con respuestas más sólidas. La regla práctica consiste en asignar cada tarea a su motor adecuado y evitar sustos.

Algunos modelos pueden detenerse a razonar antes de contestar si se activa un interruptor especial, como un estudiante que garabatea en sucio antes del examen. La nota publicada en fbetteo.com traza bien la frontera: la charla diaria funciona de sobra con el modelo insignia normal, mientras el código enrevesado y las matemáticas duras merecen la ruta lenta de pensamiento que ofrecen opciones como Grok con razonamiento o Claude 3.7 thinking. Encender esa deliberación para nimiedades solo quema tiempo y dinero. Conviene reservarla para los rompecabezas que resisten una primera mirada.

Sin herramientas, el modelo parece una maleta cerrada con cremallera sobre la mesa: llena de saber pero aislada del mundo. No calcula con precisión, no ejecuta código ni puede asomarse a nada publicado tras su entrenamiento. La aritmética fina, las cifras vivas y los hechos recientes quedan fuera de sus paredes selladas. Pedirle números o novedades apelando solo a la memoria abre la puerta a la invención confiada. En esos casos toca pasar a modos con calculadora, intérprete y navegador, que le prestan manos y ojos.

La búsqueda web pone páginas externas sobre el escritorio para que el modelo las lea como apuntes repartidos en clase. A veces el sistema sale a buscar por su cuenta y otras conviene pedir la consulta de forma explícita. El resumen de teamday.ai marca la misma divisoria entre el hito anual del preentrenamiento y la capa de habilidades cotidianas: memoria estática para lo estable y recuperación en vivo para todo lo que se mueve. Los temas frescos agradecen ese empujón manual hacia el navegador. Así la respuesta se apoya en páginas vigentes y no en un recuerdo congelado.

Crear un reflejo de buscar primero ahorra disgustos en preguntas que cambian o viven en nichos. Si la tienda abre el fin de semana, dónde se rodó una serie como White Lotus, qué incluye una oferta de Vercel o qué hay de cierto en el último rumor de Apple, todo caduca deprisa o habita lejos de los textos trillados. Lanzar esas dudas a una ventana sin conexión invita a conjeturas rancias. Pasar antes por una herramienta que navega mantiene la respuesta anclada a páginas que existen hoy. Comparar dos o tres fuentes remata la faena con poco esfuerzo.

La modalidad de investigación profunda combina esa navegación con paciencia, leyendo decenas de páginas y razonando unos diez minutos antes de entregar. La demostración de la lección estudia una mezcla de longevidad del tipo CAKG, plantea preguntas aclaratorias sobre alcance y profundidad, y devuelve un dosier largo con múltiples fuentes. El análisis recogido en analyticsvidhya.com describe la misma silueta: un conducto más lento que canjea espera por amplitud, citas y estructura imposibles en una réplica única. Cuando la respuesta rápida no basta para estrenarse en un tema complejo, ese informe de veintisiete fuentes ofrece un mapa excelente.

La competencia en esos informes lentos se ha animado, con botones parecidos en varias casas que prometen dosieres similares aunque con carácter distinto. La variante profunda de Perplexity y la búsqueda profunda de Grok entregan piezas más cortas y veloces, mientras el informe de ChatGPT suele llegar más largo y detallado en comparativas directas. La longitud, sin embargo, nunca prueba la veracidad por sí sola. Lo sensato es tratar cada entrega como un primer borrador, abrir las citas, cotejar cifras y detectar huecos como competidores ausentes. El esquema lo pone la máquina, el veredicto final lo pones tú.

Subir archivos equivale a dejar un legajo grueso sobre la mesa para que el modelo lo hojee como páginas añadidas. El conducto digiere bien la prosa, pero las imágenes y los gráficos suelen simplificarse o perderse por el camino. El texto alojado en karpathy.ai deja la misma moraleja práctica ante documentos grandes: conviene empezar pidiendo un resumen breve para orientarse. El ejemplo del artículo de treinta megabytes sobre el modelo de ADN Evo 2 lo confirma, pues primero se pide el mapa y luego se baja a cada calle. Avanzar por secciones con preguntas concretas evita perderse y ahorra una tarde entera.

Los libros enteros pueden sumarse a la sesión con el mismo truco de leer en compañía, como llevar un compañero paciente al lado. Un clásico en dominio público como La riqueza de las naciones de 1776, conseguido vía Gutenberg, se pega por capítulos para estudiarlo codo a codo. El bucle resulta sencillo: pedir la idea central, leer junto al resumen y luego interrogar los pasajes duros. Los campos ajenos y la dicción arcaica son los más agradecidos, porque el modelo traduce giros viejos a lengua actual al instante. Cerrar contando lo aprendido con tus propias palabras fija el conocimiento.

En cuentas, el atajo consiste en dejar de pedir cálculo mental y encargar un guion ejecutable que la máquina corra de verdad. El modelo redacta un programa corto, el intérprete lo ejecuta y devuelve una cifra verificada en lugar de una intuición. La lección lo presenta como contratar a un analista júnior: planteas el objetivo, dejas que compute a la vista y revisas los pasos. Fórmulas, conversiones y operaciones encadenadas pertenecen a este modo y no a la prosa libre. Basta echar un ojo al código para saber que la confianza viene de lo ejecutado y no de lo adivinado.

El modo avanzado de análisis extiende esa idea a tablas y gráficos, convirtiendo cifras subidas en tendencias dibujadas y resúmenes legibles. Su fallo famoso enseña mucho: ante una curva de ventas, el sistema inventó con total aplomo una cifra de uno coma siete billones. Las suposiciones se cuelan en silencio si nadie vigila, rellenando huecos y retocando ejes sin avisar. La defensa es de procedimiento, mirando qué columnas eligió, leyendo el código generado y comparando el dibujo con los números crudos. Tómalo como un dibujante veloz y quédate siempre con la última palabra.

Los lienzos de artefactos convierten respuestas en miniprogramas que corren junto al chat, como un pequeño taller en el navegador. La demostración levanta un entrenador de tarjetas de memoria que funciona en el panel sin instalación ni ritual previo. Diagramas, esquemas, juegos breves y widgets de estudio encajan bien en ese formato y aparecen en minutos. La pauta pide mesura, pues no todo merece volverse interactivo ni cargar la explicación. Reserva el taller para cuando un objeto manipulable enseñe más que varios párrafos, y mantén el texto alrededor bien corto.

Un agente de código como Cursor Composer lleva la misma filosofía al repositorio real, cual aprendiz rápido sentado a tu lado. La lección lo muestra convirtiendo una nota de voz en un apunte de respaldo, redactando mensajes de commit y tropezando con errores para reintentar con el fallo a la vista. La ejecución en el navegador se arrastra en tareas pesadas, así que el trabajo serio pide la aplicación de escritorio. El bucle ganador no cambia: proponer un cambio, correrlo, leer el error y repetir con el mensaje adjunto. Con avances cortos y dirección firme, el ahorro de tiempo se nota enseguida.

La entrada de voz rebaja la fricción de empezar, como dictar al teléfono en lugar de teclear. Los móviles ofrecen un micrófono de dictado y los ordenadores muestran un discreto icono de habla que convierte lo dicho en texto editable. Motores de la familia Whisper, incluido el producto Superwhisper, resuelven bien ese paso de habla a escritura en narraciones largas. Los nombres propios, como el de una biblioteca concreta, aún piden corrección manual porque el oído automático patina. Un modo avanzado de voz permite además dialogar de viva voz para idear con las manos ocupadas.

Las preguntas sobre imágenes rinden mejor en dos pasadas separadas, primero leer y luego juzgar. Ante una tabla nutricional, pide una copia fiel en palabras de cada fila y confirma su exactitud con tus ojos antes de nada. Solo entonces formula la duda real sobre calorías, proporciones o ingredientes. Las fórmulas en pizarras y el texto en etiquetas siguen la misma división prudente. Separar la lectura del razonamiento impide que un dígito mal visto envenene la conclusión. Ese orden tranquilo eleva mucho el acierto y te deja el control de la verificación.

El cierre lo pone la generación de imágenes junto a trucos de memoria, como una fundición que vuelve palabras en cuadros. Un modelo de la familia DALL-E 3, documentado en openai.com, convierte una descripción llana en una ilustración con pie detallado, tal como muestra la escena de un templo en Kioto. El modo de vídeo en el móvil deja apuntar con la cámara y preguntar en directo por carteles o plantas. Las notas de memoria guardan preferencias entre charlas y los tutores a medida, como el ejemplo de tarjetas en coreano, redondean un estuche que abarca dibujo, habla y recuerdo.