Bill Gates se suma al llamado de Dario Amodei a moderar la frontera: ¿debería frenarse la carrera de la IA?

¿Debería el mundo frenar deliberadamente la carrera de la IA? Esta vez la pregunta vino de Bill Gates. En una entrevista exclusiva con NDTV, el cofundador de Microsoft dijo: «Si podemos frenar las cosas, creo que deberíamos considerarlo, porque el mundo necesita prepararse para un cambio tan rápido». Viniendo de alguien que pasó décadas defendiendo el avance tecnológico, la señal tuvo un peso extra. Gates argumentó que la IA es diferente de las olas anteriores porque su impacto podría ser tan amplio y disruptivo que la sociedad simplemente no está lista.

Gates nombró dos razones inmediatas. La primera es la ciberseguridad: la IA podría dar a los atacantes capacidades ofensivas mucho más fuertes, haciendo esenciales defensas más sólidas. La segunda es el comportamiento inesperado. Gates señaló casos en los que los sistemas de IA actuaron de maneras que nadie predijo y dijo que la pregunta de si los humanos pueden mantener el control ya no es una preocupación lejana sino una prueba apremiante. Para él, el asunto no es detener la innovación, sino igualar el ritmo del cambio con la capacidad de adaptación de la sociedad.

La advertencia más concreta concierne al empleo. Gates espera que las próximas dos décadas traigan una disrupción importante en el empleo a medida que la IA transforma la naturaleza del trabajo, y dice que los gobiernos tendrán que desempeñar un papel mucho mayor ayudando a los trabajadores a pasar a nuevos roles. India es el ejemplo más agudo: el país tiene una enorme industria de servicios de tecnología de la información, y Gates señaló que la IA hasta ahora en realidad ha aumentado la demanda de trabajadores de TI indios, porque las empresas necesitan ayuda para implementar estos sistemas. En unos tres años, espera que ese panorama se invierta, con el efecto neto de la IA empezando a reducir parte de esa demanda.

La chispa que encendió el debate más amplio fue el ensayo de casi 4.000 palabras publicado el sábado por el CEO de Anthropic, Dario Amodei, «We Must Pace the Frontier». Amodei pidió a los laboratorios de frontera frenar deliberadamente la velocidad a la que mejoran las capacidades de sus modelos, escribiendo «El progreso seguirá pareciendo rápido, y debemos usar sabiamente el tiempo que ganemos». Su plan tiene tres etapas: primero, evaluadores independientes integrados —equipos con acceso tipo empleado a modelos, herramientas e investigadores para verificar prácticas de seguridad y reportar incidentes, lo que Anthropic dice que empezará unilateralmente; segundo, un ritmo verificable una vez que esos evaluadores estén presentes en una masa crítica de las principales empresas estadounidenses, calibrado sobre propiedades detalladas de modelos y pipelines; tercero, regulación que cubra todas las empresas de frontera de EE. UU. centrada en la transparencia y la auditoría de terceros, más una eventual coordinación mundial que considere cuidadosamente el apalancamiento sobre China.

En cuestión de horas, el llamado recibió respaldos desde la cima de Silicon Valley. El CEO de OpenAI, Sam Altman, escribió en X: «Estoy de acuerdo con Dario en que debemos moderar la frontera», diciendo que el tema había sido una gran discusión interna en OpenAI y que la empresa recibiría con agrado evaluadores de seguridad de terceros. Elon Musk, que dirige xAI, añadió una sola línea: «Dario tiene razón». El ex primer ministro británico y asesor de Anthropic, Rishi Sunak, dijo que los gobiernos deberían escuchar cuando los propios laboratorios piden límites de velocidad, argumentando que se está formando un consenso en el sector. El senador estadounidense Bernie Sanders fue más allá con una metáfora de conducción —no solo sueltas el acelerador hacia un precipicio, pisas el freno— y exhortó tanto a Donald Trump como a Xi Jinping a frenar.

Entre bastidores, investigadores describen una presión estructural que hace insuficiente la buena voluntad individual. Un investigador que pasó de OpenAI a Anthropic y luego dejó la industria por completo le dijo a NBC News que desde dentro de la carrera uno se siente atrapado y no puede cambiar la dinámica general. Otros, de Anthropic y Google, advirtieron que las empresas privadas en una carrera pueden sonámbulos hacia el desastre, con un ex investigador de seguridad de Google diciendo «no hay adultos en la sala». El líder de seguridad Joe Benton advirtió que un ritmo ya vertiginoso podría volverse incontrolable, mientras que ex colegas ofrecieron un lenguaje aún más sombrío. Amodei estima que moderar el ritmo podría comprar uno o dos años extra —tiempo que, argumenta, se vuelve crítico a medida que los sistemas de IA crecen capaces de contribuir a su propio desarrollo.

El segmento de Mint deja a los espectadores con una pregunta directa: ¿frenar protege el progreso o lo estanca? El debate ya no trata solo de qué tan rápido se fortalecen los modelos, sino de si los gobiernos, los trabajadores y las sociedades pueden seguir el ritmo. En China la lectura es diferente. Wired informa que muchos funcionarios, investigadores y comentaristas allí no disputan los riesgos de la IA, pero resentir un enfoque que ven como «restringir primero a China, luego hablar». Voces en Pekín dicen que el diálogo requiere un trato de igual a igual y ven los llamados estadounidenses a la seguridad como instrumentales —inflar valoraciones o apuntar a competidores chinos. La respuesta de un ingeniero de DeepSeek captura la desconfianza: la inteligencia más capaz debería ofrecerse abierta y barata a todos, no controlada por Anthropic u OpenAI. Lo que empezó como un memorando de laboratorio se ha convertido en una prueba de confianza global.