El rey Carlos advierte del peligro existencial de la IA si cae en manos equivocadas

En el breve clip publicado por DW News, el rey Carlos comienza reconociendo la inmensa capacidad de la inteligencia artificial para mejorar y salvar vidas, desde las ciencias de la vida hasta la medicina. El tono cambia rápidamente cuando señala que quienes construyeron la tecnología son cada vez más los que advierten de que podría desarrollar capacidades más oscuras, incluso llegar a quitar la vida. Elogio y cautela van de la mano, y por eso este breve discurso trascendió con creces la sala donde fue pronunciado.

Una cumbre en Dumfries House, en Escocia

Las declaraciones se pronunciaron el 17 de septiembre de 2026 en Dumfries House, cerca de Cumnock, en East Ayrshire, Escocia, una finca del siglo XVIII que se ha convertido en uno de los lugares insignia del rey. Según el comunicado de la familia real, la reunión fue convocada por Su Majestad y facilitada por la Ditchley Foundation, reuniendo a entre treinta y sesenta líderes de la industria, el gobierno y la sociedad civil. El objetivo declarado era explorar cómo la IA puede desarrollarse y desplegarse en beneficio de la sociedad, fortalecer las comunidades locales y mejorar vidas, y el clip de Shorts solo muestra un minuto de una jornada mucho más larga.

La lista de invitados subrayó la importancia del encuentro. Estuvieron presentes representantes de Nvidia, Google DeepMind, OpenAI y Anthropic, entre los nombrados figuraban el director ejecutivo de Nvidia, Jensen Huang, el cofundador de DeepMind, Demis Hassabis, la directora financiera de OpenAI, Sarah Friar, y el director de asuntos globales de Anthropic, Tino Cuellar. Se les unieron el ministro de Inteligencia Artificial del Reino Unido, Kanishka Narayan, el asesor del papa, el padre Paolo Benanti, y figuras del King's Trust, la King's Foundation y la Sustainable Markets Initiative. El palacio presentó esa amplitud como deliberada, en consonancia con la larga práctica del rey de reunir distintos trasfondos para deliberar conjuntamente.

Dos preguntas simples: seguridad y cooperación

Retomando el mensaje que envió a la cumbre británica sobre seguridad de la IA en Bletchley Park en 2023, el rey planteó dos preguntas simples a los asistentes. Primera: ¿cómo podemos aprovechar los beneficios de la IA poniendo la seguridad en el centro? Segunda: ¿cómo podemos construir cooperación y consenso internacionales para que ninguna nación quede atrás, pero la raza humana siga al mando? Según los resúmenes oficiales, se pidió a los delegados que consideraran si un conjunto compartido de principios podría guiar el uso futuro de la IA, no solo como motor de capacidades y eficiencia, sino como una herramienta que defienda la dignidad humana y apoye el florecimiento de las personas y del planeta.

Las frases más contundentes citadas en el vídeo van directas al control. El rey dijo que existe urgencia en considerar adecuadamente los peligros existenciales de que tales tecnologías caigan en manos equivocadas y se utilicen de formas potencialmente catastróficas. Instó a establecer medios de control suficientes antes de que sea demasiado tarde, y transmitió que quienes valoran profundamente nuestra humanidad y su componente moral esencial buscan con ansiedad la certeza de que no perderemos el control de nuestro destino ni de nuestras almas. La misma redacción aparece en el texto íntegro del discurso publicado por la familia real.

Por qué la advertencia llega ahora

El momento ayuda a explicar por qué el clip se difundió rápidamente. En los últimos meses, incluso insiders de los laboratorios de frontera han advertido de que el trabajo de seguridad no logra seguir el ritmo de unas capacidades que avanzan con rapidez, un tema recogido en la cobertura de la BBC y Reuters en los días previos y posteriores a la cumbre. Los organizadores dijeron que no se espera que los principios debatidos en Dumfries House se finalicen hasta dentro de varios meses, pero que la ambición es convertir la conversación en una guía escrita centrada en la humanidad y la naturaleza. Presentadas como decisiones que moldearán el mundo que heredarán las generaciones futuras, las declaraciones en una finca rural escocesa llevaban una reivindicación de convocatoria nacional que Londres no ejercía desde Bletchley, tres años antes.