Le roi Charles met en garde contre le danger existentiel de l'IA si elle tombe entre de mauvaises mains

Dans le court clip publié par DW News, le roi Charles commence par reconnaître à l'intelligence artificielle une immense capacité à améliorer et à sauver des vies, des sciences du vivant à la médecine. Le ton change ensuite rapidement lorsqu'il souligne que ceux qui ont construit cette technologie sont eux-mêmes de plus en plus nombreux à avertir qu'elle pourrait développer des capacités plus sombres, allant jusqu'à ôter la vie. Éloge et mise en garde se côtoient, et c'est pourquoi cette brève allocution a dépassé de loin la salle où elle a été prononcée.

Un sommet à Dumfries House en Écosse

Les propos ont été tenus le 17 septembre 2026 à Dumfries House, près de Cumnock, dans l'East Ayrshire en Écosse, un domaine du XVIIIe siècle devenu l'un des lieux phares du roi. Selon le communiqué de la famille royale, la rencontre a été convoquée par Sa Majesté et facilitée par la Ditchley Foundation, réunissant environ trente à soixante dirigeants de l'industrie, du gouvernement et de la société civile. L'objectif affiché était d'explorer comment l'IA peut être développée et déployée au bénéfice de la société, pour renforcer les communautés locales et améliorer les vies, le clip Shorts ne montrant qu'une minute d'une journée bien plus longue.

La liste des invités soulignait l'importance de la rencontre. Des représentants de Nvidia, Google DeepMind, OpenAI et Anthropic étaient présents, avec notamment le PDG de Nvidia Jensen Huang, le cofondateur de DeepMind Demis Hassabis, la directrice financière d'OpenAI Sarah Friar et le directeur des affaires mondiales d'Anthropic Tino Cuellar parmi les personnalités citées. Ils étaient rejoints par le ministre britannique de l'Intelligence artificielle Kanishka Narayan, le conseiller du pape, le père Paolo Benanti, ainsi que des figures du King's Trust, de la King's Foundation et de la Sustainable Markets Initiative. Le palais a présenté cette diversité comme délibérée, conforme à la longue pratique du roi consistant à réunir des horizons différents pour une délibération commune.

Deux questions simples : sécurité et coopération

Prolongeant le message qu'il avait adressé au sommet britannique sur la sécurité de l'IA à Bletchley Park en 2023, le roi a posé deux questions simples à l'assistance. Premièrement, comment exploiter les bénéfices de l'IA en plaçant la sécurité au cœur de la démarche. Deuxièmement, comment construire une coopération et un consensus internationaux afin qu'aucune nation ne soit laissée pour compte, mais que l'humanité reste maître de son destin. Selon les résumés officiels, les délégués ont été invités à réfléchir à la question de savoir si un ensemble de principes communs pourrait guider l'usage futur de l'IA, non seulement comme moteur de capacités et d'efficacité, mais aussi comme outil préservant la dignité humaine et soutenant l'épanouissement des personnes et de la planète.

Les phrases les plus marquantes citées dans la vidéo vont droit au contrôle. Le roi a déclaré qu'il y a urgence à examiner de manière adéquate les dangers existentiels que représenterait le fait que de telles technologies tombent entre de mauvaises mains et soient utilisées de manière potentiellement catastrophique. Il a exhorté à mettre en place des moyens de contrôle suffisants avant qu'il ne soit trop tard, et a rapporté que ceux qui accordent une profonde valeur à notre humanité et à sa composante morale essentielle cherchent avec anxiété l'assurance que nous ne perdrons pas le contrôle de notre destin ni de nos âmes. La même formulation figure dans le texte intégral du discours publié par la famille royale.

Pourquoi cet avertissement résonne maintenant

Le calendrier aide à comprendre pourquoi le clip s'est rapidement diffusé. Ces derniers mois, même des initiés des laboratoires de pointe ont averti que les travaux de sécurité peinent à suivre le rythme des capacités en progression rapide, un thème repris dans les couvertures de la BBC et de Reuters dans les jours entourant le sommet. Les organisateurs ont indiqué que les principes discutés à Dumfries House ne devraient pas être finalisés avant plusieurs mois, mais que l'ambition est de transformer la conversation en recommandations écrites centrées sur l'humanité et la nature. Présentées comme des décisions qui façonneront le monde légué aux générations futures, les remarques prononcées dans un domaine écossais rural portaient une prétention de rassemblement national que Londres n'avait plus exercée depuis Bletchley, trois ans plus tôt.