Bill Gates rejoint l'appel de Dario Amodei à ralentir la frontière : faut-il freiner la course à l'IA ?

Le monde devrait-il ralentir délibérément la course à l'IA ? Cette fois, la question vient de Bill Gates. Dans une interview exclusive accordée à NDTV, le cofondateur de Microsoft a déclaré : « Si nous pouvons ralentir les choses, je pense que nous devrions l'envisager, car le monde doit se préparer à un changement aussi rapide. » Venant de quelqu'un qui a défendu pendant des décennies le progrès technologique, ce signal avait un poids supplémentaire. Gates a soutenu que l'IA est différente des vagues précédentes car son impact pourrait être si large et perturbateur que la société n'est tout simplement pas prête.

Gates a nommé deux raisons immédiates. La première est la cybersécurité : l'IA pourrait donner aux attaquants des capacités offensives bien plus puissantes, rendant des défenses renforcées indispensables. La seconde est le comportement imprévu. Gates a cité des cas où des systèmes d'IA ont agi de manière imprévisible et a déclaré que la question de savoir si les humains peuvent garder le contrôle n'est plus une préoccupation lointaine mais une épreuve pressante. Pour lui, il ne s'agit pas d'arrêter l'innovation, mais d'adapter le rythme du changement à la capacité d'adaptation de la société.

L'avertissement le plus concret concerne l'emploi. Gates s'attend à ce que les deux prochaines décennies apportent une perturbation majeure de l'emploi à mesure que l'IA transforme la nature du travail, et affirme que les gouvernements devront jouer un rôle bien plus important pour aider les travailleurs à se reconvertir. L'Inde est l'exemple le plus frappant : le pays possède une immense industrie de services informatiques, et Gates a noté que l'IA a jusqu'ici en réalité accru la demande de travailleurs informatiques indiens, car les entreprises ont besoin d'aide pour déployer ces systèmes. D'ici environ trois ans, il s'attend à ce que cette situation s'inverse, l'effet net de l'IA commençant à réduire une partie de cette demande.

L'étincelle qui a déclenché le débat plus large est l'essai de près de 4 000 mots publié samedi par le PDG d'Anthropic Dario Amodei, « We Must Pace the Frontier ». Amodei a appelé les laboratoires de frontière à ralentir délibérément le rythme d'amélioration des capacités de leurs modèles, écrivant : « Le progrès semblera encore rapide, et nous devons utiliser sagement le temps que nous gagnons. » Son plan comporte trois étapes : d'abord, des évaluateurs indépendants intégrés — des équipes disposant d'un accès de type employé aux modèles, aux outils et aux chercheurs pour vérifier les pratiques de sécurité et signaler les incidents, ce qu'Anthropic dit vouloir commencer unilatéralement ; ensuite, un rythme vérifiable une fois que ces évaluateurs seront présents dans une masse critique des principales entreprises américaines, calibré sur des propriétés détaillées des modèles et des pipelines ; enfin, une régulation couvrant toutes les entreprises américaines de frontière, axée sur la transparence et l'audit par des tiers, plus une coordination mondiale éventuelle qui examine attentivement le levier vis-à-vis de la Chine.

En quelques heures, l'appel a recueilli des soutiens venus du sommet de la Silicon Valley. Le PDG d'OpenAI Sam Altman a écrit sur X : « Je suis d'accord avec Dario, nous devons ralentir la frontière », précisant que le sujet avait fait l'objet d'une grande discussion interne chez OpenAI et que l'entreprise accueillerait favorablement des évaluateurs de sécurité tiers. Elon Musk, qui dirige xAI, a ajouté une seule ligne : « Dario a raison. » L'ancien Premier ministre britannique et conseiller d'Anthropic Rishi Sunak a déclaré que les gouvernements devraient écouter quand les laboratoires eux-mêmes demandent des limites de vitesse, estimant qu'un consensus se forme dans le secteur. Le sénateur américain Bernie Sanders est allé plus loin avec une métaphore automobile — on ne se contente pas de relâcher l'accélérateur devant un précipice, on freine — et a exhorté Donald Trump et Xi Jinping à ralentir.

En coulisses, des chercheurs décrivent une pression structurelle qui rend la bonne volonté individuelle insuffisante. Un chercheur passé d'OpenAI à Anthropic puis ayant quitté l'industrie entirely a confié à NBC News que, vu de l'intérieur de la course, on se sent piégé et incapable de changer la dynamique globale. D'autres, issus d'Anthropic et de Google, ont averti que des entreprises privées engagées dans une course peuvent somnambuler vers la catastrophe, l'un des anciens chercheurs en sécurité de Google déclarant qu'« il n'y a pas d'adultes dans la pièce ». Le responsable sécurité Joe Benton a mis en garde contre un rythme déjà effréné qui pourrait devenir incontrôlable, tandis que d'anciens collègues ont employé un langage encore plus sombre. Amodei estime que le ralentissement pourrait gagner un à deux ans supplémentaires — un temps qui, selon lui, devient crucial à mesure que les systèmes d'IA deviennent capables de contribuer à leur propre développement.

La chronique de Mint laisse aux téléspectateurs une question directe : ralentir protège-t-il le progrès ou le bloque-t-il ? Le débat ne porte plus seulement sur la vitesse à laquelle les modèles se renforcent, mais sur la capacité des gouvernements, des travailleurs et des sociétés à suivre. En Chine, la lecture est différente. Wired rapporte que de nombreux responsables, chercheurs et commentateurs là-bas ne contestent pas les risques de l'IA, mais s'irritent d'une approche qu'ils perçoivent comme « restreindre d'abord la Chine, puis discuter ». Des voix à Pékin affirment que le dialogue exige un traitement d'égal à égal et voient les appels américains à la sécurité comme instrumentaux — gonfler les valorisations ou cibler des concurrents chinois. La réponse d'un ingénieur de DeepSeek capture cette méfiance : l'intelligence la plus capable devrait être offerte ouvertement et à bas prix à tous, et non contrôlée par Anthropic ou OpenAI. Ce qui a commencé comme un mémo de laboratoire est devenu un test de confiance mondial.