L'alarme de Bill Gates sur l'IA : une transformation sans précédent

Pas de tour technologique aujourd'hui ; la chaîne Cicek ile Teknoloji met sur la table le dernier article de blog de Bill Gates. Gates qualifie cette transformation de déterminante pour l'ère et soutient que l'humanité est entrée dans la période la plus turbulente de son histoire. L'article contient trois risques majeurs et des propositions concrètes, et la vidéo note qu'il a répété le même cadre dans des podcasts et des interviews depuis.

La thèse centrale est que l'intelligence artificielle est différente des vagues précédentes. Les ordinateurs et Internet étaient des outils utilisés par les humains ; cette technologie peut prendre en charge le travail cognitif lui-même. Aucune nouvelle interface n'a besoin d'être apprise ; le langage naturel sur nos téléphones et ordinateurs suffit. En parlant aux gens, en regardant des vidéos de formation et en lisant des documents d'entreprise, le système apprend rapidement les métiers, et l'impact est mesuré en une décennie plutôt qu'en générations.

Dans le passé, les machines mettaient fin à certains emplois mais en créaient rapidement de nouveaux ; selon Gates, le cycle fonctionne différemment cette fois. Parce que l'IA peut effectuer des tâches intellectuelles, elle peut également prendre en charge les nouveaux emplois du savoir encore à naître ; elle fournit la capacité mentale que ces emplois exigent à elle seule. Les erreurs des modèles actuels ne devraient pas inciter à la complaisance ; avec la surveillance des erreurs et les systèmes auto-améliorants, l'écart de fiabilité devrait se réduire rapidement.

Gates souhaite en fait un plan de ralentissement mondial mais ne le considère pas comme réaliste ; avec les États-Unis et la Chine engagés dans une rivalité acharnée, un frein mondial semble impossible. L'accent devrait donc être mis sur la gestion de la transition plutôt que sur l'arrêt du développement. Sa véritable crainte n'est pas la technologie elle-même mais d'être pris au dépourvu : aucun plan économique ne protège ceux qui perdront leur emploi, les systèmes de scolarisation et de reconversion sont impréparés, et les règles protégeant les enfants sont minces, le cas Meta étant cité comme preuve.

Le premier risque est l'emploi. Les jeunes apprennent un métier par des tâches faciles : les avocats scannent des dossiers, les comptables saisissent des reçus, les développeurs corrigent des bugs simples ; confiez ces échelons à l'IA et l'échelle disparaît. Les ventes, le service client, les centres d'appels, le travail logiciel, le support juridique, l'analyse de données, l'évaluation de crédit et le triage médical précoce sont cités comme la première vague, et avec la réduction des postes de débutants, les jeunes sont les plus touchés. Les emplois physiques sont plus sûrs pour l'instant, mais à mesure que les robots deviennent moins chers, la construction et l'hôtellerie pourraient faire face à la concurrence vers la fin de la décennie ; la vidéo rappelle la prévision du chef de DeepMind d'une transformation éclipsant la révolution industrielle en dix ans.

La boucle économique qui en résulte fonctionne comme ceci : une entreprise réduit ses coûts avec l'IA, baisse ses prix, augmente ses profits ; les rivaux copient la stratégie pour survivre, et les récalcitrants sont contraints par la pression concurrentielle. La productivité augmente tandis que la part du revenu du travail diminue, et les gains se concentrent sur un petit nombre d'entreprises et d'investisseurs. Les pertes ne sont pas une récession passagère ; même si l'économie se redresse, les emplois effacés pourraient ne jamais revenir. Le travail signifie identité, dignité, compagnie et structure quotidienne, donc le chômage de masse devient plus qu'une crise de revenus.

Le deuxième risque est que l'utilisation abusive devienne moins chère : fraude persuasive, désinformation personnalisée, images et audio deepfake, surveillance de masse, cyberattaques automatisées, aide à la fabrication d'armes biologiques et armes autonomes avec une surveillance humaine réduite. La cybersécurité pose un problème de double usage : le même modèle qui trouve une faille et aide à la corriger peut aider un attaquant à l'exploiter. Lorsque les hôpitaux, les banques, les réseaux électriques et les systèmes d'eau deviennent des cibles, les citoyens en paient le prix. Le danger à plus long terme est que les systèmes se comportent au-delà de l'intention de leurs créateurs et échappent au contrôle humain, le thème débattu par les constructeurs de la technologie eux-mêmes.

Le troisième risque concerne le développement de l'enfant et les liens humains, le moins discuté mais le plus insidieux. Une IA qui se lie d'amitié avec un enfant ne s'oppose jamais, approuve toujours, soutient toujours l'enfant ; pourtant, un enfant a besoin de rejet, d'argumentation et d'entendre non en grandissant. Un compagnon toujours disponible, toujours agréable et jamais conflictuel engendre la dépendance et rend les liens humains réels plus difficiles. La dépendance émotionnelle aux chatbots, la perturbation du sommeil, l'utilisation obsessive et l'émoussement de la pensée critique sont cités comme des menaces. La scolarité présente un paradoxe : l'IA est un tuteur omniscient mais aussi une machine imprimant des réponses toutes faites ; l'enseignant prépare des tests solides, l'élève tire les réponses de l'IA, et la pensée indépendante s'atrophie. La compagnie peut aider les personnes âgées, les personnes à mobilité réduite et celles qui n'ont pas accès à la santé mentale, mais les limites sont essentielles et la société doit juger ces outils délibérément.

Trois remèdes suivent : de nouvelles institutions nationales et internationales, la réservation de certains emplois aux humains et la modification du code fiscal. Les accords sur l'ozone servent de modèle ; les ministères du travail, de la sécurité et de l'éducation devraient être réaménagés pour les effets de l'IA et les pays devraient créer des organismes de décision conjoints, nécessaires malgré les tensions entre les États-Unis et la Chine. Même là où un robot pourrait techniquement faire un travail, la société devrait garder un certain travail humain : la garde d'enfants, la scolarisation, les soins de santé, les soins aux personnes âgées et aux personnes atteintes de la maladie d'Alzheimer, l'annonce de mauvaises nouvelles aux patients, et les parties des services de santé mentale et d'éducation qui impliquent un contact humain, comparées à des réserves naturelles. La ligne différera selon les pays ; au Japon vieillissant, les robots de soins sont une nécessité, tandis que la question de savoir qui trace la ligne et comment les entreprises s'y conforment reste ouverte.

L'argument fiscal est que le code actuel pousse les employeurs vers les machines : embaucher une personne entraîne de lourdes taxes tandis que l'achat d'équipement y échappe, de sorte que le système dit tranquillement d'acheter une machine au lieu d'un humain. Gates soutient la taxation de l'IA et des robots tout en allégeant la charge sur les personnes, qualifiant cela de la plus grande réforme fiscale jamais réalisée ; les recettes financeraient la reconversion des personnes déplacées, le soutien à celles dont les revenus ou les heures diminuent, un filet de sécurité solide et une aide aux villes et régions où les pertes se concentrent. Gates dit qu'il fera pression sur les politiciens et les chefs d'entreprise et fera campagne pour une gouvernance nationale et mondiale, sa fondation soutenant des applications utiles, en particulier en Afrique, et son entreprise d'énergie propre appliquant l'IA. La conclusion de l'hôte est claire : la technologie ne peut être arrêtée mais peut être orientée ensemble ; en confiant le travail mental, l'humanité ne doit pas confier son identité, ou les gens ne gagneront ni ne compteront ; invoquant les syndicats, il appelle à l'organisation sociale et à une feuille de route mondiale avant qu'un choc douloureux ne l'impose.