Donald Trump a rejeté un contrôle mondial de l'IA, António Guterres a mis en garde contre des décisions de vie ou de mort confiées aux machines, d'autres dirigeants demandent une coopération internationale.
Le président américain Donald Trump et le secrétaire général de l'Organisation des Nations unies (ONU) António Guterres ont défendu, mardi au siège de l'ONU, deux visions opposées de la manière dont le monde doit encadrer l'intelligence artificielle.
PUBLICITÉ
PUBLICITÉ
Fort d'un nouveau rapport scientifique de l'ONU qui alerte sur un risque faible mais réel de dommages catastrophiques et irréversibles, Guterres a ouvert le bal des dirigeants mondiaux devant l'Assemblée générale en réclamant un contrôle accru de l'IA, décrivant avec des mots précis, voire inquiétants, ce qui pourrait mal tourner.
"Décidons une bonne fois que les décisions de vie ou de mort ne doivent jamais être abandonnées aux machines. Les robots tueurs n'ont aucune place dans notre avenir", a déclaré le chef de l'ONU dans son discours d'adieu aux dirigeants mondiaux. Il avait déjà mis en garde contre l'IA lors de sa première intervention devant l'Assemblée générale, il y a dix ans.
Alors que Guterres estime que le monde doit "faire progresser les conditions d'un développement responsable de l'IA et des garanties supplémentaires nécessaires pour faire face aux risques", le Conseil de sécurité de l'ONU se penchera mercredi sur la façon d'imposer un certain contrôle à cette technologie, en entendant certains des plus grands noms du secteur.
Trump rebaptise l'IA : "super intelligence", pas artificielle
Moins d'une heure plus tard, Trump balayait ces mises en garde.
"Les États-Unis rejettent totalement toute tentative de mettre en place un dispositif globaliste pour contrôler l'intelligence artificielle dont on parle tant. Désormais, ici et à l'avenir, nous l'appellerons officiellement super intelligence, nous changeons son nom", a-t-il déclaré.
Les dirigeants qui se sont exprimés après Trump ont continué à parler d'"intelligence artificielle" — et non de "super intelligence".
"Toute grande nouvelle technologie apporte son lot de défis, et la super intelligence ne fait pas exception", a déclaré Trump. "Ce sont pourtant les mêmes personnes qui disaient que nous serions tous morts dans 12 ans à cause du réchauffement climatique, un terme rebaptisé depuis changement climatique parce que la planète se refroidissait, pas se réchauffait, et que personne n'était mort."
"Ce sont les mêmes personnes qui affirment maintenant que l'IA va tous nous tuer, que les robots vont nous attaquer et que tout va tourner à la catastrophe totale."
D'autres prônent la prudence et la coopération
Le problème, c'est que Trump comme Guterres réduisent la question à quelque chose qui n'est pas utile, estime Henry Hoffmann, directeur du département d'informatique de l'université de Chicago.
"L'un en fait un film de science-fiction, l'autre en fait un faux problème", écrit Hoffmann dans un courriel.
"Les deux poussent le public à choisir un camp au lieu de s'intéresser aux risques réels et aux moyens possibles de les atténuer. Il ne devrait pas y avoir de 'camps' sur la question de savoir si nous avons besoin d'un contrôle adéquat sur des systèmes autonomes puissants. Le vrai débat porte sur les mécanismes qui permettent réellement d'assurer ce contrôle."
D'autres pays veulent s'assurer de ne pas être distancés dans la course à l'IA entre les États-Unis et la Chine, que Trump affirme voir l'Amérique gagner. Le président français Emmanuel Macron et Guterres ont aussi fait de cette question un enjeu de protection de l'enfance.
"N'attendons pas que les conséquences de l'IA nous tombent dessus", a déclaré Macron. "Nous devons agir dès maintenant pour protéger nos enfants et nos jeunes."
Le président finlandais Alexander Stubb a estimé que l'IA va changer le monde, potentiellement pour le meilleur, mais qu'elle doit être fermement encadrée.
"L'intelligence artificielle est la technologie la plus déterminante de l'histoire de l'humanité. Elle aura un impact sur la science, l'économie, la politique, la sécurité et l'essence même de notre humanité", a déclaré Stubb.
"Les humains peuvent et doivent rester aux commandes. Nous avons le choix. Nous pouvons nous concurrencer, coopérer ou ralentir. Pour moi, la coopération est la meilleure voie à suivre."
Le Premier ministre britannique Andy Burnham a indiqué, lors d'une rencontre avec des chefs d'entreprise en marge de l'Assemblée générale de l'ONU, qu'il souhaitait voir "un ensemble unique de principes et de normes mondiaux" permettant de libérer le potentiel de l'IA tout en en réduisant les risques.
Il a précisé que la mise en place d'une "AI for good" serait l'axe principal de la présidence britannique du groupe des pays du G20 l'an prochain.
Lors de la réunion du Conseil de sécurité consacrée mercredi à l'IA, l'ONU doit entendre à la fois des acteurs qui conçoivent ces systèmes d'IA et des voix qui ont récemment tiré la sonnette d'alarme sur la nécessité de poser des garde-fous.
Sont attendus à la tribune Sam Altman, directeur général d'OpenAI, suivi de Dario Amodei, directeur général d'Anthropic, puis de Clément Delangue, directeur général et cofondateur de Hugging Face, récemment piraté par un programme d'OpenAI devenu incontrôlable.