Antonio Guterres, secrétaire général de l’ONU, a déclaré que ce groupe constitue une étape fondamentale vers une compréhension scientifique mondiale de l’IA.
L’ONU a nommé cette semaine un panel scientifique mondial de 40 membres chargé d’étudier les risques liés à l’intelligence artificielle (IA), malgré la vive opposition des États-Unis. Cette décision intervient alors que d’anciens employés de sociétés spécialisées dans l’IA tirent la sonnette d’alarme au sujet de cette technologie.
PUBLICITÉ
PUBLICITÉ
L’Assemblée générale de l’ONU a approuvé la création de ce panel par 117 voix contre 2, les États-Unis et le Paraguay ayant voté contre et la Tunisie ainsi que l’Ukraine s’étant abstenues. La Russie, la Chine et les alliés européens ont voté pour.
Les experts de la Commission scientifique internationale indépendante sur l’intelligence artificielle (IA) publieront un rapport annuel qui synthétisera et analysera les risques, les opportunités et les impacts de l’IA, au sein de ce que l’ONU présente comme « le premier organe scientifique mondial de ce type ».
L’adoption de ce panel constitue « une étape fondamentale vers une compréhension scientifique mondiale de l’IA », a déclaré António Guterres, le secrétaire général de l’ONU.
« Dans un monde où l’IA progresse à toute vitesse, a déclaré Guterres, ce panel apportera ce qui faisait défaut : une expertise scientifique rigoureuse et indépendante permettant à tous les États membres, quelle que soit leur capacité technologique, de participer sur un pied d’égalité. »
Ce vote de l’ONU intervient alors que des salariés quittent des entreprises d’intelligence artificielle, inquiets de leurs pratiques.
Mrinank Sharma, ancien chercheur en sûreté chez Anthropic, a averti dans une lettre ouverte que « le monde est en péril » avec le développement de l’IA et d’autres crises.
De son côté, l’ancienne principale chercheuse d’OpenAI, Zoe Hitzig, a confié au New York Times qu’elle nourrissait de « profondes réserves » quant à la stratégie adoptée par son ancienne entreprise.
Certaines des figures les plus en vue de l’IA dans le monde, comme Dario Amodei, le directeur général d’Anthropic, Sam Altman, le patron d’OpenAI, et le cofondateur d’Apple Steve Wozniak, ont eux aussi mis en garde contre les risques liés à l’IA.
« Une ingérence majeure dans le mandat de l’ONU »
Selon Guterres, les 40 membres de ce panel ont été choisis parmi plus de 2 600 candidats, après un examen indépendant mené par plusieurs organes onusiens et par l’Union internationale des télécommunications. Leur mandat sera de trois ans.
L’Europe dispose de 11 sièges autour de la table : Joelle Barral (France), Melahat Bilge Demirkoz (Turquie), Anna Korhonen (Finlande), Aleksandra Korolova (Lettonie), Andrei Neznamov (Russie), Maximilian Nickel et Bernhard Scholkopf (Allemagne), Roman Orus (Espagne), Johanna Pirker (Autriche), Piotr Sankowski (Pologne) et Silvio Savarese (Italie).
Lauren Lovelace, la représentante des États-Unis, a qualifié ce panel « d’ingérence majeure dans le mandat et les compétences de l’ONU » et affirmé que « la gouvernance de l’IA n’est pas une question sur laquelle l’ONU doit dicter la marche à suivre ».
Lovelace a demandé à l’ONU de se concentrer plutôt sur ses « missions fondamentales », comme la paix et la sécurité internationales, les droits humains et l’aide humanitaire, plutôt que de « tenter de réglementer ou d’étouffer le développement de technologies transversales […] qui détermineront la compétition économique et stratégique au XXIe siècle ».
Le président américain Donald Trump plaide pour une régulation minimale de l’IA, visant à réduire la bureaucratie fédérale et à éviter un « patchwork » de lois des États fédérés susceptible de freiner l’innovation. Les États-Unis et la Chine sont considérés au coude-à-coude dans la course à l’adoption de l’IA.
Malgré l’opposition de Washington, les États-Unis disposent tout de même de deux représentants au sein du panel : Vipin Kumar, professeur à l’Université du Minnesota, et Martha Palmer, professeure émérite à l’Université du Colorado et spécialiste de linguistique.