Le secrétaire général de l'ONU et le pape Léon XIV ont exhorté les pays à adopter des règles plus strictes sur les armes autonomes, afin d'empêcher qu'elles puissent prendre des décisions de vie ou de mort sans intervention humaine.
Les robots tueurs et les drones vont être au centre des débats cette semaine : lundi, des envoyés gouvernementaux ont relancé les discussions et pourraient décider, dans les prochains jours, d'ouvrir ou non des négociations en vue d'établir des règles pour l'utilisation de ces machines mortelles.
Le pape Léon XIV, le chef de l'ONU et plusieurs groupes de militants présentent cette question comme un débat existentiel : savoir si l'on peut autoriser des robots à tuer et si les humains doivent conserver un certain contrôle et une responsabilité sur l'emploi de systèmes d'armes létales autonomes.
Selon des militants, des drones armés capables de frapper des cibles de manière autonome ont déjà été utilisés dans certains cas précis dans des zones de conflit comme l'Ukraine et le Moyen-Orient, mais leur déploiement généralisé n'a pas encore eu lieu.
Des scénarios inquiétants, comme celui de drones armés devenant incontrôlables et abattant des civils avec une précision chirurgicale, ont émaillé des années de débats sur les robots tueurs. Mais ces discussions n'ont débouché sur aucune restriction internationale.
Les États-Unis et la Russie, rivaux de longue date, veulent limiter toute entrave à leur capacité de développer et de déployer de nouveaux outils puissants dans la course aux armements de haute technologie, alors que l'IA gagne en puissance et bouleverse les plans de bataille.
Les partisans d'un cadre réglementaire pour les armes dotées d'IA estiment que le temps joue un rôle crucial.
"Nous sommes à un moment charnière, dans une phase d'expérimentation. Nous voyons certains cas ici, d'autres là, mais pas une pleine opérationnalisation", a déclaré Anna Hehir, responsable de la gouvernance de l'IA militaire au Future of Life Institute, un groupe de plaidoyer.
"Il sera beaucoup plus difficile de réglementer et d'établir des règles lorsque ces systèmes auront déjà été utilisés pendant de nombreuses années."
Une réunion de l'ONU intervient après la demande de négociations de sept pays
La question arrive à un point critique au siège de l'ONU à Genève, où la septième conférence d'examen de la Convention sur certaines armes classiques, au nom peu commode, doit décider s'il faut ouvrir des discussions sur la régulation des robots tueurs.
Les partisans d'un accord reconnaissent que des forces puissantes s'y opposent, mais invoquent un précédent : les gouvernements ont déjà conclu un accord pour encadrer les lasers aveuglants.
La plupart des pays sont favorables à leur limitation. Le délai fixé cette année par le secrétaire général de l'ONU Antonio Guterres pour le lancement de négociations sur une régulation a donné un sentiment d'urgence à la question, mais certaines grandes puissances militaires restent hésitantes.
Le mois dernier, sept pays, l'Autriche, la Belgique, le Brésil, l'Irlande, le Mexique, la Nouvelle-Zélande et le Panama, ont présenté une proposition visant à ouvrir des négociations, lors de la conférence, sur un nouvel accord juridiquement contraignant concernant les armes autonomes.
Les différentes parties se préparent à l'affrontement diplomatique.
Vendredi, la présidente du Comité international de la Croix-Rouge, Mirjana Spoljaric, a déclaré dans un communiqué : "Les États doivent agir pour que l'avenir de la guerre ne soit pas confié aux machines."
L'organisation de plaidoyer Stop Killer Robots affirme que 130 pays soutiennent de nouvelles règles internationales sur ces systèmes d'armes.
Des militants ont commencé à diffuser des publicités dans les rues et le métro de Berlin, Londres et Paris, mettant en avant le soutien du public à l'encadrement des robots tueurs.
La Russie juge les discussions sur des restrictions "prématurées"
Dans sa première encyclique, en mai (source en anglais), le pape a dénoncé une "culture de la puissance" qui alimente la course à l'IA, notamment en développant des méthodes toujours plus sophistiquées de guerre à distance, et a affirmé qu'il n'est pas permis de confier à des systèmes d'IA à distance des décisions de vie ou de mort.
Selon les règles de la convention, les décisions doivent être prises par consensus. Cela signifie que n'importe quel pays peut faire échouer un accord et que tout compromis sera probablement fondé sur le plus petit dénominateur commun. Un autre point de blocage concerne la durée accordée aux négociateurs pour tenter de s'entendre sur un texte.
Avant la conférence, des organisations humanitaires et des groupes de militants ont indiqué que la Russie semblait prête à utiliser des tactiques visant à ralentir, voire à bloquer, les progrès vers l'ouverture de négociations formelles.
"La Russie attache une grande importance au succès de la conférence et à la conclusion d'accords mutuellement acceptables qui contribueront à renforcer la Convention sur les armes inhumaines et à favoriser sa universalisation", a déclaré mercredi aux journalistes la porte-parole du ministère russe des Affaires étrangères, Maria Zakharova.
Elle a indiqué que Moscou souhaitait que les "questions organisationnelles" soient réglées en premier et que le processus soit "exempt de politisation".
Plus révélateur encore, Zakharova a déclaré : "Nous estimons prématuré d'affirmer que le moment serait venu d'élaborer des mesures restrictives ou prohibitives concernant de tels systèmes."