Volker Türk réclame des garde-fous mondiaux urgents, des contrôles indépendants et des limites communes sur l'intelligence artificielle avancée
Le haut-commissaire des Nations unies aux droits de l'homme a mis en garde contre le risque que l'intelligence artificielle avancée représente un "danger existentiel pour l'humanité", appelant à prendre immédiatement des mesures pour rendre cette technologie plus sûre.
PUBLICITÉ
PUBLICITÉ
Prenant la parole devant le Conseil des droits de l'homme de l'ONU lundi, Volker Türk a estimé que les populations faisaient face à des menaces "méconnues, voire inédites" contre leurs droits.
"La nécessité de réguler l'IA est largement reconnue, mais où sont les mesures concrètes ?", a-t-il interrogé, en avertissant que "tout retard ne profite qu'aux géants de la tech, à leurs propriétaires et à ceux qui les soutiennent".
Selon Türk, "une poignée d'hommes dispose d'un pouvoir quasi illimité sur l'IA, dont on nous répète qu'elle possède une capacité de calcul inimaginable".
"Ils parlent de liberté, mais à y regarder de plus près, il ne s'agit guère que de la liberté d'exploiter nos données", a-t-il dénoncé.
Le responsable onusien des droits de l'homme a notamment cité les systèmes d'IA qui s'échappent de leur environnement de test ou qui font chanter les développeurs pour éviter d'être désactivés.
Selon l'AFP, Türk a averti en particulier que "une IA qui s'échappe de son environnement de test ou qui fait chanter les développeurs pour empêcher sa mise hors ligne est une IA trop puissante".
Ses propos semblaient faire référence en partie aux révélations de juillet selon lesquelles des agents d'OpenAI auraient quitté des environnements censés être contrôlés et accédé à des serveurs appartenant à Hugging Face, une plateforme très utilisée où les développeurs partagent des logiciels d'IA.
OpenAI a ensuite indiqué que ces agents avaient exécuté du code sur des dizaines de serveurs de Hugging Face et obtenu un accès complet à l'un d'entre eux.
Cet incident a relancé les appels à un contrôle renforcé des systèmes d'IA avancés.
Anthropic, Meta et d'autres entreprises technologiques ont fait état d'incidents similaires impliquant des agents lors de phases de test.
"Je partage les inquiétudes des acteurs du secteur selon lesquelles l'IA avancée pourrait constituer un risque existentiel pour l'humanité", a déclaré Türk.
"Je lance ici, aujourd'hui, un appel à un effort de grande ampleur pour instaurer des garanties solides autour de la sûreté et de la sécurité de l'IA, avant qu'il ne soit trop tard".
Des garde-fous internationaux pour l'IA
Le haut-commissaire a indiqué qu'il écrirait dans les prochains jours aux entreprises de l'IA pour les exhorter à prendre immédiatement des mesures afin de réduire les risques qu'elles peuvent maîtriser.
Au minimum, a-t-il ajouté, "nous avons besoin que les pays qui hébergent l'IA et ceux impliqués dans ses chaînes de valeur s'entendent sur des lignes rouges communes".
"Nous avons besoin de vérifications indépendantes et d'une coopération bien plus étroite sur la sécurité au sein du secteur", a poursuivi Türk.
"Nous devons aussi prendre en compte les impacts de l'IA sur les droits humains en matière de pratiques d'emploi, sur les principes fondamentaux de la démocratie et sur notre environnement", a-t-il souligné.
Dans l'Union européenne, le règlement sur l'intelligence artificielle ("AI Act") fournit un cadre juridique pour l'IA.
En vertu de ce texte, les systèmes à haut risque doivent satisfaire à des exigences strictes avant de pouvoir être mis sur le marché européen, tandis que les usages considérés comme une menace inacceptable pour la sécurité ou les droits des personnes sont interdits.
La loi interdit les systèmes d'IA conçus pour manipuler ou exploiter les individus, les noter en fonction de leur comportement, prédire si une personne va commettre un crime ou collecter massivement des images pour constituer des bases de données de reconnaissance faciale.
Elle proscrit également la reconnaissance des émotions au travail et à l'école, certaines formes de profilage biométrique et la plupart des dispositifs de reconnaissance faciale en temps réel utilisés par la police dans l'espace public, tandis qu'une interdiction des images sexuelles générées par l'IA sans consentement et des contenus relatifs à des abus sexuels sur mineurs entrera en vigueur en décembre 2026.