Plus de 100 organisations internationales affirment que la sécurité des enfants relève des entreprises d’IA, pas des parents.
Plus de cent organisations, dont Amnesty International et Save the Children, appellent les gouvernements à rendre l’intelligence artificielle sûre pour les enfants dans un appel conjoint, à la veille du premier sommet mondial des Nations unies sur la gouvernance de l’IA.
PUBLICITÉ
PUBLICITÉ
La coalition, menée par l’organisation de défense des droits de l’enfant 5Rights Foundation, affirme que l’IA porte déjà atteinte aux enfants et que les approches réglementaires actuelles ne les protègent pas, en n’intervenant que lorsqu’il est trop tard.
Cette mise en garde intervient alors que se multiplient les actions en justice contre des entreprises d’IA, comme Character Technologies et OpenAI, en raison des effets de cette technologie sur les enfants, en particulier ceux de chatbots « compagnons » conçus pour simuler des relations émotionnelles suivies, et des accusations selon lesquelles ces agents conversationnels sont présentés comme sûrs pour les enfants sans avertissements adéquats.
Dans un communiqué publié lundi, en amont du premier Global Dialogue on AI Governance de l’ONU, le groupe soutient que les gouvernements doivent s’attaquer aux modèles économiques qui, selon lui, sont à l’origine du problème.
« Les enfants nous ont livré un diagnostic clair du problème », a déclaré Leanda Barrington-Leach, directrice exécutive de 5Rights.
« Ils ne nous demandent pas de bloquer l’innovation en matière d’IA, mais il ne devrait pas non plus s’agir de réparer les dégâts une fois que le mal est fait. »
La coalition avance dix mesures qu’elle souhaite voir adoptées par les gouvernements pour prévenir les atteintes aux enfants.
Parmi ces mesures figurent l’obligation pour les entreprises de démontrer que leurs systèmes d’IA sont sûrs pour les enfants avant leur mise sur le marché, l’imposition de sanctions financières aux sociétés dont les produits portent atteinte aux droits des enfants, l’interdiction des fonctionnalités de conception qui exploitent les vulnérabilités psychologiques des enfants et la prohibition de l’usage commercial de l’image, de la voix et des données biométriques des enfants.
Le groupe estime qu’il n’est pas nécessaire d’adopter de nouvelles lois pour y parvenir, mais simplement de faire respecter les engagements que les gouvernements ont déjà pris au titre de la Convention des Nations unies relative aux droits de l’enfant et du Pacte numérique mondial de l’ONU, un cadre global qui les engage à respecter le droit international et les droits humains en ligne.
« Tant que les entreprises seront récompensées pour la rapidité, l’engagement et l’extraction de données plutôt que pour la sécurité, nous continuerons à traiter les symptômes pendant que la maladie devient endémique », a-t-elle déclaré, ajoutant que le respect des droits de l’enfant « doit devenir une condition pour exercer une activité, et non un plus optionnel », a poursuivi Barrington-Leach.