Le Parlement européen se positionne sur le projet de loi visant à réprimer les abus sexuels d'enfants en ligne, appelant à ce que les nouvelles règles de l'UE évitent la "surveillance de masse".
PUBLICITÉLe Parlement européen veut afficher un front uni dans la lutte contre les abus commis en ligne contre les enfants. Une majorité écrasante de 51 des 54 membres, tous groupes politiques confondus, a défini sa position dans un dossier présenté comme "sensible, complexe et controversé", selon le rapporteur du texte dans l’hémicycle, Javier Zarzalejos (PPE).
La position de la commission doit maintenant être approuvée par l’ensemble du Parlement lors de session plénière prévue la semaine prochaine avant de pouvoir ouvrir les négociations avec les États membres de l'UE.
La Commission européenne a proposé en mai 2022 d'utiliser des technologies émergentes pour analyser les messages cryptés de bout en bout sur des plateformes telles que Whatsapp, afin de détecter, de signaler et de supprimer les contenus pédopornographiques.
La proposition a déclenché une vive polémique, opposant les lobbies de la protection de la vie privée aux défenseurs des droits de l'enfant.
Les critiques évoquent une atteinte majeure aux droits fondamentaux, à la vie privée en ligne, ainsi que des inquiétudes quant au fait que les technologies ne sont pas suffisamment mûres pour identifier les contenus illicites sans signaler à tort des millions de contenus légaux et sans incriminer à tort les utilisateurs.
Le projet de compromis du Parlement charge les plateformes numériques d'atténuer les risques d'utilisation de leurs services à des fins d'abus sexuels en ligne et de manipulation d'enfants. Il permet également aux autorités judiciaires d'émettre des "ordres de détection" aux plateformes numériques, les obligeant à utiliser des technologies émergentes pour détecter les contenus pédopornographiques. Mais contrairement à la proposition de la Commission, ces ordonnances devraient être ciblées, limitées dans le temps et utilisées en "dernier recours" lorsqu'il existe des "motifs raisonnables de suspicion".
À l’issue du vote, Javier Zarzalejos a assuré que le Parlement avait réussi à trouver un équilibre entre la protection des enfants en ligne et la protection du droit fondamental à la vie privée numérique.
"Il s'agit de trouver un juste équilibre entre la protection des enfants et la mise en place d'un cadre juridique garantissant la protection de la vie privée et des données", explique-t-il. Le parlementaire souligne aussi la complexité de la question d'un point de vue juridique, mais aussi en ce qui concerne le caractère intrusif des technologies qui devraient être déployées pour détecter et supprimer les contenus pédopornographiques.
"Cet équilibre a été atteint. Et je pense que le large soutien que ce dossier a obtenu est très révélateur de l'esprit de compromis et de l'importance que tous les groupes politiques ont attaché à cette proposition".
Le Parlement soutient également la proposition de création d'un centre européen de protection de l'enfance chargé de contribuer à la mise en œuvre des nouvelles règles en collaboration avec les autorités nationales compétentes et Europol, l'agence européenne de coopération policière.
Le centre aiderait à développer des technologies de détection, mènerait des enquêtes et imposerait des amendes aux plateformes si nécessaire.
Les eurodéputés proposent aussi de créer un nouveau forum consultatif pour s'assurer que les voix des victimes soient entendues.
"Le Centre de l'UE sera extrêmement important en tant qu'institution pivot et, pour la première fois, les victimes et les survivants seront reconnus dans un forum consultatif au sein du Centre européen. Je pense donc que, dans l'ensemble, ce dossier fournira les outils nécessaires pour être à la fois solide sur le plan juridique et efficace", juge Javier Zarzalejos.
Des injonctions de détection "ciblées"
Les ordonnances de détection très contestées incluses dans la proposition de la Commission obligeraient les services de messagerie numérique à déployer une technologie de balayage côté client pour accéder aux messages cryptés des utilisateurs.
Dans un avis, le service juridique du Conseil de l'UE a soulevé de "sérieuses préoccupations " au sujet des injonctions de détection et de leur potentielle "grave interférence avec les droits fondamentaux", tels qu'ils sont inscrits dans la législation européenne.
Le projet de position du Parlement demande que les communications cryptées soient exclues du champ d'application des injonctions de détection. La technologie de balayage met en danger "l'intégrité et la confidentialité" des communications cryptées, indique le texte de compromis.
Les eurodéputés veulent aussi limiter de manière significative le champ d'application des ordonnances de détection aux ordonnances émises par les tribunaux dans des situations de suspicion raisonnable.
Le groupe européen de défense des droits numériques EDRi, qui s'est fermement opposé à la proposition de la Commission, salue le compromis du Parlement.
PUBLICITÉ"Les eurodéputés spécialisés dans les libertés civiles ont reconnu à juste titre que personne ne sera en sécurité en ligne si l'UE brise le chiffrement", se félicite Ella Jakubowska, conseillère politique principale à l'EDRi.
"Il s'agit d'une étape cruciale pour garantir que la réglementation de l'Internet soit basée sur des preuves et sur la réalité juridique et technique, et non sur les promesses des entreprises d'intelligence artificielle", ajoute-t-elle.
Les défenseurs des droits de l'enfant accusent cependant le Parlement d'avoir manqué à ses devoirs en édulcorant les ambitions de la Commission. Selon ECPAT International - une plateforme mondiale visant à mettre fin à l'exploitation sexuelle des enfants - le fait de limiter les ordonnances de détection à des suspects ciblés permettra aux auteurs d'abus de continuer à passer sous les radars des forces de l'ordre.
Amy Crocker, responsable de la protection des enfants et de la technologie à l'ECPAT, estime que le projet de position du Parlement constitue "un recul alarmant pour la sécurité des enfants en ligne".
"Il est en contradiction flagrante avec les attentes des citoyens européens et, plus grave encore, il compromet activement la sécurité de nos enfants dans les espaces numériques. C'est une décision qui privilégie la bureaucratie au détriment du bien-être des enfants", poursuit-elle.
PUBLICITÉLe grooming pourrait passer inaperçu
Pour lutter contre la manipulation en ligne des mineurs, les députés ont demandé aux services numériques destinés aux enfants d'exiger le consentement de l'utilisateur pour les messages non sollicités, de disposer d'options de blocage et de renforcer le contrôle parental.
Mais la Commission voulait aller plus loin, en utilisant des modèles de langage basés sur l'intelligence artificielle pour détecter les modèles de comportement qui pourraient s'apparenter à de la sollicitation d'enfants, afin d'attraper les prédateurs en ligne.
Pour l’ECPAT : "décider de ne pas détecter le grooming signifie que nous renonçons à la possibilité d'empêcher les dommages futurs de se produire".
Le grooming est une pratique qui consiste pour un adulte à se lier "d'amitié" avec un enfant dans le but de commettre des abus sexuels à son encontre.
Un nouveau rapport publié en octobre par l'Alliance mondiale WeProtect suggère que les plateformes de jeux sociaux deviennent de nouveaux environnements dangereux pour les interactions entre adultes et enfants, où les conversations peuvent dégénérer en situation de grooming à haut risque en seulement 19 secondes, avec une durée moyenne de 45 minutes.
PUBLICITÉToutefois, selon Javier Zarzalejos, de nouvelles mesures d'atténuation des risques pour les plateformes permettront de protéger les enfants de ces dangers.
"Je tiens à préciser que le grooming entre dans le champ d'application du règlement. Il y aura des mesures d'atténuation particulièrement destinées à prévenir le grooming", assure-t-il.
"Le seul changement sur lequel nous nous sommes mis d'accord est de retirer le grooming de l'audit de détection".