Faut-il laisser les messages privés chiffrés, ou les scanner avant envoi ? Ce choix est au cœur du débat européen sur le Chat Control et la lutte contre l’exploitation des enfants en ligne.
Si vous envoyez aujourd’hui un message sur Signal ou WhatsApp, le droit de l’UE ne le concerne pas pour l’instant. Si vous envoyez la même photo via une application non chiffrée, elle peut déjà être vérifiée par un système automatique avant que quiconque ne la lise. Cette différence, plutôt qu’une formule générale selon laquelle "l’UE lit vos messages privés", reflète l’enjeu central du débat en cours sur le Chat Control et sur la détection en ligne de matériel pédopornographique (CSAM).
PUBLICITÉ
PUBLICITÉ
Un règlement temporaire remis en vigueur, applicable jusqu’en 2028, autorise les plateformes à analyser volontairement les messages privés, photos et vidéos à la recherche de CSAM. Cela ne s’applique pas aux services chiffrés de bout en bout comme WhatsApp ou Signal dans les mêmes conditions que pour les autres plateformes. Une autre proposition, permanente, baptisée "Chat Control 2.0", est toujours en négociation. La question de savoir si elle finira par s’étendre aux conversations chiffrées reste le principal point en suspens.
Comment le système choisit ce qu’il signale
Les outils de détection fonctionnent principalement de deux façons. La première est la correspondance de hachage : une image ou une vidéo est transformée en empreinte cryptographique et comparée à une base de données de contenus confirmés comme illégaux. Ce procédé est rapide et précis pour les copies identiques ou quasi identiques, mais il est facile à contourner avec une légère modification. La deuxième repose sur la classification par apprentissage automatique, utilisée pour repérer des contenus nouveaux ou modifiés et, de manière plus controversée, pour analyser des textes à la recherche de tournures associées au grooming.
Patrick Breyer, militant des droits numériques, juriste et ancien eurodéputé des Verts/Alliance libre européenne, estime que ces deux méthodes sont moins fiables que ne le pensent les responsables politiques. La correspondance de hachage, pourtant la plus précise des deux, "s’accompagne d’un taux très élevé de faux positifs qui incriminent à tort des personnes", relève-t-il en citant l’Allemagne, où les chiffres récents montrent que "plus de 50 % de la plupart des signalements ne relèvent en réalité d’aucune infraction pénale".
Une partie du problème, explique-t-il, se situe en amont : les bases de données sont souvent constituées et vérifiées à l’étranger plutôt qu’analysées au regard du droit pénal européen. "Des employés de fournisseurs, où qu’ils soient dans le monde, y ajoutent des éléments" sans évaluer juridiquement l’intention, pourtant nécessaire pour qu’un contenu soit pénalement pertinent.
Où a lieu l’analyse
Sur les plateformes non chiffrées, cette vérification peut être effectuée sur les propres serveurs du fournisseur. Sur les services chiffrés de bout en bout, le fournisseur ne peut pas lire un message une fois qu’il est chiffré. Toute détection doit donc intervenir plus tôt dans la chaîne : directement sur l’appareil, avant que le chiffrement ne soit appliqué, ou dans une couche matérielle sécurisée séparée conçue pour cela.
C’est ce qu’on appelle le scan côté client. C’est la principale raison pour laquelle le débat sur le chiffrement persiste : le message est examiné alors qu’il est encore lisible, "avant que le verrou ne se referme", plutôt qu’intercepté après coup.
Que se passe-t-il après une détection
Un contenu signalé ne se retrouve pas directement dans un dossier de police. Selon des acteurs comme Google, une correspondance, qu’elle soit issue d’une comparaison de hachage ou d’un modèle d’IA, est généralement transmise à des équipes de modérateurs formés au sein de l’entreprise, qui la valident avant tout signalement aux autorités. C’est à cette étape de validation que, selon Breyer, le processus se dérègle lorsqu’il est appliqué à grande échelle.
Les personnes chargées de la revue s’appuient sur des standards juridiques variables, ne déterminent pas toujours l’intention et classent fréquemment à tort comme illégaux de simples échanges de sextos entre adolescents ou des images produites par les utilisateurs et partagées pour plaisanter dans un groupe de discussion. Il souligne que nombre de mineurs visés par ces signalements n’avaient jamais l’intention d’envoyer ou de recevoir quoi que ce soit d’illégal, ils ont simplement transféré un contenu dans un groupe de discussion "qui portait sur autre chose".
Le hachage d’images compare les contenus à du matériel illégal déjà identifié. Le texte pose un autre type de problème. Le langage lié au grooming peut ressembler de très près à des conversations ordinaires entre adolescents ou adultes, ce qui pousse les chercheurs à considérer la détection basée sur le texte comme la couche la plus sujette aux erreurs du système. Cette distinction est importante pour la proposition de règlement permanente. Étendre une future réglementation des images aux échanges textuels multiplierait le problème de faux positifs que Breyer décrit pour le scan des images.
L’alternative proposée
Breyer ne rejette pas totalement la détection. Il refuse qu’elle soit pratiquée à grande échelle. Selon lui, le scan n’est justifié que lorsqu’"un tribunal indépendant confirme" l’existence de soupçons raisonnables visant une personne précise, l’équivalent d’un mandat pour ouvrir le courrier de quelqu’un. Scanner tout le monde "au cas où", dit-il, relève d’une toute autre catégorie d’atteinte à la vie privée.
Comme alternative, il met en avant deux pistes : le scan proactif du web ouvert et du dark web pour repérer du matériel illégal déjà connu et le signaler en vue de son retrait, une approche utilisée au Royaume-Uni et au Canada mais pas encore dans l’UE ; et la "sécurité dès la conception", où les applications avertissent les utilisateurs directement sur leur appareil avant qu’ils ne partagent un numéro de téléphone ou une photo nue, sans que le moindre contenu ne quitte le téléphone.
Ce que cela implique pour vos données
Pour l’instant, le sort d’un message dépend entièrement de l’application par laquelle il transite. Sur les plateformes non chiffrées, le contenu peut être transformé en empreinte ou analysé par des algorithmes avant ou juste après l’envoi, examiné par des équipes formées chez le fournisseur, puis signalé s’il est confirmé comme illégal. Sur les applications chiffrées de bout en bout, cette chaîne ne s’applique pas, même si la proposition permanente, encore en suspens, pourrait toujours modifier l’endroit et le moment où se situe la ligne de scan.