Suivez-nous
Publicité

TikTok lance un outil de détection de deepfakes pour les figures publiques contre la désinformation

Partager Discussion Suivez Euronews sur Google
Source : AP Photo
Source : AP Photo -  Tous droits réservés  Copyright 2018 The Associated Press. All rights reserved
Tous droits réservés Copyright 2018 The Associated Press. All rights reserved
Par Jonathan Benton
Publié le
Partager Close Button

La fonctionnalité "Likeness detection" de l'entreprise de réseaux sociaux vise les responsables politiques confrontés au déluge de désinformation en ligne.

TikTok a annoncé vendredi avoir commencé à déployer une fonctionnalité optionnelle baptisée « Likeness Detection », destinée à aider les créateurs à repérer et signaler les contenus générés par l'IA qui utilisent leur image sur la plateforme, alors que l'entreprise tente de lutter contre la désinformation produite par l'IA.

PUBLICITÉ
PUBLICITÉ

L'outil vise à aider les personnalités publiques, notamment les membres de gouvernements, les responsables politiques et les comptes de partis, à détecter et signaler des contenus générés par l'IA qui utilisent leur image sans consentement.

Il arrive alors que l'Europe fait déjà face à une vague de désinformation et de campagnes de deepfake alimentées par l'IA qui perturbent ses processus électoraux et que neuf autres pays européens doivent se rendre aux urnes au cours des douze prochains mois, ce qui pourrait s'avérer décisif.

Les utilisateurs éligibles peuvent s'inscrire en vérifiant leur identité auprès d'un partenaire tiers de confiance. Ils sont ensuite avertis lorsque des contenus ou des comptes sur TikTok sont susceptibles d'utiliser leur image et peuvent les examiner dans l'outil.

Les utilisateurs peuvent ensuite signaler les contenus directement aux équipes de sécurité de TikTok, qui les analyseront et prendront des mesures.

L'UE a commencé à mettre en œuvre des règles de transparence en matière d'intelligence artificielle le 2 août dans le cadre de l'AI Act, qui impose notamment l'étiquetage des deepfakes et des autres contenus générés par l'IA.

TikTok a pris des mesures pour limiter les deepfakes ces dernières années, par exemple en exigeant que les créateurs de contenus identifient comme tels les images, sons et vidéos réalistes générés par l'IA, comme le prévoit aussi l'AI Act.

Identifier les contenus générés par l'IA

L'entreprise a également lancé un nouvel outil de transparence permettant aux utilisateurs de vérifier si un contenu a été créé ou modifié avec les fonctions de création de la plateforme.

L'outil « Identifier les contenus générés par l'IA (source en anglais) » est gratuit et peut être utilisé par tout le monde, même sans compte TikTok, a précisé l'entreprise.

La plateforme permet aux utilisateurs de téléverser une image ou une vidéo pour vérifier si elle a été générée ou modifiée avec les outils d'IA de TikTok, notamment les applications CapCut, Dreamina, Hypic et Pippit du groupe ByteDance.

L'outil prend en charge un large éventail de formats, y compris les plus répandus comme JPEG, PNG et MP4, avec une limite de taille de fichier de 20 mégaoctets par image ou 100 mégaoctets par vidéo ou par audio.

L'outil recherche deux indices montrant qu'un contenu a été généré par l'IA: des informations d'identification dans les métadonnées ajoutées par les applications TikTok et ByteDance, et des filigranes invisibles intégrés directement au contenu, plus difficiles à supprimer.

L'entreprise a indiqué que l'outil efface tous les contenus dès qu'ils ont été téléversés et vérifiés, et qu'ils ne sont jamais utilisés pour entraîner des modèles d'IA.

TikTok prévient les utilisateurs que l'outil ne détecte que les contenus créés ou modifiés par l'IA à l'aide de ses propres outils ou de ceux de ByteDance, il ne constitue donc pas une méthode infaillible pour repérer les contenus issus de l'IA.

Accéder aux raccourcis d'accessibilité
Partager Discussion Suivez Euronews sur Google

À découvrir également