Les autorités sud-coréennes ont annoncé qu’elles renforceront le filtrage et la suppression des publicités problématiques générées par l’IA, et infligeront des amendes lourdes.
À partir de l’année prochaine, la Corée du Sud exigera des annonceurs qu’ils identifient les publicités réalisées à l’aide de l’intelligence artificielle (IA), afin d’endiguer la multiplication de promotions trompeuses mettant en scène de faux experts ou des célébrités générées par deepfake vantant des produits alimentaires ou pharmaceutiques sur les réseaux sociaux.
À l’issue d’une réunion de politique publique présidée mercredi par le Premier ministre Kim Min-seok, les autorités ont annoncé qu’elles allaient intensifier le repérage et le retrait des publicités problématiques générées par l’IA et infliger des amendes punitives, en invoquant des risques croissants pour les consommateurs, notamment les personnes âgées qui peinent à déterminer si un contenu est produit par l’IA.
Lee Dong-hoon, directeur des politiques économiques et financières au Bureau de coordination des politiques gouvernementales, a déclaré lors d’un point de presse que ces publicités « perturbent l’ordre du marché » et qu’« une action rapide est désormais indispensable ».
« Toute personne qui crée, modifie et publie des photos ou vidéos générées par l’IA devra les signaler comme produites par l’IA, et les utilisateurs des plateformes ne pourront pas supprimer ni altérer ces mentions », a-t-il déclaré.
Les publicités générées par l’IA qui utilisent des experts créés numériquement ou des vidéos et des enregistrements audio de célébrités en deepfake, promouvant de tout, des pilules amaigrissantes et des cosmétiques jusqu’aux sites de jeux d’argent illégaux, sont devenues monnaie courante sur les espaces sud-coréens de YouTube, Facebook et autres plateformes sociales.
Le gouvernement compte réviser la loi sur les télécommunications et d’autres textes connexes afin que l’obligation d’étiquetage des contenus générés par l’IA, accompagnée d’un renforcement de la surveillance et de mesures punitives, puisse entrer en vigueur début 2026. Les entreprises qui exploitent les plateformes seront également chargées de veiller au respect des règles d’étiquetage par les annonceurs, a précisé Lee.
L’IA alimente la flambée des publicités mensongères
Les autorités affirment qu’il devient de plus en plus difficile de surveiller et de détecter le nombre croissant de publicités mensongères dopées par l’IA.
Le ministère de la Sécurité alimentaire et pharmaceutique sud-coréen a recensé plus de 96 700 publicités en ligne illégales de produits alimentaires et pharmaceutiques en 2024 et 68 950 jusqu’en septembre cette année, contre environ 59 000 en 2023.
Le phénomène s’étend aussi à des secteurs comme l’éducation privée, les cosmétiques et les services de jeux illégaux, mettant en difficulté l’Agence coréenne des consommateurs et d’autres organismes de contrôle, selon le Bureau de coordination des politiques gouvernementales.
Au-delà des publicités trompeuses et de la désinformation, la Corée du Sud est également confrontée à des violences sexuelles facilitées par l’IA et d’autres technologies numériques. Le mois dernier, un tribunal de Séoul a condamné à la prison à perpétuité un homme de 33 ans qui dirigeait un réseau de chantage en ligne ayant exploité ou abusé sexuellement plus de 200 victimes, dont de nombreux mineurs menacés par des deepfakes et d’autres images et vidéos sexuelles manipulées.
Les autorités envisagent d’augmenter les amendes et d’introduire dès l’année prochaine des sanctions punitives pour dissuader la création de fausses publicités générées par l’IA, précisant que les personnes qui diffusent sciemment des informations fausses ou fabriquées en ligne ou via d’autres réseaux de télécommunications pourraient être tenues responsables de dommages pouvant atteindre cinq fois les pertes subies.
Les autorités vont également renforcer la surveillance et accélérer les procédures de retrait, avec des examens possibles dans les 24 heures et l’introduction d’un dispositif d’urgence pour bloquer les publicités nuisibles avant même la fin de la délibération. Elles prévoient aussi de muscler les capacités de suivi du ministère de la Sécurité alimentaire et pharmaceutique et de l’Agence coréenne des consommateurs, en utilisant l’IA, bien entendu.
Malgré les risques, l’attrait de la Corée du Sud pour l’IA ne cesse de croître
Le Premier ministre Kim, numéro deux à Séoul derrière le président Lee Jae Myung, a déclaré lors de la réunion qu’il est crucial de « minimiser les effets secondaires des nouvelles technologies » alors que le pays entre dans « l’ère de l’IA ».
L’annonce de l’étiquetage des publicités générées par l’IA intervient alors que Lee, lors d’une réunion distincte avec des dirigeants d’entreprise, a réaffirmé les ambitions de son gouvernement pour l’IA, promettant un effort national pour renforcer les capacités de la Corée du Sud dans les puces informatiques avancées qui alimentent la course mondiale à l’IA.
Les plans du gouvernement prévoient d’augmenter les dépenses de recherche et développement consacrées aux puces dédiées à l’IA et à d’autres produits semi-conducteurs avancés, ainsi que d’étendre les pôles de fabrication de puces au-delà des zones métropolitaines proches de Séoul vers les régions du sud.
Les fabricants sud-coréens de puces, dont Samsung Electronics et SK Hynix, ont représenté l’an dernier plus de 65 % du marché mondial des puces mémoire.