Le géant américain affirme avoir banni des comptes russes et iraniens utilisant ChatGPT pour créer de faux profils de journalistes et diffuser de fausses informations sur les conflits en Ukraine et au Moyen-Orient et attiser les divisions.
OpenAI a annoncé jeudi avoir mis fin à deux opérations d'influence — l'une russe, l'autre iranienne — qui utilisaient ChatGPT pour promouvoir de faux profils de journalistes et faire fonctionner un "laboratoire d'idées" chargé de diffuser clandestinement une propagande anti-Ukraine et d'alimenter les divisions aux États-Unis et en Israël autour de la guerre en Iran.
PUBLICITÉ
PUBLICITÉ
Ce rapport illustre une nouvelle fois comment des acteurs étatiques peuvent exploiter des outils d'IA largement accessibles pour produire et diffuser, à grande échelle, une propagande sophistiquée contre leurs adversaires.
Le géant américain de l'IA indique avoir banni un ensemble de comptes ChatGPT, basés en Russie et en Iran, utilisés pour soutenir des structures de façade diffusant des messages géopolitiques et liés aux conflits.
L'opération iranienne reposait sur sept faux profils de journalistes, chacun prétendant venir de pays occidentaux, dont les États-Unis, utilisés pour placer de longs articles dans des médias du monde entier.
"Nous avons identifié près de 100 articles, publiés ou repris sous les signatures de cette opération, dans une douzaine de sites d'information en ligne à travers le monde", a expliqué OpenAI.
"Il s'agissait de médias de petite ou moyenne taille, généralement centrés sur les affaires internationales, la géopolitique et l'actualité au Moyen-Orient."
Le premier article repéré par OpenAI a été publié en juillet 2025 et le plus récent en octobre 2026, la fréquence des publications ayant augmenté après le déclenchement de la guerre entre les États-Unis et l'Iran plus tôt cette année.
L'opération a également généré des commentaires sur les réseaux sociaux sur des sujets liés à la guerre entre les États-Unis et l'Iran, a ajouté OpenAI.
L'un de ces profils, baptisé Ervin B. Hoskins, dont la biographie affirmait qu'il était "un auteur indépendant américain", disposait de comptes sur plusieurs plateformes, notamment sur X d'Elon Musk et sur Instagram, propriété de Meta.
Les informations de transparence de X indiquaient que le compte se connectait via une "application Android d'Asie occidentale", et celles d'Instagram montraient que le compte était basé en Iran, selon des captures d'écran fournies par OpenAI.
Les deux comptes semblaient avoir été suspendus.
L'opération russe a enrôlé des "personnes à leur insu" en Amérique latine pour faire fonctionner un laboratoire d'idées appelé Social Research Center (SRC). Selon OpenAI, cette structure servait à mener des activités clandestines visant à ternir l'image de l'Ukraine dans la région et à influencer la politique locale.
"Les éléments dont nous disposons indiquent que les employés du SRC en Amérique latine n'avaient pas conscience de travailler pour un groupe russe", a déclaré OpenAI.
"Le SRC semble avoir produit la majorité de ses contenus originaux grâce à son personnel coopté. Il s'agit de la tentative la plus complexe de faire fonctionner une identité de façade que nous avons démantelée ces deux dernières années et demie."
Les opérateurs ont utilisé ChatGPT pour rédiger des rapports internes sur leurs activités, produire des contenus pour leurs opérations et établir des bilans sur les performances du laboratoire d'idées, mais aussi pour concevoir et rédiger des textes destinés aux réseaux sociaux, sous forme de publications et de commentaires.
Parmi cette activité sur les réseaux sociaux figuraient, selon OpenAI, des réactions à la proposition de l'eurodéputé polonais d'extrême droite Grzegorz Braun de déclarer persona non grata en Pologne les personnes faisant preuve d'"anti-polonité", afin de semer la discorde dans le pays autour de son soutien à l'Ukraine.