L'entreprise d'IA révèle de nouveaux cas d'utilisation de ses modèles pour des cyberattaques, des campagnes de propagande et des recherches biologiques dangereuses, quelques jours après la démission d'un chercheur inquiet pour la sécurité.
Anthropic a déclaré jeudi avoir bloqué des tentatives d'acteurs malveillants visant à détourner ses modèles d'intelligence artificielle pour des cyberattaques, de la surveillance et des recherches biologiques susceptibles de contribuer au développement d'armes.
PUBLICITÉ
PUBLICITÉ
À mesure que les modèles d'IA gagnent en puissance, les cyberattaques sophistiquées exigent de moins en moins de compétences techniques, ce qui permet désormais à des individus isolés de créer des menaces qui auraient été impossibles il y a encore un an, a indiqué l'entreprise.
Anthropic a ajouté avoir renforcé les garde-fous dans ses modèles les plus récents afin de limiter les recherches biologiques présentant des applications potentielles pour des armes.
"Les cas que nous présentons ici ne relèvent pas d'un usage abusif classique, mais illustrent les activités de menace les plus marquantes et inédites que nous avons identifiées à ce jour", a précisé Anthropic dans son troisième rapport sur les détournements de l'IA depuis mars 2025.
Le rapport contient des extraits de code malveillant et de requêtes adressées à l'IA que la société dit avoir repérés, et appelle les gouvernements ainsi que les entreprises concurrentes du secteur à surveiller des abus similaires.
"Nous publions ces travaux parce que nous estimons avoir la responsabilité de révéler les usages malveillants de nos services", a déclaré l'entreprise.
"À mesure que les modèles deviennent plus performants, leurs risques vont augmenter, à moins que les concepteurs d'IA et les défenseurs de la société n'agissent pour les rendre plus sûrs."
Anthropic, qui prépare une introduction en Bourse pour cet automne, a publié ce rapport deux jours après l'annonce de la démission de l'un de ses chercheurs, inquiet de voir l'entreprise et ses concurrents développer l'IA sans le faire de manière suffisamment responsable.
Il a repris des avertissements déjà formulés ailleurs dans le secteur sur le risque que cette technologie échappe au contrôle humain.
Claude sollicité pour rendre un virus plus dangereux
Entre décembre 2025 et août 2026, les chercheurs d'Anthropic ont identifié des détournements impliquant des acteurs allant de vendeurs de logiciels espions et d'individus motivés par des objectifs politiques à des groupes soutenus par des États qui diffusent de la propagande.
Parmi les cas détaillés dans le rapport, des acteurs non identifiés ont tenté d'utiliser les modèles d'Anthropic pour des recherches susceptibles de déboucher sur des armes biologiques.
Dans un cas, la société indique que ses systèmes ont bloqué une demande adressée à son chatbot Claude pour l'aider à rédiger une demande de subvention destinée à financer des travaux scientifiques.
"Les travaux décrits dans cette demande portaient sur des recherches de gain de fonction — c'est-à-dire des recherches qui modifient génétiquement un organisme pour créer une propriété biologique nouvelle ou renforcée — concernant le virus du chikungunya", indique le rapport.
Ces recherches visaient la transmissibilité du virus et sa capacité à échapper au système immunitaire.
Le chikungunya est un virus transmis par les moustiques qui provoque d'intenses douleurs et de la fièvre. La demande de subvention visait à renforcer des mutations susceptibles de rendre le virus progressivement plus dangereux.
Anthropic a indiqué que ce type de recherche pourrait "certainement" contribuer au développement de vaccins et de traitements, mais a ajouté "qu'elle pourrait aussi être utilisée pour rendre l'agent pathogène plus dangereux".
"Nous ne pouvons pas garantir l'absence de dommages"
Aucun des cas mentionnés dans le rapport ne concerne les modèles plus récents et plus puissants d'Anthropic, comme Claude Fable ou les modèles de classe Mythos, à une exception près : une "campagne clandestine, à l'échelle industrielle, visant à extraire les capacités d'un modèle et à les répliquer dans un autre modèle sans autorisation".
Anthropic a indiqué que ses anciens modèles, dont Claude Opus 4 et Claude Sonnet 4,5 lancés en 2025, "étaient bien en deçà du seuil à partir duquel ils pourraient aider de manière significative un utilisateur expérimenté à mener des recherches biologiques dangereuses".
"En conséquence, les garde-fous appliqués à ces modèles étaient moins stricts, principalement destinés à empêcher l'accès à des contenus susceptibles d'aider des novices à recréer des armes biologiques connues", poursuit le rapport.
"Mais pour les modèles actuels — qui sont capables d'assister une grande variété de tâches de recherche scientifique complexes — les éléments ne sont plus aussi clairs et nous ne pouvons plus donner la même assurance."
Pour cette raison, Anthropic a mis en place des garde-fous plus stricts qui limitent l'accès à un large éventail de requêtes sur des recherches biologiques à double usage dans ses modèles plus récents, comme Claude Fable 5, selon le rapport.
Alors que les entreprises d'IA mettent sur le marché des modèles toujours plus puissants, des experts appellent les gouvernements à encadrer cette technologie plutôt que de compter sur l'autorégulation du secteur.
John Thickstun, professeur assistant en informatique à l'université Cornell, estime que cela place des entreprises comme Anthropic et OpenAI dans une position inconfortable, puisqu'elles se retrouvent en pratique contraintes de porter "des jugements de valeur à l'échelle de la société sans aucune forme de contrôle démocratique ou délibératif".
Le rapport fait suite à l'alerte d'un chercheur
Anthropic a également repéré des groupes qui avaient créé des centaines de faux comptes sur les réseaux sociaux, conçus pour se faire passer pour des utilisateurs ordinaires, et qui ont ensuite diffusé pendant une semaine des contenus relayant le même message politique.
La société décrit neuf cas de ce type, originaires de Russie, d'Iran, de Turquie, mais aussi du Golfe, d'Asie du Sud, d'Afrique et d'Europe.
Alors que les plateformes de réseaux sociaux peuvent détecter des opérations d'influence une fois que les publications circulent déjà, Anthropic explique qu'elle "peut les voir sur Claude alors que l'opération est encore en cours de préparation".
Le rapport intervient après la démission du chercheur d'Anthropic Jacob Coxon, qui explique partir par crainte que l'entreprise et son principal rival, OpenAI, "foncent tout droit vers une super-intelligence capable de s'améliorer elle-même et jouent avec nos vies".
Coxon a averti que certains de ses anciens collègues estiment que l'IA pourrait menacer la vie humaine avant la fin de la décennie.
Anthropic affirme avoir bloqué chacune des activités malveillantes identifiées dans le rapport, s'être appuyée sur ces résultats pour renforcer ses garde-fous et avoir partagé des informations avec les autorités publiques et ses partenaires du secteur.
"Nous espérons que les conclusions de ce rapport aideront d'autres développeurs à repérer des schémas similaires sur leurs propres plateformes, donneront aux gouvernements et à la société civile une vision plus claire de la façon dont les menaces émergentes se structurent et renforceront les défenses collectives", indique l'entreprise.