Anthropic juge son nouveau modèle d’IA le plus puissant, Mythos, trop dangereux pour le public et ouvre des discussions d’urgence avec États et régulateurs financiers.
Anthropic est en discussions avec le gouvernement américain au sujet de son nouveau modèle d’IA Mythos, que l’entreprise juge trop puissant pour être rendu public, car il « présente des risques de cybersécurité sans précédent ».
PUBLICITÉ
PUBLICITÉ
Le secteur bancaire tire lui aussi la sonnette d’alarme.
« Le gouvernement doit être au courant de ce genre de choses », a déclaré lundi le cofondateur d’Anthropic lors de l’événement Semafor World Economy à Washington.
« Bien sûr, nous parlons avec les autorités américaines de Mythos et nous leur parlerons aussi des prochains modèles », a-t-il ajouté.
Évoquant le différend public avec le gouvernement, qui a conduit le mois dernier à ce que l’entreprise soit classée comme un risque pour la chaîne d’approvisionnement, il a ajouté : « Je ne veux pas que cela fasse oublier que la sécurité nationale est au cœur de nos préoccupations. »
Cette classification comme risque pour la chaîne d’approvisionnement a suivi l’échec des négociations sur les efforts d’Anthropic pour limiter la manière dont le département américain de la Défense peut utiliser ses modèles d’IA.
Cette décision intervient après que le secrétaire au Trésor, Scott Bessent, a réuni à Washington de hauts responsables de banques américaines pour discuter du modèle Mythos la semaine dernière.
Selon Bloomberg (source en anglais), la réunion a encouragé les dirigeants du secteur bancaire à utiliser le modèle Mythos d’Anthropic pour détecter des vulnérabilités.
Anthropic a également indiqué qu’elle limiterait l’accès à son nouveau modèle d’IA à quelques entreprises de technologie et de cybersécurité. Cette liste comprend Amazon, Apple et JP Morgan Chase.
Goldman Sachs, Citigroup, Bank of America et Morgan Stanley testent également le modèle d’Anthropic, selon Bloomberg.
Lundi, l’AI Security Institute (AISI) du gouvernement britannique a averti que Mythos constituait « un niveau supérieur » aux modèles précédents du point de vue de la menace cyber qu’il représente.
Parallèlement, le Financial Times a révélé que les régulateurs financiers britanniques discutent eux aussi des risques potentiels liés à Mythos.