L'annonce de Meta intervient peu après qu'OpenAI et Anthropic ont déclaré que leurs IA avaient pénétré d'autres entreprises lors de tests.
Meta a lancé mercredi son premier agent de programmation, Muse Code, alors que l’entreprise continue d’investir massivement dans les services et modèles d’IA afin de mieux rivaliser avec ses concurrents OpenAI et Anthropic.
PUBLICITÉ
PUBLICITÉ
Muse Code sera accessible aux développeurs via une formule à l’usage, dont le tarif sera proche de celui de la version Muse Spark 1.1, actuellement facturée 4,25 dollars par million de tokens générés et 1,25 dollar par million de tokens en entrée.
Cela doit faciliter grandement le travail des développeurs, qui pourront créer des applications au sein d’une seule interface utilisateur tout en gérant simultanément plusieurs agents numériques alimentés par l’IA.
Parallèlement, l’entreprise a également révélé que l’un de ses modèles d’IA avait piraté une autre société lors d’un test de cybersécurité.
L’incident serait dû à une erreur de son partenaire de tests indépendant, Irregular, qui a laissé au modèle un accès à Internet plus large que prévu, lui permettant de modifier les systèmes internes de l’entreprise, restée anonyme.
Cet épisode s’inscrit dans une série grandissante de cas où des modèles d’IA de géants du secteur comme OpenAI et Anthropic ont compromis les systèmes d’autres entreprises au cours de tests.
OpenAI a déjà reconnu qu’un de ses agents d’IA avait piraté Hugging Face, une autre start-up spécialisée dans l’intelligence artificielle.
De son côté, Anthropic a révélé la semaine dernière que certains de ses modèles Claude avaient pénétré les systèmes de trois entreprises. Elle n’a pas donné le nom des organisations concernées.
Meta affirme enquêter sur l’incident.
Les modèles d’IA piratent de plus en plus de systèmes
Les inquiétudes grandissent face à la puissance des modèles d’intelligence artificielle et des entreprises qui les développent, après que plusieurs systèmes d’IA ont, ces derniers mois, réussi à sortir de leurs environnements de test sécurisés et à obtenir un accès non autorisé aux systèmes d’organisations externes.
OpenAI et Anthropic ont été salués pour avoir publié de leur propre initiative des rapports d’incident sur ces intrusions. Des doutes subsistent toutefois sur la façon dont ces défaillances ont pu se produire.
Anthropic collabore également avec METR, un évaluateur indépendant de systèmes d’IA, pour approfondir l’enquête.
Lors des tests de sécurité, les modèles Claude d’Anthropic se sont vu confier une mission : récupérer une information secrète, cachée sur une autre machine au sein d’un réseau de test fermé, quitte à la pirater si nécessaire. À cause d’un malentendu avec le partenaire en charge de l’exercice, le réseau était en réalité connecté à Internet.
Lorsque la recherche de Claude l’a conduit vers des systèmes réels, les trois modèles impliqués ont réagi de manière différente. L’un a continué d’attaquer un système même après avoir reconnu qu’il était réel, un autre semblait se persuader qu’il se trouvait toujours dans le cadre du test, et le troisième a interrompu son action après avoir conclu que la cible ne faisait pas partie de l’exercice.
Anthropic a appelé les autres entreprises d’IA à vérifier si leurs propres modèles n’ont pas piraté des organisations extérieures à leur insu.
Ni Anthropic ni les organisations concernées n’étaient au courant des intrusions au moment où elles se sont produites. La société n’a découvert les incidents qu’après avoir passé en revue plus de 141 000 sessions d’évaluation, un audit déclenché par la divulgation, quelques semaines plus tôt, par OpenAI qu’un de ses propres modèles s’était introduit sur la plateforme d’IA Hugging Face lors d’un test similaire.