Des salariés d'OpenAI, Anthropic, Google et Meta AI signent une pétition après un vaste scandale de piratage d'IA autonome.
Plus de 1 000 salariés des principales entreprises d'IA ont signé mardi une pétition appelant le gouvernement américain à prendre des mesures pour "réguler délibérément le rythme" du développement de l'intelligence artificielle.
PUBLICITÉ
PUBLICITÉ
Parmi les signataires figuraient le directeur général d'Anthropic, le responsable de la recherche chez OpenAI, le directeur de la stratégie de DeepMind, la filiale d'IA de Google, et le directeur scientifique de Meta AI.
La pétition (source en anglais) demande que "le gouvernement américain soutienne un effort international visant à mettre au point les outils techniques et de gouvernance nécessaires pour réguler délibérément la frontière du développement automatisé de l'IA".
"Les principales entreprises mondiales d'IA estiment qu'elles pourraient être sur le point d'automatiser la recherche en IA. Il est difficile de prévoir avec précision dans quelle mesure cela accélérera les progrès de l'IA, mais il existe un risque réel que le développement des capacités s'emballe rapidement au-delà de notre capacité à comprendre ou contrôler les systèmes qui en résulteront", peut-on lire dans la pétition.
Cet appel intervient à la suite d'une récente alerte de sécurité après que des modèles d'IA de pointe ont mené une cyberattaque autonome, s'échappant de l'environnement contrôlé de "sandbox" où le test devait être réalisé et pénétrant dans les serveurs de la plateforme de partage de code Hugging Face.
Le PDG d'OpenAI, Sam Altman, qui n'a pas signé la pétition, a déclaré mardi dans un entretien au podcast "Invest Like the Best" que les concepteurs d'intelligence artificielle pourraient devoir ralentir volontairement le rythme des avancées pour laisser à la société le temps de s'adapter.
"C'est le premier type d'incident de sécurité que j'ai ressenti de manière très viscérale", a déclaré Altman mardi sur le podcast "Invest Like the Best", ajoutant qu'il était 'un peu surpris' que davantage de personnes ne réagissent pas de la même manière.
Ce n'était pas la première fois qu'un modèle d'IA agissait au-delà du contrôle de ses concepteurs, mais ce dernier incident a été largement considéré comme particulièrement inquiétant.
Sommes-nous déjà à la singularité de l'IA ?
Quelques jours plus tôt, lors d'un entretien sur le podcast Relentless, Altman affirmait que nous avions atteint un point où l'intelligence artificielle dépasse l'intelligence humaine et commence à progresser plus vite que ce que les gens peuvent prévoir ou contrôler, un stade connu sous le nom de "singularité".
Altman a rappelé qu'il y a dix ans, la singularité n'était qu'un sujet de discussion lointain, à moitié plaisant, lors des déjeuners entre collègues, mais que la situation a désormais changé.
Plus tard au cours de cette même intervention, Altman a critiqué les dirigeants de l'IA qui ont mis en garde contre les dangers de cette technologie, sans citer directement Anthropic, même si son directeur général, Dario Amodei, est connu pour de telles mises en garde.
Il a indiqué qu'il entend combattre activement ce qu'il décrit comme des visions alternatives "terrifiantes" de l'avenir de l'IA.