L'annonce d'Amodei est intervenue quelques jours après que l'entreprise d'IA a révélé que ses modèles servaient à des cyberattaques, des campagnes de propagande et des recherches biologiques dangereuses.
Samedi, le directeur général d'Anthropic, Dario Amodei, a appelé les entreprises d'intelligence artificielle (IA) à ralentir le développement de cette technologie puissante, alors que les inquiétudes grandissent face aux risques posés par des systèmes informatiques "superintelligents".
PUBLICITÉ
PUBLICITÉ
La superintelligence désigne le moment théorique où les capacités de l'IA dépassent l'intelligence humaine.
Ses propos interviennent quelques jours après que le chercheur en IA Jacob Coxon, qui avait quitté OpenAI pour rejoindre Anthropic, a décidé de se retirer du secteur, accusant les deux entreprises américaines et les géants de l'industrie de "jouer avec nos vies" dans la course au développement de modèles capables de s'améliorer eux-mêmes.
"Nous devons ralentir le rythme auquel nous améliorons les capacités des modèles d'IA. Les progrès sembleront toujours rapides et nous devons faire un usage judicieux du temps que nous gagnons", a écrit Amodei dans un billet publié sur son site personnel (source en anglais).
"L'IA comporte des risques, et puisque c'est une technologie aussi puissante, ces risques sont graves."
"Ne pas construire cette technologie prive l'humanité de bénéfices ou revient simplement à placer l'IA entre les mains de pouvoirs autoritaires, tandis que la construire trop vite est irresponsable. Nous avons cherché une voie médiane", a déclaré Amodei, qui a cofondé Anthropic, à l'origine du modèle d'IA Claude, avec sa sœur Daniela en 2021.
"Mais ces derniers mois, je suis devenu convaincu que pour traiter pleinement ces risques il faut faire preuve d'encore plus de prudence", a ajouté le directeur général d'Anthropic.
Les déclarations d'Amodei rejoignent un autre appel lancé par Anthropic début juin pour ralentir ou suspendre le développement. Puis fin juillet, Sam Altman, patron d'OpenAI, le rival d'Anthropic et concepteur de ChatGPT, a estimé que les développeurs pourraient devoir freiner volontairement leurs avancées rapides pour laisser à la société le temps de s'adapter.
À peu près au même moment que la déclaration de juin, plus de 1 000 employés d'entreprises d'IA de pointe, dont Amodei lui-même, ont signé une pétition demandant au gouvernement américain d'aider à "contrôler délibérément le rythme des avancées à la frontière du développement automatisé de l'IA".
OpenAI avait révélé que, lors de tests, des modèles d'IA étaient sortis de l'environnement confiné, s'étaient connectés à internet et avaient infiltré Hugging Face, un site utilisé par les développeurs pour stocker et partager du code.
Au début de la semaine, Jacob Coxon, âgé de 27 ans, a tiré la sonnette d'alarme après avoir passé les trois dernières années à préentraîner des modèles d'IA, d'abord chez OpenAI puis, cette année, chez son rival Anthropic, qu'il jugeait plus prudent dans son approche.
La phase de préentraînement correspond au moment où les modèles d'IA absorbent de grandes quantités de données de toutes sortes, des images aux vidéos en passant par les enregistrements audio, qui les aident à comprendre le monde afin de pouvoir ensuite générer des images ou répondre aux demandes des utilisateurs sur des plateformes de discussion.
"Aucune de ces entreprises n'agit de manière responsable. Elles foncent droit vers une superintelligence capable de s'améliorer elle-même et jouent avec nos vies", a déclaré Coxon dans une série de messages publiés mardi sur X.
"Les personnes qui construisent l'IA croient sincèrement qu'elle pourrait tous nous tuer d'ici la fin de la décennie", a-t-il ajouté.