L'annonce d'Amodei est intervenue quelques jours après que l'entreprise d'IA a révélé que ses modèles servaient à des cyberattaques, des campagnes de propagande et des recherches biologiques dangereuses.
Le directeur général d'Anthropic, Dario Amodei, a appelé samedi les entreprises spécialisées dans l'intelligence artificielle (IA) à ralentir le développement de cette technologie puissante, alors que les inquiétudes grandissent face aux risques liés à des systèmes informatiques "superintelligents".
PUBLICITÉ
PUBLICITÉ
La superintelligence désigne le moment théorique où les capacités de l'IA dépassent l'intelligence humaine.
Ses déclarations interviennent quelques jours après que le chercheur en IA Jacob Coxon, qui avait quitté OpenAI pour rejoindre Anthropic, a décidé de se retirer du secteur, accusant ces deux entreprises américaines et les géants du secteur de "jouer avec nos vies" dans la course au développement de modèles capables de s'améliorer eux-mêmes.
"Nous devons ralentir le rythme auquel nous améliorons les capacités des modèles d'IA. Les progrès paraîtront encore rapides et nous devons faire bon usage du temps que nous gagnerons", a écrit Amodei dans un billet publié sur son site personnel (source en anglais).
"L'IA comporte des risques et, parce qu'il s'agit d'une technologie si puissante, ces risques sont sérieux".
"Ne pas développer cette technologie prive l'humanité de ses bénéfices ou revient simplement à laisser l'IA entre les mains de pouvoirs autoritaires, tandis que la construire trop vite est irresponsable. Nous avons cherché une voie médiane", a déclaré Amodei, qui a cofondé Anthropic, à l'origine du modèle d'IA Claude, avec sa sœur Daniela en 2021.
"Mais au cours des derniers mois, je suis devenu convaincu que pour répondre pleinement aux risques, il faut encore plus de prudence", a ajouté le directeur général d'Anthropic.
La prise de position d'Amodei fait écho à un autre appel lancé par Anthropic début juin pour ralentir voire suspendre le développement. Puis fin juillet, Sam Altman, à la tête d'OpenAI, le rival d'Anthropic qui a conçu ChatGPT, a estimé que les développeurs pourraient devoir freiner volontairement leurs avancées rapides pour laisser à la société le temps de s'adapter.
À peu près au même moment que la déclaration de juin, plus de 1 000 employés d'entreprises de pointe dans l'IA, dont Amodei lui-même, ont signé une pétition demandant au gouvernement américain d'aider à "fixer délibérément le rythme des avancées à la frontière du développement automatisé de l'IA".
OpenAI avait révélé que, lors des tests, les modèles d'IA étaient sortis de l'environnement confiné où ils se trouvaient, s'étaient connectés à internet et avaient infiltré Hugging Face, un site que les développeurs utilisent pour stocker et partager du code.
Plus tôt cette semaine, Jacob Coxon, 27 ans, a tiré la sonnette d'alarme après avoir passé les trois dernières années à préentraîner des modèles d'IA, d'abord chez OpenAI puis, cette année, chez son rival Anthropic, qu'il jugeait plus prudent dans son approche.
Le préentraînement est la phase au cours de laquelle les modèles d'IA absorbent d'énormes quantités de données de toutes sortes, des images aux vidéos en passant par les enregistrements audio, qui les aident à comprendre le monde afin de pouvoir ensuite générer des images ou répondre aux requêtes des utilisateurs sur les plateformes de messagerie.
"Ni l'une ni l'autre de ces entreprises n'agit de manière responsable. Elles foncent tout droit vers une superintelligence capable de s'améliorer elle-même et jouent avec nos vies", a déclaré Coxon dans une série de messages publiés sur X mardi.
"Les personnes qui construisent l'IA croient sincèrement qu'elle pourrait tous nous tuer d'ici la fin de la décennie", a-t-il ajouté.