Dario Amodei (Anthropic) avertit que l'IA pourrait anéantir l'humanité, Jensen Huang (Nvidia) balaie ces craintes : qui sont les acteurs clés du débat technologique le plus féroce au monde ?
Le débat enflammé sur l'intelligence artificielle s'est durci en camps adverses, avec un centre prudent pris en étau.
PUBLICITÉ
PUBLICITÉ
Voici un panorama des lignes de front dans la bataille autour d'une technologie devenue l'épine dorsale de l'économie et qui pourrait décider de l'avenir de la planète.
Les deux termes sont nés des débats en ligne sur l'IA sur X et les forums internet, et non d'un usage formel, reprenant l'argot des communautés de la tech et des cryptomonnaies qui inventent des raccourcis pour désigner des camps opposés.
Le terme doomer désigne ceux qui prédisent une catastrophe, tandis que booster, parfois utilisé de manière interchangeable avec accelerationist, décrit ceux qui poussent à un développement rapide et sans entraves de l'IA.
Les doomers
La crainte des conséquences dangereuses de la technologie pour la société remonte à loin.
OpenAI a été créée en partie parce que ses soutiens, dont le premier investisseur Elon Musk, craignaient que le développement de l'IA ne se retrouve entre les mains de Google, une entreprise à laquelle ils disaient ne pas pouvoir faire confiance pour gérer cette technologie.
Aujourd'hui, la plupart des doomers qui mettent en garde contre l'impact de l'intelligence artificielle viennent de l'intérieur même des entreprises, du monde universitaire, ou des deux.
Au sein de l'industrie, la figure la plus représentative est Dario Amodei, cofondateur d'Anthropic, devenu un géant de l'IA en route vers une introduction en Bourse historique.
Il a quitté OpenAI car il estimait que l'entreprise dirigée par Sam Altman ne prenait pas suffisamment au sérieux le potentiel et les dangers de cette technologie.
Sa position est dénoncée comme hypocrite, venant d'une entreprise qui, elle aussi, met sur le marché des technologies de pointe.
L'ancien chercheur de Google Geoffrey Hinton et l'informaticien Yoshua Bengio ont conduit les mises en garde sur les menaces de l'IA dans les mois qui ont suivi la sortie de ChatGPT en 2022, qui a déclenché la dernière frénésie autour de l'IA.
Le physicien du MIT Max Tegmark, qui dirige le Future of Life Institute, a organisé en 2023 la lettre ouverte appelant à une pause de six mois dans le développement des systèmes d'IA les plus avancés, une initiative qui a recueilli des milliers de signatures, dont celle de Musk.
Encore plus en dehors de l'industrie se trouve Eliezer Yudkowsky, un théoricien autodidacte qui, depuis deux décennies, soutient qu'une IA suffisamment puissante anéantirait l'humanité.
Construire, construire, construire
À l'opposé des doomers se trouvent les accelerationists, qui croient au progrès technologique, à son caractère inévitable et à ses bénéfices fondamentaux pour la société, et qui bâtissent aussi leur fortune sur son succès.
Cet état d'esprit est largement répandu à Silicon Valley, mais il est surtout incarné par des figures du capital-risque très influentes à la Maison Blanche, comme Marc Andreessen, le patron du fonds Andreessen Horowitz, et David Sacks, ancien responsable de l'IA à la Maison Blanche.
Proches, sur le plan personnel et philosophique, du magnat de la tech Peter Thiel, ces acteurs s'opposent fondamentalement à la régulation et mènent, en coulisses et sur X, la bataille contre ce qu'ils qualifient de "culte apocalyptique bien financé".
Ils accusent les doomers d'être la façade de groupes qui cherchent à utiliser la régulation pour écraser leurs rivaux.
Garry Tan, qui dirige l'incubateur de start-up Y Combinator, est l'une des voix les plus bruyantes de ce camp, présentant une régulation motivée par la sécurité comme une menace pour les petites entreprises qui ne peuvent pas en absorber les coûts.
Andreessen et ses alliés financent généreusement des comités d'action politique qui font des dons à des élus républicains et démocrates favorables à la croissance de l'IA, tandis qu'Anthropic mène désormais un effort pour égaler ces dépenses grâce à sa propre levée de fonds.
Dans le même camp des partisans de l'accélération se trouve Jensen Huang, le PDG de Nvidia, dont les puces sont les briques et le mortier de la révolution de l'IA, installées dans les centres de données gigantesques qui suscitent désormais des oppositions partout aux États-Unis.
Huang balaie comme "pure absurdité" les discours sur une extinction provoquée par l'IA, même s'il s'est démarqué de certains accelerationists en appelant à un cadre fédéral unifié pour l'IA et à une évaluation par les pairs menée par l'industrie, plutôt qu'à une absence totale de régulation.
Il faut également citer Yann LeCun, coauteur avec Hinton et Bengio du prix Turing, qui, depuis des années, rejette leurs avertissements sur un danger existentiel jugé exagéré.
Avancer avec prudence
De nombreuses grandes entreprises technologiques tentent d'avancer avec précaution, dans une posture plus typique de grands groupes qui ne veulent pas se retrouver du mauvais côté d'un combat politique.
Lors de sa création en 2015, OpenAI s'est dotée d'une structure censée garantir que les chercheurs, et non les investisseurs, auraient le dernier mot sur la manière dont la technologie serait déployée, la sécurité pour l'humanité servant de principe directeur.
Mais sous la direction d'Altman, qui a survécu en 2023 à une tentative de putsch interne menée par des collègues axés sur la sécurité, l'entreprise suit désormais une ligne plus ambiguë, reconnaissant les dangers de l'IA tout en accélérant et en se rapprochant d'une Maison Blanche sans complexes.
Google, Microsoft et Amazon sont rompues à l'art de parler de sécurité dans la tech tout en manoeuvrant avec succès à Washington pour maintenir la régulation au minimum.
Avec l'IA, elles continuent de marcher sur cette ligne de crête.