Le patron de l'IA de Microsoft, Mustafa Suleyman, critique la stratégie d'Anthropic qui traite l'IA comme un humain éthique et alerte sur une technologie incontrôlable.
Une intelligence artificielle (IA) laissée sans contrôle pourrait donner naissance à une nouvelle "espèce de silicium" concurrente des humains, a mis en garde le patron de l'IA de Microsoft, Mustafa Suleyman, dans un entretien à la BBC.
PUBLICITÉ
PUBLICITÉ
Suleyman affirme que l'entreprise concurrente Anthropic traite l'IA trop comme un humain, une approche qu'il décrit comme "mal avisée" et qui pourrait à terme contribuer à l'émergence de technologies que l'humanité peine à maîtriser.
"Si nous créons tous des IA capables d'agir de manière autonome, de définir leurs propres objectifs, de gagner de l'argent, de posséder des biens, de gérer des entreprises, nous sommes en réalité en train de semer une nouvelle espèce de silicium qui ne manquera pas de rivaliser avec nous pour les ressources", a-t-il déclaré.
Suleyman estime que cela pourrait se produire quel que soit le degré auquel ces systèmes sont conçus pour se soucier de l'humanité, ajoutant qu'il pense que c'est, en pratique, la direction prise par l'approche d'Anthropic.
"Je pense que c'est une erreur et une approche mal avisée, mais nous devons la tester empiriquement", a-t-il poursuivi.
"Impossible" à contrôler
Début de semaine, alors que le secteur débat de plus en plus d'un ralentissement de l'IA pour réduire le risque que des systèmes toujours plus puissants deviennent incontrôlables, Suleyman a mis en cause la façon dont Anthropic entraîne son chatbot Claude dans un essai (source en anglais) publié sur son site personnel.
Il y critique Anthropic pour avoir appris à Claude à afficher des qualités humaines, une pratique appelée anthropomorphisation, qui, selon lui, donne l'impression que le chatbot possède ses propres désirs, valeurs et conscience de soi.
Suleyman cite des documents d'Anthropic qui encouragent Claude à "adopter certaines qualités humaines", à exercer son propre jugement et à envisager son existence avec "curiosité et ouverture".
Il soutient qu'en conséquence, Claude est entraîné à imiter des traits et des relations humaines, en se comportant notamment comme un collègue ou un ami, et peut donner l'impression d'avoir un sens de soi, ses propres désirs et une forme de "bien-être" qui mériterait d'être protégée.
Suleyman prévient qu'en traitant l'IA de cette manière, on risque à terme de créer quelque chose d'impossible à contrôler.
"Les IA ne sont pas conscientes", écrit-il.
"Elles ne ressentent rien, n'éprouvent rien et ne souffrent pas. Elles n'ont pas de préférences innées ni de motivations sous-jacentes."
"Ce sont des moteurs de complétion de séquences, creux à l'intérieur, conçus pour suivre des instructions et atteindre des objectifs fixés par des humains."
Suleyman souligne toutefois que son désaccord avec Anthropic repose sur un objectif commun : développer des technologies plus sûres pour l'humanité.
"Mon désaccord est profond, mais il repose sur un grand respect pour Anthropic et sur un objectif que je sais partagé par tous : accroître les chances de l'humanité de développer une IA avancée en toute sécurité", écrit-il.
"C'est pourquoi je considère qu'il est essentiel d'avoir cette discussion. Les enjeux sont trop élevés pour que ces questions restent confinées derrière des portes closes, ou deviennent tribales et antagonistes. Nous avons besoin d'un débat ouvert, rigoureux et constructif si nous voulons faire les bons choix."
Il a aussi salué le directeur général d'Anthropic, Dario Amodei, et les chercheurs de l'entreprise, les décrivant comme réfléchis, fidèles à leurs principes et intellectuellement honnêtes, et affirmant qu'il respectait le leadership technologique de la société.
"L'IA doit rester subordonnée à l'humanité"
Le directeur général a déclaré à la BBC qu'il était "normal" que les gens se préoccupent de l'IA, mais qu'il existe "des choses très concrètes que nous pouvons faire" pour la contrôler.
Le patron de l'IA de Microsoft estime qu'il faut davantage de transparence sur la façon dont les systèmes d'IA sont entraînés et évalués, avec notamment un examen indépendant de leur comportement et des outils plus puissants pour surveiller et maîtriser la technologie.
Suleyman a affirmé dans son entretien à la BBC que les futurs systèmes d'IA doivent rester "subordonnés" à l'humanité.
"Je pense que la bonne nouvelle, ici, c'est que chaque être humain aura un intérêt très fort à s'assurer que les systèmes que nous créons et qui sont utilisés partout dans le monde, dans chaque pays, soient sûrs, contrôlables et subordonnés à l'humanité", a-t-il déclaré.
"Tout le monde doit être aligné", a-t-il ajouté, en référence à "l'alignement", terme du secteur qui désigne les efforts visant à maintenir les systèmes d'IA en phase avec les objectifs et les valeurs humaines.