L'intelligence artificielle pourrait-elle détruire l'humanité ? C'est ce que pense un groupe basé à Bruxelles qui tente de faire pression sur l'Union européenne pour stopper le déploiement de systèmes d'intelligence artificielle plus puissants.
PUBLICITÉL'intelligence artificielle pourrait-elle détruire l'humanité ? C'est ce que pense un groupe basé à Bruxelles qui tente de faire pression sur l'Union européenne pour stopper le déploiement de systèmes d'intelligence artificielle plus puissants.
Ces derniers mois, de nouveaux outils comme ChatGPT ont suscité la crainte que l'IA ne conduise à la perte d'emploi de millions de personnes ou la production de désinformation, en particulier pendant des élections.
Mais selon le fondateur de "PauseAI", ces systèmes puissants pourraient très bientôt être plus intelligents que nous. Et si les personnes essaient d'interférer ou de les arrêter, ces technologies pourraient même résister.
Les entreprises pourraient éventuellement donner plus d'autonomie aux systèmes d'IA et les connecter à certaines infrastructures vitales comme, par exemple, le réseau électrique, ainsi que certaines armes.
C'est pourquoi Joep Meindertsma, le fondateur de "PauseAI", demande également à l'UE d'organiser un sommet international sur ce sujet :
"La première chose à faire est de demander à un gouvernement d'agir, d'organiser un sommet et de mettre en place un moratoire, une pause au développement de l'IA, de ces systèmes dangereux. Et, il faut que cela se fasse au niveau international, car si vous le faites au niveau national, il y aura beaucoup d'arguments contre. Les nations sont en concurrence, tout comme les entreprises. Nous ne pouvons pas nous contenter de demander gentiment aux entreprises d'arrêter leur développement de l'IA,car elles sont soumises à une forte pression concurrentielle. Il en va de même au niveau national, c'est pourquoi nous devons agir au niveau international. C'est pourquoi nous devons organiser ce sommet."
Et "PauseAI" n'est pas le seul à tirer la sonnette d'alarme sur cette question. En juin, Rishi Sunak, le Premier ministre du Royaume-Uni, est devenu l'un des premiers dirigeants mondiaux à reconnaître la menace existentielle potentielle que représente le développement d'une IA super intelligente sans mesures de protections appropriées.
Récemment, des centaines de chercheurs et de cadres, travaillant dans le secteur des technologies, ont publié cette lettre ouverte avertissant que l'IA pourrait un jour détruire l'humanité.
Mais certains ont fait valoir que l'IA est encore trop peu développée pour poser une véritable menace existentielle et que les problèmes à court terme comme, par exemple, les réponses biaisées et incorrectes sont les problèmes les plus importants à l'heure actuelle.
Sam Altman, PDG d'OpenAI, qui a développé ChatGPT, a déclaré que si l'intelligence artificielle pourrait être bénéfique pour les humains, "il est essentiel de la réglementer".