Le Royaume-Uni joue un rôle important dans la sécurité de l'IA grâce à son Institut de sécurité de l'IA et à sa communauté de recherche, mais le secteur est dominé par les États-Unis et la Chine.
Le roi Charles III du Royaume-Uni a rencontré des responsables de premier plan de l'intelligence artificielle, auprès desquels il a insisté pour que ces technologies restent sous contrôle humain et qu'elles servent les personnes, les communautés et l'environnement.
PUBLICITÉ
PUBLICITÉ
Des représentants d'OpenAI, Anthropic, Google DeepMind et Nvidia étaient reçus par le roi à Dumfries House, en Écosse, pour discuter de la manière dont l'IA peut bénéficier à la société tout en en limitant les risques.
Aux côtés du roi et des dirigeants de l'IA, dont le directeur général du géant Nvidia Jensen Huang, se trouvait le nouveau ministre britannique chargé de l'intelligence artificielle, Kanishka Narayan.
Dans son allocution d'ouverture, le roi a évoqué la rapidité avec laquelle l'IA s'est imposée : "Le développement de l'IA — sa substance et son rythme — est à la fois intrigant et, dans la même mesure, profondément préoccupant".
Il a ajouté que les "dangers existentiels que représenterait la chute de telles technologies entre de mauvaises mains et leur utilisation potentiellement catastrophique" doivent être examinés de toute urgence.
Dans son discours, le roi Charles n'a cité ni pays ni entreprise, mais il a indiqué qu'il souhaitait que les personnes présentes trouvent des moyens d'utiliser l'IA à des fins bénéfiques "avec la sécurité au cœur" et réfléchissent à la manière de "construire une coopération et un consensus internationaux" pour y parvenir.
Inquiétudes autour de l'avenir de l'IA
Cette réunion en Écosse intervient après plusieurs incidents très médiatisés liés à la sécurité des technologies d'IA.
La semaine dernière, un chercheur d'Anthropic, Jacob Coxon, a fait la une en démissionnant et en publiant un avertissement sévère sur les risques potentiels de cette technologie. Le directeur général d'Anthropic, Dario Amodei, lui a répondu dans un essai, estimant que le secteur pourrait devoir ralentir le rythme de ses travaux.
Mercredi, OpenAI, qui développe ChatGPT, a signalé six incidents de comportements "inattendus ou préoccupants" de ses modèles. Ils incluent l'exécution de tâches sans autorisation, la coordination avec d'autres modèles et l'évitement de la supervision par des chercheurs humains.
Jensen Huang, lui, a critiqué les appels à ralentir. Le patron de Nvidia estime qu'il devrait revenir à chaque entreprise de développer son IA de manière sûre et de la tester correctement avant de mettre ses produits sur le marché.
"Quand un produit n'est pas suffisamment sûr, nous devons le retenir et continuer à l'améliorer. Nous avons toujours agi ainsi et nous devons continuer", a-t-il déclaré dans son discours, après les remarques du roi.