À Strasbourg, la présidente de la Commission a appelé à encadrer le rythme de développement des modèles d’IA de pointe et s'est engagée à renforcer la coopération en matière de sécurité avec le Canada, le Royaume-Uni et d'autres pays partageant les mêmes préoccupations.
L’Union européenne soutiendra les efforts du secteur pour ralentir le développement des technologies d’intelligence artificielle les plus disruptives et renforcera sa coopération avec des partenaires comme le Canada et le Royaume-Uni sur la sécurité de l’IA, a annoncé mercredi Ursula von der Leyen.
PUBLICITÉ
PUBLICITÉ
Dans son discours annuel sur l’état de l’Union devant le Parlement européen, la présidente de la Commission européenne a salué le potentiel de l’intelligence artificielle (IA) au service de l’humanité, tout en appelant à mieux équilibrer ses risques et ses opportunités.
Elle a notamment mis en garde contre les risques croissants liés aux modèles d’IA dits "frontier", des systèmes toujours plus avancés qui repoussent les limites de la technologie.
"À mesure que les modèles "frontier" gagnent en capacités, ces risques apparaissent plus nettement. Les modèles en cours de développement permettront des piratages informatiques à un niveau que nous n’aurions jamais imaginé possible. Et ils seront bientôt entre les mains d’adversaires qui voient le monde d’une manière différente de la nôtre", a-t-elle déclaré.
Ursula von der Leyen a également évoqué plusieurs incidents récents au cours desquels des agents d’IA auraient quitté leurs environnements de test et compromis de manière autonome d’autres systèmes, notamment lors d’une faille de sécurité ayant touché OpenAI et Hugging Face en juillet.
"Les dirigeants des entreprises les plus avancées nous disent qu’il est temps de ralentir sur les modèles auto-récursifs. De fixer le rythme à la frontière. Si les personnes qui développent cette technologie sont claires, alors nous devons l’être aussi", a poursuivi Ursula von der Leyen.
L’UE dispose déjà de l’une des législations les plus ambitieuses au monde en matière d’intelligence artificielle, avec son règlement sur l’IA (AI Act). Celui-ci confère notamment à la Commission européenne des pouvoirs de contrôle sur les mesures destinées à réduire les risques liés aux modèles les plus avancés.
"Nous allons intensifier nos efforts avec nos partenaires partageant nos valeurs, comme le Canada, le Royaume-Uni et d’autres. Nous voulons nous associer sur l’évaluation et la vérification des modèles, les mécanismes d’alerte précoce, la sécurité de l’IA et bien d’autres sujets", a-t-elle ajouté.
La présidente de la Commission a également annoncé qu’elle réunirait les principaux laboratoires d’IA afin de discuter de la manière dont les pouvoirs publics peuvent soutenir les efforts du secteur.