Des critiques craignent que ses conclusions sur les risques, des cyberattaques aux armes biologiques, ne soient atténuées pour ménager l’industrie technologique.
L'organisme gouvernemental américain chargé de tester la sécurité des systèmes d'intelligence artificielle avancés n'a plus de dirigeant permanent et a cessé de publier ses travaux de recherche, selon l'Associated Press.
PUBLICITÉ
PUBLICITÉ
Deux anciens responsables gouvernementaux ont indiqué à l'agence de presse que le personnel du Center for Advancing Innovation and Standards for Super Intelligence (CAISSI), qui dépend du département du Commerce, a récemment été invité à rendre compte de manière informelle à un bureau de la Maison-Blanche.
Les critiques estiment que ce changement pourrait politiser le travail du centre. Ils avertissent que ses conclusions pourraient être édulcorées pour satisfaire les entreprises d'IA, qui ont en grande partie été laissées libres de s'auto-réguler.
Caroline Siegel Singh, de la Federation of American Scientists, a déclaré que l'objectif était que « des experts technocratiques non partisans ou bipartisans » orientent les politiques dans l'intérêt du public.
D'autres soutiennent qu'un rapprochement avec le président Donald Trump pourrait accroître la visibilité du centre et lui apporter davantage de financements. CAISSI reçoit 10 millions de dollars (8,94 millions d'euros) par an, soit environ un huitième du budget de son homologue britannique.
À l'inverse, l'AI Office de l'UE, qui dépend de la Commission européenne et dispose depuis août du pouvoir d'infliger des amendes aux développeurs des modèles d'IA les plus avancés, emploie plus de 125 personnes et recruterait encore 40 collaborateurs.
Pas de dirigeant, pas de rapports, pas de contrôle
CAISSI a du mal à conserver un dirigeant. Collin Burns, un ancien chercheur d'Anthropic, a été poussé vers la sortie après seulement quatre jours en tant que directeur, en avril, apparemment en raison de ses liens avec l'entreprise.
Son successeur, Chris Fall, a démissionné trois mois plus tard.
Arvind Raman, qui dirige l'organisme de tutelle du centre, le National Institute of Standards and Technology, assure désormais la direction par intérim. En août, le Congrès a demandé pourquoi le centre avait cessé de publier ses rapports sur la sécurité.
En septembre, Trump a exhorté les entreprises d'IA à s'engager dans « un formidable auto-contrôle » dans le cadre d'un pacte volontaire, mais son administration n'a pas précisé comment elle vérifierait le respect de ces engagements.
La Maison-Blanche n'a pas répondu aux questions concernant CAISSI. Elle a renvoyé à la place vers la nouvelle Super Intelligence Force de Trump, dirigée par le directeur du renseignement national, Jay Clayton.
Amos Toh, du Brennan Center for Justice, a déclaré à l'AP que traiter la sécurité de l'IA comme une question de sécurité nationale risquait de reléguer au second plan la protection des consommateurs, la vie privée et les droits civiques.
« Toutes ces décisions ont des conséquences publiques immenses et devraient être expliquées et justifiées au grand jour », a déclaré Toh. « Et ce n'est pas le cas. »