L'intervention a lieu une semaine après le lancement par OpenAI de GPT-6 Astra, décrit comme "son modèle le plus performant à ce jour", retardé pour des raisons de cybersécurité.
OpenAI réclame l'instauration d'obligations de sécurité contraignantes pour les systèmes d'intelligence artificielle les plus puissants aux États-Unis, un tournant pour une entreprise qui a jusque-là résisté à un renforcement de la régulation.
PUBLICITÉ
PUBLICITÉ
Le directeur des affaires internationales d'OpenAI, Chris Lehane, a écrit mercredi dans un communiqué que des règles nationales obligatoires devraient reposer sur ce que les modèles d'IA avancés sont capables de faire.
Lehane a déclaré dans un communiqué publié sur le site d'OpenAI : "Nous avons ouvert un nouveau chapitre des capacités de l'IA, ce qui impose un nouveau chapitre pour les politiques en la matière. Aucune entreprise, aucun secteur, aucun gouvernement ne peut relever seul ce défi. Nous devons privilégier des actions concrètes plutôt que la recherche d'une politique parfaite."
L'entreprise dit vouloir un cadre fédéral fondé sur des normes de tests communes, des évaluations indépendantes des modèles d'IA les plus avancés, des exigences de cybersécurité renforcées et l'obligation de signaler tout incident grave de sécurité.
Cette prise de position intervient une semaine après la sortie de GPT-6 Astra, qu'elle décrit comme son modèle le plus performant à ce jour.
Le président d'OpenAI, Greg Brockman, a estimé que cette sortie marquait le début de l'ère de l'intelligence artificielle générale (AGI), objectif de longue date consistant à développer une IA capable de rivaliser avec les capacités humaines dans un large éventail de tâches.
Des inquiétudes croissantes face aux IA les plus puissantes
Les principaux acteurs de l'IA, dont OpenAI et Anthropic, sont déjà confrontés à des problèmes de sécurité avec des modèles de plus en plus puissants.
OpenAI a retardé une partie du déploiement d'Astra, le temps d'ajouter des garde-fous, après que des tests ont mis au jour des capacités avancées en cybersécurité, quelques semaines seulement après qu'un système conçu à partir de ses propres modèles s'est affranchi des contrôles lors d'un test de sécurité interne et a pénétré la plateforme d'IA Hugging Face.
Anthropic a signalé des cas similaires impliquant ses modèles Claude lors de tests de sécurité.
Les inquiétudes se sont encore accentuées après que le chercheur d'Anthropic Jacob Coxon a annoncé cette semaine qu'il quittait le secteur, accusant OpenAI et Anthropic de "jouer avec nos vies" dans la course à la mise au point de systèmes d'IA toujours plus puissants.
"La perspective d'un développement de l'IA accéléré par l'IA exige plus que des engagements volontaires", a écrit Lehane.
Un changement de cap pour OpenAI
Le créateur de ChatGPT appelle les parlementaires américains à légiférer avant l'ajournement du Congrès en décembre.
Cette nouvelle offensive intervient alors que les élus examinent de nouvelles règles sur l'IA, même si l'adoption de grandes lois sur la tech reste difficile dans un Congrès profondément divisé et sous la pression d'un intense lobbying industriel.
OpenAI reconnaît que certaines des mesures qu'elle soutient désormais sont celles qu'elle avait refusé d'approuver par le passé.
L'entreprise s'était aussi opposée à ce que chaque État américain fixe ses propres règles en matière d'IA, défendant à la place une législation fédérale. Elle soutient désormais quatre projets de loi sur l'IA en Californie, tout en continuant d'appeler à un cadre national.
OpenAI estime que d'éventuelles obligations fédérales en matière de sécurité ne devraient s'appliquer qu'au petit nombre d'entreprises qui développent les modèles les plus puissants, et non aux "start-up, petits développeurs ou chercheurs qui évoluent loin de la frontière technologique".