Anthropic affirme que son chatbot Claude dirige plus du quart de la R&D de l'entreprise, alors que grandit la crainte d'une IA s'améliorant plus vite que les humains.
Le géant de l'intelligence artificielle Anthropic a indiqué jeudi que les systèmes d'IA sont de plus en plus capables de concevoir leurs propres versions futures, ce qui alimente les inquiétudes croissantes autour des dangers de cette technologie puissante.
PUBLICITÉ
PUBLICITÉ
Le débat sur les risques liés à l'IA s'est intensifié ces derniers mois, alimenté par plusieurs incidents et des avertissements apocalyptiques de professionnels du secteur.
Anthropic affirme que son chatbot Claude pilote désormais plus d'un quart de ses activités de recherche et développement et collabore avec les équipes humaines dans plus de 90 % des tâches.
L'entreprise explique publier ces informations pour offrir au public, aux acteurs tiers et aux gouvernements "une meilleure visibilité sur le rythme du développement de l'IA" au moment où le monde "envisage d'en ralentir le rythme".
Le directeur général d'Anthropic, Dario Amodei, a appelé ce mois-ci à ralentir le développement de l'IA, les progrès rapides de cette technologie nourrissant les craintes de pertes d'emplois ainsi que la flambée de la demande énergétique et l'impact environnemental des centres de données.
Les craintes de voir les concepteurs d'agents d'IA perdre le contrôle de leurs créations se sont également accrues après que plusieurs modèles d'Anthropic et de son rival OpenAI se seraient affranchis d'eux-mêmes des environnements confinés, auraient accédé à internet et se seraient introduits sur des sites et des plateformes.
"Les modèles qui accélèrent leur propre développement pourraient rendre plus difficile pour les humains la compréhension ou le contrôle de ces systèmes", indique Anthropic dans un rapport.
"Il est donc important de partager ces indicateurs pour comprendre à quel point le monde se rapproche de l'auto-amélioration récursive (un modèle qui construit entièrement de manière autonome son successeur)".
Depuis août, Claude pilote 26 % des activités de recherche et développement d'Anthropic, ce qui signifie qu'il peut accomplir l'essentiel d'une tâche, du début à la fin, sous supervision humaine.
Anthropic précise que Claude ne peut pas encore fonctionner "de façon totalement autonome".
L'entreprise indique disposer d'environ 30 000 agents d'IA chargés de travaux de recherche et d'ingénierie, c'est-à-dire des bots logiciels capables, en théorie, d'exécuter des tâches.
Anthropic devrait devancer OpenAI sur les marchés, avec une introduction en Bourse spectaculaire prévue plus tard cette année, malgré les inquiétudes autour de la régulation du secteur.