Les documents d'introduction en Bourse de l'entreprise d'IA alertent sur les risques de systèmes toujours plus autonomes, ainsi que sur des défis financiers et réglementaires.
Des systèmes d'intelligence artificielle (IA) incontrôlés, des cyberattaques et l'utilisation potentielle de l'IA pour développer des armes dangereuses figurent parmi les risques qu'Anthropic a dévoilés aux investisseurs alors qu'elle se prépare à faire ses débuts en Bourse.
PUBLICITÉ
PUBLICITÉ
Sur les 335 pages détaillant les finances d'Anthropic, la rémunération des dirigeants, la politique de dividendes et d'autres éléments, 93 pages sont consacrées aux "facteurs de risque" — des éléments susceptibles de peser sur les investissements des futurs actionnaires. Chez le rival SpaceX, les facteurs de risque répertoriés occupaient 38 pages sur plus de 250.
Ces informations doivent être publiées dans le cadre de la procédure d'introduction en Bourse, afin de donner aux investisseurs potentiels une vision plus claire des risques qu'ils prennent en achetant des actions de l'entreprise.
Pour séduire les investisseurs, Anthropic présente sa propre introduction en Bourse comme une étape vers la réduction des risques que, selon elle, l'IA fait peser.
"Construire une IA, c'est maîtriser la cognition elle-même, et une chose aussi puissante peut être utilisée pour le mal comme pour le bien", écrivent les fondateurs de l'entreprise dans une lettre adressée aux futurs actionnaires dans le document d'introduction en Bourse. "Anthropic est une organisation profondément guidée par des valeurs, créée en grande partie pour aider le monde à tirer parti des bénéfices de l'IA et à éviter ses dangers."
Les risques restent nombreux. Ils vont des aspects les plus banals — comme la possibilité de ne pas réussir à retenir des employés clés ou à surmonter les obstacles réglementaires — jusqu'à l'implication dans des cyberattaques et la diffusion de désinformation dangereuse.
Voici un aperçu de certains des risques détaillés par Anthropic :
Le développement fulgurant de la technologie
Anthropic estime qu'il est possible que ses modèles progressent si vite que l'entreprise ne parvienne pas à mettre en place des mesures de sécurité adéquates, "ce qui pourrait accroître la probabilité d'incidents de sécurité, d'une intervention réglementaire ou d'atteintes à notre réputation, et pourrait nuire à notre activité".
En septembre, le directeur général d'Anthropic, Dario Amodei, a averti que, d'ici six à douze mois, l'IA pourrait être capable de piloter un essaim d'agents pouvant prendre le contrôle de l'ensemble d'internet. Cet avertissement, et désormais la décision d'Anthropic de vendre des actions, intervient sur fond d'inquiétudes croissantes, au sein comme en dehors du secteur, face à des systèmes toujours plus puissants, capables de résoudre des problèmes dépassant les capacités humaines, mais aussi d'agir de manière autonome pour mener des actions malveillantes.
Selon le document déposé auprès de la SEC, à mesure que les systèmes d'IA "deviennent plus autonomes et capables de prendre des décisions lourdes de conséquences avec moins de supervision humaine", il existe un risque que ces systèmes "prennent de manière indépendante, et à grande échelle, des mesures préjudiciables sans intervention humaine".
"Même si nos propres modèles ne causent pas de tels dommages, un incident majeur de sécurité impliquant n'importe quelle IA de pointe pourrait déclencher un important préjudice de réputation pour l'ensemble du secteur de l'IA, une réaction hostile du public et des réponses réglementaires d'ampleur, susceptibles de nuire à notre activité", indique Anthropic.
Maintenant que les modèles d'IA contribuent eux-mêmes aux propres travaux de recherche et développement d'Anthropic, il est possible que l'IA progresse "au-delà de notre capacité à évaluer et à sécuriser les nouveaux modèles", prévient le document. Une telle évolution, ajoute-t-il, pourrait nuire à l'activité d'Anthropic.
Des acteurs malveillants pourraient semer le chaos grâce à la technologie
Le document évoque la crainte que des systèmes d'IA avancés, s'ils ne sont pas développés et exploités avec des garde-fous et une supervision suffisants, "fassent peser sur l'humanité des risques catastrophiques, voire existentiels, en particulier si ces systèmes étaient détournés, reproduits, militarisés ou autorisés à fonctionner avec un haut degré d'autonomie".
L'entreprise estime qu'elle subirait un préjudice si l'utilisation de ses outils par des acteurs malveillants causait des dommages, "ou si les garde-fous ou mesures de protection de nos modèles ne parvenaient pas à empêcher un tel détournement".
Anthropic décrit la possibilité que des acteurs malveillants utilisent des modèles d'IA pour fabriquer des armes chimiques ou que des dirigeants autoritaires recourent à cette technologie pour renforcer la répression contre leurs citoyens. En septembre, l'entreprise a indiqué avoir bloqué des tentatives d'utilisation de ses modèles d'IA à des fins malveillantes, comme des cyberattaques, des opérations de surveillance et des recherches susceptibles de déboucher sur la mise au point d'armes biologiques.
L'entreprise pourrait se heurter à des limites de puissance de calcul
Le "compute" — la puissance de calcul ou les ressources informatiques nécessaires pour construire, tester et améliorer des modèles d'IA — est coûteux et très recherché. Anthropic souligne que si elle n'obtient pas de puissance de calcul suffisante, ou si "nous ne parvenons pas à répartir efficacement notre puissance de calcul entre nos différentes charges de travail, nous pourrions être incapables d'entraîner des modèles qui restent compétitifs face à ceux de nos concurrents ou de servir correctement nos clients".
Anthropic mentionne aussi l'opposition des riverains aux centres de données comme un risque pour son activité. Le développement de ces centres "a suscité des controverses publiques et un examen réglementaire concernant l'impact environnemental, l'utilisation des terres et de l'eau, ainsi que l'affectation de ressources énergétiques limitées", indique le document, en ajoutant que si les autorités imposent de nouvelles obligations ou taxes en conséquence, la capacité de l'entreprise à mener ses activités pourrait en souffrir.
En outre, la société dépend d'un petit nombre de clients, dont SpaceX et Microsoft, et de canaux de distribution pour une grande partie de ses revenus. Cela signifie que même si un seul de ses gros clients décidait de réduire la voilure — ou de se passer totalement d'Anthropic —, l'entreprise pourrait voir ses perspectives et ses finances se dégrader.
Réduire les risques
Sous certains aspects, l'ampleur des risques liés à l'IA, combinée à son immense potentiel, constitue le principal argument de vente d'Anthropic. L'entreprise tente de se positionner comme un acteur responsable de l'IA et cible les clients professionnels en mettant en avant sa culture de la sécurité.
"Nous pensons que les entreprises développant des IA de pointe doivent investir dans la sécurité et l'alignement afin de contribuer à garantir une diffusion responsable de cette technologie", affirme le document.
Brian Mulberry, stratégiste en chef de marché chez Zacks Investment Research, souligne que les opérations d'introduction en Bourse doivent présenter "de manière très claire" les risques auxquels s'exposent les investisseurs lorsqu'ils placent leur argent dans une société nouvellement cotée.
Il ajoute : "C'est l'un des aspects positifs de nos marchés de capitaux nationaux : le niveau de transparence auquel vous devez vous engager pour être une société cotée sur une place américaine vous oblige à exposer ces risques de manière très claire, afin que chacun sache s'il souhaite participer en y consacrant l'argent qu'il a durement gagné et contribuer au financement de ce type d'opération."