Le pape Léon XIV présente "Magnifica Humanitas", sa première lettre encyclique sur l’intelligence artificielle, et appelle à "désarmer l’IA" pour préserver la centralité des êtres humains.
Le pape Léon XIV a présenté ce lundi "Magnifica Humanitas", sa première lettre encyclique consacrée à l’intelligence artificielle, dans laquelle il appelle à "désarmer l’IA" et à rester "profondément humains" à l'ère des nouvelles technologies.
PUBLICITÉ
PUBLICITÉ
Dans ce document de plus de 200 pages réparties en cinq chapitres, le souverain pontife met en garde contre les conséquences de l’usage incontrôlé de l’intelligence artificielle, en soulignant que celle-ci doit être au service de l’être humain et non du pouvoir.
Selon le pape, "désarmer" l’intelligence artificielle signifie remettre en cause l’idée selon laquelle le pouvoir technologique confère automatiquement le droit de gouverner.
"Désarmer ne signifie pas refuser la technologie, mais empêcher qu’elle ne domine l’humanité", affirme Léon XIV.
IA et guerre : aucun algorithme ne rend la "guerre moralement acceptable"
L’un des points centraux de la lettre concerne l’usage de l’intelligence artificielle dans le domaine militaire. Le pape dénonce l’expansion de l’industrie de l’armement, la course aux armes nucléaires et l’apparition de nouveaux groupes armés, y compris des mouvements djihadistes, accusés d’alimenter les conflits par intérêt et pour le pouvoir.
Dans ce contexte s’inscrit aussi sa mise en garde vigoureuse contre les armes utilisant des outils d'IA.
"Il n’existe aucun algorithme capable de rendre la guerre moralement acceptable", écrit le pape Léon, en dénonçant une technologie qui risque de rendre les conflits "plus rapides et impersonnels", en abaissant le seuil moral du recours à la violence.
Le souverain pontife demande également des règles éthiques partagées au niveau international et critique la concentration du pouvoir technologique entre les mains de quelques acteurs privés, en soulignant que le bien commun "ne peut pas être laissé au contrôle de quelques-uns", au risque d'élargir encore le fossé entre les adeptes de la révolution numérique et ceux qui en sont exclus.
Selon le pape, les décisions en matière de technologie devraient associer l’ensemble de la société et ne pas être imposées d’en haut. Il rappelle ainsi la valeur de la solidarité, invitant à penser non seulement au profit, mais aussi aux personnes les plus fragiles et aux générations futures.
Le coût humain de l’économie numérique
L’encyclique aborde enfin le coût humain de l’économie numérique, depuis le travail précaire lié à l’entraînement des modèles d’IA jusqu’à l’extraction des terres rares nécessaires à la fabrication de microprocesseurs et d’appareils électroniques.
"Dans certaines régions du monde, des adolescents et des enfants travaillent dans des conditions dangereuses à la fragmentation des matériaux à partir desquels sont extraites les terres rares. Des corps marqués, mutilés, consumés pour que le flux du calcul ne s’interrompe pas", écrit le pape.
"À l’époque de l’intelligence artificielle, où la dignité humaine risque d’être obscurcie par de nouvelles formes de déshumanisation, nous avons le devoir urgent de rester profondément humains".