[Note de lecture] Quand l’Église catholique appelle à la fixation d’un code éthique de l’IA associant les corps intermédiaires...

Pendant des siècles, la hiérarchie catholique n'a pas hésité à justifier croisades, massacres de protestants, esclavagisme ou encore colonialisme, se rangeant aux côtés des puissants, en contradiction flagrante avec la parole des Évangiles. Mais la révolution industrielle et son effroyable tableau humain symbolisé par le travail des enfants et les tragédies minières ont fini par faire évoluer l'Église, sans doute aiguillonnée par la peur d'une révolution rouge. Le 15 mai 1891, l’encyclique Rerum novarum ("des choses nouvelles") fondait la doctrine sociale des catholiques, doctrine qui continue d’inspirer les croyants (lire notre article sur les cadres chrétiens de la Défense).

Dans ce texte fondateur, le pape Léon XIII condamnait la pauvreté de la classe ouvrière ainsi que les excès du capitalisme industriel. Tout en rejetant le marxisme et en défendant la propriété privée, l’Église appelait au respect de la dignité de la personne de l’ouvrier et le droit à un salaire juste. En fixant comme alternative à la lutte des classes la reconnaissance des associations de travailleurs et la collaboration entre différentes composantes de la société, l’Église ouvrait aussi la voie au syndicalisme chrétien, incarné en France par la CFTC, créée en 1919 (*). 

Rien dans le monde de l'IA n'est immatériel ou magique 

Cent trente cinq ans après Rerum novarum, le pape Léon XIV publie une nouvelle encyclique sur ce qui apparaît aujourd’hui comme une nouvelle révolution technologique majeure pouvant engendrer le pire comme le meilleur pour l’homme : l’intelligence artificielle (**).

Le pape inscrit son texte dans le principe, affirmé en 1891, "de la primauté du travail humain sur toute logique purement productive ou financière" et d’un "ordre social plus juste". Par cette déclaration, Léon XIV  invite à "regarder le monde à partir du bas, avec les yeux de ceux qui souffrent, et non avec le regard des grands".

Cette attention le conduit par exemple à évoquer la situation des millions de travailleurs invisibles de l’IA : "Rien dans le monde de l’IA n’est immatériel ou magique. Une part importante de son fonctionnement repose sur le travail silencieux de millions d’êtres humains employés à des activités peu visibles mais essentielles : étiquetage des données, modération des contenus – souvent très mauvais – apprentissage des modèles".

Ce très long texte (50 pages) décrit les lourdes menaces que fait peser l’IA sur la personne humaine et sa dignité, ainsi sur la recherche de bien commun par-delà les intérêts matériels privés. L’analyse évoque par exemple :

• une possible désocialisation des personnes.

​La facilité déconcertante d’obtenir par l’IA une réponse à toute question peut conduire à cesser d’avoir envie d’échanger idées et points de vue avec les autres. "J'invite à préserver les lieux et les moments où la présence physique reste déterminante", écrit Léon XIV.

• une forme de dépendance.

Bien sûr, les IA peuvent permettre d’obtenir facilement "des indications, des élaborations complexes, des contenus médiatiques et des formes d’assistance concrète", mais c’est au risque de nous "habituer à trop déléguer et à rechercher des réponses immédiates affaiblissant notre jugement personnel et notre créativité".

• un enfermement des individus dans un face à face avec la machine. 

Du fait du conditionnement des modèles économiques qui monopolisent l’attention et le temps, l'individu s'isole et perd la liberté de gérer son temps et ses activités. 

• la montée des inégalités.  

Dans l'histoire, certaines ruptures technologiques ont été le fait des Etats, comme le nucléaire, donc placées d'emblée dans le cadre de la recherche d'un bien commun. Le fait que les IA soient développées par une poignée de groupes privés très puissants n'est pas rassurant. Ces acteurs "fixent les conditions d’accès, les règles de visibilité, et les possibilités de participation". Un pouvoir d’une telle ampleur, ajoute l’encyclique, "tend à devenir opaque et à échapper au contrôle public", avec des risques "de nouvelles dépendances, des exclusions, des manipulations et des inégalités". 

• une désinformation massive et donc un risque démocratique.

La possibilité accrue de manipuler contenus, images et vidéos brouille les frontières entre le vrai et le faux, et mine la notion de vérité, qui résulte certes "d'une dimension rationnelle", nous dit le pape, "mais qui se construit aussi à travers des liens de confiance et des pratiques partagées, dans une confrontation honnête avec les autres et avec le monde". "Restons fidèles à la vérité", lance le pape en réclamant "un journalisme sérieux et des lieux de débat où comptent davantage l'argumentation et la vérification que la réaction immédiate" (Ndlr : coucou Bolloré ?!)

• une menace de consommation excessive par l’IA d’énergie et de ressources comme l’eau.

Extrait : "Les systèmes d’IA actuels nécessitent de grandes quantités d’énergie et d’eau, ils ont un impact significatif sur les émissions de dioxyde de carbone et consomment des ressources de manière intensive. Avec l’augmentation de la complexité, notamment dans les grands modèles linguistiques, les besoins en puissance de calcul et en capacité de stockage augmentent également, s’appuyant sur un ensemble de machines, de câbles, de centres de données et d’infrastructures énergivores. C’est pourquoi il est essentiel de développer des solutions technologiques plus durables afin de réduire l’impact sur l’environnement et de prendre soin de notre Maison commune".

• une déqualification des travailleurs."

Les nouvelles façons de travailler avec l'IA "ne sont pas nécessairement meilleures", surtout lorsqu'elles contraignent les travailleurs "à s'adapter à la vitesse et aux exigences des machines", soit l'exact inverse d'un des principes majeurs de la prévention des risques au travail, qui stipule que le travail doit être adapté à l'homme et non l'inverse ;

• la soumission des travailleurs à une surveillance automatisée.

​"À l’ère du numérique, un ordre social juste est celui qui garantit à tous un accès équitable aux opportunités, protège les plus petits et les plus fragiles, lutte contre la haine et la désinformation, et soumet l’utilisation des données et des technologies à un contrôle public, afin que le critère ne soit pas uniquement le profit, mais la dignité de chaque personne et le bien des peuples".

• un risque de suppressions d’emplois, etc.

Face à tous ces périls engendrés "par une mentalité technocratique et post-humaniste qui tend à considérer la personne comme un objet manipulable ou une ressource à optimiser", l’encyclique s’interroge : "Où allons-nous ? vers quel but souhaitons-nous nous orienter ? Quelle direction choisir en tant que communauté humaine et en tant que peuples ?"

Les innovations de l'IA ne sont pas neutres, elles peuvent favoriser la participation et la justice ou bien aggraver les inégalités, le contrôle et l'exclusion

Parce que la liberté économique "n’est pas absolue" et qu’il vaut mieux "rendre la croissance inclusive dès le départ" au lieu "d’attendre les bénéfices d’une croissance qui profitera aux pauvres" (allusion critique à la théorie du ruissellement), le pape estime que la réponse à ces questions passe inéluctablement par une régulation de l'IA.

Non seulement ces outils ne peuvent absolument pas être assimilés à l’intelligence humaine (***), mais ils sont loin d'être "neutres" : "Les innovations technologiques (..) peuvent favoriser la participation et la justice, ou bien aggraver les inégalités, le contrôle et l’exclusion". Du fait de leur puissance, ces techniques peuvent agir comme "un accélérateur du paradigme technocratique et nécessitent un nouveau cadre spirituel, éthique et politique".

La régulation et l'encadrement de l'IA est donc une idée forte de cet encyclique. Mais il ne faut cependant pas attendre d’un tel texte spirituel à vocation universelle le détail de la marche à suivre pour réguler, sur le plan législatif, réglementaire ou conventionnel, l’IA, son développement et ces usages.

Regardons cependant de plus près.

Le texte évoque des "instruments réglementaires adaptés, capables de préserver la justice et de limiter les effets perturbateurs du pouvoir technologique". La première exigence semble s’adresser aux politiques, seuls à même d’agir pour éviter la constitution et la consolidation de monopoles privés dangereux. Il faut, nous dit le pape, "désarmer l’IA". C’est-à-dire "la soustraire à la logique de compétition armée qui n’est plus aujourd’hui seulement militaire, mais aussi économique et cognitive", mais aussi "la soustraire aux monopoles" (une allusion aux géants de la Silicon Valley comme Open AI ou Anthropic, "la rendre discutable, contestable et donc habitable".

Le second impératif posé par le pape peut englober l’action politique comme la négociation collective. Car il s’agit pour l’Église catholique de souhaiter "un effort concerté des responsables politiques, des organisations de travailleurs, du monde des entreprises et de la communauté scientifique" afin "d'élaborer des règles et des protections adéquates et partagées, y compris au niveau international". 

Il s'agirait de définir un code éthique à utiliser, "en le soumettant à des critères de justice sociale partagés". Ici l’on trouve une référence aux partenaires sociaux et aux organisations syndicales : "Les communautés ne peuvent être réduits à de simples destinataires de décisions prises ailleurs, mais doivent pouvoir contribuer au discernement et à la vigilance", la propriété  des données ne pouvant pas être confiée "uniquement aux acteurs privés, mais doit être réglementée".

Réguler sans étouffer, protéger sans se substituer 

L'encyclique pèse cependant ses mots. Il est question de "réguler sans trop étouffer", de "protéger sans se substituer", ces évolutions et donc ces régulations devant être conduites "avec claivoyance par des institutions, des entreprises reconnaissant dans le travail et la dignité un critère de réussite, par des corps intermédiaires (..) qui rétablissent la confiance et les liens" (****).

L'appel à l'action collective se double également d'un appel à la vigilance des citoyens, à commencer par les développeurs de l'IA : "Ils portent une responsabilité éthique et spirituelle particulière (..) Ils sont appelés à traiter avec le sérieux qui s’impose les valeurs qu’ils insufflent à leurs projets ; avec transparence, avec responsabilité envers les communautés impliquées et en veillant à vérifier que ce qui est cultivé est véritablement un bien".

Des lois justes et des instruments de redistribution 

Enfin, "parce qu'il n'est plus possible de se fier uniquement à la «main invisible» du marché", le texte recommande aux Etats des "lois justes et des instruments de redistribution qui corrigent les équilibres, notamment par le biais de systèmes fiscaux en allégeant la charge qui pèse sur les plus faibles", mais aussi de mener des politiques de l'emploi "qui favorisent la continuité et la qualité de ce dernier, en luttant contre la précarité".

La conclusion se veut, ce qui n’est guère étonnant pour un texte religieux, optimiste voire lyrique : "Devenons des tisseurs d'espérance (...) L’ère de l’IA peut elle aussi devenir un passage par lequel l’Esprit fait mûrir la civilisation de l’amour dans notre vie".

(*) La CFDT a été créée en 1964 par le départ de la CFTC des partisans d'un syndicalisme non confessionnel, courant qui était devenu majoritaire à la CFTC. Il faut bien sûr rappeler ici le rôle des communistes (PCF) et de la CGT dans de nombreuses conquêtes sociales en France.

(**) Lettre encyclique Magnifica Humanita du saint-père Léon XIV sur la protection de la personne humaine à l’ère de l’intelligence artificielle, voir ici et en pièce jointe. La lette encyclique est une lettre envoyée par le pape aux évêques du monde entier, et à travers eux, aux fidèles. Elle est destinée à servir de référence pour plusieurs décennies.

(***) Extrait : "Les prétendues intelligences artificielles ne vivent pas d’expérience, ne possèdent pas de corps, ne connaissent ni la joie ni la douleur, ne mûrissent pas dans la relation, ne savent pas de l’intérieur ce que signifient l’amour, le travail, l’amitié, la responsabilité. Elles n’ont pas de conscience morale : elles ne jugent pas le bien et le mal, ne saisissent pas le sens ultime  des situations, n’assument pas le poids des conséquences".

(****) Signe de cette volonté de dialogue : Christopher Olah, le cofondateur d’Anthropic, était présent au Vatican le 25 mai lors de la présentation de l'encyclique. Anthropic s'est fait bannir de toutes les agences américaines par Donald Trump. Le président américain était furieux que les responsables de l'entreprise aient refusé que leur IA Claude soit utilisée par l'armée américaine pour des armes létales sans supervision humaine, ce qui fait écho au passage de l'encyclique sur la nécessité de "désarmer l'IA". 

► Sur ce même thème, voir notre précédente Note de lecture sur le livre de Gilles Babinet