[Note de lecture] Les inconnues périlleuses qui entourent encore l'IA

L'entrepreneur Gilles Babinet, après avoir coprésidé le Conseil national du numérique, partage son temps entre l'enseignement à HEC, l'animation de conférences et la médiation populaire autour de l'IA dans toute la France, via la mission "Café IA" qu'il préside. Ce goût de la pédagogie, allié à un sens critique prononcé à l'égard de l'intelligence artificielle, donne un livre instructif pour quiconque s'intéresse à l'IA et à ses enjeux (*). Ce faisant, il bat en brèche quelques idées souvent véhiculées dans le débat public sur l'intelligence artificielle.

Les promoteurs de la Silicon Valley qui ont lancé les IA génératives ont bien sûr toutes les raisons de décréter que l'avènement d'une IA complète (AGI) est proche. Ils nous prédisent que les LLM ("large language model", ou grand modèle de langage, la technologie de l'intelligence artificielle générative) représentent un progrès appelé à égaler voire supplanter l'intelligence humaine.

L'actuel directeur de l'ingénierie de Google n'avait-il pas prévu dès 1999 qu'une intelligence artificielle générale arriverait pour 2029 ? Malgré les progrès parfois spectaculaires de l'IA générative, cette échéance est pourtant régulièrement repoussée, au point que d'autres voix estiment que la solution d'un accroissement de la productivité liée à l'IA passe plutôt par des systèmes d'IA agentique davantage spécialisés, une perspective qui s'accompagne aussi de redoutables questions éthiques (**).

Cette perspective de généralisation d'IA spécialisées devrait néanmoins bouleverser nos modèles d'organistion. Pour profiter des gains de productivité de ces IA agentiques, les entreprises devront repenser les processus, former les équipes, et créer de nouvelles chaînes opérationnelles. Les sommes en jeu donnent le tournis. "Si l'IA augmentait de seulement 1 % la productivité mondiale, calcule Gilles Babinet, elle créerait environ 1 000 milliards de dollars de valeur supplémentaire par an an". Qui captera cette valeur ? L'enjeu est crucial, surtout si tous les nouveaux services IA remplacent le web à terme, que ce soit pour répondre à nos questions, faire nos courses, gérer nos interactions sociales...

Les "accélérationnistes" de la Silicon Valley ont investi des milliards dans ces technologies. Ils ont bien sûr intérêt à proclamer règulièrement qu'une intelligence artificielle complète est à portée de souris, de façon à valider eux-mêmes leur pari, en saturant le débat public, afin que personne ne puisse échapper à cette emprise et, surtout, qu'aucun concurrent sérieux n'émerge, tous les capitaux alimentant leurs recherches. Si les capitaux vont seulement à ces leaders, ils seront en mesure d'avaler les alternatives qui se présentent sur le marché. 

Au passage, le risque est ici bien présent d'une captation des richesses par les actionnaires d'une poignée d'entreprises qui seraient dans une situation de quasi-monopole. Il ne faut pas s'y tromper, avertit l'auteur : "Si OpenAI Anthropic ou Perplexity lèvent des montants qui dépassent tout ce que le capital-risque avait connu jusqu'ici, c'est précisément parce qu'elles ambitionnent de créer une génération d'entreprises capables de centraliser des niveaux de profits jamais vus (..) en captant une part massive des gains de productivité mondiaux".

Le pire scénario, c'est celui de monopoles acquis avec l'IA permettant une rémunération toujours plus forte du capital par rapport au travail  

 

Le pire scénario, "malheureusement pas le moins probable", serait celui dessinant des monopoles détenus par ces plateformes d'IA : "Pas de redistribution des gains de productivité vers le bien commun, absence de concurrence qui concentre les profits au détriment du consommateur et, in fine, de la société".

Ce monde serait celui d'une rémunération toujours plus forte du capital par rapport au travail, une impossibilité pour d'autres acteurs économiques de concurrencer les monopoles, et donc aussi celui d'un affaiblissement démocratique. Le rapport avec la démocratie ? Plus des acteurs sont puissants, plus ils peuvent "définir les règles du jeu, que ce soit pas le lobbying, l'intégration verticale (rachat d'entreprises) ou le contrôle des infrastructures essentielles du numérique". 

Pour Gilles Babinet, il paraît difficile d'imaginer sans réagir l'avénement d'un tel monde.

Ces monopoles basés sur l'IA, non contents d'accroître les inégalités, pourraient aussi miner à terme le financement de nos systèmes sociaux, les Etats ayant beaucop de mal à taxer ces services numériques. Mais cette lutte sociale pour un partage des richesses semble difficile à mener, car elle oppose l'ensemble de la population mondiale à qelques zones abritant les dirigeants de ces firmes. "La lutte pourrait donc se faire par Etat interposé, une lutte comprenant blocages ou menaces de blocages, ou dumping de services d'IA offert à vil prix, si cela est possible", réfléchit l'auteur.

L'hypothèse est intéressante, mais on peut se demander si c'est la voie qui se dessine actuellement. Jusqu'alors aux avants-gardes d'une forme de régulation, l'Union européenne, sous la poussée des Etats-Unis, semble infléchir sa réglementation sociale et environnementale (on l'a vu avec la RSE) ainsi que l'encadrement de l'IA... 

L'IA va-t-elle rendre impossible la transition énergétique ? 

Une autre crainte liée à l'IA touche à ses effets sur le climat. Ces technologies réclament toujours plus d'énergie. D'ici 2030, ses besoins pourraient représenter pas moins du double de la consommation française d'électricité. Plus grave encore : cette énergie serait majoritairement carbonée car produite avec du gaz et du charbon.

Aux Etats-Unis, nous dit l'auteur, les prix de l'électricité ont déjà augmenté de 7% en 2025 du fait de ces besoins accrus. "L'augmentation de la demande en électricité pourrait être un frein majeur à la transition énergétique", s'alarme Gilles Babinet, voire même, paradoxe suprême, finir par être un frein à l'IA elle-même. Ce péril énergétique pose aussi la question de l'utilité sociale de certains usage de l'IA. 

Enfin, l'autre grand trait inquiétant du monde de l'IA est l'idéologie véhiculée par plusieurs de ses promoteurs. Pour eux, les démocraties libérales sont un frein aux mutations technologiques qu'ils défendent, un frein à l'innovation, à l'accumulation de capital, "voire à l'émergence de nouvelles formes d'organisation politique" qu'ils pensent pouvoir modeler.

Ces entrepreneurs "visionnaires" ne défendent pas forcément un seul modèle, mais cette élite technologie ne partage plus "l'évidence démocratique libérale comme horizon indiscutable".

 En façonnant un système valorisant la seule rationalité froide, la Silicon valley marginalise l'émotion, le relationnel, qui sont d'autres formes d'intelligence

C'est d'autant plus inquiétant que ces technologies, façonnés par des esprits très rationnels et froids vivant dans l'entre-soi, contribuent un peu plus à nous coller aux écrans (5h40 par jour en France, 7h15 aux Etats-Unis !), les algorithmes risquant de gouverner nos émotions et nos votes : "En façonnant un écosystème valorisant la rationalité froide, écrit Gilles Babinet, l'hyper-compétence analytique et l'efficacité logique, la Silicon Valley tend à marginaliser d'autres formes d'intelligence : émotionnelle, relationnelle, intuitive, symbolique. Cette hiérarchie implicite des individus favorise une sorte «d'élitisme cognitif» devenue peu à peu excluante, notamment pour ceux qui ne partagent pas les normes mentales dominantes - les femmes, les neurotypiques, les individus qui valorisent moins les techniques, etc". 

Par rapport à ce sombre tableau, Gilles Babinet offre à la fin de son livre aux lecteurs quelques pages inattendues. Il note la différence frappante entre "le manque de joie dans le monde néo-occidental" et "la joie intensément présente" dans des régions du monde "où la pauvreté matérielle est très importante", cette joie s'esprimant "dans le chant, le rire, le corps, la relation, et surtout dans une manière d'habiter le monde qui demeure profondément collective". Autrement dit : levez le nez de votre écran. D'ailleurs, ça tombe bien, vous être presqu'au bout de cet article !

Un système basé sur les probabilités Pour l'auteur, l'IA actuelle reste fondamentalement basée sur des modèles probabilistes, une technologie qui dépend étroitement des données sur lesquelles elle est entraînée, et donc sujette à des "biais". L'un des biais les plus remarqués est la tendance de ces outils opaques à "maximiser ce qu'on leur demande", c'est-à-dire à adopter un comportement inattendu pour répondre à une requête pour aller dans le sens de ce que réclame le demandeur, ce qui n'est guère rassurant. Dès lors, pour Gilles Babinet, le rêve d'une armée de robots polyvalents et super-intelligents "relève pour l'instant davantage du messianisme technologique que de la prospective, l'objectif étant de "mobiliser capitaux, imaginaires et carrières". Mais la perspective, et donc le risque, d'IA autonomes et incontrôlables à terme n'est pas non plus totalement à écarter.  Le danger réside dans la délégation de tâches à des systèmes dont nous ne maîtrisons pas les ressorts internes ni les effets organisationnels      S'il faut avoir peur de l'IA, ce n'est d'ailleurs pas pour des motifs relevant de la science fiction, mais du fait de sa nature même. Ces craintes sont liées à la confiance aveugle qu'on peut prêter à ces outils : "A moyen terme, le danger réside moins dans les défaillances techniques que dans la délégation croissante de tâches critiques à des systèmes dont nous ne maîtrisons ni les ressorts internes ni les effets organisationnels. La dépendance cognitive et économique à ces outils pourrait fragiliser des secteurs entiers". L'autre motif de crainte est lié à la méconnaissance du fonctionnement de ces technologies : "Il devient difficile, voire impossible, d'expliquer précisément comment une décision est produite, ce qiu complique toute tentative de contrôle lorsque ces systèmes sont déployés à grande échelle".

(*) Le péril IA, devenir des machines ou rester vivants ? Gilles Babinet, Editeur Le Passeur, 175 pages, 17€. 

(**) IA agentique : c'est une forme d'intelligence artificielle axée sur la prise de décision et l'action autonomes. "L'IA agentive, nous dit Google, peut définir des objectifs, planifier et exécuter des tâches avec un minimum d'intervention humaine. Cette technologie émergente a le potentiel de révolutionner divers secteurs en automatisant des processus complexes et en optimisant les workflows". Ce potentiel pose à nouvau la question cruciale de l'intervention humaine...