L’IA rend fou
Cédric Villani et Loucas Pillaud-Vivien sont deux mathématiciens français, de deux générations différentes, qui réfléchissent et travaillent sur l’IA. À l’heure des questions et des inquiétudes, ils en débattent.
Regards. Pour beaucoup de gens, l’IA c’est ChatGPT ou Claude. C’est quoi exactement, l’IA ?
Cédric Villani. Quand je travaillais sur le rapport de 2018 pour le président de la république sur l’intelligence artificielle, c’est évidemment l’une des premières questions que je me suis posées. C’est normal qu’un mathématicien commence par demander : « Quelle est la définition ? »
Très vite, les auditions et les discussions m’ont convaincu qu’il était extrêmement difficile d’en donner une. À l’époque, j’avais proposé une pseudo-définition : « On appelle intelligence artificielle toute technique électronique qui automatise une tâche qu’on aurait cru réservée aux humains ». Évidemment, c’est une pseudo-définition : qui est ce « on » ? Que veut dire « aurait cru » ? Rien n’est vraiment précis. Mais c’était le mieux que j’avais trouvé.
« Un programme ne réfléchit pas. Il ne veut rien, ne cherche rien, ne désire rien. Tous ces mots sont chargés d’intentionnalité. Un programme reste une formule. Rien qu’une formule. »
Cédric Villani
Depuis, j’ai réalisé qu’il fallait ajouter quelque chose d’essentiel : le buzz. Si ça n’attire pas le buzz, on n’appelle pas ça de l’IA. Le buzz est consubstantiel à l’IA. Ce qu’on appelle « IA » à une époque cesse parfois de l’être à une autre, et inversement. C’est une notion profondément mouvante. Donc j’insiste sur le fait que l’IA est un objet résolument politique et social, au-delà même de sa dimension scientifique et technique. Finalement ma définition du moment c’est : « On appelle intelligence artificielle toute technique électronique qui automatise une tâche qu’on aurait cru réservée aux humains, et qui attire le buzz ».
Loucas Pillaud-Vivien. Je suis assez d’accord avec ça. Pendant longtemps, dans les milieux scientifiques, ce qu’on appelait « intelligence artificielle » était surtout désigné par le terme de machine learning, c’est-à-dire « apprentissage automatique ».
Aujourd’hui, avec les grands modèles de langage, le mot a changé de sens pour le grand public. Pour beaucoup, « IA » désigne désormais des systèmes capables de converser, d’écrire, de répondre à des questions : ChatGPT, Claude, etc. Je pense que le mot IA s’est aujourd’hui imposé autour de cette idée d’une intelligence qui passe par le langage, qui raisonne grâce au langage et à travers lui.
Cédric Villani. Il faut quand même rappeler qu’il existe une tradition plus ancienne de l’intelligence artificielle qui ne reposait pas sur l’apprentissage automatique. Une partie importante de l’IA classique travaillait à partir de règles logiques, de calcul d’exploration, de systèmes experts.
Mais il est vrai que l’arrivée de l’IA générative a complètement changé la donne dans le débat public, en intensité comme en focalisation. En revanche, je conteste l’usage du mot « réfléchir » appliqué à ces systèmes. Un programme ne réfléchit pas. Il ne veut rien, ne cherche rien, ne désire rien. Tous ces mots sont chargés d’intentionnalité. Un programme reste une formule. Rien qu’une formule.
Au-delà des chatbots comme ChatGPT, Claude et compagnie, existe‑t‑il d’autres usages importants de l’intelligence artificielle ?
Loucas Pillaud-Vivien. Quand on parle de « modèles de langage », il faut comprendre que le mot « langage » ne désigne pas seulement les langues humaines. Ces modèles ont appris énormément de formes de langages différents : les langues naturelles, bien sûr, mais aussi les langages informatiques, les notations mathématiques, les structures formelles.
Par exemple, un modèle comme ChatGPT connaît le HTML, le Python, le LaTeX utilisé pour écrire des articles scientifiques. Donc il peut manipuler toutes sortes de structures symboliques. C’est pour cela que la programmation informatique est aujourd’hui l’un des domaines les plus transformés par l’IA.
« Il y a des transformations beaucoup plus lentes, beaucoup plus diffuses, qui sont peut-être politiquement plus importantes : la dépendance cognitive, la concentration du pouvoir, la délégation progressive de fonctions intellectuelles fondamentales. »
Loucas Pillaud-Vivien
Par exemple, il y a des versions comme ChatGPT Codex ou Claude Code qui utilisent le langage pour effectuer des actions concrètes. Là, on passe à une IA dite « agentique » : des systèmes capables d’agir sur un ordinateur, de lancer des tâches, de modifier des fichiers, de piloter des logiciels. Je pense que l’étape suivante de l’IA qui va toucher le grand public sera celle‑là.
Cédric Villani. L’un des bouleversements majeurs provoqués par les grands modèles de langage concerne effectivement la programmation informatique. Même des programmeurs très expérimentés en profitent et confessent qu’ils sont impressionnés. Et pour certains qui sont moins virtuoses, il y a la possibilité d’atteindre des niveaux de complexité auparavant inconcevables. Les effets exacts sur la productivité restent débattus, car réaliser de la programmation en entreprise, c’est toute une chaîne comprenant le test, le « débuggage », la confrontation avec les objectifs, etc. Et là il n’est pas clair qu’on ait un gain de temps, d’autant plus que la compétition effrénée amène les programmeurs dans les entreprises en vue à travailler selon des horaires inhumains ! Mais indéniablement, il y a déjà une transformation profonde des pratiques.
De façon générale, il faut faire très attention aux effets réels sur la productivité dans la mesure où il existe historiquement un décalage très fréquent entre les promesses technologiques et les gains réellement observés. Il y a cette célèbre phrase de l’économiste Robert Solow : « On voit les ordinateurs partout sauf dans les statistiques de productivité ». Aujourd’hui les causes sous-jacentes au paradoxe sont encore débattues entre experts : problème dans les mesures mêmes, effets rebonds, dissipation des gains ? Ce débat réapparaît aujourd’hui avec l’IA. Il peut très bien y avoir un effet course aux armements : si tout le monde possède les mêmes outils, alors tout le monde dépense davantage pour conserver exactement la même place. On le voit dans la cybersécurité : les outils d’IA permettent aussi de produire davantage d’attaques, davantage de sophistication dans les cyberattaques et donc dans la cyberdéfense. On peut donc reperdre d’une main ce qu’on a gagné de l’autre.
« L’IA peut aussi faire perdre quelque chose de fondamental : le plaisir de comprendre. Découvrir une idée, résoudre un problème, ce n’est pas seulement une activité productive. C’est aussi une joie humaine profonde. Ce serait une étrange civilisation que celle qui finirait par automatiser jusqu’au plaisir de penser. »
Cédric Villani
Va-t-on assister à une crise des métiers de programmation ? Certaines écoles d’ingénieurs commencent néanmoins à constater des tensions nouvelles sur le marché du travail des développeurs. On voit apparaître des discours très médiatiques expliquant que « coder ne servira bientôt plus à rien ». Je déteste ce genre de prophéties : non seulement c’est un pari très douteux, mais en outre elles ont un impact délétère sur la motivation de nos jeunes. On ne programme pas seulement pour programmer, mais aussi pour s’imprégner de la culture, des réflexes, de l’acuité liée à la programmation et à sa gestion, c’est l’apprentissage de la sophistication des outils. La programmation est un art et pas seulement un outil.
Concrètement, pour des chercheurs comme vous, est-ce que ces outils peuvent accélérer la recherche mathématique ?
Loucas Pillaud-Vivien. Des mathématiciens comme Terence Tao ou Timothy Gowers commencent à explorer ces questions. Ils cherchent à voir si les modèles de langage peuvent aider à explorer des conjectures, produire des contre-exemples ou suggérer des pistes de démonstration. Il y a aujourd’hui des programmes de recherche entiers qui se mettent en place autour de ça.
Cédric Villani. Je représente probablement l’arrière-garde sur cette question et je l’assume. Quand on m’a proposé de participer à un tel projet pour développer des assistants de preuve, j’ai décliné, convaincu qu’il me serait plus profitable de continuer à me coltiner aussi les calculs fastidieux et soucieux de garder pour moi l’effort de la preuve. Et la mathématique ne consiste pas seulement à produire des démonstrations, elle vise avant tout à définir et comprendre des concepts, les éclairer, les enseigner, les appliquer.
Il existe un vieux fantasme dans le monde mathématique : celui d’une preuve vraie mais tellement opaque qu’elle ne nous apprendrait absolument rien. Une démonstration incompréhensible de 10 000 pages produite par une machine, même si c’est pour un théorème célèbre, n’aurait pas grand intérêt, ce serait presque un cauchemar. En mathématique, il y a toujours deux grandes questions : qu’est-ce qui est vrai ? Et pourquoi est-ce vrai ? Or le « pourquoi » est une construction profondément humaine. Aux yeux d’un ordinateur, tous les arguments se valent. Pour un mathématicien humain, certains raisonnements sont plus importants, plus intuitifs, plus féconds que d’autres. Le mathématicien-entrepreneur-auteur David Bessis en a publié une excellente analyse dans un billet de blog que je recommande « The Fall of the Theorem Economy ».
Et bien sûr, comme pour n’importe quelle industrie de création, il y a aussi un risque de dévaluation par inondation : déjà aujourd’hui, des centaines de milliers de théorèmes sont publiés chaque année. Si demain on passe à des millions de démonstrations générées automatiquement, il sera encore plus difficile de s’y retrouver – et que vaudra le théorème ?
loucas pillaud-vivien. En même temps, quelqu’un comme Terence Tao a une approche beaucoup plus optimiste. Il dit que si une IA produit une démonstration totalement opaque voire incompréhensible, ça ne l’intéresse pas. Mais si elle produit des pistes qu’on peut interroger, découper, retravailler, alors les mathématiciens pourront se réapproprier ces résultats.
Et il rappelle aussi que dans l’histoire des sciences, beaucoup de découvertes ont commencé par des régularités empiriques avant qu’on en comprenne vraiment les raisons profondes. Par exemple, les lois de Kepler [trois lois formulées au 17ème siècle qui décrivent mathématiquement le mouvement des planètes autour du Soleil, avant même qu’on en comprenne la cause physique avec la théorie de la gravitation de Newton] sont une forme de « data science » avant l’heure : une découverte empirique qui a ensuite orienté la recherche théorique.
Quand on regarde l’histoire récente de l’IA, on a l’impression que tout est concentré entre quelques grands groupes : Google, OpenAI, Meta, Microsoft… Est-ce que une impression juste ?
Cédric Villani. Les racines de l’IA sont beaucoup plus anciennes. On peut considérer que les mathématiciens Alan Turing et Claude Shannon sont les deux grands parents fondateurs de l’IA moderne. Chez eux, le moteur principal, c’était la curiosité scientifique : les jeux, les codes, la théorie de l’information, les fondements de l’esprit humain.
La génération suivante (Minsky, McCarthy, Moravec) introduit une dimension plus transhumaniste : l’idée qu’on pourrait produire quelque chose qui réfléchirait mieux que l’humain. Voire une nouvelle étape majeure dans l’évolution des espèces. Mais l’idée d’une IA principalement tournée vers le profit et la concentration du pouvoir apparaît surtout dans les années 1980-1990, avec les grands empires de l’informatique. L’un des tournants symboliques, c’est évidemment le duel d’échecs entre le joueur russe Kasparov et un ordinateur IBM.
Loucas Pillaud-Vivien. Aujourd’hui, concrètement, l’IA telle qu’elle existe pour le grand public, ce sont seulement ces cinq ou six grands groupes. Et le problème principal est peut-être moins leur existence que l’incapacité du secteur public ou du monde académique à s’organiser face à eux.
Il existe énormément de talents hors des grandes entreprises. Beaucoup de gens pourraient construire des alternatives open source puissantes. Mais il manque une organisation collective capable de faire émerger une véritable puissance publique ou ouverte. Beaucoup de mes camarades, collègues ou amis qui travaillaient dans l’IA se sont fait recruter par les grands groupes dont les objectifs sont d’accumuler pouvoir et argent, pas l’intérêt général.
Cédric Villani. Je suis un peu moins pessimiste sur ce point. Quand on regarde les performances des modèles ouverts, on constate qu’ils rattrapent souvent les grands modèles propriétaires avec quelques mois de retard seulement.
Et si l’on se demande non pas « quel est le modèle le plus impressionnant médiatiquement ? », mais « de quoi avons-nous réellement besoin ? », alors le jeu devient beaucoup plus ouvert. Il existe aujourd’hui des solutions open source capables de répondre à beaucoup d’usages réels à des coûts raisonnables et avec des impacts environnementaux plus maîtrisés. J’ai assisté récemment à une présentation éclairante dans une université et la conclusion était claire : on peut mettre en oeuvre un grand modèle de langage répondant aux besoins exprimés, en particulier pour interroger la littérature scientifique, à coût abordable, impact environnemental maîtrisé et performance de haut niveau – dans la ligue des grandes vedettes avec quelques mois de décalage. Mais il est vrai que la puissance médiatique et financière des géants américains est considérable, avec la puissance de mise en œuvre qui l’accompagne.
Qu’est-ce qu’il faudrait faire aujourd’hui pour résister à cette concentration du pouvoir technologique ?
Loucas Pillaud-Vivien. Je pense qu’il manque un véritable grand projet public autour de l’IA… à l’égal de ce que l’on a été capables de construire historiquement avec des projets scientifiques gigantesques, extrêmement coûteux, qui demandaient des décennies de travail collectif. Aujourd’hui, les pouvoirs publics ont injecté beaucoup d’argent dans l’IA, fait beaucoup d’efforts et de déclarations, mais ce qui manque réellement, c’est une gouvernance et un programme collectif clair.
Je pense au CERN, ce grand laboratoire européen où des milliers de chercheurs travaillent ensemble sur la physique des particules ou encore aux grands projets sur les ondes gravitationnelles, ou le CEA, le Commissariat à l’énergie atomique et aux énergies alternatives. Ce sont des structures publiques, importantes, qui ont réussi à rassembler, dans une finalité précise, des compétences, des moyens financiers, des infrastructures et du temps long. Pourquoi serait-on incapables de faire quelque chose d’équivalent sur l’intelligence artificielle ?
Aujourd’hui, quand on regarde le secteur, tout le monde finit absorbé par les grandes entreprises privées américaines, le reste est dispersé dans l’académique où ils travaillent pour la plupart en silos. Quand certains quittent ces entreprises, c’est souvent pour recréer d’autres startups privées. Il y a donc un vrai problème de structuration collective.
Si, demain, on me dit : « Pendant cinq ans, tu travailles dans un grand laboratoire public européen pour développer des modèles ouverts, souverains, avec des moyens importants et une vraie ambition scientifique », j’y vais immédiatement. Parce qu’il existe énormément de talents et de compétences en dehors des grandes entreprises. Ce qui manque, ce n’est pas l’intelligence ou les chercheurs, c’est une structure collective capable d’organiser tout ça à grande échelle.
Cédric Villani. Je suis d’accord sur le diagnostic général, mais je pense qu’il existe aussi une différence importante entre l’IA et les grands projets scientifiques du 20ème siècle. Le CERN, par exemple, repose sur des infrastructures physiques extraordinairement lourdes et localisées : des accélérateurs de particules gigantesques, des tunnels, des équipements industriels immenses. C’est quelque chose qu’on ne peut construire qu’à quelques endroits dans le monde. Ce sont des points de convergence géographiquement bien localisés.
L’IA est beaucoup plus immatérielle, beaucoup plus mobile, beaucoup plus reconfigurable. Un laboratoire peut émerger très vite, une équipe peut se recomposer rapidement, les rapports de force technologiques peuvent changer en quelques mois. Cela rend la compétition beaucoup plus instable que dans les grands programmes scientifiques classiques.
Il ne faut pas non plus tomber dans l’idée qu’il faudrait reproduire le modèle américain des investissements massifs et illimités. Les sommes injectées aujourd’hui dans l’IA par les géants technologiques sont délirantes. Je ne suis pas sûr qu’il soit souhaitable que l’Europe entre exactement dans cette logique-là, parce qu’elle produit aussi des concentrations de pouvoir extrêmement dangereuses. Et aussi parce qu’elle produit une bulle phénoménale, dont tout le monde de sensé se demande quand elle va crever et qui va payer les pots cassés.
En revanche, je suis sûr qu’il faut renforcer massivement les coopérations publiques de recherche à l’échelle européenne : davantage d’échanges entre laboratoires, davantage de réseaux universitaires, davantage de circulation des chercheurs et des connaissances. Et aussi se poser à nouveau la question : de quoi avons-nous réellement besoin, une fois que l’on sort du pur effet de prestige ou du buzz médiatique ?
Est-ce que vous pensez, comme les informaticiens Geoffrey Hinton ou Yoshua Bengio, que le développement exponentiel de l’intelligence artificielle fait courir un risque existentiel à l’humanité ?
Loucas Pillaud-Vivien. Le simple fait que de tels chercheurs qui sont des figures fondatrices du deep learning contemporain posent publiquement et sérieusement cette question montre qu’il se passe quelque chose. On ne parle pas ici de gens extérieurs au domaine ou de fantasmes de la Silicon Valley. Ce sont des chercheurs qui ont participé directement à la construction de ces technologies. Ce genre de prise de position mérite d’être prise au sérieux, et je me garderais donc bien de la balayer d’un revers de main – comme certains peuvent le faire.
Mais je me garderais aussi de donner une réponse définitive. Je pense qu’on est dans une situation très incertaine. Il y a plusieurs niveaux de risques différents, qu’on confond souvent. Il y a les scénarios très spectaculaires de type « IA autonome incontrôlable », qui captent énormément l’attention médiatique. Mais il y a aussi des transformations beaucoup plus lentes, beaucoup plus diffuses, qui sont peut-être politiquement plus importantes : la dépendance cognitive, la concentration du pouvoir, la délégation progressive de fonctions intellectuelles fondamentales.
Cédric Villani. Pour moi, le premier problème, c’est que l’IA rend fou. Elle rend folle l’économie, folle la société, folle une partie des élites techniques et politiques. Quand on regarde certains discours aujourd’hui dans la Silicon Valley, on a parfois l’impression d’assister à une forme de délire collectif autour de la promesse technologique.
En même temps, cette obsession permanente pour l’IA détourne aussi l’attention collective d’autres enjeux absolument centraux, notamment climatiques et écologiques. Toute l’énergie intellectuelle, financière, industrielle est aujourd’hui mobilisée autour des datacenters, de la puissance de calcul, de la compétition technologique, des semi-conducteurs. Or pendant ce temps-là, les problèmes climatiques et sociaux ne disparaissent pas, bien au contraire.
Et puis il y a évidemment toute la dimension militaire et sécuritaire. L’IA fournit déjà de nouvelles armes : cyberattaques automatisées, drones pilotables avec précision et bientôt beaucoup plus autonomes, systèmes de surveillance, capacités massives de désinformation, automatisation grandissante de la guerre. Le risque n’est pas vraiment celui d’une machine qui deviendrait autonome ou incontrôlable au sens de la science-fiction, mais son utilisation autodestructrice par l’humain.
Les technologies de la communication, dès le début, ont été employées par les sociétés autoritaires pour renforcer leur contrôle de la population, mais ont aussi constitué pour les régimes plus libéraux une tentation irrésistible. Voyez les programmes massifs de surveillance lancés par les États-Unis et quelques autres. Flicage en temps de paix, démultiplication des moyens de destruction en temps de guerre, c’est une combinaison redoutable pour une humanité qui n’a guère progressé moralement et qui a toujours, en période de tension, utilisé la technologie dernier cri pour se battre. Rendez-vous compte, personne n’en parle mais l’an dernier cinq pays européens se sont retirés du traité international contre les mines antipersonnel ! Les industriels de l’armement ont leur carnet de commande plein à ras bord, de même que tout le business des addictions (drogue, sexe, jeu). J’imagine un extraterrestre en mission d’observation sur Terre, qui ferait son compte rendu à son quartier général : « Ils font tout pour éviter de regarder en face leurs vrais problèmes, ils se préparent à la guerre, et construisent d’immenses datacenters comme les cathédrales d’un culte ». À la fois hyper-connectés et déconnectés du réel.
Loucas Pillaud-Vivien. Il existe peut-être un autre risque, plus silencieux. Si nous déléguons progressivement notre capacité à comprendre, réfléchir, écrire, organiser le monde, alors nous risquons aussi de perdre une partie des
compétences collectives qui rendent possible une société démocratique.
Parce qu’au fond, une société humaine fonctionne aussi grâce au fait que les individus participent eux-mêmes à la production de la compréhension. Si tout devient progressivement opaque, automatisé ou externalisé à des systèmes techniques, cela peut aussi transformer profondément notre rapport au savoir et à l’action politique.
Cédric Villani. Et peut-être aussi faire perdre quelque chose de très fondamental : le plaisir de comprendre. Parce qu’au fond, comprendre le monde, faire un effort intellectuel, découvrir une idée, résoudre un problème, ce n’est pas seulement une activité productive. C’est aussi une joie humaine profonde, d’utiliser son corps, muscles et cerveau, pour accomplir quelque chose de beau. Ce serait quand même une étrange civilisation que celle qui finirait par automatiser jusqu’au plaisir de penser. On songe à la dystopie évoquée par Kurt Vonnegut Jr dans sa « Lettre au futur » : « Tout le monde restera assis toute la journée en tapotant le clavier d’ordinateurs connectés à tout, en sirotant du jus d’orange avec des pailles comme les astronautes ».
Cet article est extrait de notre numéro « RN, climat, IA : faut-il s’adapter ? », paru en juin 2026.