• • • La version bullet points
• La prise de contrôle de l’IA sur la société passera par la mainmise sur les entreprises (voir le post de la semaine dernière) avec comme suite logique la mise en place de nouveaux systèmes politiques.
• Tout le monde y contribuera : ceux qui seront demain aux commandes des démocraties et qui ont déjà intégré l’IA dans la façon de résoudre les problèmes de la société seront les marionnettes qui proposeront des solutions.
• Cette endogénéité de la pensée sera aggravée par l’ultra-concentration industrielle du secteur qui restera entre les mains d’un oligopole restreint, seul capable de déployer les énormes investissements nécessaires.
• L’unique moyen de contenir cet enchaînement reste une régulation multilatérale — dans ce cas USA-Chine – qui garantira la sécurité des modèles comme jadis les puissances nucléaires ont contenu la prolifération.
• • • La version longue
La semaine dernière, j’ai expliqué comment l’IA “agentique” allait prendre le pouvoir dans les entreprises au moyen d’un remplacement progressif de toutes les fonctions de gestion.
La logique est que l’IA ne s’arrête pas en si bon chemin. La suroptimisation des entreprises provoquera, avant une éventuelle stabilisation ultérieure, un chômage de masse, une baisse globale des revenus pour une nouvelle classe (très) moyenne dont la vie reposera sur de l’emploi à temps partiel, des bullshit jobs, un revenu minimum universel, et une abondance de distractions contrôlées par le même oligopole technologique. Celui-ci arrivera vite à la conclusion que rien de tout cela ne tiendra sans un changement substantiel des fondements de la société.
Dans cette perspective, l’IA pourrait avoir les effets suivants :
• Démocratie directe et granularité des opinions
Une thèse des IA-optimistes est que chaque citoyen disposera de son propre agent ayant intégré ses opinions et ses préférences sociétales. Cette synthèse pourra être soit nourrie par le citoyen lui-même, soit proposée par l’algorithme sur la base de son profil. Dans le meilleur des cas, ce schéma aboutira à des platitudes — aspiration générale à plus d’assistance, meilleures conditions de travail, plus de sécurité, très bien, merci. Dans le pire des cas, l’IA aura renforcé les biais initiaux du tenancier du Balto de Béziers comme du prof de socio soutien de LFI. Cette idée d’un catalogue infini des opinions nourrit le fantasme, récurrent chez les Tech Bros, d’une sorte de démocratie directe et continue. Si cela fonctionne aussi bien que les spasmes continuels des réseaux sociaux, on est bien parti.
Le seul bénéfice tangible serait à tout le moins une capacité à nuancer de façon précise les mouvements d’opinion par rapport à des propositions concrètes. Ainsi, une mesure qui serait a priori rejetée par une faible majorité recèlerait en fait des nuances qui permettraient de la reformuler pour maximiser les chances de son adoption. Dans cette hypothèse, l’IA favorisera peut-être le consensus.
• La mécanique de la “convergence cognitive”
Projetons-nous en 2035. Les pays occidentaux, encore plus ou moins démocratiques, ont à leur tête deux classes d’âge relativement proches : celle qu’on va appeler “les conseillers” (28-35 ans) et celle des “décideurs” (36-45 ans). Les premiers sont dans les cabinets ministériels, dans les partis politiques, et les think tanks, ils alimentent leurs aînés sur les choix politiques, le tout sous le regard sourcilleux de médias ayant à peu près la même démographie.
Leur point commun : ils ont tous été nourris à l’IA. Au lycée, en prépa, à l’université ou dans les grandes écoles, tous ont rédigé devoirs, dissertations, essais, mémoires avec l’aide de l’IA. Avant même d’entrer dans la vie professionnelle, leur pensée est formatée, quels que soient leurs a priori idéologiques. Par la suite, les mêmes produisent des notes de synthèse et des policy papers, en puisant largement dans les LLM et surtout en confrontant avec leur chatbot dûment paramétré des analyses qu’ils croient inédites.
Cette élite dirigeante, ou aspirant à le devenir, a donc connu la même influence dans sa formation, les mêmes schémas mentaux dans l’élaboration de ses idées. Puisque le propre des LLM est de reformuler avec pertinence les questions, tous les problèmes finissent par être posés et résolus de la même façon.
Les modélisations politiques ou économiques qui en découlent sont construites sur les mêmes fondamentaux car tout aura pour origine le même oligopole avec des IA mises au point par OpenAI, Anthropic et Google. On peut imaginer d’autres configurations — un Amazon, ou un Nvidia rachetant un OpenAI en cessation de paiements (scénario plausible au vu de la pyramide de Ponzi érigée par Sam Altman), ou une fusion entre Anthropic et Microsoft. Quelles que soient les combinaisons, l’oligopole de l’intelligence artificielle mondiale conservera la même physionomie. Il aura d’ailleurs davantage tendance à se consolider qu’à se diversifier simplement en raison des besoins gargantuesques en investissements qui forment une barrière à l’entrée naturelle.
L’agenda de ces IA sera à la fois natif et adaptatif. Une première couche sera gravée dans le marbre de l’apprentissage des modèles, grâce à la combinaison des jeux de données et des architectures algorithmiques. Cet assemblage sera dominé par des biais profonds. Les modèles dits “libres” sont tout sauf neutres ; ceux produits par Meta sont explicitement orientés pour promouvoir “l’exceptionnalisme américain” (on ne précise pas lequel), tandis que les modèles chinois (Qwen, DeepSeek) sont conçus pour refléter les vues du Parti communiste chinois. On a donc une percolation d’un système devenu totalement endogène où tous les décideurs finissent par avoir les mêmes références et les mêmes schémas d’interprétation. Cette infiltration se fera lentement et sans brutalité ; il n’est pas question d’un coup d’Etat provoqué par les IA, mais d’une persuasion générale s’inscrivant dans le temps long, avec un gommage progressive de toute idée de divergence intellectuelle.
• La fin de la pensée critique
Puisque les élites auront été formées au même moule, il sera difficile de voir émerger, chez les humains, des idées disruptives. La machine sera, elle, capable de penser outside of the box et pourra proposer des solutions auxquelles personne n’avait pensé (ou pire, que personne ne comprendra). Mais comme pour les chimiothérapies, il y aura des effets secondaires avec une désinhibition algorithmique qui laissera libre cours aux propositions extrêmes. Exemple : pour résoudre la question des retraites et des coûts associés aux personnes âgées, une IA moralement débridée pourra proposer une réforme qui supprime les pensions et la Sécu aux plus de 90 ans ; dans le même temps, à ceux qui consentiront à une sortie radicale du système, un accompagnement de fin de vie sera proposé. Exagéré ? Reprenez la thématique anti-vieux développée par certains partis, amplifiez-là avec une dégradation accrue des comptes publics et par un travail souterrain d’IA dont l’objectif premier est la réduction de la dette et vous avez, vers 2035, une proposition tout à fait acceptable pour un trentenaire au bord du déclassement suite à une job apocalypse aigüe.
Quels garde-fous, quelles oppositions morales peuvent émerger d’un système de réflexion endogène, d’idéologies diluées dans la javel d’un rationalisme apparemment sans faille, et d’une pensée critique perdue avec la disparition d’un enseignement repris par l’IA ?
Le seul espoir peut venir d’une régulation décidée très en amont — autrement dit, maintenant — et qui fixera les limites d’action de ces IA, en particulier leur capacités à s’améliorer, à créer des versions d’elles-mêmes plus performantes, et à se coordonner comme dans les pertes de contrôle d’agents qui se sont multipliées ces derniers mois. Ce schéma suppose une approche multilatérale qui n’est pas dans l’air du temps — sauf si les Etats-Unis et la Chine décident de jeter les bases d’une Agence internationale pour l’intelligence artificielle sur le modèle de l’AIEA pour le nucléaire et qui fonctionne plutôt bien (l’Europe est hors course, hélas). L’histoire de la guerre froide et du contrôle des armes nucléaires permet d’espérer…
A moins que ne survienne un Black Swan, un événement imprévu qui vient tout bouleverser. Le seul qui se profile est la révolte populaire aux Etats-Unis contre les implantations des datacenters dont la prolifération sauvage braque une partie croissante de la population.
• • •
La prochaine fois, j’évoquerai l’affaire Thélyson Orélien, qui devrait pousser le monde de l’édition à revoir ses pratiques pour éviter que pareil accident industriel ne se reproduise.
Bonne semaine.
frederic@episodiqu.es
Toujours aussi pertinent, sans langue de bois. Une sorte de lucidité acide...