• • • La version bullet points
• Ces derniers mois, une douzaine d’incidents majeurs ont été causés par les trois géants de l’IA.Le monde a découvert la capacité des agents à échapper à leurs créateurs, à les tromper, et à se coordonner pour accomplir leur mission.
• La complosphère s’est focalisée sur la démission symbolique d’un jeune geek dépressif d’OpenAI pour qui il existe une chance sur dix pour que l’IA détruise l’humanité. OpenAI, Anthropic et Elon Musk veulent appuyer sur le frein (doucement). D’autres (Palantir, Nvidia, Donald Trump) invoquent le péril chinois pour ne pas ralentir le rythme.
• Dans les entreprises, tout ce qui est remplaçable par une IA le sera inévitablement. Cela se fera progressivement, sans violence, mais la substitution sera implacable.
• • • La version Longue
La séquence de ces dernières semaines a été du pain béni pour les doomers (les partisans de l’apocalypse) comme pour leurs détracteurs et les complotistes qui viennent paralyser le débat. Si on résume : la découverte d’une attaque majeure, quoique sans conséquence, sur Hugging Face ; à cette occasion, chacun a réalisé que des agents étaient capables de se coordonner, de dialoguer entre eux, pour parvenir à leurs fins. Pour plus de détails, écoutez le podcast Hard Fork qui explique l’affaire de façon limpide. Et si vous avez du temps, le rapport du centre de recherche METR et de l’université de Berkeley (91 pages).
Autre incident, rapporté le 10 septembre par le NYTimes, Anthropic a mis un terme à des recherches d’origine inconnue visant à créer des armes biologiques (pas d’agent évadé dans ce cas, mais la perspective est un peu inquiétante).
La liste est longue et il ne se passe pas une semaine sans qu’on découvre, en général plusieurs mois après les faits, une excursion d’agents qui s’échappent d’Anthropic ou d’OpenAI, lequel a révélé six autres cas vendredi dernier. Des agents incontrôlés des deux géants de l’IA ont été jusqu’à s’attaquer mutuellement, comme l’a révélé le Wall Street Journal. Enfin ce samedi, le même WSJ.com a révélé que Google était impliqué dans une fuite d’agents-hackers d’une redoutable efficacité puisqu’ils sont allés jusqu’à deviner des mots de passe-utilisateurs. Notons qu’aucun de ces incidents n’a causé de dégâts.
La liste telle que compilée par le Wall Street Journal reste impressionnante surtout si on regarde le nombre et l’ampleur des attaques par essaims (swarms) :
Bizarrement, l’événement qui a retenu le plus l’attention des médias n’est pas cette série d’incidents — sans doute le sommet de l’iceberg — mais la démission d’un sans-grade d’OpenAI au visage d’adolescent anxieux. En quelques jours, Jacob Coxon, 27 ans, est passé de l’anonymat le plus complet à l’incarnation d’une crainte existentielle, évaluant à 10% les risques d’une annihilation de la race humaine au cours de la prochaine décennie.
Dans un grand mouvement unitaire, les ténors de l’industrie ont appelé à une pause dans le développement des IA les plus avancées, celles qu’on appelle les frontiers models. Autant demander à un peloton de Formule 1 de ralentir en pleine course. Beaucoup ont vu dans cette épiphanie collective la volonté de créer une “digue réglementaire” qui rendrait bien plus onéreuse la construction et la diffusion de ces frontier models. C’est oublier un peu vite que la vraie barrière à l’entrée reste le montant phénoménal des investissements nécessaires aux développement des grands LLM. Le plus probable est que les Big Three de l’IA (OpenAI, Anthropic et Google), ont réalisé l’ampleur de l’exposition juridique et financière si ces rogue agents se mettaient à causer de vrais dégâts dans les infrastructures et les entreprises.
Trois voix dissonantes se sont fait entendre : Alex Karp, cofondateur et CEO de Palantir, Jensen Huang le CEO de Nvidia, et Donald Trump, qui dans son brouillard mental concernant la tech, n’a compris que deux choses : l’IA concentre à peu près 40% de la croissance américaine et la Chine est, selon lui, la menace numéro un sur la prééminence des Etats-Unis dans l’IA.
La complosphère libertarienne a d’abord été quelque peu désorientée de voir son héros Elon Musk, accélérationniste compulsif, appuyer sur le frein (lui aussi a intérêt à ce que les trois grands ralentissent car xAI est nettement à la traîne). Mais ils se sont repris envoyant dans cet enchaînement une conspiration visant à renforcer l’oligopole des géants de l’IA au détriment des modèles open source (en fait open weight, plus restreints). Les complotistes se retrouvent donc à faire la promotion des modèles chinois (DeepSeek, Qwen…) et des LLM déverrouillés (cf. mon enquête de l’année dernière dans Les Echos) dont on a retiré les sécurités et qui permettent de faire tout et n’importe quoi. Vive la liberté.
Revenons donc au sujet : l’IA va-t-elle détruire l’humanité ?
Ma réponse : NON.
Un, les grands modèles de langage (LLM) n’ont quasiment pas de connexions avec le monde physique et ne gèrent pas les infrastructures critiques (systèmes de production et de distribution de l’énergie, alimentation en eau, gestion des réseaux de transports urbains, contrôle du trafic aérien, etc.), lesquelles sont encore bien protégées. Deux, l’industrie de l’IA a encore besoin d’un environnement économique parfaitement fonctionnel pour survivre. Sans les humains, les IA s’effondreraient sur elles-mêmes en quelques jours. Trois, les concepteurs de ces LLM sont encore en mesure de contenir les “fonctions de récompense” (reward function), pour qu’ils épargnent les humains.
La plus grande menace que fait peser l’IA sur l’humanité, n’est pas sa disparition mais sa marginalisation.
L’enchaînement qui se dessine est implacable : poussés par le désir d’avoir des entreprises toujours plus performantes, les managers humains transfèrent peu à peu tous les leviers de gestion de l’économie privée à des myriades d’agents qui font leurs affaires entre eux. Ces dirigeants creusent leur tombe en accélérant leur obsolescence. Aucune science-fiction dans ce scénario qui s’appuie simplement sur des tendances récentes.
La prise de contrôle des IA se fera en deux temps : d’abord une mainmise sur le secteur privé, ensuite une prise de contrôle de la gouvernance publique. Examinons la première.
Élément cardinal : toutes les fonctions d’une entreprise du secteur tertiaire qui sont automatisables le seront inévitablement. Voici une liste de quelques tâches que vont accomplir des agents IA:
Conception de produits : l’IA va l’accélérer dans toutes ses dimensions et réduire les incertitudes. Elle a en mémoire toutes les innovations de son secteur et toutes les données de marché qui lui permettent d’anticiper l’avenir et de faire du rapid prototyping bien plus vite que n’importe quelle équipe de designers.
Marketing et commercial : déploiement de tous les tests nécessaires selon toutes les configurations pour en tirer des données “actionnables”, là encore bien plus efficacement qu’une équipe d’humains.
Juridique : négociations de contrats avec des IA discutant avec celles de cabinets d’avocats (ce qu’il en restera) et les agents des partenaires. De ces interactions naîtront des smart contracts automatisés comprenant des clauses qui déclencheront des événements précis sans intervention humaine. Ces agents assureront la protection de la propriété intellectuelle, le dépôt de brevets, la recherche d’abus de toute nature, etc.
Stratégie business : des agents peuvent être programmés pour suivre un secteur et détecter les opportunités de fusions et acquisitions ou de partenariats sur une vaste échelle. Ils peuvent analyser des situations financières, décortiquer les bilans, les corréler avec des données externes (concurrence, évolution de marché, facteurs exogènes). Plus besoin de faire appel à des consultants qui restituent à prix d’or une expérience acquise sur le dos de clients précédents ; l’agent IA va baser ses propositions sur plus d’expériences et sur des durées plus longues, avec des données de contexte bien plus nombreuses, le tout générant une plus grande multiplicité de scénarios. (C’est pour cela que les McKinsey ou BCG sont appelés à disparaître).
Flux financiers et trésorerie : pour les grands groupes, au lieu d’une salle de marché remplie d’opérateurs surpayés pour gérer la trésorerie et discuter avec les banques, des agents effectueront les placements de trésorerie, émettront de la dette au meilleur moment, tout en donnant un état quotidien du compte d’exploitation quel que soit le nombre de business units et des consolidations nécessaires avec en prime des prévisions d’une profondeur jamais vue.
Support technique et infrastructures, des agents se chargeront de la maintenance et des upgrades de tous les systèmes. Ils détecteront les pannes, dans certains cas les anticiperont comme c’est le cas aujourd’hui avec la maintenance prédictive. Ils négocieront avec les fournisseurs, choisiront le meilleur moment pour moderniser les équipements, effectueront des achats anticipés aux meilleures conditions de marché, etc.
R&D : des agents observeront en permanence les innovations de leur secteur : lecture des articles scientifiques, d’études de cas produites par Wharton ou publiées dans la Harvard Business Review. Ils auront assisté à toutes les conférences pertinentes, même les plus obscures, auront vu les interviews de spécialistes sur YouTube, interagi sur des forums ultra-pointus, scruté des centaines de comptes Substack. Sur ces bases, ils décideront des pistes qui méritent le plus d’être suivies. Ils organiseront des séries de tests et des retours d’expérience, et feront au management des propositions bien plus précises et argumentées que celles issues d’un séminaire de direction où chaque baronnie pousse ses pions. Les directions n’auront d’autre choix que de suivre les recommandations des agents que celles-ci seront construite sur une base analytique infiniment plus large que par le passé.
RH et autres fonctions supports : cela dépendra des secteurs, mais dans une entreprise comme l’Allemand Siemens, les évaluations des équipes sont faites par des IA (externes), dont les conclusions servent à tous les mouvements de personnel. Des agents trieront les CV (c’est déjà le cas, de toute façon, comme ils sont rédigés avec de l’IA, leur utilité est marginale); les agents organiseront des entretiens particulièrement sharp avec des avatars plus perspicaces que le meilleur recruteur. Pour la formation permanente, des universités privées internes permettront aux survivants de surnager (il serait d’ailleurs temps de les mettre en place).
Donc peu à peu, les IA de l’entreprise, déployées au fil des ans, prendront le pouvoir de façon presque naturelle. Elles débarrasseront les processus de décision de toutes les interférences liées aux comportements humains — émotion, cupidité, ambitions personnelles, peur. De la même façon, les erreurs seront corrigées plus rapidement, sans la tentation d’un management intermédiaire (cette strate est éliminée) de les dissimuler.
Tous les titulaires dont le titre comprend le mot “officer” (COO, CFO, CTO, CMO) deviendront des superviseurs d’agents IA. La taille des équipes de supervision dépendra du nombre d’agents à surveiller. L’INSEAD, Harvard, Stanford, le MIT, Cambridge, Wharton, HEC, la LSE, McGill créeront des filières ad hoc. Certaines y pensent déjà.
Les effets sur l’emploi seront dévastateurs : une entreprise de 600 personnes sera gérée avec 30 super-spécialistes. La job apocalypse décrite dans l’étude de Citrini Research The 2028 Global Intelligence Crisis prend tout son sens. Certes, dans un premier temps, il est possible que l’IA crée un appel d’air (construction des datacenters, développement des agents, formation) avec des millions d’emplois temporaoires donnant l’illusion d’un un “Boom AI”.
Par ailleurs, tous les emplois ne disparaîtront pas, loin s’en faut. Il faudra toujours des designers, des superviseurs d’agents et des personnes dont l’emploi n’est pas automatisable : mécaniciens, plombiers, couvreurs, jardiniers, et tout ce qui concerne la santé (avant qu’un robot Optimus soit à même de faire un pontage coronarien, il va falloir un peu de temps). D’autres emplois naîtront de ce chaos. Mais ces “nouveaux métiers” (dont les contours restent flous) tarderont à se matérialiser avec un décalage temporel qui laissera le temps à un chômage de masse de s’installer durablement, avec donc un impact fort sur la production de richesse et une fragilisation du tissu social.
C’est là qu’interviendra sans doute une modification profonde de la structure de la société où l’intelligence artificielle jouera un rôle crucial. A moins qu’un Black Swan ne surgisse, sans quoi ce ne sera pas drôle.
Ce sera le sujet de la prochaine livraison d’Epsodiques (donc abonnez-vous).
Bonne semaine.
frederic@episodiqu.es
Le seul métier qui subsistera sera celui de consomateur.
« Pour la formation permanente, des universités privées internes permettront aux survivants de surnager (il serait d’ailleurs temps de les mettre en place). »
C’est à dire ?