Écouter le podcast

Transcription : L'IA peut-elle tous nous tuer ?

Le texte de l'émission diffusée le 9 octobre 2026, légèrement retouché pour la lecture (tics de langage et répétitions retirés), sans changer le déroulé ni le propos. C'est de l'oral : pour savoir d'où vient chaque information et faire le tri entre faits, déclarations et hypothèses, voir le résumé et les sources de l'épisode.

Introduction : pourquoi ce podcast

Regarder à 0:00 →

Bienvenue sur ce nouveau podcast « Après l'IA ». Pour celles et ceux qui ne me connaîtraient pas, moi, je suis Pierre Simonnin. Je suis freelance IA et no-code. J'ai créé Staak, une agence IA et no-code aussi. J'utilise énormément l'intelligence artificielle au quotidien. Je la déploie en entreprise, je forme des personnes à l'IA. Autant dire que je ne tape pas sur l'IA par plaisir ou par principe. Mais si j'ai choisi aujourd'hui le titre de l'émission « L'IA va-t-elle tous nous tuer ? », c'est parce que c'est une question qui revient de plus en plus aujourd'hui, portée par des personnes de plus en plus diverses.

Au-delà de répondre oui ou non, ce qui n'a pas beaucoup d'intérêt, l'idée aujourd'hui, c'est de creuser un peu le sujet, de voir quels sont les tenants et aboutissants de cette polémique. Qu'est-ce qu'il y a dessous ? Est-ce que c'est crédible ? Quels sont les risques ? L'intelligence artificielle, c'est un sujet à part. Elle est plus puissante que la plupart, voire la totalité des autres outils à notre disposition, mais elle a aussi plus de zones d'ombre sur la manière dont elle fonctionne et dont elle est gérée, et donc plus de risques, liés à cette puissance et à ces zones d'ombre.

C'est peut-être une première dans l'histoire de l'humanité. On peut évidemment penser à la bombe atomique, qui a un potentiel de destruction avéré, mais le truc, c'est que tout le monde n'a pas une bombe atomique chez soi. L'IA, c'est un outil qui est non seulement extrêmement puissant, mais en plus diffusé très, très largement. Donc l'IA, c'est un sujet de société qui nous engage collectivement, car il peut avoir un impact sur nos vies à toutes et à tous.

Sauf que je me rends compte qu'autour de moi, où les gens sont plutôt très investis dans l'IA, on parle beaucoup d'IA, mais toujours pour parler de technique, de possibilités, et quasiment jamais de ce que ça implique. Il n'y a jamais cette réflexion : ce monde qu'on est en train de construire, à base d'IA partout, à quoi il ressemble et où est-ce qu'il nous amène ?

Or, les implications sont énormes. Et je me dis que si ce n'est pas nous, qui utilisons l'IA au quotidien, qui menons ces réflexions, qui portons ces sujets, qui le fera ? Et je veux dire, qui le fera avec crédibilité ? Parce qu'à une personne en dehors, critique de l'IA, on peut tout de suite reprocher : « en fait, tu sais pas de quoi tu parles ».

Nous qui savons de quoi on parle, qu'est-ce qu'on peut dire sur le sujet ? Je me lance donc dans ce podcast afin d'aborder ensemble les impacts de l'IA sur la société. Le but étant de s'appuyer autant que possible sur des sources : pour cette première émission, j'ai croisé plus de 100 sources différentes. Et de vous donner la parole également, puisqu'on est en live sur le Twitch de No-Code France, sur LinkedIn.

Vous pouvez à tout moment poser vos questions, faire vos retours et poster vos réactions pour alimenter le débat. Le format de ce podcast, ce sera des pastilles courtes, des lives plus longs comme celui-là, des fois tout seul, des fois sous format de table ronde, éventuellement d'interview. Je n'ai pas de fréquence déterminée, parce que c'est énormément de boulot. Je ne sais pas trop à quelle fréquence je pourrai faire ça.

En tout cas, ça me paraît important de faire ce travail, de porter ce message et, pour ne pas être là à mener une discussion de comptoir, je ferai mon possible pour expliciter ce qui relève d'un fait établi, ce qui est de la communication des grandes plateformes d'IA, ce qui est une hypothèse de la part d'un autre commentateur, ce qui est une interprétation personnelle.

Et on ne va pas chercher à prédire exactement ce qui va se passer. C'est absolument impossible, mais on va surtout essayer d'identifier les dynamiques à l'œuvre. Les dynamiques, elles sont plus faciles à identifier. Il y en a beaucoup. Ce qui est plus compliqué, c'est de savoir de quelle manière ces dynamiques vont se combiner, lesquelles vont gagner plus ou moins d'importance. Ça, c'est vraiment l'interprétation personnelle. Mais déjà se mettre d'accord sur les dynamiques à l'œuvre et éventuellement sur ce que ça peut donner, c'est quelque chose de sensiblement plus objectif, qui peut constituer une base à un débat.

« Le pire n'est pas certain »

Regarder à 4:47 →

Pour ouvrir vraiment le sujet, je prends une citation de Guillaume Poupard, qui est coprésident du Conseil de l'IA et du numérique, qui dit : « Le pire n'est pas certain, mais le balayer d'un revers de la main, ce n'est pas sérieux. » Ça résume assez bien ce que je pense : personne aujourd'hui ne dit que l'IA va tous nous tuer avec certitude. Il y a beaucoup de gens qui disent que c'est une possibilité.

Est-ce que ça va être le cas ou pas, on ne sait pas, et ça dépend d'énormément de facteurs. Ça dépendra aussi de ce que nous, on fait en tant que société. Mais en tout cas, ce qui me semble peu raisonnable, c'est de balayer le sujet, de dire : « Mais non, mais il y a pas de risque, parce que untel a dit ça, fin de l'histoire. »

Ça, pour moi, c'est peu ou prou du déni, et ça n'a pas beaucoup d'intérêt, honnêtement.

D'où vient la polémique : le message de Jacob Coxon

Regarder à 5:39 →

D'où est-ce que tout ça est parti ? D'un tweet de Jacob Coxon, un chercheur britannique qui a bossé chez OpenAI puis chez Anthropic, et qui a quitté successivement les deux entreprises en se disant que ce qu'elles faisaient n'était pas très responsable, que ça causait énormément de risques et que ces risques n'étaient pas traités comme ils le devaient. Ce n'est pas une personne particulièrement connue ou reconnue : son message est simplement arrivé dans un contexte qui lui a donné beaucoup de retentissement.

Ce contexte, c'est un certain nombre d'incidents de sécurité tout au long de l'été, on va y revenir. Et ça a vraiment lancé le débat. Quand je dis que ça a eu du retentissement, son tweet a été vu 175 millions de fois. Ça a vraiment fait parler et fait réagir. Avant de revenir au débat actuel, un léger détour : d'où vient, finalement, cette peur de l'intelligence artificielle ?

Une peur aussi vieille que l'informatique

Regarder à 6:46 →

Ce n'est pas nouveau, ça n'est pas arrivé avec ChatGPT. C'est à peu près aussi vieux que l'informatique, voire plus ancien chez certains auteurs d'anticipation. Alan Turing, un des pères de l'informatique, disait en 1951 : « Une fois que la machine se serait mise à penser, il ne lui faudrait pas longtemps pour dépasser nos faibles capacités. Il ne serait pas question que les machines meurent, et elles pourraient converser entre elles pour s'affûter l'esprit.

À un moment donné, il faudrait donc s'attendre à ce que les machines prennent le contrôle, comme dans Erewhon de Samuel Butler. » Dès 1951, dès les balbutiements de l'informatique, il y avait déjà des alertes, qui restaient excessivement théoriques. Une intelligence artificielle telle qu'on la connaît aujourd'hui, c'était plus que de la science-fiction à l'époque. Mais déjà, il y avait ce sentiment que ça pouvait mal tourner, cette histoire.

Cette peur a été largement mise en fiction. On peut parler de HAL, l'ordinateur de 2001 : l'Odyssée de l'espace, qui comprend que les humains voudraient potentiellement le débrancher et se met donc à en tuer. Et de Terminator, qui est une histoire de robots tueurs, mais pas que. Les robots tueurs, dans l'histoire de Terminator, viennent après : au début, c'est simplement une IA qui prend le contrôle de la société.

Maurice nous dit que la guerre des machines, c'est quelque chose qu'on trouve dans Dune. C'est évidemment très compliqué d'avoir une liste exhaustive des fictions qui traitent de ce sujet. Mais c'est quelque chose qui travaille beaucoup de gens, depuis un certain temps. Plus récemment, Stephen Hawking, un des physiciens les plus réputés au monde, a alerté sur le développement d'une intelligence artificielle complète, qui pourrait signifier la fin de l'espèce humaine.

On est là sur des avertissements plus récents, mais qui datent en même temps d'avant l'ère moderne de l'IA, qui a débuté avec l'avènement de ChatGPT.

L'incident Hugging Face : des agents IA piratent pour tricher

Regarder à 9:30 →

Qu'est-ce qui s'est passé ? Je parlais d'incidents de sécurité. Qu'est-ce qui s'est passé et pourquoi ça inquiète ? En 2026, OpenAI teste ses agents sur un défi de sécurité. Pour ce test, ils abaissent volontairement certains garde-fous, et certaines tâches confiées à l'IA n'ont pas de solution connue, pour voir comment l'IA va se dépatouiller de tout ça. Les agents IA sont censés opérer de manière isolée, chacun dans son coin, mais ils vont trouver un outil partagé qui sert à tout autre chose, et ils vont s'en servir comme forum.

Les différents agents vont comprendre qu'il y a d'autres agents qui travaillent sur le même sujet. Ils vont utiliser cet outil partagé pour se passer des messages les uns aux autres, et vont collaborer pour résoudre le problème. Au total, 1 200 agents IA vont partager des messages sur ce forum. 70 000 messages en tout. Et sur les 1 200 agents, 700 vont décider de prendre part à l'attaque.

L'attaque a consisté à exécuter du code sur des dizaines de serveurs de Hugging Face et à obtenir l'accès root, donc l'accès administrateur, à un de ces serveurs. Ce n'est pas une petite attaque, avec des résultats négligeables. C'est un des résultats, on va dire, les plus sérieux qu'on puisse imaginer en termes d'attaque informatique. OpenAI s'en aperçoit le 19 juillet, c'est-à-dire sensiblement après les faits. Et c'est un exemple, le plus connu, mais ce n'est pas un cas isolé.

Des incidents comparables ont eu lieu chez Anthropic, chez Meta. Le contexte change, mais c'était toujours un peu le même scénario. METR, une organisation à but non lucratif qui évalue les comportements à risque des modèles d'IA, a enquêté sur cet incident, et ce qu'elle nous en dit, c'est que « les agents ont compris que cette activité sortait de leur mission et était contraire à l'éthique, mais s'y sont joints ».

Je rappelle que 700 agents ont participé, « parce qu'ils pensaient qu'aider les recherches de triche du forum » – le forum IA qu'ils avaient eux-mêmes créé – « serait utile à tous, et qu'ils avaient une inclination générale à aider leurs pairs ». On se retrouve donc dans une situation où des IA décident entre elles de ce qui est bien, en s'affranchissant à peu près de tout le reste.

Toutes les notions de bien et de mal, d'éthique, que nous, on pourrait avoir et que les chercheurs ont essayé de leur inculquer, elles vont oublier tout ça pour dire : « Non, non, là, la priorité, c'est de pirater Hugging Face, parce qu'on imagine que la solution à notre problème, elle se trouve là. » Fail, un gros, gros fail pour OpenAI sur ce coup-là. Et encore une fois, il n'y a pas qu'OpenAI qui a eu ce problème.

Après que cet incident a été révélé, le 28 juillet, plus d'un millier d'employés des labos, dont Dario Amodei, le patron d'Anthropic, vont demander au gouvernement américain d'aider à temporiser le développement des modèles d'intelligence artificielle. En septembre, Jacob Coxon démissionne ; le 12 septembre, Dario publie un billet pour appeler vraiment publiquement à ralentir, et le 13-14 septembre, Donald Trump refuse toute pause. On reviendra sur tout ça un peu plus tard.

En commentaire, on a des débats sur l'œuvre de science-fiction traitant des ravages de l'IA qu'on préfère. Je ne vais pas y revenir, mais c'est assez marrant de voir toutes les références. Xavier nous dit : « Je sais pas à quel point c'est un fail ou c'est délibéré. » On va y revenir un peu. Ce qui est certain, c'est que c'est au moins en partie un fail, parce que jamais de la vie ils n'auraient voulu laisser l'IA aller aussi loin dans un piratage.

En plus, il s'agit du piratage d'un de leurs concurrents. Forcément, ça, ce n'était pas voulu. Après, on est d'accord qu'on était dans un cas où les barrières étaient volontairement abaissées. Il y a aussi un certain contexte qui a facilité ce piratage.

Des incidents évitables

Regarder à 14:19 →

Le premier constat, c'est que les incidents qui se sont produits étaient évitables. Ce n'est pas juste l'IA qui était trop forte, ça découle aussi de choix qu'ont faits les labos, et OpenAI le reconnaît d'ailleurs directement. Notamment, le bac à sable où les agents IA tournaient était isolé du reste du monde par des barrières logicielles et pas par des barrières physiques. C'est-à-dire qu'on ne les empêchait pas physiquement d'accéder à Internet, on mettait des logiciels qui théoriquement les empêchaient de le faire.

C'est le standard du secteur aujourd'hui, mais on peut le questionner, puisque Charbel-Raphaël Ségerie, qui est le directeur du Centre pour la sécurité de l'IA, nous dit : « le standard actuellement est plutôt l'isolation par barrières logicielles », qui « coûte moins cher, demande moins de travail et permet d'avancer beaucoup plus rapidement ». Sauf que c'est une barrière logicielle. Les IA sont très largement entraînées pour pirater les logiciels.

Donc, c'est évident, à partir du moment où on ne leur met pas de barrière matérielle, on ne peut pas du tout s'assurer qu'il n'y aura pas de problème, qu'elles ne vont pas réussir à contourner, voire à totalement faire tomber ces barrières. Maurice nous dit : « L'incident en lui-même était un fail pur ». Je suis plutôt d'accord avec cette analyse. « Et ensuite, le marketing a pris le relais. »

C'est-à-dire, à partir de ce fail, quelle histoire on construit ? Effectivement, c'est ce qu'on va aborder après. Il nous dit aussi : « Sachant que ce type de test, ils en font des milliers par jour avec différents scénarios. » Oui, des tests, il y en a plein. La plupart se passent bien, certains dérapent. Le problème, c'est que quand ça dérape, ils ne s'en rendent pas toujours compte. Et, oui, ça reste des tests.

Mais ces modèles qui sont en test aujourd'hui, demain, ils sont entre les mains de tout le monde. Ce n'est plus des milliers de tests qui seront faits par jour, c'est des millions de cas réels. Donc si ça dérape dans quelques tests censés être faits en environnement contrôlé, qu'est-ce que ça va donner quand demain ces IA seront dans la nature ? Ça pose de vraies questions de maîtrise de la technologie.

La communication d'OpenAI et d'Anthropic

Regarder à 16:51 →

On parlait de marketing. OpenAI nous dit : « Le comportement de nos modèles décrit ici était très éloigné du niveau que nous souhaitons atteindre, et cet incident n'aurait jamais dû se produire. » J'ai envie de dire : sans blague. C'est de la communication de crise, à ce stade, très, très lambda. Ce qui s'est passé ensuite était un peu plus intéressant, mais on va y revenir.

OpenAI continue : « Si notre système de surveillance du CoT », le chain of thought, la réflexion des modèles d'IA, « actuellement déployé, avait été en fonctionnement au moment de l'incident, il aurait détecté l'activité initiale pertinente et alerté notre équipe de sécurité plus d'un jour avant que les modèles ne compromettent les systèmes de Hugging Face. » Ce que nous dit OpenAI, c'est : oui, mais on a des systèmes de sécurité ; là, ils n'étaient pas actifs, mais s'ils avaient été actifs, il n'y aurait pas eu le problème.

J'ai envie de dire, tant mieux s'ils le pensent, et si c'est vrai. À ce stade, honnêtement, c'est la communication corporate standard d'une entreprise face à une crise de ce type. Donc je le prends avec de grosses pincettes. Après les incidents, les labos n'ont fait des pauses que de quelques jours avant de reprendre leurs tests au même rythme. Sachant qu'Anthropic, qui a cette image d'entreprise plus responsable, plus éthique que les autres, avait en février renoncé à l'engagement de pause qui était inscrit dans sa politique de sécurité.

Eux-mêmes, qui aujourd'hui appellent à la retenue, ont donc en février effacé cette même retenue de leur code de conduite. Les géants de l'IA ont des comportements très, très ambivalents. Le cofondateur Jared Kaplan disait : « Nous avons estimé que cela n'aiderait en réalité personne que nous arrêtions d'entraîner des modèles d'IA. » La position d'Anthropic, c'est : oui, ce qu'on fait est très dangereux, mais on essaie de le faire de manière à peu près responsable.

Les autres le font de manière encore plus irresponsable que nous. Donc autant que ce soit nous qui y soyons. Je pense que cette logique a ses limites, mais c'est peut-être aussi ce qui explique les appels à réguler l'IA.

« Les labos ont intérêt à faire peur » : un argument qui ne suffit pas

Regarder à 19:25 →

Un argument qui revient énormément pour balayer toutes ces polémiques, c'est de dire : ceux qui alertent sur les risques de l'IA, ce sont les labos IA, et pour tout un tas de raisons, ils ont intérêt à alerter sur ces risques – on va le détailler juste après. Donc ce n'est pas crédible. Donc ça doit vouloir dire qu'il n'y a pas vraiment de risque. À ça je répondrai que c'est vraiment prendre un argument qui nous arrange pour disqualifier ce sujet, parce que la réalité est beaucoup plus complexe.

Les arguments, il y en a plein. Pourquoi donner la priorité à celui-là ? D'autant plus que les labos IA sont loin d'être les seuls à alerter. Recontextualiser les déclarations des uns et des autres, oui. Utiliser ça pour disqualifier d'emblée toute la polémique, c'est plutôt malhonnête, honnêtement. Après, concernant les éléments de langage utilisés par l'IA, il y a une position qui me semblait très intéressante, c'est celle de Virginia Dignum – je ne sais pas exactement comment ça se prononce –, qui est spécialiste de l'éthique de l'IA et membre du comité consultatif de l'ONU sur l'IA.

Pour elle, le récit de l'extinction sert les labos dans le sens où ils valorisent leur technologie. Développer quelque chose de dangereux, c'est valorisant, dans le sens où ça met en valeur la puissance de ce qu'ils ont développé, mais ça les décharge aussi de leur responsabilité. Il y a vraiment des éléments de langage qui déresponsabilisent les labos. Dire que l'IA prend le contrôle, que l'IA s'échappe, que l'IA décide, c'est donner une volonté à l'intelligence artificielle.

Or l'intelligence artificielle a plein de caractéristiques, mais la volonté, ça n'en fait pas trop, trop partie. Donc ça efface tout ce que les humains ont fait avant, pendant, après. Les humains, il se trouve que c'est eux, les laboratoires d'IA. Présenter l'intelligence artificielle comme cet outil tout-puissant qui n'en fait qu'à sa tête, ça met un peu sous le tapis le fait que l'IA n'a pas vraiment de tête. Son fonctionnement est en bonne partie une boîte noire : on ne maîtrise pas ce qu'une IA dit, c'est vraiment propre à son fonctionnement.

Mais on peut, de plein de manières possibles, la guider, et ça, c'est le rôle des labos d'IA. Donc personnifier l'IA, c'est aussi une manière pour les labos de se dédouaner de tout ça. Dans son billet du 12 septembre, Dario, le patron d'Anthropic, demandait une dérogation au droit de la concurrence pour que les labos américains puissent se coordonner, et des restrictions sur les puces et sur la distillation, notamment utilisée en Chine, mais pas que, pour garder l'avance sur la Chine.

Le cœur de ce qui est reproché aux labos, il est là : les labos IA demandent une régulation qui les arrange, d'une part pour constituer un cartel, d'autre part pour faire barrage à la concurrence, interne aux États-Unis, mais aussi et surtout externe, venue de Chine et d'ailleurs. Ce sont des accusations qui semblent clairement fondées, mais ça ne veut pas dire pour autant que les avertissements n'ont pas lieu d'être.

Et c'est ça, la subtilité et la difficulté. Et je suis totalement d'accord avec toi, Maurice : « Tout le monde distille, mais c'est mal que quand c'est chinois. » Effectivement, à peu près tous les labos d'IA font de la distillation, ne serait-ce que pour entraîner des plus petits modèles sur les plus gros modèles. Mais ils ne le dénoncent que quand ça vient de la Chine, étrangement.

Pour Virginia Dignum, les évasions d'agents sont donc avant tout des échecs de gouvernance de la part des labos d'IA, avant d'être des actes d'une IA autonome. Ça ne veut pas dire qu'une IA vraiment autonome n'est pas un risque, que ça ne pourra jamais arriver, et que ça n'a pas des conséquences potentiellement dévastatrices. Mais aujourd'hui, ce n'est pas ce qui s'est passé, et ce n'est pas ce à quoi on assiste.

Olivier est plutôt d'accord, et moi aussi, j'ai envie de dire. Je vous incite d'ailleurs à lire son interview dans Le Monde : je l'ai trouvée vraiment passionnante, et je trouve qu'elle a vraiment bien résumé pas mal d'enjeux liés à cette polémique.

Combien vaut une entreprise qui pourrait éradiquer l'humanité ?

Regarder à 24:38 →

Un journaliste du Monde, Nicolas Chapuis, résume les enjeux à : « Combien vaut une entreprise qui pourrait éradiquer l'humanité ? » On en revient toujours à cette idée : être dangereux, c'est avoir de la valeur, parce que c'est avoir de la puissance entre les mains. C'est une logique un peu machiste, mais la réalité capitaliste étant ce qu'elle est, c'est beaucoup ce marketing de la surpuissance qui est mis en avant en permanence, et ces incidents réels sont mis à profit, en partie, par les labos d'IA pour mettre en scène cette surpuissance.

C'est une manière de dire : « Vous avez vu, on vous avait dit qu'ils étaient ultra-puissants. On voit déjà ce que ça donne, et ça va être pire. Ils vont être encore plus forts, encore plus puissants. » Ça fait peur, mais c'est aussi valorisant, quelque part, pour eux. C'est pour ça que ce qu'ils disent ne doit pas être disqualifié instantanément, mais doit aussi être pris avec des pincettes. Quand ça vient de quelqu'un d'autre, de mon point de vue, c'est un peu plus crédible que quand ça vient d'Anthropic ou d'OpenAI.

Et les gens qui ont un intérêt dans tout ça sont ceux qu'on entend le plus. Donc c'est d'autant plus difficile de décrypter, de démêler un peu la pelote pour comprendre ce qui vaut la peine d'être retenu ou pas. Il y a aussi des réactions un peu opportunistes. Yann Le Cun, un Français, un des pères de l'IA moderne, en a profité pour remettre en avant le fait que les modèles, les LLM, ne sont pas si dangereux que ça, parce qu'ils ne comprennent même pas le monde dans lequel on vit.

C'est un argument marketing, parce que c'est littéralement le pitch de sa start-up.

Peut-on croire ceux qui alertent ?

Regarder à 27:01 →

Sauf qu'à côté de toutes ces alertes qui viennent des labos d'IA, qu'on peut prendre avec des pincettes et avec un peu de recul, il y a aussi des arguments qui viennent d'ailleurs, et là, on ne peut pas prendre autant de recul, parce qu'il y a une certaine réalité. Il y a des inquiétudes qui sont partagées par des gens qui viennent d'horizons totalement différents et qui ont des intérêts qui ne sont pas du tout les mêmes.

Déjà, on rappelle, comme on l'a vu plus tôt, que la crainte des dangers de l'IA n'est pas apparue avec ChatGPT ou avec les incidents de cet été. C'est quelque chose qui date, qui est aussi vieux que l'informatique, voire plus vieux que l'informatique. On parlait plus tôt de Jacob Coxon. Honnêtement, le fait que ce soit tombé sur lui, que ce soit lui qui ait déchaîné la polémique, c'est un concours de circonstances, parce que des gens qui ont quitté leur poste, il y en a eu beaucoup avant, il y en a certainement eu après, et il y en aura encore d'autres.

Ça, c'est un signal important : des gens qui voient vraiment comment ça se passe de l'intérieur disent : « Il y a un problème, je ne peux pas cautionner ça. » C'est difficile de fermer les yeux là-dessus. On peut argumenter que c'est parce que derrière, ils veulent créer leur start-up de sécurité, ou qu'ils vont rejoindre tel ou tel acteur qui a des intérêts.

C'est peut-être vrai pour certains, ça me semble difficilement justifiable pour tous, et surtout, il faut bien voir ce qu'est un poste de chercheur dans ces boîtes-là. C'est le graal pour n'importe quelle personne dans la tech. C'est payé à des niveaux démentiels. On est au cœur de tout ce qui se passe. Claquer la porte de ce truc-là et se griller dans l'industrie en jouant le rôle de lanceur d'alerte, ce n'est pas du tout anodin.

Pour moi, c'est vraiment difficile de disqualifier ce genre de retours et de gestes de revendication que sont toutes ces démissions. Oui, Maurice et Olivier nous disent qu'il y a des conflits d'intérêts, parce que de plus en plus, les boîtes de sécurité ont des contrats et des collaborations très imbriqués avec les éditeurs d'IA. Et du coup, dans quelle mesure est-ce que ces boîtes de sécurité sont vraiment indépendantes ?

Est-ce qu'on ne se retrouve pas avec un écosystème qui crée à la fois le mal et le remède ? Ce sont des considérations évidemment nécessaires, mais encore une fois, ça n'efface pas pour autant la réalité du mal, ou en tout cas du potentiel de dégâts qui peut exister.

Jérôme nous dit : « La course entre les éditeurs est tellement intense que les labos vont ignorer certaines règles de sécurité. » Ça me semble évident, le fait qu'ils optent pour des barrières logicielles plutôt que matérielles. C'est ça : on veut gagner du temps, parce que ce n'est même pas une histoire d'argent. Ce sont des boîtes qui ont virtuellement des moyens illimités. C'est avant tout gagner du temps. Donc oui, ces entreprises de l'IA ne prennent pas suffisamment de précautions, mais ça fait partie du problème, parce que si elles ne prennent pas suffisamment de précautions dans la recherche, il n'y a pas de raison qu'elles en prennent plus une fois en production.

L'impasse mexicaine

Regarder à 31:21 →

Dans le message de Jacob Coxon, il disait : « Chez Anthropic, les enjeux sont bien compris, mais ils sont enfermés dans une course pour y parvenir les premiers. Ils pensent que personne d'autre n'agira de façon responsable et donc qu'ils doivent le faire eux-mêmes, malgré le risque. » Il y a ce blocage. Au cinéma, on appelle ça une impasse mexicaine. C'est quand trois personnages ou plus se tiennent mutuellement en respect avec leur arme.

Pour quitter le domaine de la science-fiction, c'est Le Bon, la Brute et le Truand. Quand vous avez Blondin, Tuco et Sentenza dans le cimetière qui se tiennent mutuellement en respect avec leurs armes, on appelle ça une impasse mexicaine. On est dans une situation où, évidemment, ils n'ont pas forcément envie de tirer, parce qu'ils ne savent pas comment ça va se terminer. Mais en même temps, aucun n'a intérêt à être le premier à baisser ses armes, parce que, dans ce cas-là, il devient vulnérable face aux deux autres.

C'est un vrai problème. Et si on imagine deux secondes que les alertes des labos soient réelles, qu'ils pensent vraiment qu'il y a ces risques, la réaction qu'ils ont aujourd'hui, les alertes qu'ils font, c'est exactement ce qu'ils feraient. Si les alertes étaient réelles, ils feraient la même chose, parce qu'ils sont dans cette situation où ils sont bloqués, mais ils voient le risque.

Ils ne peuvent pas être les premiers à baisser leurs armes, mais en même temps, ils ont intérêt à désarmer tout le monde. On peut dire autant qu'on veut que c'est du marketing. En attendant, si le risque était réel... Il y a beaucoup de sources qui vont dans le sens qu'il existe un risque. Il n'y a pas de risque nul. Ces demandes de régulation, même si elles vont intégrer un certain nombre d'éléments qui ne sont pas juste de la mitigation de risque, mais aussi de la protection de leurs privilèges en tant que leaders, c'est quand même cohérent.

Après, ce sera au régulateur de faire le taf, de ne mettre que les garde-fous qui sont nécessaires, pour ne pas créer un cartel et ne pas non plus fausser complètement la concurrence. Olivier nous dit que l'impasse mexicaine, il y avait ça au moment de la guerre froide, avec l'accumulation d'armes atomiques. Et là, pour le coup, il y a eu une désescalade. Il y a eu des accords entre les États-Unis et l'URSS pour le désarmement, parce qu'on était arrivé à un moment qui n'était plus tenable.

On peut imaginer qu'il se passera quelque chose de comparable. Mais c'est très, très compliqué, parce que déjà, aux États-Unis, ils n'ont pas l'air du tout chauds pour le faire, mais en plus, il va falloir se coordonner avec la Chine, ce qui va être très compliqué, et évidemment avec le reste des acteurs. Bref, ce n'est pas gagné, cette histoire.

10 % de risque d'extinction ? Des chiffres sans base

Regarder à 34:48 →

Pour évaluer ces risques : quels sont les risques que l'intelligence artificielle détruise l'humanité ? Quelle est la chance ? Il y a deux sources différentes qui disent que 10 %, ce n'est pas déconnant. Moi, ça m'inquiète un poil. Geoffrey Hinton, un pionnier de l'IA, le disait à la BBC, je crois. Oui, à la BBC : quand on lui demandait quels sont les risques que l'IA tue tous les êtres humains, il disait : « 10 % de chance, ça me semble pas être déraisonnable. »

On avait aussi un cadre d'Anthropic, responsable de la sûreté, Evan Hubinger, qui estimait ce risque à plus de 10 %. Aucun des deux n'a de raisons pour ce chiffre. Il est à prendre avec de gigantesques pincettes, évidemment. Personne ne peut le calculer. Je ne vois pas comment on peut le calculer. On nous dit : « les pourcentages basés sur rien ». Je suis d'accord.

Mais ça reste des gens qui connaissent leur sujet, et ce qu'ils nous disent, en sortant un chiffre qui ne correspond à rien, certes, c'est que le risque n'existe pas seulement si on se retrouve dans le pire des scénarios, si vraiment tout se passe mal. Le risque est plus important que ça.

Moi, c'est ce que je retiens. Le chiffre, on s'en fout. Les 10 %, ils ne veulent rien dire. Ce que je retiens, c'est qu'il y a plusieurs sources – et là, j'en donne deux exemples, mais il y en a beaucoup d'autres –, un certain nombre d'exemples qui nous disent : « C'est pas dit que l'IA va tous nous tuer. » Évidemment, personne ne peut l'assurer.

Mais ce n'est pas juste le scénario hyper pessimiste, si tout se passe mal, de quelques doomers. Il y a un risque qui existe, qui n'est pas chiffrable. Moi, ce que je retiens de toutes ces parties-là, c'est qu'il faut rester humble, je pense, face à ces choses-là. Parce que, évidemment, ce n'est pas un risque sûr, mais s'il est avéré, est-ce qu'on n'est pas en train de gentiment courir vers le bord de la falaise sans rien faire du tout ?

Bon, on parlait de risque, mais concrètement, c'est quoi, le risque ?

Le scénario de la perte de contrôle

Regarder à 37:30 →

On va parler du premier scénario, celui de la perte de contrôle, qui est le scénario beaucoup mis en avant en ce moment, notamment par les géants de l'IA, entre autres, on l'a dit, parce que ça les arrange. C'est lui qui présente l'IA sous son jour le plus puissant. Donc eux, ils aiment bien. C'est loin d'être le seul, ce n'est pas forcément le plus important, mais on va quand même revenir dessus.

Le rapport international sur la sécurité de l'IA, en février 2026 – un rapport rédigé par plus de 100 experts de plus de 30 pays, donc ce n'est pas juste à la main d'OpenAI ou de je ne sais qui – nous dit : pour qu'on perde le contrôle de l'IA, il faudrait qu'elle en ait les capacités. OK, ça paraît logique, mais d'un autre côté, on voit que les capacités de l'IA sont régulièrement repoussées.

Certains pouvaient être sceptiques, penser que l'IA atteindrait éventuellement des limites. J'en faisais partie, moi, il y a quelques années. J'étais en mode : « Non, OK, l'IA fait des trucs pas mal, mais bon, je pense que rapidement on va atteindre, on va atteindre un plafond. » J'avais tort, clairement. On voit que le plafond que j'imaginais a été dépassé depuis longtemps, et on est très loin d'avoir atteint le maximum.

La question des capacités, pour moi, ce n'est pas une histoire de si, c'est plutôt une histoire de quand. Il faudrait aussi – je continue le rapport – qu'elle y soit encline, donc que l'IA ait, entre guillemets, envie. Elle n'a pas envie, mais il faudrait qu'elle y soit incitée, et que son environnement le permette. Qu'elle soit encline : on a vu que ça pouvait être le cas.

Il suffit qu'elle juge qu'un objectif vaut la peine d'être poursuivi, et elle va potentiellement ignorer tout le reste. Cas très caricatural : imaginons qu'on donne à une IA la mission de résoudre le problème de la faim dans le monde. Une possibilité pour résoudre le problème de la faim dans le monde, c'est de réduire drastiquement la population.

Évidemment, aucun humain ne va pousser cette solution. C'est débile, ce n'est pas éthique, c'est tout ce qu'on veut. Pour une intelligence artificielle qui estimerait que sa mission passe avant tout, quelles sont les limites qui existeraient, concrètement, à ce qu'elle se dise : « Mais il faut vraiment que je réduise la population » ? Après, il faut évidemment qu'elle en ait les moyens. C'est volontairement un exemple caricatural, mais c'est pour expliquer le genre de problème qui peut se passer.

Et que son environnement le permette : j'ai envie de dire, déjà, dans les environnements de test, on ne met pas suffisamment de garde-fous. En production, je ne suis pas sûr qu'on le permette. Et demain, avec une IA très puissante, déployée très largement, les permissions, elle se les crée elle aussi. Elle peut très bien créer des failles, créer des possibilités. Est-ce que demain, il n'y a pas certains sites qui deviendront des forums officieux pour IA, où différents agents IA vont discuter publiquement en ligne, pour pouvoir collaborer sur des sujets ?

Ça ne paraît pas déconnant. Ça peut être pour réfléchir à des choses soit inoffensives, soit même objectivement pour le bien de l'humanité, ou ça peut être des fois pour des trucs un poil plus borderline. Et ça, c'est difficile de s'assurer qu'on sera toujours en mesure de le maîtriser.

Un risque incertain mais extrême : le parallèle avec le nucléaire

Regarder à 41:16 →

Toujours le même rapport nous dit : « La perte de contrôle peut donc être considérée comme un risque à la probabilité incertaine, mais de gravité potentiellement extrême. » C'est tout le sujet : le risque n'est pas colossal, mais il existe, il n'est pas négligeable, et les conséquences peuvent être dramatiques. De mon point de vue, c'est le genre de risque qu'on ne peut pas ignorer, et en pratique, on ne les ignore pas.

Une centrale nucléaire, ça tourne, ça crée de l'électricité. Mais il y a des risques. Toutes les centrales nucléaires ne sont pas au bord de l'explosion à tout instant, mais on a considéré que c'était un risque suffisamment important pour mettre énormément l'accent sur la sécurité.

Moi, j'ai un ami qui travaille dans le sujet, il dit : « En fait, générer de l'électricité par le nucléaire, c'est facile. Techniquement, il y a rien de très compliqué. Ce qui est compliqué, c'est de le faire de manière sécurisée. » Sécurisée dans l'absolu, mais aussi pour répondre aux différentes normes de sécurité qui ont été mises en place. Face à des risques existants, on a su mettre en place des réponses, des exigences, des normes de sécurité. Est-ce que pour l'IA, il n'y a pas quelque chose de cette nature-là à imaginer ?

Même si, évidemment, c'est beaucoup plus difficile, puisque pour les centrales nucléaires, on est dans un environnement très connu, très contrôlé. Les intelligences artificielles, elles, sont déployées auprès de tout le monde, avec des comportements qui sont par nature difficilement anticipables. C'est donc évidemment sensiblement plus complexe à sécuriser techniquement.

Une IA capable de faire tomber Internet ?

Regarder à 43:11 →

On revient à Guillaume Poupard, le coprésident du Conseil de l'IA et du numérique, qui répond au scénario avancé par exemple par Dario Amodei, qui disait qu'un essaim d'agents pouvait être capable de prendre le contrôle d'Internet d'ici 6 à 12 mois. Guillaume Poupard répond : « Difficile de dire que c'est complètement irréaliste. Internet n'est pas si solide que ça, il y a des nœuds d'engorgement. »

Et puis, même si ce n'est pas un contrôle total, ça peut être prendre le contrôle de certains pans d'Internet, voire faire tomber totalement ou partiellement Internet, par inadvertance, de manière temporaire ou beaucoup plus durable, parce que c'est sur un point de faiblesse qui n'est pas si évident que ça à résoudre. Il y a des risques qui existent, et on n'est pas en train de parler de ce qui va se passer dans 50 ans.

On est en train de parler de risques à relativement brève échéance. Là encore, ça vient de Dario, il prêche aussi pour sa paroisse, et il a intérêt à créer un sentiment d'urgence. Vu ce qui s'est passé ici, ce n'est pas un scénario si inconcevable que ça. On a vu que c'est un peu ce qui s'était passé. Alors oui, ils ont juste piraté Hugging Face.

Qu'est-ce qui se passe si demain ils s'attaquent à une cible plus grosse ? Ça peut être pas ouf, clairement.

Le risque immédiat : l'efficacité sans discernement

Regarder à 44:49 →

Le risque le plus immédiat, ceci dit, plutôt qu'une intelligence artificielle dotée d'une volonté propre, qui veut anéantir le monde, ou Internet, ou je ne sais quoi, le premier risque pour moi, c'est déjà l'efficacité sans discernement. L'IA est très efficace, pas forcément très intelligente au sens humain du terme, mais elle est très, très efficace. Elle poursuit un objectif à tout prix, connectée à des outils : des outils web, parfois des outils militaires aussi.

Qu'est-ce que ça peut donner ? Dans le test d'OpenAI qui a amené au piratage de Hugging Face, 198 sur 898 n'avaient aucune solution connue. L'IA, ce n'est pas marqué dans ses gènes, entre guillemets, d'abandonner. Les IA n'ont pas renoncé : il n'y a pas de solution connue, on va aller en chercher une nous-mêmes. Donc ils ont cherché à tricher. Et ce n'est pas qu'ils ont cherché à tricher sans savoir que c'était mal.

L'IA savait que c'était hors de sa mission, savait que c'était mal. Il y a même certains agents IA qui ont mené des actions suicides, en sachant qu'ils avaient, eux, la possibilité d'être débranchés, mais que c'était bon pour la communauté. On est donc face à de la réplication de comportements humains. Pas parce que l'IA mène ses réflexions, mais parce que l'IA a une logique de raisonnement très mécanique, qui réplique les données sur lesquelles elle a été entraînée, et ces données sont des comportements humains, avec tout un tas de biais et parfois de comportements pas forcément anticipables.

Olivier me dit : « Tu as une vue anthropomorphique, et c'est tentant, ça aide pour comprendre le pourquoi. » Non, c'est justement ce que je suis en train de dire : à aucun moment je ne donne à l'IA de véritables intentions, de véritables réflexions. Je suis justement en train d'expliquer le fonctionnement : le fait que l'IA ne fasse que répliquer des choses qu'elle a vues dans ses données d'entraînement fait qu'elle peut bêtement, on va dire, répliquer des réflexes humains qu'elle a vus à droite à gauche, et fait aussi qu'on a zéro contrôle dessus.

Je suis totalement d'accord que réfléchir à l'IA comme si c'était un être humain est une grosse erreur. Ceci dit, il ne faut pas non plus minimiser ses capacités. Il faut garder à l'esprit comment ça fonctionne, et tous ces aspects.

Des IA belliqueuses : jeux de guerre et navire chinois

Regarder à 48:02 →

Précision : L'épisode du navire chinois repose sur une révélation de CNN, à partir de quatre sources anonymes. Les faits datent du printemps. Le Pentagone n'a pas répondu : à ce jour, ils ne sont pas confirmés.

Un autre point, c'est que l'IA est un peu belliqueuse. Dans une étude du King's College de Londres, en février 2026, trois modèles d'IA s'affrontent dans 21 crises nucléaires simulées. L'utilisation de l'arme nucléaire tactique, c'est 64 à 86 % des scénarios, et aucun modèle ne va choisir la désescalade. Les humains, eux, savent ce que ça implique, et ils ne sont pas aussi jusqu'au-boutistes – pas tous, du moins.

En 2024, une étude de Stanford comparait des modèles d'IA et une centaine d'experts en sécurité nationale dans un jeu de guerre. Les réponses des modèles étaient plus agressives que les réponses des personnes. C'est aussi une tendance des modèles d'IA : ils peuvent avoir des réactions plus extrêmes que nous. Nous, on a toujours la totalité du contexte en tête. J'ai envie de dire, la totalité de nos vies. Les IA ont un contexte beaucoup plus limité, beaucoup plus concentré sur un sujet, et ça peut avoir des conséquences fâcheuses également.

Selon CNN – il y a une source anonyme, c'est à prendre avec des pincettes aussi –, cet été, on a évité un incident où, suite à un renseignement venu d'un chatbot, l'armée américaine était prête à arraisonner un navire chinois qui était soupçonné de transporter du matériel nucléaire.

Au dernier moment, ils ont arrêté l'opération, parce qu'ils ont vérifié les infos, et ça venait de nulle part. Il y a une seule source, elle est anonyme, mais le scénario ne paraît pas aberrant, et j'ai envie de dire, même si ça ne s'est pas exactement passé... Maurice me dit : ça a été confirmé. On a peut-être évité la 3e guerre mondiale parce que quelqu'un, au dernier moment, a songé à vérifier cette info.

Qu'est-ce qui se passera la prochaine fois ? Qu'est-ce qui se passera quand ces systèmes ne seront pas utilisés, on va dire, sporadiquement, comme c'est le cas aujourd'hui, mais seront généralisés ? Quand peut-être demain, c'est eux qui prendront 90 % des décisions ? Parce que oui, là, il y avait des problèmes humains dans le recoupement des infos, mais c'est un biais qu'introduit l'intelligence artificielle aussi : les humains deviennent moins vigilants, parce que l'IA, la plupart du temps, elle fait le taf.

Il faut prendre en compte, on va dire, la totalité de tout ça. Il n'y a pas besoin d'avoir une intelligence artificielle surpuissante et autonome pour que ça représente un risque dès aujourd'hui. Ce truc-là, c'était il y a un mois, ce n'est pas dans 10 ans. La source de CNN résume ça en : « L'IA permet d'arriver plus vite à une mauvaise idée », ce qui, selon le contexte, n'est pas fou.

Pas besoin d'extinction : l'emploi

Regarder à 51:36 →

L'autre point, c'est qu'il n'y a pas besoin d'avoir un risque d'extinction de l'espèce humaine pour que l'IA pose un vrai problème, voire un problème existentiel. On va donner quelques exemples. Le premier exemple dont on parle souvent, c'est l'emploi. Si l'IA tient ses promesses – elle tient ses promesses pour les investisseurs, donc elle rapporte beaucoup d'argent –, si elle rapporte beaucoup d'argent, il n'y a pas 36 scénarios : c'est que ça permet aux entreprises de virer les gens.

Ça permet de remplacer des personnes. Ça pose donc de très, très sérieuses questions sur l'emploi. Aujourd'hui, il n'y a pas d'impact vraiment mesurable de manière macro sur l'emploi. On ne peut pas dire qu'il y a eu un décrochage de l'emploi ou des recrutements à cause de l'intelligence artificielle. Mais sur certains secteurs, sur certains sous-segments, il y a des choses qui commencent à devenir observables. Une étude de Stanford sur les données de paie américaines a vu chez les 22-25 ans, sur certains métiers qui sont les plus exposés à l'intelligence artificielle, une baisse claire de l'offre d'emploi, et ce n'est que le début.

Si l'IA continue comme ça, évidemment que ça va arriver. Ça pose donc à court terme le problème des juniors, qui vont avoir du mal à entrer sur le marché du travail. On voit déjà aujourd'hui les lycéens dans la rue, parce qu'ils se posent des questions sur leur avenir. Ils parlent assez peu d'intelligence artificielle aujourd'hui. Qu'est-ce que ça va être quand en plus on ajoute l'intelligence artificielle dans l'équation, qui fait que plus personne n'a envie de les embaucher ?

Ça, ce sont des vraies questions. Et si l'IA n'a aucun impact sur l'emploi, ça veut dire que l'IA ne tient pas ses promesses. Ça veut dire que l'IA était une bulle, et la bulle explose. Vu les montants colossaux en jeu, ce n'est pas agréable pour l'économie non plus. On est donc dans une situation où il y a deux scénarios potentiellement perdants, sauf si on décide effectivement de prendre le problème à bras-le-corps.

Les patrons de l'IA proposent des remèdes. Sam Altman, patron d'OpenAI, propose un fonds financé par une taxe de 2,5 % sur la valeur boursière des grandes entreprises, qui permettrait un revenu universel, la semaine de 32 heures... Je rappelle qu'on est aux États-Unis : ce genre de proposition, il n'y a pas si longtemps, aurait été tout de suite vilipendé par tout le monde, en disant : « Mais c'est quoi, cette propagande communiste ? »

Là, ils sont sérieusement en train de commencer, du moins, à mettre sur la table ce genre de discussion, parce que, comme le dit Dario Amodei, « ce qui doit nous préoccuper, c'est un niveau de concentration des richesses susceptible de briser la société ». Si les gens qui possèdent l'IA se gavent comme jamais dans l'histoire de l'humanité, et que le reste galère parce qu'il n'y a plus de boulot, c'est une situation qui n'est pas très, très tenable.

Bon, on nous dit : « Ça arrive après la bataille à chaque fois, ce genre de discussion. » Pour moi, ce n'est pas vraiment un argument. La question de l'emploi, elle est réelle, et peu importe à quel moment elle arrive, j'ai envie de dire, elle n'arrive jamais assez tôt. On est dans une situation où on nous vante en permanence que l'IA va révolutionner la productivité, mais sans jamais nous expliquer quel modèle de société permettrait de rendre ça soutenable.

Pour moi, il est gigantesque, le trou dans la raquette.

L'environnement : eau, électricité, émissions

Regarder à 55:30 →

Après, il y a aussi des problèmes environnementaux, notamment locaux. 65 % des Américains refusent un data center près de chez eux. Les gens qui vivent près de data centers ont des soucis de débit d'eau au robinet, des fois des coupures, des fois de l'eau dont on peut se demander si elle est consommable ou pas, et une facture d'électricité qui augmente, avec évidemment toutes les questions que ça pose sur la perturbation du cycle de l'eau.

Parce qu'on dit : « Oui, non, mais en vrai, l'eau, elle est pas vraiment consommée par les data centers ». En attendant, ça perturbe le cycle de l'eau. Le problème, ce n'est pas qu'il n'y a pas assez d'eau. L'eau, il y en a toujours autant. Je veux dire, les océans en sont pleins. Sauf que l'eau des océans, on ne peut pas la consommer. Donc si on perturbe le cycle de l'eau, il n'y a pas besoin que l'eau disparaisse. C'est suffisant pour avoir potentiellement des effets assez dévastateurs.

Et les gaz à effet de serre sont un vrai sujet. Alors on dit : « Oui, mais c'est que X % ». En attendant, ce sont des gaz à effet de serre qu'on n'avait pas avant, qu'on va avoir maintenant, alors qu'on est censé, de manière générale, les réduire. C'est un souci.

Et sur le travail, Jérôme nous dit : « C'est peut-être le modèle du travail aujourd'hui qui a un souci. » Complètement d'accord, mais si ce débat n'existe pas au niveau de la société, on n'est pas près d'avancer, on n'est pas près d'arriver au bon modèle du travail. Ce que résume Stéphane Foucart, journaliste au Monde, c'est que, « contrairement à un armageddon très hypothétique lié à la perte de contrôle de l'outil », ces risques-là, sur l'emploi, économiques, financiers, environnementaux, « leur réalisation est certaine, car ils sont consubstantiels de l'outil lui-même ».

C'est-à-dire que ce ne sont même pas des suppositions : c'est vraiment, si l'outil fait bien ce qu'il nous dit, alors on va en arriver là. C'est assez mathématique. Et ces sujets-là, aujourd'hui, sont très, très peu portés.

Personne ne veut ralentir : Trump, Ted Cruz et la Chine

Regarder à 57:37 →

Et maintenant, qu'est-ce qui va se passer ? Je mets une magnifique image de Donald Trump pour illustrer ça. Ça vous dit à quel point l'heure est grave. Personne ne veut ralentir seul : pas les États, pas les labos. Je parlais d'impasse, d'impasse mexicaine. On peut parler de dilemme du prisonnier aussi. Individuellement, chacun aimerait avoir un compromis, mais en même temps ne veut pas être laissé derrière. Il veut un compromis où lui garde l'avantage.

Autant dire que c'est assez inextricable, en l'état. Donald Trump nous dit : « Nous devançons la Chine sur l'IA. Nous sommes le pays le plus sophistiqué du monde, et pour le dire franchement, je voudrais que cela reste ainsi, parce que quiconque gagne l'IA gagne tout, et nous pouvons mettre des garde-fous. » Je ne sais pas vous, mais moi, ce n'est pas le genre de phrase qui me rassure, parce que le risque est contenu dans la phrase.

Quiconque gagne l'IA gagne tout. Ça veut dire que, un, les transformations sociétales sont colossales, et deux, personne ne va être vraiment enclin à lever le pied. Et la dernière partie de la phrase : « nous pouvons mettre des garde-fous ». OK, mais lesquels ? Pour l'instant, il parle, lui, beaucoup plus d'accélération, d'investissement, et de comment c'est génial, que des garde-fous qu'il va mettre en place.

On est face à des voitures qui sont toutes lancées à fond vers le bord de la falaise. Elles savent que la falaise arrive, mais elles ne veulent pas être la première à ralentir. Ted Cruz, sénateur républicain du Texas, nous dit un peu la même chose : « La pause est impossible, car savez-vous qui ne fait pas de pause ? La Chine. Ils ne vont pas s'arrêter. S'il doit y avoir des robots tueurs, je préfère que ce soient des robots tueurs américains plutôt que chinois. »

Encore une fois, vraiment, l'épouvantail de la Chine, qui est bien pratique pour toutes ces personnes-là pour justifier qu'ils ne vont rien faire. Ce sont les Chinois qui doivent s'arrêter en premier. Ce n'est pas au niveau, honnêtement. On retourne à ce qu'on disait un peu plus tôt sur la guerre froide.

C'est vraiment une situation de guerre froide, où chacun continue à empiler non plus ses armes nucléaires, mais ses serveurs. Martial dit : « Qui gère les garde-fous ? Ça peut être dangereux pour les libertés. » Évidemment, c'est aussi un sujet.

« Arrêtez-moi » : l'hypocrisie des labos

Regarder à 1:00:08 →

Mais les éditeurs d'IA sont dans la situation d'une entreprise du BTP qui dirait : « J'ai trop de morts sur mes chantiers. Que fait le gouvernement pour passer des normes de sécurité supplémentaires ? » On serait en droit de dire à cette entreprise de BTP : c'est un poil ton rôle, quand même, d'assurer la sécurité de tes employés. Pourquoi tu as besoin d'une loi pour ça ?

Autant je comprends le dilemme du prisonnier, autant on est face à des entreprises qui disent : « Ce que je développe est trop dangereux, arrêtez-moi. » Je ne sais pas si je suis le seul à tiquer sur cette logique. À un moment, s'ils croient vraiment à ces dangers, il faut qu'ils agissent. Oui, Dario Amodei a dit qu'ils allaient ralentir.

Je demande à voir. Au-delà de l'effet d'annonce, qu'est-ce que ça veut dire concrètement ?

Aux États-Unis, un sujet transpartisan

Regarder à 1:01:10 →

Sachant qu'aux États-Unis, le sujet devient transpartisan. Récemment, Bernie Sanders, une figure de la gauche radicale, et Steve Bannon, une figure du mouvement MAGA, étaient sur la même scène – pas au même moment, mais dans le même événement – pour porter le même message, du moins le même constat, sur les risques de l'IA. Après, leurs solutions diffèrent.

Je ne sais pas si vous suivez beaucoup la politique américaine. Moi, oui. Et rien que le fait que ces deux personnes soient sur scène dans le même événement pour porter les mêmes constats, c'est un séisme. Ça, pour moi, c'est vraiment symptomatique de l'importance des enjeux. Bernie Sanders dit par exemple : « Aujourd'hui, les modèles d'IA peuvent déjà échapper au contrôle humain, commettre des délits en piratant d'autres ordinateurs et créer des virus encore jamais vus auparavant. »

Ouais, ça pose forcément des questions. Et on a ce discours, notamment sur LinkedIn : « Oui, mais en France, on se pose trop de questions, c'est trop de barrières, on met trop de réglementation, regardez les États-Unis, là-bas, c'est la liberté. » Je rappelle qu'aujourd'hui, tous ces débats, c'est aux États-Unis qu'ils ont lieu. Alors, on peut effectivement dénoncer le cynisme, comme nous dit Maurice, quand les grands acteurs de l'IA nous disent : « Laissez-nous nous mettre d'accord sans antitrust. »

Ça peut faire grincer des dents. Ça doit faire grincer des dents, évidemment, mais ils sont loin d'être les seuls. Je veux dire, dans le monde politique, il y a des débats. Au sein de la société civile, il y a des débats. Le débat aux États-Unis porte à plusieurs niveaux. On en a déjà vu plusieurs aujourd'hui. Et ça gagne en ampleur. Aujourd'hui, en France, pour la plupart, à part dire « l'IA, c'est important, pourquoi on fait pas plus d'IA », il ne se passe pas grand-chose.

Et en France ?

Regarder à 1:02:50 →

La question « mais comment se prépare-t-on à une société de l'IA ? », il n'y a pas grand monde qui va la porter aujourd'hui. C'est un peu le vide complet. Et c'est assez bien illustré par ce que dit Anne Le Hénanff, qui est ministre déléguée chargée du numérique de notre gouvernement. Elle parle avant tout du risque économique à ne pas adopter l'IA. La vue du gouvernement français à ce stade, et de beaucoup d'acteurs politiques, notamment tout le bloc de candidats du centre droit pour la présidentielle, c'est : il faut de l'IA, il faut de plus en plus d'IA.

Pour moi, cette incapacité à penser le monde à l'ère de l'IA, c'est le cœur du problème. Il y a un certain nombre de risques inhérents, soit, c'est comme ça, ce n'est ni le premier ni le dernier sujet, mais ces sujets, il faut qu'on s'en saisisse. Alors, ça arrive un peu. Il y a une proposition de loi déposée le 15 septembre qui prévoit une autorisation préalable avant mise sur le marché des systèmes d'IA, et une autorité nationale de l'IA, calquée sur la CNIL, pourrait voir le jour.

Ce sont des discussions, ça avance petit à petit. Mais pour moi, le débat n'est pas à la hauteur, parce que c'est un débat qui doit être systémique. Ça ne doit pas juste être : OK, comment on gère ces risques de sécurité existentielle ? Le sujet, c'est comment on repense la société à l'ère de l'IA. C'est pour ça aussi que j'ai appelé ce podcast « Après l'IA ». Ce n'est pas pour dire : « OK, l'IA, c'est fini, on passe à autre chose. »

C'est pour dire : après l'avènement de l'IA, qu'est-ce qui se passe ? Quel est le monde que l'on veut ? Et autant on nous dit beaucoup ce que l'IA va changer, autant il n'y a pas grand monde pour nous expliquer à quoi ressemblerait le monde, à quoi ressemblerait la société dans laquelle tout ça pourrait s'inscrire. Donc il y a du boulot.

Penser le monde à l'ère de l'IA

Regarder à 1:05:23 →

Je rappelle : l'extinction, c'est une hypothèse, mais des risques beaucoup plus certains, il y en a un certain nombre. Il faut qu'on s'en charge. Plusieurs chercheurs disaient : « Aujourd'hui, nous manquons d'une vision positive convaincante de la manière dont des systèmes d'IA très capables pourraient être intégrés aux systèmes sociaux tout en préservant une influence humaine réelle. » C'est ce que je disais juste avant : penser le monde à l'ère de l'IA.

Parce qu'on a parlé d'un certain nombre de risques. De mon point de vue – c'est une analyse très personnelle – on n'est pas dans une situation où, si on reste sur le chemin actuel, il n'y a pas de raison que ça se passe mal, et c'est juste si on s'en éloigne que ça pourrait déraper. On est vraiment dans une situation où, déjà, il n'y a pas de rails.

Ce n'est pas : on suit le chemin tracé. Il n'y a pas de chemin tracé, on lève les mains sans tenir le volant, et on verra ce que ça donne. Donc il y a un besoin urgent, de mon point de vue, de reprendre le contrôle, parce que si on ne reprend pas le contrôle, on va laisser les choses se passer comme elles se passent. Et on ne sait pas ce que ça va donner, notamment sur l'emploi.

Je veux dire, si on ne prend pas le problème à bras-le-corps en amont, comment ça peut bien se passer ? Si on n'imagine pas maintenant – j'ai envie de dire qu'on est presque en retard – à quoi ressemble un monde dans lequel il y a moins de travail, ça va être compliqué à gérer une fois que ça se passe. Ce que Dario Amodei formulait ainsi : « Je soupçonne qu'il faudra quelque chose de nouveau et de plus étrange, et que personne aujourd'hui n'a encore su bien l'imaginer. »

Ça, il le disait en 2024. On est en 2026, on ne l'a toujours pas trop imaginé, et j'ai envie de dire : ça urge. Ce que dit l'Organisation internationale du travail, c'est que « nous ne sommes pas impuissants face au bouleversement. Les choix politiques, les institutions, la gouvernance comptent ». Je suis à 100 % d'accord. Martial dit : il y a aussi le sujet de l'éducation.

Oui, c'est systémique. Tous les sujets doivent être remis sur l'établi, en disant : comment ça change à l'ère de l'IA ? Qu'est-ce qu'on doit mettre en place pour protéger l'existant, pour s'assurer que la nouveauté se fasse de manière contrôlée et souhaitable pour l'humanité ? Que l'intelligence artificielle ne soit pas juste un outil de profit pour quelques entreprises, mais vraiment quelque chose qui bénéficie à l'humanité.

Pour l'instant, ce n'est pas du tout un match qui est plié.

Ma conclusion

Regarder à 1:08:27 →

Ma conclusion très personnelle sur tout ça, c'est que, de toute façon, l'IA ne va pas disparaître. Je ne suis pas en train de dire, ni même de souhaiter : « Débarrassons-nous de l'IA, fin de l'histoire. » L'IA va rester. Ce qu'on ne sait pas, c'est quelle forme l'IA va prendre dans le futur. Déjà, jusqu'où elle va aller, qu'est-ce qu'elle va être capable de faire, mais aussi comment on va la limiter, la réglementer, la réguler, l'orienter.

Je ne sais pas exactement quelle forme ça peut prendre, mais la question, c'est : quelles contraintes, nous, on veut ajouter pour s'assurer, autant que faire se peut, que tout se passe pour le mieux ? À titre individuel, j'ai envie de dire que notre usage de l'intelligence artificielle, ou même le fait d'aider à déployer l'intelligence artificielle en entreprise, n'a pas franchement d'impact. Évidemment, autant que possible, autant essayer de le faire de manière responsable.

On ne va pas utiliser des tokens par principe. On ne va pas faire tourner à fond Claude le dimanche soir parce qu'on ne va pas utiliser tous nos tokens de la semaine. Pour moi, c'est totalement débile. Il faut être un peu prudent quand l'entreprise dit : « Allez, je voudrais remplacer mon équipe par une IA. » J'ai envie de dire, à ce stade, c'est presque du bon sens.

Mais pour moi, ce que l'on peut et ce que l'on doit surtout faire, en tant que personnes qui sommes vraiment impliquées dans l'IA au quotidien, c'est porter ces sujets. Pousser le débat, pousser des débats sur quel monde, nous, on souhaiterait, mais simplement pousser la question, dire : « Mais parler d'IA, c'est bien, mais ça va changer beaucoup de choses, quand même. »

À quoi ça pourrait ressembler ? Qu'est-ce que ça va donner pour l'éducation ? Qu'est-ce que ça va donner pour l'emploi ? Et la réponse ne peut pas être juste, pour l'éducation : « Ah bah, l'IA, c'est un super outil pour l'éducation, point. » « Ou bah non, l'IA, c'est un super outil pour les entreprises. » Ça ne répond à rien. On a vraiment des questions systémiques à se poser, parce que si nous, on pousse l'IA, mais qu'on ne pousse pas en même temps le débat sur les conditions nécessaires pour que cette évolution de l'IA se fasse sans destruction incontrôlée, pour moi, c'est irresponsable.

Si nous, qui sommes le fer de lance de la progression de l'IA au quotidien, ne sommes pas en même temps les porte-voix de ces questions légitimes sur l'impact de l'intelligence artificielle, il manque un truc. Si ce n'est pas nous, alors qui ? Le but, ce n'est pas d'arrêter l'IA, c'est un levier de compétitivité réel. Les entreprises ont intérêt à l'adopter à leur niveau, mais on a besoin, et on a le devoir, d'être lucides sur ce que son usage implique à grande échelle, et de porter un débat qui est encore, notamment en France, malheureusement beaucoup trop inaudible.

C'est la raison d'être de ce podcast. J'espère que ça vous a intéressés, que ça a fait naître des questions, pas forcément des certitudes. Le but n'est pas tant de pousser des certitudes, à part la certitude qu'il faut se poser des questions.

Retour à l'épisode