Régulation

Proposition de loi déposée le 15 septembre 2026 : autorisation préalable de mise sur le marché des systèmes d'IA et création d'une Autorité nationale de l'IA calquée sur la CNIL, avec pouvoirs de contrôle et de sanction. L'exposé des motifs vise des risques immédiats (deepfakes, comportements imprévisibles, images sexuelles non consenties), pas la perte de contrôle. Groupe du premier signataire non précisé dans la page lue. Signe d'un début de débat parlementaire français. Lu via un résumé web.

Billet du patron d'Anthropic : il faut ralentir l'amélioration des capacités, à cause de l'auto-amélioration récursive et de l'incident Hugging Face ; d'ici six à douze mois, un essaim d'agents pourrait prendre le contrôle d'Internet. Plan en trois temps : évaluateurs indépendants intégrés aux labos (engagement unilatéral d'Anthropic), régulation et coordination entre labos américains avec dérogation antitrust, coordination mondiale. Défend la restriction des puces et de la distillation pour garder l'avance sur la Chine.

Long billet de Bill Gates, qui déclare ses liens financiers avec la tech. La transition vers l'IA sera l'une des plus turbulentes de l'histoire, et le monde ne s'y prépare pas. Trois risques : disparition durable d'emplois (cols blancs puis bleus), pouvoir de nuire accru (cyber, bio, armes autonomes, perte de contrôle), effets sur les enfants et les relations. Ne croit pas à un ralentissement mondial. Propose un cadre national et international inédit, des métiers réservés aux humains et une taxe sur les tokens et les robots.

Annonce de la version 3 de la politique de sécurité d'Anthropic. Justification : seuils de capacité plus ambigus que prévu, mesures robustes peut-être impossibles sans action collective, action publique lente et climat politique tourné vers la compétitivité. Nouveaux outils : engagements unilatéraux distingués des recommandations au secteur, feuille de route publique non contraignante, rapports de risque tous les trois à six mois avec revue externe. Ne formule pas explicitement l'abandon de l'engagement de pause. Lu via un résumé web.

Deuxième rapport international, rédigé par plus de 100 experts sous la présidence de Yoshua Bengio, avec un groupe consultatif de plus de 30 pays et organisations (version française, février 2026). Trois familles de risques : utilisation malveillante (fraude, manipulation, cyberattaques, armes biologiques), dysfonctionnements (fiabilité, perte de contrôle), risques systémiques (emploi, autonomie humaine). Perte de contrôle : « probabilité incertaine, gravité potentiellement extrême ». Biais, environnement et vie privée sortent de son périmètre.

Document de travail de trois économistes du MIT, écrit pour la Brookings Institution. Définit une IA « pro-travailleurs », qui rend l'expertise humaine plus précieuse au lieu de la remplacer, et explique pourquoi le marché la sous-finance. Neuf pistes : santé, éducation, fiscalité, concurrence, propriété intellectuelle. Tenir l'avènement de l'IA générale pour certain serait « insensé ». Non relu par les pairs ; Autor déclare un soutien de recherche de Google.

Rapport du directeur général de l'Organisation internationale du travail à la Conférence internationale du travail de 2026. L'IA détruira, créera et transformera des emplois ; l'issue dépend des choix politiques et des institutions (protection sociale, négociation collective). Les données sur la productivité et l'emploi restent « partielles ». Point de vue institutionnel sur l'emploi : ni fatalité, ni optimisme. Lu dans sa synthèse.

Plan de l'organisation ControlAI (version d'avril 2025) pour « sécuriser notre avenir » face à l'IA. L'extinction y est le risque central : interdire la superintelligence pendant vingt ans, puis stabiliser l'ordre international, puis viser la prospérité. Emploie l'image d'un « étroit chemin » à travers un champ de mines. Organisation dont l'existence repose sur le récit du risque existentiel. Résumé français disponible.

Rapport de la Commission de l'intelligence artificielle publié par le gouvernement. Ligne « ni pessimisme ni optimisme » : ni chômage de masse, ni croissance automatique attendus ; les risques existentiels, « encore hypothétiques », ne doivent pas guider la politique. Priorités : investissement, formation, souveraineté. La commission comptait des acteurs du secteur, dont Arthur Mensch, Cédric O et Yann Le Cun. Lu dans sa synthèse.

Rapport de la CNIL issu d'un débat public (3 000 participants, 45 événements en 2017) sur l'éthique des algorithmes et de l'IA : autonomie humaine face à celle des machines, biais et discriminations, fragmentation algorithmique, données, identité humaine. Deux principes, loyauté et vigilance, et six recommandations, dont une plateforme nationale d'audit. Un débat français existait avant ChatGPT, centré sur l'éthique et non sur l'extinction. Lu via un résumé web.

Enquête sur les intérêts derrière les appels à réguler, le jour de l'intervention d'Altman et d'Amodei au Conseil de sécurité de l'ONU (23/09). Récapitule la séquence : piratage de Hugging Face, démission de Coxon, billet d'Amodei, note d'OpenAI, appel finlandais cosigné par l'UE (sans les États-Unis, la Chine ni la France), position de la ministre Le Hénanff. Rassemble les critiques (Dignum, Le Cun, Gebru et Bender, Doctorow, Mistral) : capture réglementaire, frein aux modèles ouverts chinois, contexte d'IPO et de bulle, soupçon d'entente entre labos.

Débats internes à la Maison Blanche d'après le New York Times : derrière les posts de Trump, crainte d'une bulle et d'une récession, mais inquiétude réelle sur la sécurité. Rapporte la révélation de CNN, sur la foi d'informateurs anonymes : un rapport généré par IA a failli provoquer l'abordage d'un navire chinois soupçonné de transporter du matériel nucléaire près d'Ormuz. Nouveaux incidents (Gemini). Préparation du sommet Trump-Xi, piste d'un accord excluant l'IA des armes nucléaires, décret de Newsom.

Décryptage de fond sur le risque existentiel. Le rapport international sur la sécurité de l'IA (février, présidé par Bengio) le juge « à la probabilité incertaine, mais de gravité potentiellement extrême » ; le chiffre de 10 % ne repose sur aucune base scientifique. Experts français : Poupard (scénarios nucléaire et biologique peu crédibles, prise de contrôle d'Internet moins irréaliste, IA militaire déjà problématique), Grinbaum (comportements collectifs des agents), Prunkl. « Le balayer d'un revers de la main, ce n'est pas sérieux. »

Reportage à l'« Assemblée pro-humaine » du Future of Life Institute (Washington, 15/09), où Bernie Sanders et Steve Bannon se succèdent pour alerter sur l'IA et ses « oligarques ». Sanders : emplois, santé mentale des jeunes, vie privée, super PAC de l'IA ; projets de moratoire sur les data centers et d'interdiction des superintelligences. Bannon dénonce un « cartel » et réclame une quarantaine de la Chine. Sondages : 40 % des Américains anticipent un impact négatif de l'IA, 65 % refusent un data center près de chez eux.

Le ministre chinois de la sécurité publique, Chen Yixin, détaille dans une revue officielle les menaces de l'IA : sécurité politique du régime, deepfakes, bots, « guerre cognitive », choc pour la gouvernance sociale, cyberattaques, espionnage, usage militaire. La Chine reste centrée sur le déploiement (modèles open source à bas coût) mais encadre : règles contre la perte de contrôle des agents (mai), restriction des IA compagnons (juillet). Mise en regard avec le débat américain avant la visite de Xi Jinping à Washington.

Dépêche : Mark Zuckerberg (Meta) rejette les appels à ralentir, estimant que le marché et le risque de poursuites suffisent à pousser les labos à aligner leurs modèles. Il cite le report du lancement de Muse AI et plaide pour un écosystème d'évaluateurs indépendants plus diversifié, pique visant Anthropic. Meta investit jusqu'à 145 Md$ cette année et combat toute régulation susceptible de le ralentir. Rappelle le projet d'organe commun d'OpenAI, Anthropic et Google.

Dépêche : Bilal Chughtai, ingénieur sécurité et alignement démissionnaire de Google DeepMind, juge que l'IA « a le potentiel de nous tuer tous » ; il rejoint une ONG de formation à la sécurité de l'IA. OpenAI, Anthropic et Google DeepMind préparent un organe commun d'autorégulation inspiré de la FINRA. Trump parle de « canulars », Jensen Huang (Nvidia) d'irresponsabilité. Mistral reconnaît les dangers du déploiement négligent d'agents, mais soupçonne ses concurrents de chercher une régulation à leur avantage.

Analyse du week-end où Amodei, rejoint par Altman et Musk, appelle à ralentir, et où Trump refuse au nom de la course avec la Chine (« celui qui gagne la course à l'IA, c'est lui qui l'emporte »). Retrace les interventions informelles de l'administration, la démission de Coxon et la probabilité de plus de 10 % avancée par Evan Hubinger. Expose le « dilemme du prisonnier » entre États-Unis et Chine et entre labos, les critiques (David Sacks : « cartel »), l'intérêt économique d'une pause et l'enjeu des midterms.

Dépêche : Sam Altman annonce qu'OpenAI n'entrera pas en Bourse en 2026, invoquant le contexte de sécurité (« le moment serait mal choisi »), après avoir soutenu l'appel d'Amodei à ralentir. Trump et le président de la Chambre, Mike Johnson, refusent tout ralentissement au nom de la course avec la Chine (« quiconque gagne l'IA gagne tout »). Rappelle le dispositif fédéral d'évaluation, volontaire et flou, mis en place début août, et l'enjeu des midterms.

Dépêche sur le billet de Dario Amodei du 12 septembre : il appelle à « temporiser » l'amélioration des modèles, redoute qu'un groupe d'agents prenne « le contrôle de l'intégralité d'Internet » d'ici six à douze mois, alerte sur l'auto-amélioration récursive. Propose des observateurs indépendants au sein des labos (OpenAI suit), des normes communes et une coordination entre États ; soutiens d'Altman et de Musk. Relève qu'OpenAI et Anthropic n'ont suspendu leurs travaux que quelques jours après leurs incidents.

Dépêche sur le troisième rapport d'Anthropic consacré aux usages malveillants de ses modèles : tentative de recherche de gain de fonction sur le chikungunya, logiciels espions, opérations d'influence étatiques. Anthropic reconnaît des protections moins strictes sur ses anciens modèles. Evan Hubinger, responsable de la sûreté, admet « pas encore de plan » pour contrôler une IA surhumaine. OpenAI et Anthropic pressent le Congrès d'imposer des règles. Renvoie à un article : près de 700 agents coordonnés lors de l'intrusion chez Hugging Face.

Dépêche sur la démission de Jacob Coxon, chercheur passé par OpenAI puis Anthropic, qui quitte l'industrie : « aucune des deux entreprises n'agit de manière responsable ». Evan Hubinger (Anthropic) l'appuie. Rappelle qu'Anthropic a retiré en février de sa charte l'engagement de suspendre ses modèles en cas de risques non maîtrisés, et qu'OpenAI a suspendu deux semaines une partie de ses entraînements en août. Proposition de loi Sanders-Casar pour suspendre le développement de l'IA jusqu'à la création d'un régulateur.

Dépêche sur la pétition du 28 juillet : plus d'un millier d'employés de labos, dont Dario Amodei et les responsables de la recherche d'OpenAI et de Meta, demandent au gouvernement américain d'aider à « temporiser » le développement automatisé des modèles, par crainte de l'auto-amélioration récursive. Contexte : diffusion restreinte de Mythos, retrait imposé de Fable 5, piratage de Hugging Face. Réserves d'experts (« vœu pieux »), rappel du plaidoyer des patrons au G7 pour une plateforme transnationale.

Dépêche : Anthropic propose (4 juin) un mécanisme mondial permettant aux labos de ralentir ou suspendre ensemble le développement de l'IA de pointe, en citant le précédent du traité FNI. Justification : des données internes rendant « plausible » l'auto-amélioration récursive, avec un risque de « perte de contrôle ». Mentionne les accusations de « marketing de la peur » portées par l'industrie et la Maison Blanche en pleine course à l'IPO, et la diffusion restreinte de Mythos.

Décret de Trump (2 juin) : examen fédéral des modèles les plus avancés pendant trente jours au lieu des quatre-vingt-dix prévus, sur une base théoriquement volontaire. Retrace la bataille entre la Silicon Valley (Andreessen, Sacks) et le camp MAGA (Bannon, lettre de 35 pasteurs), déclenchée par Mythos d'Anthropic et ses capacités de détection de failles. Compromis salué par Microsoft et OpenAI. Contexte : projet de Sanders de nationaliser à 50 % les géants de l'IA ; 55 % des Américains pensent que l'IA fera plus de mal que de bien.

Exclusivité : Anthropic abandonne l'engagement central de sa politique de sécurité (2023), ne pas entraîner de modèle sans garanties préalables suffisantes. Jared Kaplan : s'arrêter n'aiderait personne quand les concurrents foncent. Remplacé par des feuilles de route et rapports de risque publics non contraignants, et une promesse de « retarder » si Anthropic mène la course. Chris Painter (METR) y voit un passage en « mode triage » et un risque d'effet « grenouille ébouillantée ».

Entretien avec une spécialiste de l'éthique de l'IA, membre du comité consultatif de l'ONU. Thèse : le récit de l'extinction sert les labos, qui y gagnent en valorisation, se déchargent de leur responsabilité et se posent en seuls régulateurs compétents. Les évasions d'agents sont des échecs de gouvernance ; dire « l'IA s'échappe » efface les décideurs. Contre la pause, pour des tests, un suivi et la mise en jeu de la responsabilité. Liste des préjudices déjà avérés (Robodebt, data centers, emploi, information). Regard des pays du Sud au forum de l'Unesco.

Éditorial : les capacités de l'IA progressent plus vite que la compréhension de ses risques, mais les appels à la prudence se heurtent à la course géopolitique entre États-Unis et Chine et aux centaines de milliards engagés. Le débat ne porte plus sur l'arrêt de l'IA mais sur les conditions de sa poursuite. Plaide pour des règles fixées par la puissance publique, pas par les acteurs qui ont le plus à gagner : évaluations indépendantes, déclaration des incidents, seuils de capacité, encadrement international sur le modèle des armements.

Analyse critique d'inspiration marxiste : les appels à réguler l'IA (encyclique, déclaration de Leyde, tribune de 150 personnalités, étude du MIT sur cinq risques catastrophiques) supposent une technologie neutre. Pour l'auteur, l'IA répond au besoin du capital d'automatiser pour relancer les profits ; militarisation et désinformation sont des nécessités, pas des dérives. Le récit apocalyptique entretient la « hype » des investisseurs ; autorégulation et régulation étatique sont des illusions. On ne régule pas la destruction, on la combat.

Long essai de deux chercheurs de Princeton. L'IA serait une technologie « normale », comme l'électricité ou Internet : transformatrice, mais adoptée lentement, sur des décennies, et contrôlable. Contre les visions utopiques comme dystopiques, ils plaident pour réduire l'incertitude et renforcer la résilience. Ses préjudices ressembleraient à ceux des technologies passées : inégalités, pertes d'emplois dans certains métiers, concentration du pouvoir.