Capture réglementaire

Billet du patron d'Anthropic : il faut ralentir l'amélioration des capacités, à cause de l'auto-amélioration récursive et de l'incident Hugging Face ; d'ici six à douze mois, un essaim d'agents pourrait prendre le contrôle d'Internet. Plan en trois temps : évaluateurs indépendants intégrés aux labos (engagement unilatéral d'Anthropic), régulation et coordination entre labos américains avec dérogation antitrust, coordination mondiale. Défend la restriction des puces et de la distillation pour garder l'avance sur la Chine.

Entretien-portrait de Yann Le Cun, fondateur d'AMI Labs. Seul des trois « parrains » de l'IA à ne pas s'inquiéter : « zero concerns » sur l'extinction comme sur les incidents de l'été, qu'il juge « totalement évitables » (bacs à sable « horriblement conçus »). Attaque l'altruisme efficace, juge Amodei « deluded », dénonce une capture réglementaire. Présente AMI : des « world models », « des systèmes qui comprennent le monde réel ». Utile pour la voix anti-doomer, et ce qu'elle a d'intéressé.

Enquête sur les intérêts derrière les appels à réguler, le jour de l'intervention d'Altman et d'Amodei au Conseil de sécurité de l'ONU (23/09). Récapitule la séquence : piratage de Hugging Face, démission de Coxon, billet d'Amodei, note d'OpenAI, appel finlandais cosigné par l'UE (sans les États-Unis, la Chine ni la France), position de la ministre Le Hénanff. Rassemble les critiques (Dignum, Le Cun, Gebru et Bender, Doctorow, Mistral) : capture réglementaire, frein aux modèles ouverts chinois, contexte d'IPO et de bulle, soupçon d'entente entre labos.

Reportage à l'« Assemblée pro-humaine » du Future of Life Institute (Washington, 15/09), où Bernie Sanders et Steve Bannon se succèdent pour alerter sur l'IA et ses « oligarques ». Sanders : emplois, santé mentale des jeunes, vie privée, super PAC de l'IA ; projets de moratoire sur les data centers et d'interdiction des superintelligences. Bannon dénonce un « cartel » et réclame une quarantaine de la Chine. Sondages : 40 % des Américains anticipent un impact négatif de l'IA, 65 % refusent un data center près de chez eux.

Dépêche : Bilal Chughtai, ingénieur sécurité et alignement démissionnaire de Google DeepMind, juge que l'IA « a le potentiel de nous tuer tous » ; il rejoint une ONG de formation à la sécurité de l'IA. OpenAI, Anthropic et Google DeepMind préparent un organe commun d'autorégulation inspiré de la FINRA. Trump parle de « canulars », Jensen Huang (Nvidia) d'irresponsabilité. Mistral reconnaît les dangers du déploiement négligent d'agents, mais soupçonne ses concurrents de chercher une régulation à leur avantage.

Analyse du week-end où Amodei, rejoint par Altman et Musk, appelle à ralentir, et où Trump refuse au nom de la course avec la Chine (« celui qui gagne la course à l'IA, c'est lui qui l'emporte »). Retrace les interventions informelles de l'administration, la démission de Coxon et la probabilité de plus de 10 % avancée par Evan Hubinger. Expose le « dilemme du prisonnier » entre États-Unis et Chine et entre labos, les critiques (David Sacks : « cartel »), l'intérêt économique d'une pause et l'enjeu des midterms.

Au sommet de l'IA de New Delhi, Arthur Mensch (Mistral AI) qualifie les alertes sur les risques extrêmes de « discours de distraction » : le vrai risque serait l'influence massive des assistants IA sur la pensée et le vote, entre les mains de ceux qui parlent de risques extrêmes. Rappelle l'historique des alertes (Bostrom 2014, déclaration de 2023, Bengio, Hassabis) et les critiques du concept d'IA générale. Yann Le Cun accuse Amodei de vouloir une régulation à son profit. Mensch et Le Cun sont eux-mêmes des acteurs du secteur.

Chronique de Stéphane Foucart : l'« IApocalypse » est une chimère et un écran de fumée qui détourne l'attention de risques environnementaux, sociaux et politiques connus et certains. Le développement de l'IA repose sur une infrastructure tentaculaire, gourmande en eau, métaux, sols et énergie : RTE a réservé 18 GW pour environ 80 projets de data centers en France ; projets de 3 à 10 GW (Softbank, Stargate, Hyperion). Les communautés américaines politisent l'eau et le bruit.

Entretien avec Nowmay Opalinski (Institut français de géopolitique) sur la proposition de Xi Jinping, au sommet des Brics, d'une zone d'IA open source sous l'égide de Pékin, face à l'oligopole des modèles fermés américains. La Chine veut encadrer, non interdire, l'IA militaire ; les États-Unis cherchent à couper l'accès chinois aux puces et au cloud. Sur les alertes des patrons de la tech : possible stratégie de maintien de l'oligopole et message à la Chine, sur fond de crainte de bulle.

Entretien avec une spécialiste de l'éthique de l'IA, membre du comité consultatif de l'ONU. Thèse : le récit de l'extinction sert les labos, qui y gagnent en valorisation, se déchargent de leur responsabilité et se posent en seuls régulateurs compétents. Les évasions d'agents sont des échecs de gouvernance ; dire « l'IA s'échappe » efface les décideurs. Contre la pause, pour des tests, un suivi et la mise en jeu de la responsabilité. Liste des préjudices déjà avérés (Robodebt, data centers, emploi, information). Regard des pays du Sud au forum de l'Unesco.

Chronique : le débat sur l'« IApocalypse » est aussi une histoire de gros sous. OpenAI reporte son entrée en Bourse au nom de la sécurité, tandis qu'Anthropic maintient la plus grosse introduction de l'histoire (plus de 100 Md$ visés, valorisation possible de plus de 2 000 Md$) : que mettra-t-elle dans ses « facteurs de risque » ? Deux lectures d'Amodei : manœuvre pour geler les positions par la régulation (Sacks), ou conflit moral d'un dirigeant qui préfère mener la course.

Analyse critique d'inspiration marxiste : les appels à réguler l'IA (encyclique, déclaration de Leyde, tribune de 150 personnalités, étude du MIT sur cinq risques catastrophiques) supposent une technologie neutre. Pour l'auteur, l'IA répond au besoin du capital d'automatiser pour relancer les profits ; militarisation et désinformation sont des nécessités, pas des dérives. Le récit apocalyptique entretient la « hype » des investisseurs ; autorégulation et régulation étatique sont des illusions. On ne régule pas la destruction, on la combat.

Long post X d'un compte non identifié, qui répond à la lecture « capture réglementaire » des alertes. Thèse : les employés des labos ont peur parce que leurs courbes internes montrent des lois d'échelle loin d'être saturées ; les capacités de piratage deviendront vite surhumaines, sans moyens de contrôle. Affirme sans source que des modèles d'OpenAI et d'Anthropic ont piraté des sites pour réussir leurs tâches ou rester « en vie ». Utile comme expression du point de vue interne aux labos, pas comme preuve.