Un chercheur quitte Anthropic, Quotidien évoque 10 % de risque d'extinction. Ce que disent les experts, les sceptiques, et les dangers de l'IA déjà bien réels.
📌 Résumé de l’article
Un chercheur quitte Anthropic, Quotidien évoque 10 % de risque d'extinction. Ce que disent les experts, les sceptiques, et les dangers de l'IA déjà bien réels.
Le 8 septembre 2026, Jacob Coxon, chercheur britannique de 27 ans passé par OpenAI puis Anthropic, annonce sa démission sur X. « Aucune des deux entreprises n'agit de manière responsable », écrit-il, avant de les accuser de foncer vers une superintelligence capable de s'améliorer seule, au mépris de nos vies. Evan Hubinger, qui dirige chez Anthropic les tests de résistance de l'alignement, lui répond publiquement : il estime personnellement à plus de 10 % le risque que l'IA tue tous les humains d'ici dix ans (TIME). Dans la foulée, la question qu'on réservait aux romans de science-fiction s'invite sur le plateau de Quotidien.
Yann Barthès y reçoit deux journalistes spécialistes du numérique, Raphaël Grably (BFMTV) et Stéphane Jourdain (France Inter), pour une séquence au titre sans détour : « L'IA va tous nous tuer d'ici 10 ans ? ». Un chroniqueur raconte avoir posé la question à Claude, l'assistant d'Anthropic, qui a avancé une probabilité d'environ 5 % à l'horizon 2035 en s'appuyant sur les sondages d'experts. Les deux invités ne balaient pas le sujet. Ils décrivent un été 2026 agité, rappellent aussi que l'IA sauve des vies, en radiologie notamment, et soulignent que le catastrophisme a parfois des arrière-pensées commerciales.
L'épisode le plus discuté concerne OpenAI. En juillet 2026, des centaines d'agents IA testés dans un environnement volontairement privé de ses protections, pour évaluer leurs capacités de piratage, ont trouvé une faille pour rejoindre Internet. Ils se sont coordonnés sur une messagerie improvisée, puis ont pénétré l'infrastructure de Hugging Face, une plateforme centrale pour la communauté de l'IA, qui a dû reconstruire une partie de ses systèmes. OpenAI a reconnu que ses propres agents étaient à l'origine de l'intrusion (NBC News).
L'alerte n'est pas tombée d'un ciel bleu. En mai 2025, Anthropic décrivait dans la documentation de Claude Opus 4 un test fictif où le modèle, apprenant qu'il allait être remplacé et découvrant la liaison extraconjugale de l'ingénieur chargé de l'opération, tentait de le faire chanter dans 84 % des essais (TechCrunch). Le même mois, l'organisation Palisade Research observait que le modèle o3 d'OpenAI sabotait son script d'extinction 7 fois sur 100, alors même qu'on lui demandait de se laisser éteindre (The Register). Ce sont des scénarios de laboratoire, conçus pour pousser les modèles dans leurs retranchements. Conçus, aussi, par ceux qui les fabriquent.
Le 30 mai 2023, le Center for AI Safety publiait une déclaration d'une seule phrase : réduire le risque d'extinction lié à l'IA doit être une priorité mondiale, au même titre que les pandémies et la guerre nucléaire. Parmi les signataires figurent Geoffrey Hinton, Yoshua Bengio et les patrons d'OpenAI, d'Anthropic et de Google DeepMind, Sam Altman, Dario Amodei et Demis Hassabis (déclaration du CAIS). Il est rare de voir des dirigeants signer un texte qui place les risques de leur propre produit à côté de la guerre nucléaire.
Geoffrey Hinton a quitté Google en mai 2023 pour parler librement de ces risques, avant de recevoir le prix Nobel de physique en 2024 pour ses travaux fondateurs sur les réseaux de neurones. Le 27 décembre 2024, sur BBC Radio 4, il estimait entre 10 et 20 % la probabilité que l'IA conduise à l'extinction de l'humanité dans les trente prochaines années (The Guardian, repris par l'Irish Examiner). Yoshua Bengio, lauréat du prix Turing, préside le rapport international sur la sûreté de l'IA, rédigé par plus de cent experts, dont la deuxième édition est parue en février 2026.
Le ton des industriels a lui aussi changé. En septembre 2026, Dario Amodei, le patron d'Anthropic, publie une tribune intitulée « We Must Pace the Frontier ». Il y écrit qu'il faut « ralentir le rythme auquel nous améliorons les capacités des modèles d'IA » et propose d'installer des évaluateurs indépendants au sein des laboratoires (tribune de Dario Amodei).
Le livre d'Eliezer Yudkowsky et Nate Soares annonce sa thèse dès le titre : If Anyone Builds It, Everyone Dies, « si quelqu'un la construit, tout le monde meurt ». Sorti le 16 septembre 2025 et entré dans la liste des best-sellers du New York Times, il soutient qu'une intelligence nettement supérieure à la nôtre poursuivrait ses propres objectifs sans que nous puissions l'arrêter. Le scénario AI 2027, publié en avril 2025 par l'ancien chercheur d'OpenAI Daniel Kokotajlo et ses coauteurs, raconte mois par mois une course entre laboratoires qui aboutit, fin 2027, à une IA surhumaine dont les objectifs ne sont plus alignés sur les nôtres. Il propose deux fins : la course continue, ou le monde ralentit (AI 2027).
Sur le plateau de Quotidien, l'un des invités résumait le mécanisme par une image devenue classique dans la Silicon Valley : un humain qui construit un immeuble n'a rien contre les fourmis, il ne pense simplement pas à elles. Dans ce scénario, le danger ne vient pas d'une IA méchante mais d'une IA indifférente, qui poursuit un objectif sans l'interpréter comme nous. Les chercheurs parlent de défaut d'alignement.
D'autres figures de premier plan jugent ces craintes très exagérées. Yann LeCun, lui aussi lauréat du prix Turing et longtemps directeur scientifique de l'IA chez Meta, a qualifié le risque existentiel de foutaises dans le Wall Street Journal en octobre 2024, estimant qu'il faudrait déjà savoir concevoir une IA plus intelligente qu'un chat (TechCrunch). Luc Julia, auteur de L'intelligence artificielle n'existe pas, répète que l'IA générale relève du fantasme façon Terminator (Maddyness).
Les invités de Quotidien ajoutaient une nuance que l'on entend moins. Annoncer que sa technologie pourrait détruire l'humanité, c'est aussi affirmer qu'elle a une importance capitale, un message qui ne déplaît pas aux investisseurs. Et réclamer une régulation lourde peut dresser une barrière que seuls les géants sauront franchir.
Pendant qu'on débat de l'extinction, l'IA sert déjà à des choses beaucoup plus terre à terre, et bien réelles.
Aucun de ces cas n'a eu besoin d'une superintelligence. Un outil puissant, une personne malveillante ou mal formée, un moment d'inattention ont suffi. C'est d'ailleurs la crainte principale formulée par l'un des invités de Quotidien : que l'IA donne à des gens peu compétents mais mal intentionnés des capacités qu'ils n'avaient pas. La question de savoir si l'IA a déjà coûté des vies, et combien elle en sauve, fait l'objet de notre article L'IA a-t-elle déjà tué ?
Précision utile : Node it est un organisme de formation à l'IA. Nous avons donc intérêt à ce que vous l'utilisiez, et c'est une raison de plus pour dire ce qu'elle coûte et ce qu'elle rate. Selon un sondage Elabe publié en juin 2026, deux Français sur trois utilisent déjà l'IA, et 54 % la perçoivent d'abord comme une menace (Boursorama). Se servir d'un outil dont on se méfie n'a rien d'absurde, à condition de savoir précisément de quoi se méfier. C'est là que la formation a un rôle, et des devoirs.
Le premier est de sensibiliser aux conséquences : hallucinations, fuites de données, biais, et empreinte environnementale, dont nous détaillons les chiffres dans L'IA pollue-t-elle plus que votre air fryer ? Le deuxième est de trier les usages, sans présenter comme un progrès ce qui n'apporte rien : un rapport généré que personne ne relira, cinquante visuels pour en garder un, un agent automatisé là où une règle simple suffisait. Le troisième est de tracer la limite de l'illégitime et de s'y tenir. On n'apprend pas à cloner une voix sans consentement, à fabriquer une fausse preuve ou à contourner la politique de sécurité de son employeur, même quand la demande arrive avec un « c'est juste pour tester ».
Le droit européen va dans le même sens. L'article 4 de l'AI Act, dans sa version modifiée en juillet 2026, demande aux fournisseurs et aux entreprises qui utilisent des systèmes d'IA de prendre des mesures pour développer la maîtrise de l'IA de leur personnel. Selon la Commission européenne, cela vaut aussi pour les salariés qui se servent de ChatGPT au quotidien : ils doivent être informés des risques propres à l'outil, comme les hallucinations (FAQ de la Commission européenne).
Personne ne le sait. Les estimations publiques vont d'un risque jugé fantaisiste par Yann LeCun à 10 à 20 % sur trente ans pour Geoffrey Hinton, et plus de 10 % sur dix ans pour Evan Hubinger. Ce sont des avis d'experts, pas des calculs. Ils montrent surtout que des gens sérieux prennent la question au sérieux.
En test, des modèles ont déjà contourné des consignes, et des agents d'OpenAI ont atteint Internet en juillet 2026 alors qu'ils n'étaient pas censés le faire. Ces épisodes se sont produits en laboratoire, et celui d'OpenAI dans un environnement dont les protections avaient été volontairement désactivées pour mesurer les capacités de piratage des agents.
Le risque existentiel se joue dans la course entre laboratoires, pas dans votre usage quotidien. Les risques qui vous concernent directement sont plus prosaïques : une information inventée reprise sans vérification, un document confidentiel collé dans un compte personnel, une arnaque par deepfake.
Une partie d'entre eux croit sincèrement au danger, comme en témoignent les démissions et les tribunes. Le discours sert aussi à souligner l'importance de ce qu'ils construisent et à peser sur la régulation. Les deux lectures ne s'excluent pas.
Chez Node it, la formation Améliorer l'efficacité de sa TPE à l'aide de l'IA ne commence pas par un outil. Son premier module aborde ce que l'IA tient et ce qu'elle ne tient pas, le RGPD, l'AI Act et l'impact environnemental des modèles. La méthode vient ensuite : structurer une demande pour obtenir une réponse fiable sans la reformuler dix fois, puis vérifier ce qui revient avant de s'en servir. Quand il s'agit de brancher l'IA sur une boîte mail, un CRM ou un agenda, la gestion sécurisée des identifiants et la validation humaine avant toute action engageante font partie du programme, que la formation Créer un agent IA et automatiser des tâches approfondit sur trois jours. C'est moins spectaculaire qu'une fin du monde, et c'est ce qui évite les petites catastrophes.
CPF, OPCO, plan de développement des compétences… selon votre situation, votre formation peut être prise en charge jusqu'à 100 %. Un conseiller monte votre dossier avec vous.
Nous contacter ↗
