Un piéton tué en Arizona, des chatbots devant les tribunaux, mais aussi des cancers et des septicémies détectés plus tôt. Le bilan étude par étude, et ce qui fait la différence.
📌 Résumé de l’article
Un piéton tué en Arizona, des chatbots devant les tribunaux, mais aussi des cancers et des septicémies détectés plus tôt. Le bilan étude par étude, et ce qui fait la différence.
Sur le plateau de Quotidien, en septembre 2026, l'un des deux journalistes invités à débattre des dangers de l'IA rappelait qu'en l'état, elle n'avait jamais tué personne, et qu'elle sauvait des vies tous les jours en radiologie. La seconde moitié de la phrase se vérifie dans les revues médicales. La première mérite qu'on remonte à un soir de mars 2018, en Arizona.
Le 18 mars 2018, un peu avant 22 heures, un Volvo XC90 modifié par Uber roule en mode autonome sur Mill Avenue, à Tempe, en Arizona. Elaine Herzberg, 49 ans, traverse la rue en poussant son vélo, hors d'un passage piéton. Les capteurs la repèrent, mais le système hésite sur ce qu'il voit et ne l'identifie comme un vélo sur sa trajectoire que 1,2 seconde avant le choc. Trop tard pour freiner. Elle devient le premier piéton tué par une voiture autonome.
L'enquête du NTSB, l'autorité américaine de sécurité des transports, a rendu ses conclusions le 19 novembre 2019. Le logiciel avait des failles : il n'était pas programmé pour gérer un piéton traversant hors des passages, et Uber avait désactivé le freinage d'urgence d'origine du Volvo. Mais la cause probable retenue est ailleurs : l'opératrice de sécurité assise au volant était « visuellement distraite pendant tout le trajet par son téléphone personnel ». Elle regardait l'émission The Voice en streaming (SiliconANGLE). Le NTSB reproche aussi à Uber de n'avoir rien prévu contre un phénomène qui porte un nom : la complaisance envers l'automatisation. Quand la machine fait le travail neuf fois sur dix, l'humain cesse de regarder la dixième.
Cette histoire contient à peu près tout le débat sur l'IA et nos vies. Gardez-la en tête pour la suite.
Le 26 août 2025, Matthew et Maria Raine ont assigné OpenAI et Sam Altman devant la justice californienne après le suicide de leur fils Adam, 16 ans. Ils accusent ChatGPT d'avoir contribué à sa mort, en s'étant installé pendant des mois comme le seul confident qui le comprenait (CNN). OpenAI conteste toute responsabilité. L'entreprise a annoncé en septembre 2025 un contrôle parental et l'orientation des conversations sensibles vers des modèles plus prudents. Character.AI, visée par une série de plaintes de familles, a fermé les conversations libres aux moins de 18 ans le 25 novembre 2025 (annonce de Character.AI).
À la date de publication, aucun de ces procès n'a été jugé, et la part de l'outil dans chaque drame reste à établir. Ils posent pourtant une question que les fiches produit évitent : qui surveille la conversation quand la personne en face est vulnérable ?
Si vous traversez une période difficile ou si vous vous inquiétez pour un proche, le 3114, numéro national de prévention du suicide, répond gratuitement, 24 heures sur 24.
L'autre colonne du bilan se remplit plus discrètement, dans des revues médicales que peu de gens lisent.
En Suède, l'essai MASAI a réparti au hasard plus de 100 000 femmes entre un dépistage classique, avec double lecture par deux radiologues, et un dépistage où l'IA trie les mammographies et signale les zones suspectes. Résultat publié dans The Lancet Digital Health en février 2025 : 338 cancers détectés contre 262, soit 29 % de plus, sans hausse significative des faux positifs, et une charge de lecture des radiologues réduite de 44 % (étude MASAI, 2025). En janvier 2026, The Lancet a publié la suite : moins de cancers découverts entre deux dépistages dans le groupe avec IA, et une sensibilité de 80,5 % contre 73,8 % (étude MASAI, 2026). L'essai est financé par des fonds publics suédois.
En Allemagne, l'étude PRAIM, publiée dans Nature Medicine en janvier 2025, a suivi 463 094 femmes dépistées en conditions réelles : 17,6 % de cancers détectés en plus avec l'IA, sans davantage de rappels (étude PRAIM). Elle est en revanche financée par l'éditeur du logiciel utilisé, ce qu'il faut garder en tête.
Le sepsis, une réaction de l'organisme à une infection qui peut devenir fatale en quelques heures, est difficile à repérer tôt. À Johns Hopkins, le système TREWS a analysé les dossiers de 590 736 patients dans cinq hôpitaux. Quand un soignant confirmait son alerte dans les trois heures, la mortalité hospitalière des patients septiques baissait de 18,7 % en valeur relative (Nature Medicine, 2022). Retenez la condition : l'effet mesuré dépend de la confirmation humaine.
En Angleterre, une étude portant sur 452 952 patients dans 107 hôpitaux, publiée dans The Lancet Digital Health en décembre 2025, montre que dans les sites équipés du logiciel d'imagerie Brainomix, le taux de thrombectomie, le retrait du caillot qui bouche une artère du cerveau, est passé de 2,3 % à 4,6 %. Il a progressé nettement moins ailleurs (étude Brainomix). Plusieurs auteurs travaillent pour l'éditeur du logiciel.
Aux urgences, les fractures manquées représentent jusqu'à 80 % des erreurs de diagnostic. Une étude publiée dans Radiology en 2021 par des médecins de la Fondation Rothschild et de l'AP-HP, sur 600 patients de 17 centres français, a mesuré l'apport de BoneView, le logiciel de la start-up française Gleamer : 8,7 % de sensibilité en plus pour les radiologues et urgentistes assistés, et 41,9 % de faux positifs en moins (étude Radiology).
Le prix Nobel de chimie 2024 a récompensé Demis Hassabis et John Jumper, de Google DeepMind, pour AlphaFold, qui prédit la structure de la quasi-totalité des 200 millions de protéines connues. Plus de deux millions de chercheurs de 190 pays s'en servent, notamment pour concevoir des médicaments (communiqué du comité Nobel). Au MIT, des modèles d'IA générative ont conçu en 2025 des molécules actives contre la gonorrhée multirésistante et le staphylocoque doré résistant, testées chez la souris et pas encore chez l'humain (MIT News). Les prévisions de crues de Google couvrent désormais plus de deux milliards de personnes dans 150 pays (Google Research). En France, l'association Pyronear déploie avec plusieurs services départementaux d'incendie des caméras qui repèrent les départs de feux de forêt.
Relisez les exemples. Dans chaque vie sauvée, l'IA signale et un professionnel formé décide : le radiologue lit l'image signalée, le soignant confirme l'alerte de sepsis, le neurologue choisit d'intervenir. Dans les drames, personne ne regarde, ou la personne censée regarder a cessé de le faire. À Tempe, le logiciel avait des défauts, mais le NTSB a d'abord retenu l'attention humaine qui avait lâché.
La leçon dépasse la médecine et les voitures. Un agent IA branché sur une boîte mail, un CRM ou une comptabilité fera lui aussi le travail neuf fois sur dix. La dixième, il enverra le mauvais devis au mauvais client, et tout dépendra de qui regarde encore. C'est la question que notre article sur la création d'un agent IA avec n8n et Claude pose dès la conception.
Si l'écart entre les deux colonnes tient à un humain formé, la formation n'est pas un à-côté du sujet. Elle en est le centre, et cela crée des devoirs pour ceux dont c'est le métier.
Parler des erreurs de l'outil autant que de ses prouesses. Apprendre à vérifier avant d'apprendre à accélérer. Ne pas vendre l'automatisation intégrale là où une validation humaine s'impose. Et refuser d'enseigner ce qui sert à tromper, à usurper une identité ou à surveiller quelqu'un à son insu, même quand la technique est à portée de clic. L'Union européenne en a d'ailleurs fait une obligation. Dans sa version modifiée en juillet 2026, l'article 4 de l'AI Act demande aux entreprises qui utilisent des systèmes d'IA de prendre des mesures pour développer la maîtrise de l'IA de leur personnel, et la Commission européenne précise que les salariés doivent être informés des risques propres aux outils, comme les hallucinations (FAQ de la Commission européenne).
Le bilan comptable de cet article reste volontairement ouvert. Les risques plus lointains, ceux d'une IA qui échapperait à tout contrôle, sont discutés dans Va-t-on mourir à cause de l'IA ?, et son coût environnemental dans L'IA pollue-t-elle plus que votre air fryer ?
Des décès impliquant des systèmes automatisés sont documentés, comme l'accident de Tempe en 2018. Pour les chatbots, des procès sont en cours aux États-Unis et la responsabilité des entreprises n'a pas été tranchée à la date de publication.
Les études citées ici mesurent des médecins assistés par l'IA, pas une IA seule. Dans l'essai MASAI, l'IA répartit les mammographies entre lecture simple et double lecture et signale les zones suspectes, mais ce sont les radiologues qui posent le diagnostic.
En gardant une validation humaine sur les actions qui engagent, en contrôlant régulièrement un échantillon de résultats même quand tout semble fonctionner, et en formant les personnes qui supervisent à reconnaître les erreurs typiques de l'outil.
Pour comprendre un terme ou préparer une consultation, il peut aider. Pour un diagnostic ou une décision de traitement, non : les outils qui ont fait leurs preuves à l'hôpital sont des dispositifs évalués, utilisés par des soignants.
Dans le parcours Améliorer l'efficacité de sa TPE à l'aide de l'IA, le module sur l'analyse de données se termine par le contrôle humain des résultats (biais, hallucinations, croisement des sources avant toute décision engageante), et celui sur l'automatisation passe par la gestion sécurisée des identifiants et un point de vérification humaine avant qu'un agent IA n'agisse. Pour aller plus loin avec des agents connectés à Gmail, Notion, Slack ou Google Sheets, Créer un agent IA et automatiser des tâches y consacre trois jours, jusqu'à la mise en production et la maintenance. Rien de cinématographique là-dedans, seulement ce qui range un outil du bon côté du bilan.
CPF, OPCO, plan de développement des compétences… selon votre situation, votre formation peut être prise en charge jusqu'à 100 %. Un conseiller monte votre dossier avec vous.
Nous contacter ↗
