L’IA dans le système de santé: le modèle de type «boîte noire» est devenu un partenaire fiable

Cet article est paru le 22 septembre 2025 dans la rubrique 'IT for Health' de la revue Netzwoche.

Le débat sur l’intelligence artificielle (IA) s’impose de plus en plus dans le secteur de la santé. Les performances des grands modèles linguistiques comme ChatGPT en matière de création de textes ou de structuration des données sont impressionnantes, mais le domaine médical est soumis à d’autres exigences. Dans la Harvard Business Review (HBR), Nigam et Glaser ont montré que, si les modèles d’IA généralistes excellent dans un large éventail de tâches simples, ils atteignent vite leurs limites dans un usage professionnel. Ils ne procèdent pas comme les médecins, mais s’appuient sur des modèles statistiques¹.

Les auteurs montrent, à l’exemple des garanties de prise en charge par les assurances-maladie américaines, que les systèmes d’IA spécialisés sont plus performants que les modèles généralistes. Ces expériences, et d’autres que je développe ci-dessous, ne peuvent certes pas être transposées tel quel à la réalité des soins dans notre pays. Mais nous avons tout intérêt à les prendre en compte pour en tirer nos propres conclusions. Elles fournissent de précieux enseignements pour l’introduction et le développement de solutions d’IA fiables en Suisse.

Dans le diagnostic médical ou l’évaluation des droits aux prestations, l’IA ne doit pas se limiter à l’identification de schémas. Elle doit pouvoir «penser» médicalement: adopter une logique clinique, évaluer le niveau de preuve et tenir compte des exigences réglementaires telles que le SwissDRG, les directives de l’OFSP ou la LAMal. Cela vaut en particulier lors de décisions complexes, p. ex. en présence de comorbidités, dans les soins palliatifs ou face à des questions éthiques. McKendrick et Thurai soulignent que l’IA échoue régulièrement dans de telles décisions liées à un contexte, car il lui manque l’empathie, l’éthique et une compréhension holistique.²

Un taux de réussite élevé ne suffit donc pas. Les professionnels veulent pouvoir comprendre comment un résultat a été obtenu. Le système doit pouvoir indiquer quels critères il a utilisés, comment il a pondéré les informations et quels arbitrages il a opérés. Les modèles de type «boîte noire», qui fournissent des résultats sans justification, ne sont d’aucune utilité dans la pratique quotidienne. Dans un environnement réglementé comme le système de santé suisse, la transparence n’est pas un «nice-to-have», mais une condition préalable à la confiance, à l’acceptation et à la sécurité juridique.

L’avenir de l’IA médicale ne réside pas dans de grands systèmes globaux et universels, mais dans des solutions spécialisées et transparentes, fondées sur une base professionnelle solide. Viot³ et Modi⁴ soulignent cette tendance: les modèles hyperspécialisés sont plus efficaces, plus précis et plus économes en ressources que les généralistes de taille excessive. Ce sont précisément ces critères – efficacité, précision et durabilité – qui sont déterminants dans le système de santé suisse.

Cela permet d’atteindre deux objectifs: améliorer la qualité et l’efficacité des soins tout en renforçant la confiance des professionnels de santé et des patientes et patients. En effet, les mauvaises décisions peuvent avoir des conséquences non seulement économiques, mais aussi sur la santé.

Les expériences et observations partagées ci-dessus s’inscrivent dans un débat plus large, qui va bien au-delà de la technique. L’IA peut certes agréger des données et calculer des probabilités statistiques, mais les décisions ne sont jamais purement arithmétiques. Reeves, Moldoveanu et Job soulignent dans un autre article de la HBR que le jugement humain intègre toujours aussi le contexte, l’éthique et l’imagination – des facultés que les machines ne peuvent pas remplacer.⁵  Pour le système de santé suisse, cela signifie que que l’IA doit «comprendre» la logique professionnelle et le cadre réglementaire, mais ne doit pas se substituer à la responsabilité humaine et prendre des décisions de manière autonome.

Certaines études sur le développement organisationnel montrent également que la technologie seule ne suffit pas. Fountaine, McCarthy et Saleh affirment que le succès de l’IA dépend avant tout de la culture, de la collaboration et d’une intégration claire dans les processus de travail.⁶ Cela vaut également pour le système de santé suisse: sans une implication étroite du corps médical et autres professionnels de santé, les systèmes spécialisés ne peuvent pas être pérennes.

Ce qui permettra à l’IA de demain de se démarquer des systèmes actuels ne sera pas sa taille ou sa puissance de calcul, mais sa capacité à relier savoir local, pratique médicale et innovation. Cela suppose une collaboration continue avec des expertes et experts suisses. Ce n’est qu’ainsi que les systèmes pourront être adaptés en continu aux nouvelles normes, lois et particularités régionales – et que l’IA cessera d’être une simple tendance pour devenir un véritable partenaire permettant une meilleure prise en charge médicale.

Devra-t-on, à l’avenir, disposer d’un système d’IA spécifique pour chaque cas d’utilisation? Pas nécessairement! Les systèmes hybrides, qui associent généralistes et spécialistes, constituent une approche prometteuse. Les modèles d’IA généralistes sont bien adaptés aux tâches de soutien: ils peuvent améliorer le service à la clientèle, synthétiser des documents médicaux ou faciliter la gestion des connaissances. Ces systèmes sont flexibles, polyvalents et facilitent le quotidien des collaborateurs/-trices dans les tâches administratives et de communication, mais les tâches médicales complexes requièrent des modèles spécialisés.

Les organisations qui prévoient d’introduire l’IA devraient donc se poser les mêmes questions que Nigam et Glaser:

• Le processus décisionnel du système peut-il être retracé?
• Le système a-t-il été développé avec des spécialistes et ces derniers contribuent-ils à son optimisation continue?
• Est-il modulaire et permet-il d’intégrer de nouveaux domaines d’application comme la rééducation, la psychiatrie ou les soins longue durée?

Les réponses à ces questions montreront si l’IA restera un simple outil technique ou si elle deviendra un partenaire fiable pour les professionnels de santé.

L’IA peut optimiser les soins de santé si elle se fonde sur un savoir spécialisé, garantit des processus décisionnels transparents et est développée en étroite collaboration avec les praticiens/-iennes. Les modèles généralistes conservent leur utilité pour les tâches de soutien. Mais là où il en va de la vie et de la santé des personnes, nous avons besoin de systèmes spécialisés qui «pensent» médicalement – et qui soient des partenaires, non des boîtes noires, pour les médecins.

¹ Nigam, Amber et John Glaser. «Should Your Business Use a Generalist or Specialized AI Model?» Harvard Business Review, 23 juillet 2025. https://hbr.org/2025/07/should-your-business-use-a-generalist-or-specialized-ai-model.

² McKendrick, Joe et Andy Thurai. «AI Isn’t Ready to Make Unsupervised Decisions», Harvard Business Review, 15 septembre 2022. https://hbr.org/2022/09/ai-isnt-ready-to-make-unsupervised-decisions.

³ Viot, Edlouard. «The Future Of AI Is Specialization» Forbes Technology Council, 30 mai 2025, https://www.forbes.com/consent/ketch/?toURL=https://www.forbes.com/councils/forbestechcouncil/2025/05/30/the-future-of-ai-is-specialization/.

⁴ Modi, Darshil. «The Rise of Specialized AI Models: Unlocking New Efficiencies for Business Growth», LinkedIn, 5 mai 2025, https://www.linkedin.com/pulse/rise-specialized-ai-models-unlocking-new-efficiencies-darshil-modi-t2orf/.

⁵ Reeves, Martin, Mihnea Moldoveanu et Adam Job. «The Irreplaceable Value of Human Decision-Making in the Age of AI» Harvard Business Review, 11 décembre 2024. https://hbr.org/2024/12/the-irreplaceable-value-of-human-decision-making-in-the-age-of-ai.

⁶ Fountaine, Tim, Brian McCarthy et Tamim Saleh. «Building the AI-Powered Organization.» Harvard Business Review, juillet-août 2019. https://hbr.org/2019/07/building-the-ai-powered-organization.