Santé et IA générative : quels défis éthiques ?

Quels sont les principaux défis éthiques posés par l’utilisation de l’IA générative en santé ?

Les IA génératives, comme ChatGPT par exemple, ont connu un développement rapide ces dernières années, suscitant un intérêt croissant pour leur utilisation dans divers domaines, notamment la santé. Cependant, cette expansion s’accompagne de préoccupations éthiques majeures, notamment en matière de confidentialité, d’équité et de fiabilité des informations générées.

Faisant suite à nos notes sur les aspects clés d’une utilisation éthique de l’IA générative, nous abordons aujourd’hui la question des usages de cette technologie dans le domaine de la santé. Comment aborder les défis éthiques ? Quels enjeux et quels principes pour guider son utilisation ?

Un article publié en septembre 2024 dans The Lancet Digital Health, examine les préoccupations éthiques soulevées par l’utilisation croissante de l’intelligence artificielle générative (IA générative ou GenAI) dans le domaine de la santé.

Les auteurs soulignent que bien que ces technologies, puissent apporter des bénéfices importants, elles posent aussi de nombreux défis éthiques. Par exemple, les questions de confidentialité des données, d’équité dans l’accès aux soins, et de précision des informations générées par ces systèmes sont débattues, mais les discussions restent souvent théoriques et n’ont pas encore été traduites en solutions opérationnelles. Cet article cherche à combler ces lacunes en fournissant une liste de contrôle éthique pour guider l’utilisation responsable de l’IA générative en médecine.

L’objectif principal de l’étude est de réaliser une revue des discussions éthiques portant sur l’IA générative dans le domaine de la santé. À travers cette revue, les auteurs veulent non seulement identifier les lacunes dans la recherche actuelle, mais également proposer des solutions pratiques pour une évaluation éthique complète des applications de l’IA en santé.

Pour ce faire, les auteurs ont mené une revue de la littérature à travers plusieurs bases de données telles que PubMed, Embase, Web of Science et Scopus et ont inclus 193 articles publiés entre janvier 2013 et juillet 2023 qui portaient sur les concepts de « l’éthique de l’IA », de « l’intelligence artificielle générative » et de « la santé ». Les articles ont ensuite été filtrés pour n’inclure que ceux qui traitaient explicitement des enjeux éthiques liés à l’IA générative.

A partir de l’étude de ces articles, les auteurs ont observé que les préoccupations les plus fréquemment mentionnées concernaient :

• La confidentialité et la sécurité des données des patients
• Les biais potentiels introduits par l’IA dans les résultats de soins de santé
• L’importance de la transparence et de l’équité dans l’utilisation des modèles d’IA

Les auteurs ont noté que la majorité des travaux se concentrent plutôt sur l’identification des risques éthiques et peu proposent des solutions concrètes pour résoudre ces problèmes.

Suite à cette revue de la littérature, les auteurs ont développé une liste de contrôle pour évaluer les aspects éthiques des applications de l’IA générative dans le domaine médical. Cette liste, appelée « TREGAI » (Transparent Reporting of Ethics for Generative AI), comprend neuf principes éthiques, et peut servir de checklist lors de l’analyse d’articles qui traitent de l’IA Générative (Fig. 1). Les principes éthiques énoncés dans la TREGAI sont les suivants :

1. Responsabilité : Clarifier précisément qui est responsable et dans quelle mesure, sur le plan moral ou légal, de l’utilisation de l’IA générative.
2. Autonomie : Préserver la dignité et les droits des patients.
3. Équité : Assurer un accès équitable aux technologies de l’IA Générative.
4. Intégrité : Respecter les normes de conduite en recherche clinique et médicale.
5. Non-malfaisance : Prévenir les risques et les dommages de l’utilisation de l’IA Générative pour les patients.
6. Confidentialité : Protéger les informations sensibles des patients.
7. Sécurité : Garantir l’intégrité des données médicales.
8. Transparence : Documenter et rendre accessible les processus de développement de l’IA Générative.
9. Confiance : Établir des preuves de performance et des limitations de l’IA Générative pour favoriser la confiance des utilisateurs.

Proposée afin de combler les lacunes actuelles dans la recherche éthique sur l’IA Générative dans le domaine de la santé, cette liste peut comporter des mises à jour. Pourtant, alors que la plupart des recherches soulèvent des préoccupations sans offrir de directives pratiques, l’outil TREGAI fournit une solution concrète pour intégrer les réflexions éthiques dans la conception et l’utilisation des systèmes d’IA Générative en santé.

Cet article insiste sur l’importance d’un cadre éthique clair, encourageant les chercheurs, régulateurs et développeurs à adopter des pratiques plus transparentes et équitables.

---

Référence

Ning, Y., Teixayavong BSS, S., Shang, Y., Miao, D., W Ting, D. S., Liu, M., Vaughan, R., Liu, N., in Health Services, P., Research Vaughan, S. R., H Ong MPH, M. E., Savulescu, J., Dunn, M., Ning, Y., Teixayavong, S., Shang, Y., Savulescu, J., Nagaraj, V., Miao, D., … Liu, N. (2024). Centre for Quantitative Medicine ( Generative artificial intelligence and ethical considerations in health care: a scoping review and ethics checklist. Lancet Digit Health.