Azra Dhalla, directrice de la mise en œuvre de l'IA dans le domaine de la santé, souligne l'importance cruciale d'une mise en œuvre sécuritaire de l'IA dans les soins de santé.
Dans les hôpitaux de l'Ontario, les unités de soins intensifs (USI) sont dotées de technologies de pointe et d'une équipe d'experts qualifiés capables de sauver des vies. Cependant, il arrive que les médecins et les infirmières des unités d'hospitalisation ne puissent pas prédire l'aggravation de l'état d'un patient, ce qui signifie que certains patients arrivent trop tard en USI. Pour remédier à cette situation, en 2020, l'hôpital St. Michael's, qui fait partie d'Unity Health Toronto (UHT), a déployé CHARTWatch, un outil d'intelligence artificielle développé par UHT avec le soutien du Vector Institute. CHARTWatch utilise les données des patients pour déterminer quels patients hospitalisés présentent le risque le plus élevé d'une aggravation de leur état et d'un décès, aidant ainsi les équipes soignantes à prendre des décisions éclairées plus rapidement. CHARTWatch a déjà démontré son efficacité. Même pendant la pandémie, il a permis de réduire de plus de 20 % les admissions en USI et les décès. On estime que chaque année, 100 décès ont été évités grâce à l'utilisation de cette IA. Le personnel hospitalier témoigne également d'une réduction du stress et de la charge de travail, ce qui lui permet de se concentrer sur les patients qui en ont le plus besoin.
En tant que directrice de la mise en œuvre de l'IA en santé chez Vector, j'ai constaté des résultats positifs comme ceux-ci lors de l'intégration de l'IA dans nos établissements de santé. Correctement mise en œuvre, l'IA peut fournir des solutions de santé préventives et personnalisées, améliorant ainsi la prise en charge des patients et l'efficacité du système. Toutefois, lors du déploiement de l'IA dans nos systèmes de santé, il est crucial de veiller à ce que ce déploiement se fasse de manière sécuritaire et fiable. En privilégiant une mise en œuvre sécurisée, nous pourrons exploiter pleinement le potentiel transformateur de l'IA tout en minimisant les risques pour les professionnels de la santé et les patients.
La nécessité d'une mise en œuvre sécuritaire de l'IA dans le domaine de la santé
Le rôle croissant de l'IA dans les soins de santé soulève de nombreux défis et considérations quant à son déploiement sécuritaire. La protection de la vie privée, la sécurité des données et les risques de biais sont des préoccupations légitimes pour les professionnels de la santé et les patients. Au Canada, les professionnels de la santé rencontrent souvent des obstacles pour accéder aux données de santé à des fins de recherche, notamment ceux qui souhaitent exploiter les avantages potentiels de l'IA. Un accès sécurisé et respectueux de la vie privée aux données des patients est essentiel à la réussite de la mise en œuvre de l'IA en santé. De plus, la protection de la vie privée des patients, tout en assurant l'interopérabilité et des pratiques de partage de données sécuritaires entre les fournisseurs de soins de santé et les spécialistes de l'IA, est cruciale pour libérer tout le potentiel de l'IA en santé.
L'intégration de mécanismes de contrôle tout au long du processus de développement et de déploiement des modèles d'IA permet d'atténuer les risques potentiels et de garantir que l'IA profite en toute sécurité à nos systèmes de santé, aux professionnels de la santé et aux patients. À cette fin, l'Institut Vector a développé une trousse d'outils pour la mise en œuvre de l'IA en santé , destinée à toute personne souhaitant déployer des modèles d'IA en milieu clinique. S'appuyant sur l'expertise de la communauté Vector, cette boîte à outils constitue une ressource complète offrant un guide étape par étape pour la mise en œuvre de l'IA, ponctué d'exemples concrets, de listes de contrôle faciles à suivre et de considérations relatives à une IA sûre et fiable.
Relever les défis de l'IA sécuritaire
Un autre défi majeur de la mise en œuvre de l'IA consiste à corriger les biais dans les algorithmes et les ensembles de données. En 2021, Laleh Seyyed-Kalantari et ses collègues ont découvert qu'un modèle d'IA sur lequel ils travaillaient sous-diagnostiquait les groupes traditionnellement mal desservis, notamment les Noirs, les patients à faible revenu et les patients sans assurance maladie. Des études ultérieures ont non seulement confirmé leurs conclusions, mais ont également démontré que le modèle était en réalité inefficace envers ces groupes, diagnostiquant à tort des maladies chez ces populations comme ayant le même taux que dans la population générale, même lorsque les taux réels pouvaient être supérieurs ou inférieurs. « Si un modèle d'IA est mis en pratique et qu'il ne garantit pas l'égalité d'accès aux soins pour l'ensemble de la population, les gens perdront confiance dans le système », explique Seyyed-Kalantari, professeure adjointe à l'Université York et ancienne boursière postdoctorale de Vector. Les recherches de Seyyed-Kalantari mettent en lumière les disparités qui peuvent survenir, en particulier pour les populations traditionnellement mal desservies, et l'impact négatif sur la précision des diagnostics et l'accès aux ressources de soins de santé, lorsque les modèles d'IA sont mal utilisés. Il est essentiel que les biais dans les données soient pris en compte dès le départ et que cette prise en compte ne s'arrête pas après le déploiement d'un modèle.
Mais grâce à la boîte à outils de Vector , les utilisateurs peuvent s'assurer de cocher toutes les cases en matière de traitement :
Sécurité des données – en mettant en œuvre des mesures de sécurité robustes pour protéger les renseignements sur les patients et se conformer aux règlements sur la protection de la vie privée, comme la Loi sur la protection des renseignements personnels sur la santé (LPRPS).
Performance du modèle – en surveillant et en évaluant constamment la performance du modèle afin d'assurer sa performance au fil du temps.
Préjugé en IA – en auditant et en évaluant régulièrement les systèmes d'IA pour garantir leur équité et leur impartialité à l'aide d'outils comme CyclOps de Vector , un ensemble d'outils d'évaluation et de surveillance que les utilisateurs peuvent appliquer pour développer et évaluer des modèles d'apprentissage automatique sophistiqués dans des contextes cliniques.
En intégrant les meilleures pratiques en matière de confidentialité des données, d'atténuation des biais et de maintenance continue des modèles, telles que décrites dans la boîte à outils, les utilisateurs peuvent mettre en œuvre l'IA avec soin, en privilégiant la sécurité des patients et en contribuant à l'amélioration des résultats en matière de soins de santé équitables et efficaces.
Donner aux professionnels de la santé les moyens d'agir et améliorer les résultats pour les patients
Je crois que nous nous dirigeons vers une ère de transformation positive de notre système de santé. Nous avons une occasion unique d'appliquer la recherche et les solutions en intelligence artificielle pour moderniser les soins de santé et relever les défis auxquels notre système est confronté. Conscient du potentiel de l'IA pour transformer les soins aux patients, il est essentiel d'adopter cette technologie plutôt que de la rejeter par crainte des risques. Notre système de santé est surchargé depuis trop longtemps ; si nous disposons d'une IA responsable, déployable à grande échelle et de façon durable, nous pourrons prendre de meilleures décisions en matière de soins de santé, au bénéfice des Canadiens.
Nous avons déjà constaté que l'IA mise en œuvre dans le domaine de la santé peut :
- Évaluer les risques chez les patients en déterminant quels patients hospitalisés présentent le plus grand risque de voir leur état s'aggraver et qu'ils soient transférés aux soins intensifs ou décéder.
- Améliorer la prise en charge des personnes souffrant d'insuffisance cardiaque congestive en recueillant des données provenant d'appareils portables, réduisant ainsi de moitié les hospitalisations et permettant aux infirmières coordinatrices de prendre en charge six fois plus de patients qu'auparavant.
- Améliorer les soins contre le cancer grâce à l'apprentissage machine par améliorer la précision des interventions chirurgicales du cancer du sein et accélérer la détection et le diagnostic du cancer de la prostate.
Nous avons là une formidable occasion de favoriser un changement durable et d'améliorer concrètement la prise en charge des patients. Pour ce faire, nous devons atténuer les risques grâce à un engagement sans faille envers des pratiques d'IA sûres. Nous pouvons entreprendre cette démarche avec confiance, en respectant les normes et les recommandations qui assurent une intégration sécurisée de l'IA dans les soins de santé. Cela permettra aux professionnels de la santé de faire le lien entre les technologies de pointe et la prestation de services de santé de haute qualité.
