Azra Dhalla, directrice de la mise en œuvre de l’IA en santé, souligne un besoin crucial pour une mise en œuvre sécuritaire de l’IA dans les soins de santé

Dans les hôpitaux de l’Ontario, les unités de soins intensifs (USI) disposent de technologies avancées et d’experts qualifiés capables de sauver des vies. Mais parfois, les médecins et infirmières en hospitalisation ne peuvent pas prédire quand l’état d’un patient va s’aggraver, ce qui signifie que certains patients peuvent arriver trop tard aux soins intensifs. Pour résoudre ce problème, en 2020, l’hôpital St. Michael’s, une partie de Unity Health Toronto (UHT), a déployé CHARTWatch, un outil d’IA développé par l’UHT avec le soutien de l’Institut Vector. CHARTWatch utilise les données des patients pour déterminer quels patients hospitalisés sont le plus à risque d’escalader en soins intensifs ou de mourir, aidant ainsi les équipes de soins de santé à prendre des décisions éclairées plus rapidement. CHARTWatch a déjà démontré un succès significatif. Même pendant la pandémie, cela a réduit l’escalade et la mortalité en USI de plus de 20%. Chaque année, on estime que 100 décès de personnes ont été évités grâce à cette utilisation de l’IA. Le personnel hospitalier rapporte aussi que cela a allégé le stress et la charge de travail pour eux, leur permettant de se concentrer sur les patients qui en ont le plus besoin.

En tant que directeur de la mise en œuvre de l’IA en santé chez Vector, j’ai vu des résultats positifs comme ceux-ci se produire lors de l’intégration de l’IA dans nos domaines de soins de santé. Lorsqu’elle est bien mise en œuvre, l’IA peut offrir des solutions de soins de santé préventives et personnalisées qui améliorent les résultats pour les patients et permettent une efficacité au niveau du système. Mais alors que nous déployons l’IA dans nos systèmes de santé, il est crucial de nous concentrer sur ce fait de manière sécuritaire et fiable. En mettant l’accent sur une mise en œuvre sécuritaire, nous pouvons vraiment exploiter le potentiel transformateur de l’IA tout en atténuant les risques pour les professionnels de la santé et les patients.

Le besoin d’une mise en œuvre sécuritaire de l’IA en santé

Le rôle croissant de l’IA dans les soins de santé soulève une série de défis et de considérations pour son déploiement sécuritaire. La vie privée, la sécurité des données et les biais sont des préoccupations compréhensibles chez les professionnels de la santé et les patients. Les professionnels de la santé canadiens font souvent face à des obstacles lorsqu’il s’agit d’accéder aux données de santé pour la recherche, surtout ceux qui souhaitent profiter des bienfaits potentiels de l’IA. Un accès sécurisé et protégé par la vie privée aux données des patients est impératif pour réussir à mettre en œuvre l’IA en santé. De plus, protéger la vie privée des patients tout en assurant l’interopérabilité et les pratiques sécuritaires de partage des données entre les fournisseurs de soins de santé et les praticiens de l’IA est crucial pour libérer tout le potentiel de l’IA en santé. 

Intégrer des mécanismes de contrôle et d’équilibre tout au long du processus de développement et de déploiement des modèles d’IA peut atténuer les risques potentiels et garantir que l’IA profite en toute sécurité à nos systèmes de santé, praticiens et patients. À cette fin, le Vector Institute a développé une boîte à outils pour la mise en œuvre de l’IA en santé destinée à toute personne souhaitant déployer des modèles d’IA dans des environnements cliniques. S’appuyant sur l’expertise de la communauté Vector, cette boîte à outils est une ressource complète qui offre un guide étape par étape pour la mise en œuvre de l’IA, ponctué d’exemples concrets, de listes de vérification faciles à suivre et de considérations d’IA sûres et fiables.

Relever les défis de l’IA sécuritaire

Un autre défi important dans la mise en œuvre de l’IA est de traiter les biais dans les algorithmes et ensembles de données de l’IA. En 2021, Laleh Seyyed-Kalantari et ses collègues ont découvert qu’un modèle d’IA sur lequel elles travaillaient sous-diagnostiquait des groupes traditionnellement mal desservis, y compris les patients noirs et à faible revenu, ainsi que les patients sans assurance maladie. D’autres études ont non seulement confirmé leurs résultats, mais ont montré que le modèle fonctionnerait réellement contre ces groupes, diagnostiquant à tort les maladies des groupes historiquement sous-desservis comme étant au même taux que la population globale, même lorsque les taux réels peuvent être plus élevés ou plus faibles. « Si vous construisez un modèle d’IA qui est mis en pratique et qu’il ne parvient pas à assurer l’égalité pour toute la population, les gens perdront confiance dans le système », explique Seyyed-Kalantari, professeur adjoint à l’Université York et ancien postdoctorant Vector. Les recherches de Seyyed-Kalantari soulignent les disparités qui peuvent survenir, surtout pour les populations traditionnellement mal desservies, ainsi que l’impact négatif sur des diagnostics précis et l’accès aux ressources de soins de santé lorsque les modèles d’IA sont mal déployés. Il est crucial que le biais dans les données soit pris en compte dès le départ et ne cesse pas après le déploiement d’un modèle. 

Mais avec la boîte à outils de Vector, les utilisateurs peuvent s’assurer de cocher toutes les cases en ce qui concerne la gestion :

• • Sécurité des données – en mettant en place des mesures de sécurité robustes pour protéger les renseignements des patients et respecter les règlements sur la vie privée, comme la Loi sur la protection des renseignements personnels sur la santé (PHIPA).

• • Performance du modèle – en surveillant et en évaluant constamment pour assurer la performance du modèle au fil du temps.

• • Biais en IA – en auditant et en évaluant régulièrement les systèmes d’IA pour leur équité et leur équité à l’aide d’outils comme CyclOps de Vector, un ensemble d’outils d’évaluation et de surveillance que les utilisateurs peuvent appliquer pour développer et évaluer des modèles sophistiqués d’apprentissage automatique en milieu clinique.

En intégrant les meilleures pratiques en matière de confidentialité des données, de réduction des biais et de maintien continu du modèle tel que décrit dans la boîte à outils, les utilisateurs peuvent mettre en œuvre l’IA avec soin de manière à prioriser la sécurité des patients et à contribuer à l’avancement de résultats de soins de santé équitables et efficaces.

Autonomiser les professionnels de la santé et améliorer les résultats pour les patients

Je crois que nous nous dirigeons vers un moment où nous verrons un changement positif dans notre système de santé. Nous avons une occasion unique d’appliquer la recherche et les solutions en IA pour moderniser les soins de santé et relever les défis auxquels nous faisons face dans notre système de santé. Reconnaissant le potentiel de l’IA pour transformer les soins aux patients, il est essentiel d’adopter cette technologie plutôt que de reculer à cause des risques. Nous faisons face à un système de santé surchargé depuis si longtemps maintenant; si nous avons une IA responsable qui peut être déployée de façon durable à grande échelle, nous pourrons prendre de meilleures décisions en matière de soins de santé qui serviront mieux les Canadiens.

Nous avons déjà vu que l’IA implémentée en santé peut : 

• Évaluez les risques chez les patients en déterminant lesquels sont les plus à risque d’escalader en soins intensifs ou de mourir. 

• Améliorer les soins pour les personnes vivant avec une insuffisance cardiaque congestive en recueillant des données sur les appareils portables, en réduisant les hospitalisations de moitié et en permettant aux coordonnateurs infirmiers de soutenir six fois plus de patients qu’auparavant. 

• Améliorer les soins contre le cancer grâce à l’apprentissage automatique en renforçant la précision des chirurgies du cancer du sein et en accélérant la détection et le diagnostic du cancer de la prostate.

Nous avons une immense opportunité de permettre un changement durable et d’avoir un impact positif sur les soins aux patients. Pour y parvenir, nous devons atténuer les risques avec un engagement ferme envers des pratiques d’IA sécuritaires. Nous pouvons entreprendre ce parcours avec confiance, en respectant les normes et les directives qui assurent l’intégration sécuritaire de l’IA dans les soins de santé. Cela permettrait aux professionnels de la santé de combler le fossé entre les technologies de pointe et la prestation de services de santé de haute qualité.