Mise en œuvre sûre de l'IA dans le domaine de la santé : Pourquoi la bonne approche est importante

22 novembre 2023

La santé Perspectives

Azra Dhalla, directrice de la mise en œuvre de l'IA dans le domaine de la santé, souligne le besoin critique d'une mise en œuvre sûre de l'IA dans les soins de santé.

Dans tous les hôpitaux de l'Ontario, les unités de soins intensifs (USI) disposent de technologies de pointe et d'experts qualifiés qui peuvent sauver des vies. Mais parfois, les médecins et les infirmières des unités d'hospitalisation ne peuvent pas prédire quand l'état d'un patient va s'aggraver, ce qui signifie que certains patients peuvent arriver trop tard aux soins intensifs. Michael's Hospital, qui fait partie de Unity Health Toronto (UHT), a déployé CHARTWatch, un outil d'IA développé par l'UHT avec le soutien de l'Institut Vecteur. CHARTWatch utilise les données des patients pour déterminer quels sont les patients hospitalisés qui risquent le plus d'être transférés aux soins intensifs ou de mourir, aidant ainsi les équipes soignantes à prendre plus rapidement des décisions éclairées. CHARTWatch a déjà fait ses preuves. Même pendant la pandémie, il a permis de réduire de plus de 20 % le nombre d'hospitalisations et de décès dans les unités de soins intensifs. Chaque année, on estime que 100 décès ont été évités grâce à l'utilisation de l'IA. Le personnel hospitalier signale également que ce système a réduit son stress et sa charge de travail, ce qui lui permet de se concentrer sur les patients qui en ont le plus besoin.

En tant que directeur de la mise en œuvre de l'IA dans le domaine de la santé chez Vector, j'ai constaté que l'intégration de l'IA dans nos espaces de soins de santé donnait des résultats positifs comme ceux-là. Lorsqu'elle est correctement mise en œuvre, l'IA peut fournir des solutions de soins de santé préventifs et personnalisés qui peuvent améliorer les résultats pour les patients et permettre une efficacité au niveau du système. Mais à mesure que nous déployons l'IA dans nos systèmes de santé, il est essentiel que nous nous attachions à le faire de manière sûre et fiable. En nous concentrant sur une mise en œuvre sûre, nous pourrons réellement exploiter le potentiel de transformation de l'IA tout en atténuant les risques pour les professionnels de la santé et les patients.

La nécessité d'une mise en œuvre sûre de l'IA dans le domaine de la santé

Le rôle croissant de l'IA dans les soins de santé soulève une série de défis et de considérations pour son déploiement en toute sécurité. La protection de la vie privée, la sécurité des données et les préjugés sont des préoccupations compréhensibles parmi les professionnels de la santé et les patients. Les professionnels de la santé canadiens se heurtent souvent à des obstacles lorsqu'il s'agit d'accéder aux données de santé pour la recherche, en particulier ceux qui souhaitent utiliser les avantages potentiels de l'IA. Un accès sécurisé et respectueux de la vie privée aux données des patients est impératif pour mettre en œuvre avec succès l'IA dans le domaine de la santé. En outre, il est essentiel de protéger la vie privée des patients tout en garantissant l'interopérabilité et des pratiques sûres de partage des données entre les prestataires de soins de santé et les praticiens de l'IA afin de libérer tout le potentiel de l'IA dans le domaine de la santé. 

L'intégration de contrôles et d'équilibres tout au long du processus de développement et de déploiement des modèles d'IA peut atténuer les risques potentiels et garantir que l'IA profite en toute sécurité à nos systèmes de soins de santé, à nos praticiens et à nos patients. À cette fin, l'Institut Vector a mis au point une boîte à outils de mise en œuvre de l'IA dans le domaine de la santé à l'intention de tous ceux qui souhaitent déployer des modèles d'IA dans des environnements cliniques. S'appuyant sur l'expertise de la communauté Vector, la boîte à outils est une ressource complète qui offre un guide étape par étape vers la mise en œuvre de l'IA, ponctué d'exemples du monde réel, de listes de contrôle faciles à suivre et de considérations sur la sécurité et la fiabilité de l'IA.

Relever les défis de l'IA sûre

Un autre défi de taille dans la mise en œuvre de l'IA est la prise en compte des préjugés dans les algorithmes d'IA et les ensembles de données. En 2021, Laleh Seyyed-Kalantari et ses collègues ont découvert qu'un modèle d'IA avec lequel ils travaillaient ne diagnostiquait pas suffisamment les groupes traditionnellement mal desservis, notamment les patients noirs, les patients à faible revenu et les patients sans assurance maladie. D'autres études ont non seulement confirmé leurs conclusions, mais ont également montré que le modèle était en fait moins performant que ces groupes, diagnostiquant à tort les maladies des groupes historiquement mal desservis comme étant au même taux que la population globale, même si les taux réels peuvent être plus élevés ou plus bas. "Si vous construisez un modèle d'IA qui est mis en pratique et qu'il ne parvient pas à assurer l'égalité pour l'ensemble de la population, les gens perdront leur confiance dans le système", explique M. Seyyed-Kalantari, professeur adjoint à l'université York et ancien chercheur postdoctoral de Vector. La recherche de M. Seyyed-Kalantari met en évidence les disparités qui peuvent survenir, en particulier pour les populations traditionnellement mal desservies, et l'impact négatif sur l'exactitude des diagnostics et l'accès aux ressources de soins de santé, lorsque les modèles d'IA sont déployés de manière incorrecte. Il est essentiel que les biais dans les données soient pris en compte dès le départ et ne s'arrêtent pas après le déploiement d'un modèle. 

Blob
Blob

Mais grâce à la boîte à outils de Vector, les utilisateurs peuvent s'assurer qu'ils remplissent toutes les conditions requises en matière d'adressage :

    • Sécurité des données - en mettant en œuvre des mesures de sécurité solides pour protéger les informations des patients et se conformer aux réglementations en matière de protection de la vie privée, telles que la loi sur la protection des informations personnelles sur la santé (PHIPA).

    • Performance du modèle - en contrôlant et en évaluant en permanence la performance du modèle au fil du temps.

    • Biais dans l'IA - en vérifiant et en évaluant régulièrement les systèmes d'IA en termes de justice et d'équité à l'aide d'outils tels que CyclOps de Vector, un ensemble d'outils d'évaluation et de surveillance que les utilisateurs peuvent appliquer pour développer et évaluer des modèles d'apprentissage automatique sophistiqués dans des contextes cliniques.

En intégrant les meilleures pratiques en matière de confidentialité des données, d'atténuation des préjugés et de maintenance continue des modèles, telles que décrites dans la boîte à outils, les utilisateurs peuvent mettre en œuvre l'IA de manière à donner la priorité à la sécurité des patients et à contribuer à l'obtention de résultats équitables et efficaces en matière de soins de santé.

Responsabiliser les professionnels de la santé et améliorer les résultats pour les patients

Je crois que nous nous dirigeons vers une période où notre système de santé connaîtra des changements positifs. Nous avons une occasion unique d'appliquer la recherche et les solutions en matière d'IA pour moderniser les soins de santé et relever les défis auxquels nous sommes confrontés dans notre système de santé. Reconnaissant le potentiel de l'IA pour transformer les soins aux patients, il est essentiel que nous adoptions cette technologie plutôt que de la fuir en raison des risques qu'elle comporte. Si nous disposons d'une IA responsable qui peut être déployée durablement à grande échelle, nous serons en mesure de prendre de meilleures décisions en matière de soins de santé, ce qui permettra de mieux servir les Canadiens.

Nous avons déjà constaté que l'IA mise en œuvre dans le domaine de la santé peut.. : 

  • Améliorer les soins aux personnes souffrant d'insuffisance cardiaque congestive en collectant des données à partir de dispositifs portables, en réduisant de moitié les hospitalisations et en permettant aux infirmières coordinatrices de prendre en charge six fois plus de patients qu'auparavant. 

Nous avons une immense opportunité de permettre un changement durable et d'avoir un impact positif sur les soins aux patients. Pour ce faire, nous devons atténuer les risques en nous engageant fermement à adopter des pratiques sûres en matière d'IA. Nous pouvons nous engager dans cette voie en toute confiance, en adhérant à des normes et à des orientations qui garantissent l'intégration sûre de l'IA dans les soins de santé. Cela permettrait aux professionnels de la santé de combler le fossé entre les technologies de pointe et la prestation de services de santé de haute qualité.

Explorez la boîte à outils de mise en œuvre de l'IA dans le domaine de la santé de Vector dès maintenant

En rapport :

Perspectives
Grands modèles linguistiques

Des protocoles normalisés sont essentiels pour un déploiement responsable des modèles linguistiques

Un homme regarde un tableau blanc sur lequel sont inscrites des formules en rouge.
Perspectives
Une IA digne de confiance

Comment mettre en œuvre des systèmes d'IA en toute sécurité

Deux personnes jouant aux échecs
Perspectives
Recherche

Blogue de Vector Research : Votre réseau neuronal est-il en danger ? Le piège des optimiseurs de gradient adaptatifs