Nous remercions tout particulièrement EY Canada, qui a coorganisé l'événement avec Vector et a fourni l'espace nécessaire.
Un déploiement fiable et sécuritaire de l'IA en santé tient compte de l'urgence, répond à un besoin précis et apporte une réelle valeur ajoutée aux utilisateurs. Tel était le consensus lors de l'événement « Des principes à la pratique : promouvoir une IA responsable dans le secteur de la santé », coorganisé par le Vector Institute et EY, commanditaire principal de Vector. Un atelier technique de suivi a eu lieu peu après.
Organisé le 13 mai 2024, cet événement a réuni plus de 80 responsables du secteur de la santé provenant des secteurs privé, public et de la recherche. Visant à éclairer nos partenaires sur le déploiement de l'IA en santé, il s'est concentré sur le partage d'étapes concrètes de déploiement pour assurer la sécurité, notamment des stratégies de suivi des modèles d'IA tout au long de leur cycle de vie, la garantie de l'intégrité des données et la mise en œuvre de processus rigoureux de validation et de maintenance. Dans le cadre de l'engagement de Vector envers une IA responsable, cet événement a fourni aux responsables des pistes d'action et des outils concrets pour développer et intégrer l'IA en toute sécurité dans les contextes cliniques.
Les chercheurs de Vector abordent sans détour les limites de l'IA et comment s'y adapter.
Développer et déployer des modèles d'IA en toute sécurité dans le domaine de la santé n'est pas toujours chose aisée. À ce jour, seule une faible proportion des initiatives de recherche en IA appliquées à la santé ont été transposées avec succès en milieu clinique. Ceci est souvent dû aux difficultés rencontrées pour élaborer et mettre en œuvre des stratégies de déploiement robustes intégrant les étapes nécessaires et les meilleures pratiques. Les présentations de cas cliniques ont mis en lumière comment l'IA peut répondre à des problèmes de santé urgents lorsqu'elle est déployée de manière responsable.
Amol Verma et Fahad Razak, membres associés de Vector Institute et cofondateurs du réseau de partage de données sur la santé GEMINI, ont présenté une initiative d'IA pour le delirium, un état confusionnel aigu et un problème majeur pour les cliniciens. Ils ont exposé les bases de la mise en œuvre de l'IA pour identifier les cas de delirium et la difficulté pour les cliniciens de les diagnostiquer suffisamment tôt pour intervenir préventivement. Jusqu'à 40 % des cas sont évitables par des interventions simples, mais le delirium est mal documenté dans les données enregistrées. L'équipe GEMINI a vu là une occasion d'utiliser l'apprentissage machine pour améliorer la qualité des soins et a développé un outil d'IA évolutif pour une détection précise du delirium et une prédiction des risques. Ils utilisent CyclOps , un outil open source de Vector Institute, pour suivre les performances du modèle.
Seulement une faible proportion des initiatives de recherche en intelligence artificielle pour la santé ont été transposées avec succès en milieu clinique. Cela s'explique souvent par les difficultés rencontrées pour élaborer et mettre en œuvre des stratégies de déploiement robustes intégrant les étapes nécessaires et les meilleures pratiques.
Benjamin Fine, chercheur associé à Vector et chercheur clinique chez Trillium Health Partners (THP), a présenté au public une méthode d'évaluation de la sécurité d'un outil d'IA commercial pour le triage des patients victimes d'un AVC ischémique aigu. Selon lui, chaque seconde compte dans ces situations critiques ; un modèle d'évaluation et de triage d'une pathologie urgente doit donc absolument être performant. Benjamin Fine et le laboratoire AIDE (Déploiement et Évaluation de l'IA) de THP appliquent les meilleures pratiques et assurent un suivi continu du cycle de vie des produits d'IA grâce à la méthode CyclOps, afin d'assurer l'efficacité des solutions utilisées.
Étaient également présents sur scène Michael Brudno, membre du corps professoral de Vector, et Chris McIntosh, membre associé, qui ont présenté la création d'un nouveau modèle d'IA pour la détection du pneumothorax au sein du Réseau universitaire de santé (UHN). « Deux IA valent mieux qu'une », a déclaré M. Brudno en évoquant les difficultés initiales rencontrées lors du développement. L'équipe DATA (Aggregation, Translation, and Architecture) de l'UHN recevait de nombreux faux positifs ; elle a donc réorienté son approche et créé un modèle pour détecter la présence d'un pneumothorax et un autre pour prédire la présence de drains thoraciques. Après son déploiement réussi dans Coral, un tableau de bord existant destiné aux radiologues, l'équipe utilise désormais CyclOps pour suivre les performances du modèle au fil du temps.
L'événement a également été marqué par les interventions de Roxana Sultan, directrice des données et vice-présidente Santé de Vector, ainsi que par les présentations de Dai Mukherjee et Shannon MacDonald, associés chez EY, et de Ryan MacDonald, directeur de la mise en œuvre de l'IA en santé, et de Carolyn Chong, chef de produit principal chez Vector. Une table ronde réunissant Jennifer Gibson (Université de Toronto), Devin Singh (SickKids, Hero AI), membre associé de Vector, et Cathy Cobey (EY), animée par Safia Rahemtulla (EY), a conclu l'événement par une discussion sur le rythme de déploiement sécurisé de l'IA.
« Modélisation » des meilleures pratiques
S'appuyant sur le succès de l'événement Principles to Practice, Vector a organisé un atelier technique de suivi le 20 juin 2024. Cette séance était axée sur CyclOps, approfondissant les aspects techniques du suivi des performances du ML et fournissant aux développeurs des outils qui contribuent à rendre les solutions d'IA plus sûres.
Lors d'une table ronde, les participants ont insisté sur la nécessité de stratégies robustes de gestion du changement pour établir la confiance dans l'IA au sein de leurs organisations. Ils ont également souligné l'importance d'affiner les méthodes d'évaluation afin de refléter fidèlement les performances réelles du modèle et de fournir des informations pertinentes sur son impact clinique.
Les responsables du secteur de la santé et les développeurs en apprentissage machine partagent la responsabilité de s'assurer que les outils basés sur l'IA soient non seulement innovateurs, mais aussi fiables et sûrs. Les discussions, les idées et les meilleures pratiques partagées lors de cet événement et de cet atelier soulignent l'urgence de déployer l'IA de manière à ce qu'elle profite réellement aux patients comme aux cliniciens. En favorisant la collaboration et en accordant la priorité aux considérations éthiques, ces rencontres jettent les bases d'une intégration responsable et continue de l'IA dans les soins de santé.
Un livre blanc à paraître, contenant les principaux enseignements de l'événement et les recommandations de Vector pour relever les défis les plus urgents en matière de mise en œuvre de l'IA dans le domaine de la santé, est prévu pour l'automne 2024.
