Nous remercions tout particulièrement EY Canada, qui a co-organisé l'événement avec Vector et fourni l'espace nécessaire.

Le déploiement d'une IA de santé fiable et sûre tient compte de l'urgence, répond à un besoin spécifique et apporte une véritable valeur ajoutée aux utilisateurs. C'est le consensus qui s'est dégagé lors de l'événement Principles to Practice : Enabling Responsible AI in Healthcare, organisé conjointement par l'Institut Vector et EY, sponsor Gold de Vector. Un atelier technique de suivi a été organisé peu après. 

Organisé le 13 mai 2024, l'événement a rassemblé plus de 80 dirigeants du secteur de la santé issus des secteurs privé, public et de la recherche. Dans le but de fournir à nos partenaires un aperçu du déploiement de l'IA en santé, l'événement s'est concentré sur le partage d'étapes de déploiement tangibles pour promouvoir la sécurité, y compris des stratégies pour surveiller les modèles d'IA tout au long de leur cycle de vie, assurer l'intégrité des données et mettre en œuvre des processus rigoureux de validation et de maintenance. Dans le cadre de l'engagement de Vector en faveur d'une IA responsable, l'événement a fourni aux dirigeants des étapes pragmatiques et des outils concrets pour développer et intégrer l'IA dans les environnements cliniques en toute sécurité. 

Les chercheurs de Vector s'interrogent sur les limites de l'IA et sur les moyens d'y remédier

Il n'est pas toujours simple de développer et de déployer des modèles d'IA en toute sécurité dans les soins de santé. À ce jour, seule une petite partie des initiatives de recherche sur l'IA dans le domaine de la santé ont été transposées avec succès dans des contextes cliniques. Cela est souvent dû aux difficultés rencontrées pour élaborer et mettre en œuvre des stratégies de déploiement solides qui intègrent les étapes nécessaires et les meilleures pratiques. Les présentations de cas d'utilisation clinique ont mis en évidence la manière dont l'IA peut répondre à des problèmes de santé urgents lorsqu'elle est déployée de manière responsable.

Amol Verma et Fahad Razak, membres affiliés de la faculté de Vector, qui ont également cofondé le réseau de partage de données de santé GEMINI et se sont associés à Vector pour permettre à GEMINI de faire des découvertes en IA/ML, ont fait une présentation sur une initiative d'IA pour le delirium, un état confusionnel aigu et un problème important auquel sont confrontés les cliniciens. Ils ont présenté les bases de la mise en œuvre de l'IA pour identifier le moment où un patient souffre de délire et un défi important pour les cliniciens de l'identifier suffisamment tôt pour fournir des soins préventifs. Jusqu'à 40 % des cas peuvent être évités par de simples interventions, mais le délire n'est pas bien pris en compte dans les données enregistrées. L'équipe GEMINI a identifié cette situation comme une opportunité d'utiliser l'apprentissage automatique pour améliorer la qualité et a développé un outil d'IA évolutif pour la détection précise du delirium et la prédiction des risques. Ils ont utilisé CyclOps, un outil open-source de l'Institut Vector, pour les aider à contrôler les performances du modèle.

"Seule une petite partie des initiatives de recherche sur l'IA dans le domaine de la santé ont été transposées avec succès dans des contextes cliniques. Cela est souvent dû aux difficultés rencontrées pour élaborer et mettre en œuvre des stratégies de déploiement solides qui intègrent les étapes nécessaires et les meilleures pratiques."

Benjamin Fine, membre affilié de la faculté Vector et clinicien scientifique chez Trillium Health Partners (THP), a présenté au public un processus d'évaluation de la sécurité d'un outil d'IA acheté dans le commerce pour le triage des patients souffrant d'une perfusion due à un accident vasculaire cérébral aigu. Mme Fine a expliqué que chaque seconde compte dans ces situations, et qu'il est donc vital de disposer d'un modèle permettant d'évaluer et de trier un état sensible au facteur temps. Fine et le laboratoire de déploiement et d'évaluation de l'IA (AIDE) de THP suivent les meilleures pratiques et effectuent des contrôles tout au long du cycle de vie des produits d'IA à l'aide de CyclOps pour s'assurer que les solutions qu'ils utilisent restent efficaces.

Michael Brudno, membre du corps professoral de Vector, et Chris McIntosh, affilié au corps professoral de Vector, étaient également sur scène pour parler de la création d'un nouveau modèle d'IA pour la détection du pneumothorax à l'University Health Network (UHN). "Deux IA valent mieux qu'une", a déclaré Michael Brudno en évoquant les difficultés initiales rencontrées au cours du développement. L'équipe DATA (Data Aggregation, Translation, and Architecture) de l'UHN recevait beaucoup de faux positifs ; elle a pivoté et créé un modèle pour détecter la présence d'un pneumothorax et un autre pour prédire la présence de drains thoraciques. Maintenant, après un déploiement réussi dans un tableau de bord de radiologue existant appelé Coral, ils utilisent CyclOps pour surveiller la performance du modèle au fil du temps. 

L'événement comprenait également des remarques de Roxana Sultan, directrice des données et vice-présidente, Santé, de Vector, ainsi que des présentations de Dai Mukherjee et Shannon MacDonald, partenaires d'EY, et de Ryan MacDonald, directeur, Mise en œuvre de l'IA en santé, et Carolyn Chong, gestionnaire principale de produits, de Vector. Une table ronde réunissant Jennifer Gibson (Université de Toronto), Devin Singh (Sickkids, Hero AI), affilié à la faculté de Vector, et Cathy Cobey (EY), animée par Safia Rahemtulla (EY), a clôturé l'événement par une discussion sur le rythme de la mise en œuvre de l'IA en toute sécurité. 

"Meilleures pratiques en matière de "modélisation

Fort du succès de l'événement Principles to Practice, Vector a organisé un atelier technique de suivi le 20 juin 2024. Cette session, axée sur CyclOps, s'est penchée sur les aspects techniques de la surveillance des performances des ML, fournissant aux développeurs des outils qui contribuent à rendre les solutions d'IA plus sûres. 

Au cours d'une table ronde, les participants ont insisté sur la nécessité de mettre en place de solides stratégies de gestion du changement afin de favoriser la confiance dans l'IA au sein de leur organisation. Ils ont également souligné l'importance d'affiner les méthodes d'évaluation afin de refléter avec précision les performances du modèle dans le monde réel et de fournir des informations significatives sur l'impact clinique. 

Les responsables des soins de santé et les développeurs d'intelligence artificielle partagent la responsabilité de veiller à ce que les outils basés sur l'IA soient non seulement innovants, mais aussi fiables et sûrs. Les discussions, les idées et les meilleures pratiques partagées lors de l'événement et de l'atelier soulignent l'urgence de déployer l'IA d'une manière qui profite réellement aux patients et aux cliniciens. En encourageant la collaboration et en donnant la priorité aux considérations éthiques, ces rencontres posent des bases solides pour l'intégration responsable et continue de l'IA dans les soins de santé.

Un livre blanc contenant les principales conclusions de l'événement et les recommandations de Vector pour relever les défis les plus pressants de la mise en œuvre de l'IA en santé est prévu pour l'automne 2024.