Un merci spécial à EY Canada, qui a coanimé l’événement avec Vector et fourni l’espace.

Un déploiement fiable et sécuritaire de l’IA en santé reconnaît l’urgence, répond à un besoin spécifique et apporte une réelle valeur aux utilisateurs. C’était le consensus lors de l’événement Principles to Practice : Enabling Responsible AI in Health, coorganisé par le Vector Institute et le sponsor de Vector Gold, EY. Un atelier technique de suivi a eu lieu peu après. 

Tenu le 13 mai 2024, l’événement a réuni plus de 80 leaders du secteur de la santé issus des secteurs privé, public et de la recherche. Dans le but de fournir des informations sur le déploiement de l’IA de santé à nos partenaires, elle s’est concentrée sur le partage d’étapes concrètes de déploiement pour promouvoir la sécurité, incluant des stratégies pour surveiller les modèles d’IA tout au long de leur cycle de vie, assurer l’intégrité des données et mettre en œuvre des processus rigoureux de validation et de maintenance. Dans le cadre de l’engagement de Vector envers une IA responsable, l’événement a offert aux dirigeants des étapes concrètes et des outils concrets pour développer et intégrer l’IA en milieu clinique de façon sécuritaire. 

Les chercheurs en vecteurs sont francs sur les limites de l’IA et sur la façon de pivoter

Développer et déployer des modèles d’IA en toute sécurité dans les soins de santé n’est pas toujours simple. À ce jour, seule une petite proportion des initiatives de recherche en IA de santé a été traduite avec succès en milieu clinique. Cela est souvent dû aux défis liés au développement et à la mise en œuvre de stratégies de déploiement robustes intégrant les étapes et les meilleures pratiques nécessaires. Des présentations de cas d’utilisation cliniques ont mis en lumière comment l’IA peut répondre à des enjeux de santé pressants lorsqu’elle est déployée de manière responsable.

Amol Verma et Fahad Razak, affiliés à Vector — qui ont également cofondé le réseau de partage de données de santé GEMINI et se sont associés à Vector pour permettre à GEMINI de découvrir l’IA/l’apprentissage automatique — ont présenté une présentation sur une initiative d’IA pour le délire, un état aigu de confusion et un problème important auquel font face les cliniciens. Ils ont démontré les bases derrière la mise en œuvre de l’IA pour identifier quand un patient souffre de délire et représentent un défi important pour les cliniciens à identifier assez tôt pour offrir des soins préventifs. Jusqu’à 40% des cas sont évitables par des interventions simples, mais le délire n’est pas bien capturé dans les données enregistrées. L’équipe de GEMINI a identifié cela comme une opportunité d’utiliser l’apprentissage automatique (ML) pour améliorer la qualité et a développé un outil d’IA évolutif pour la détection précise du délire et la prédiction des risques. Ils utilisent CyclOps, un outil open source du Vector Institute, pour aider à surveiller la performance du modèle.

« Seule une petite proportion des initiatives de recherche en IA de santé a été traduite avec succès en milieu clinique. Cela est souvent dû aux défis liés au développement et à la mise en œuvre de stratégies de déploiement robustes qui intègrent les étapes nécessaires et les meilleures pratiques. »

Benjamin Fine, membre affilié de Vector Faculty et également clinicien-chercheur chez Trillium Health Partners (THP), a guidé le public à travers un processus d’évaluation de la sécurité d’un outil d’IA commercialisé pour le triage des patients atteints de perfusion aiguë d’AVC. Fine a dit que chaque seconde compte dans ces situations, donc quand on a un modèle qui évalue et trie une condition sensible au temps, une bonne performance est essentielle. Fine et le laboratoire de déploiement et d’évaluation de l’IA (AIDE) de THP suivent les meilleures pratiques et effectuent une surveillance tout au long du cycle de vie du produit IA en utilisant CyclOps afin de s’assurer que les solutions qu’ils utilisent demeurent efficaces.

Étaient également sur scène Michael Brudno, membre du corps professoral de Vector, et Chris McIntosh, membre affilié du corps professoral de Vector, qui ont parlé de la création d’un nouveau modèle d’IA pour détecter le pneumothorax au University Health Network (UHN). « Deux IA valent mieux qu’une », a déclaré Brudno en parlant de certaines difficultés initiales rencontrées lors du développement. L’équipe d’agrégation, traduction et architecture (DATA) de l’UHN recevait beaucoup de faux positifs; Ils ont pivoté et créé un modèle pour détecter la présence de pneumothorax et un autre pour prédire la présence de drains thoraciques. Maintenant, après un déploiement réussi dans un tableau de bord radiologue existant nommé Coral, ils utilisent CyclOps pour surveiller la performance du modèle au fil du temps. 

L’événement comprenait également des remarques de Roxana Sultan, directrice des données et vice-présidente santé chez Vector, ainsi que des présentations des partenaires d’EY Dai Mukherjee et Shannon MacDonald, ainsi que de Ryan MacDonald de Vector, directeur de l’implémentation de l’IA en santé, et Carolyn Chong, gestionnaire principale de produit. Un panel principal réunissant Jennifer Gibson (Université de Toronto), Devin Singh, affilié au corps professoral de Vector (Sickkids, Hero AI) et Cathy Cobey (EY), animé par Safia Rahemtulla (EY), a clôturé l’événement par une discussion sur le rythme de la mise en œuvre sécuritaire de l’IA. 

Meilleures pratiques de « modélisation »

S’appuyant sur le succès de l’événement Principes à pratiquer, Vector a organisé un atelier technique de suivi le 20 juin 2024. Cette session s’est concentrée sur les CyclOps, a exploré les aspects techniques de la surveillance de la performance du ML, offrant aux développeurs des outils pour rendre les solutions d’IA plus sécuritaires. 

Lors d’une table ronde, les participants ont souligné la nécessité de stratégies robustes de gestion du changement pour renforcer la confiance envers l’IA au sein de leurs organisations. Ils ont également suggéré l’importance d’affiner les méthodes d’évaluation afin de refléter fidèlement la performance réelle du modèle et d’offrir des perspectives significatives sur l’impact clinique. 

Les leaders du secteur de la santé et les développeurs d’apprentissage automatique partagent la responsabilité de s’assurer que les outils compatibles avec l’IA soient non seulement innovants, mais aussi fiables et sécuritaires. Les discussions, les analyses et les meilleures pratiques partagées lors de l’événement et de l’atelier soulignent l’urgence de déployer l’IA d’une manière qui profite réellement aux patients et aux cliniciens. En favorisant la collaboration et en priorisant les considérations éthiques, ces rencontres ont posé une base solide pour l’intégration responsable continue de l’IA dans les soins de santé.

Un livre blanc à venir, avec des enseignements clés issus de l’événement et les recommandations de Vector pour relever les défis les plus urgents de la mise en œuvre de l’IA de la santé, est attendu à l’automne 2024.