Photo d' Ousa Chea sur Unsplash
Marzyeh Ghassemi, membre du corps professoral de Vector, a récemment contribué à un article d'opinion publié en ligne dans JAMA : « Les défis de la reproductibilité des modèles d'apprentissage automatique dans le domaine de la santé » . Coécrit par Ghassemi, Andrew L. Beam et Arjun Manrai, cet article examine l'intersection entre l'apprentissage machine et les soins de santé, ainsi que les avantages et les défis liés à la reproductibilité et à la réplicabilité.
La reproductibilité désigne la capacité des chercheurs à obtenir les mêmes résultats que l'étude originale lorsqu'ils ont accès aux données et au code d'analyse sous-jacents. Cependant, même lorsqu'une étude est reproductible, les auteurs soulignent que cela ne signifie pas qu'elle est réplicable (c'est-à-dire que l'on applique les mêmes méthodes à un ensemble de données différent), ni qu'on peut généraliser ses résultats.
L'apprentissage machine contribue à la création de nombreux nouveaux outils de prédiction clinique. Bien qu'ils offrent des améliorations potentielles à la qualité des soins pour les patients et des économies pour les hôpitaux, ils présentent également des défis et des obstacles uniques en matière de reproductibilité, un aspect qui doit être soigneusement pris en compte pour la sécurité des patients à mesure que ces techniques commencent à être déployées dans les hôpitaux.
« La communauté de l’apprentissage machine s’efforce fortement d’obtenir des résultats robustes », explique Ghassemi. L’utilisation de modèles à grande capacité, capables de modéliser de nombreuses relations entre de nombreuses variables, peut complexifier la reproductibilité ; souvent, des choix techniques, faits par défaut ou lors de l’installation, peuvent influencer les résultats d’une étude. « Un médecin situé ailleurs pourrait appliquer le même modèle à ses données et obtenir des résultats très différents. »
Le partage du code et l'accessibilité des données sont deux objectifs importants qui, selon Ghassemi, doivent toujours demeurer une priorité. « Les risques à long terme liés à la production de résultats confidentiels et non vérifiables en milieu clinique sont bien réels, et nous devons investir dans une culture de recherche qui permette une vérification intellectuelle. »
