Hassan Ashtiani, professeur à l'Université McMaster | Membre du corps professoral de l'Institut Vector
Vous voulez partager vos données médicales pour faire avancer la recherche, mais vous ne voulez pas que d'autres personnes aient accès à vos informations personnelles. La solution intuitive – supprimer votre nom et anonymiser les données – a été testée à maintes reprises. Malheureusement, elle est inefficace. Il est toujours possible de trouver des informations importantes à votre sujet grâce à l'analyse des données, au recoupement avec d'autres ensembles de données ou à des inférences statistiques.
Les recherches d' Hassan Ashtiani portent sur les raisons de l'échec des approches ad hoc en matière de protection de la vie privée et sur la solution alternative : des preuves mathématiques garantissant le maintien de la confidentialité, même face à des adversaires sophistiqués. En tant que membre du corps professoral de Vector et professeur à l'Université McMaster, il travaille sur les fondements théoriques qui permettent de prouver que les systèmes d'IA sont respectueux de la vie privée, robustes et fiables.
Ce n'est pas un travail purement théorique. Dans des domaines comme la santé et les systèmes autonomes, nous avons besoin de garanties qui dépassent le simple « probablement suffisant ». Lorsque les systèmes d'IA prennent des décisions importantes – diagnostiquer des maladies, accorder des prêts ou contrôler des véhicules – nous devons prouver mathématiquement qu'ils garantiront la confidentialité des données, résisteront aux attaques et se comporteront de manière fiable en conditions réelles.
Du statut d'étudiant à celui de membre du corps professoral : un parcours Vector
La collaboration d'Ashtiani avec Vector a débuté en 2018, alors qu'il était doctorant à l'Université de Waterloo et qu'il intégrait le tout premier programme d'affiliation postdoctorale. Cette première expérience lui a permis de découvrir l'écosystème émergent de la recherche en intelligence artificielle en Ontario, à un moment charnière de sa carrière. Après avoir obtenu son doctorat et accepté un poste de professeur à l'Université McMaster à Hamilton, il est devenu professeur affilié en 2020, tout en maintenant ses liens avec Vector et en développant son propre groupe de recherche, Intelligence Artificielle pour les Sciences Chimiques.
Ces cinq années d'affiliation ont été un soutien essentiel pour un jeune chercheur en début de carrière. Vector lui a permis d'organiser des ateliers et des groupes de lecture, d'avoir accès à des ressources informatiques pour ses expériences et de mettre ses étudiants en contact avec des chercheurs d'autres institutions. Les rencontres informelles ont sans doute été les plus précieuses : rencontrer un autre chercheur lors d'un événement Vector et découvrir des intérêts communs, ou explorer facilement des projets collaboratifs interuniversitaires grâce à l'affiliation qui offrait un terrain d'entente naturel et un soutien concret.
Pour Ashtiani, la plus grande valeur de Vector a toujours été dans les liens et la collaboration. Avant de s'installer au Canada, établir des contacts de recherche à Téhéran impliquait de surmonter d'importants obstacles liés aux déplacements, aux ressources limitées et à l'isolement au sein de la communauté scientifique. Son affiliation avec Vector, d'abord à Waterloo puis à McMaster, a radicalement transformé ses perspectives. Lorsque les deux chercheurs impliqués dans une collaboration potentielle sont affiliés à Vector, les difficultés pratiques liées à la collaboration interinstitutionnelle – lieux de rencontre, accès aux ressources partagées, soutien institutionnel – disparaissent en grande partie. Cette infrastructure favorise une collaboration spontanée propice à des découvertes inattendues.
« J'ai vraiment apprécié mon expérience chez Vector parce qu'on y rencontre des gens qui partagent les mêmes idées. Si vous êtes tous les deux chez Vector, vous pouvez simplement réserver une salle et discuter. C'est beaucoup plus facile de collaborer avec quelqu'un de l'extérieur de son université. »
Concevoir des systèmes qui ne nécessitent pas de réinventer la roue
L'efficacité représente un défi majeur pour l'apprentissage automatique respectueux de la vie privée : les chercheurs doivent-ils développer des méthodes entièrement nouvelles pour chaque application ? Si une technique d'apprentissage automatique standard fonctionne bien pour l'analyse de données non privées, est-il possible de l'adapter à des contextes de protection de la vie privée sans recommencer à zéro ?
Les travaux d'Ashtiani sur la « réduction des boîtes noires » répondent directement à cette problématique. En informatique et en apprentissage automatique, une boîte noire est un système dont on peut observer les entrées et les sorties sans avoir besoin de comprendre son fonctionnement interne. La réduction des boîtes noires permet de prendre n'importe quelle méthode d'apprentissage machine existante – en la considérant comme une boîte noire – et de l'intégrer dans un cadre garantissant la confidentialité, sans avoir à repenser la méthode elle-même.
Cette approche permet d'adapter efficacement la vaste bibliothèque de techniques d'apprentissage automatique développées pour des environnements non privés aux applications respectueuses de la vie privée. Plutôt que de réinventer chaque algorithme, les chercheurs peuvent tirer parti de méthodes existantes et éprouvées, tout en y intégrant des garanties mathématiques de confidentialité. Cela accélère considérablement le développement de systèmes d'apprentissage automatique respectueux de la vie privée. Ces travaux ont été récompensés par le prix du meilleur article de NeurIPS 2018 pour leurs recherches sur l'apprentissage des mélanges gaussiens – un problème fondamental en statistique et en apprentissage automatique. L'article a introduit de nouveaux concepts théoriques, tels que des schémas de compression d'échantillons pour les distributions, qui ont permis de mieux comprendre la quantité de données fondamentalement nécessaire à l'apprentissage de modèles complexes.
Favoriser le développement de l'écosystème canadien de l'IA tout en protégeant la vie privée des Canadiens
Les enjeux pratiques de cette recherche portent directement sur la capacité du Canada à développer et à déployer des systèmes d'IA de façon responsable. L'Ontario et le Canada ont bâti un écosystème d'IA florissant, mais celui-ci se heurte à de réelles contraintes en matière d'accès aux données. Le partage de renseignements personnels suscite, à juste titre, des inquiétudes, et la réglementation exige de plus en plus de protections strictes de la vie privée. Dans le domaine de la santé en particulier, l'amélioration des systèmes de diagnostic nécessite l'accès aux données des patients, or ces derniers ont besoin de garanties fiables quant à la confidentialité de leurs renseignements médicaux.
Les recherches d'Ashtiani aident à résoudre cette tension en développant des méthodes qui offrent des garanties formelles et vérifiables de confidentialité, tout en permettant un apprentissage automatique pertinent à partir de données sensibles. Si nous parvenons à mieux protéger les données des Canadiens tout en permettant le développement de systèmes d'apprentissage automatique plus performants pour les applications médicales et d'autres domaines, nous renforçons simultanément la protection de la vie privée et la capacité de l'écosystème de l'IA à prospérer.
Le travail n'est pas terminé. Les méthodes actuelles d'apprentissage automatique qui préservent la confidentialité impliquent souvent des compromis entre la robustesse de la protection de la vie privée et la précision du modèle. Les recherches menées par Ashtiani visent à réduire cet écart en développant des approches qui garantissent une protection élevée de la vie privée tout en atteignant une précision plus proche de celle des systèmes non protégés.
Son conseil aux autres chercheurs est clair : « J’encourage fortement les personnes de l’extérieur de la communauté Vector, qu’elles soient chercheuses en apprentissage automatique, en intelligence artificielle ou simplement intéressées par ces domaines, à se joindre à Vector. Le réseau de chercheurs partageant les mêmes idées, l’infrastructure collaborative et la possibilité de travailler au-delà des frontières institutionnelles font de Vector un acteur précieux dans le paysage de la recherche en IA en Ontario. Son parcours en sept ans, d’étudiant affilié à professeur, illustre la voie que Vector offre aux chercheurs à différentes étapes de leur carrière.
« Si l’on veut vraiment avoir de meilleurs systèmes d’apprentissage machine, par exemple pour des applications médicales, il est essentiel d’avoir recours à des méthodes fiables sur lesquelles les gens peuvent s’appuyer et avec lesquelles ils peuvent partager leurs données afin de trouver de meilleures solutions. En y parvenant, nous assurerons une meilleure protection des données des Canadiens. Parallèlement, nous contribuerons à l’essor de l’écosystème de l’IA au Canada. »
