Par Michael Barclay
« Je suis fascinée par la façon dont les technologies peuvent améliorer nos vies », explique Xi He, membre du corps professoral de Vector. Ce sujet est au cœur de ses études depuis ses études supérieures à l'Université Duke en Caroline du Nord. « L'IA révolutionne nos vies à bien des égards. Mais la protection de la vie privée est un aspect crucial que nous devons aborder : mes données personnelles ont-elles été utilisées correctement dans ce processus ? C'est une question qui me tient particulièrement à cœur. »
Il est facile d'être cynique à l'égard de la protection de la vie privée numérique : chaque fois que nous signons aveuglément des conditions générales d'utilisation, qui sait où finiront nos données personnelles ? Qu'il s'agisse des médias sociaux ou d'un programme de fidélité, les raisons d'être méfiant sont nombreuses à l'ère du « capitalisme de surveillance », pour reprendre l'expression de l'auteure à succès Shoshana Zuboff. « Si vos renseignements personnels tombent entre de mauvaises mains », explique Xi, « vous risquez de vous voir refuser certaines opportunités, comme les demandes de prêt hypothécaire, d'assurance, etc. On veut absolument que les bonnes données soient entre de bonnes mains. »
« Bien souvent, je signe “oui” », poursuit Xi, faisant référence à ces accords de confidentialité que peu de gens prennent le temps de lire, « parce que j’ai besoin d’utiliser leur service. Il semble qu'il n'y ait pas d'autre choix : c'est tout ou rien, n'est-ce pas ? Mais nous pouvons faire mieux pour que, même si mes données sont enregistrées, elles soient utilisées correctement – afin que mes informations sensibles ne soient pas divulguées à des tiers non autorisés à y avoir accès. »
Une des solutions pour limiter les risques que cela se produise consiste à utiliser une technologie de protection de la vie privée appelée confidentialité différentielle.
Confidentialité vs. utilité
Lors de l'analyse de données par un système d'IA, un compromis est toujours nécessaire entre la confidentialité (vos informations) et l'utilité (les résultats que l'analyste veut obtenir). Les modèles précédents pour les analystes de données privilégiaient l'utilité maximale, tout en respectant les exigences de confidentialité. Or, la confidentialité différentielle, un cadre préservant la confidentialité, permet de résoudre un problème d'optimisation clair entre confidentialité et utilité. Un pare-feu est mis en place entre l'analyste et les données privées, introduisant ainsi un certain « bruit » dans les résultats.
Prenons l'exemple d'une carte de fidélité de supermarché. « Si je veux connaître le montant moyen dépensé par les clients dans ce supermarché, je dois m'assurer que quiconque consulte les résultats ne puisse pas savoir si mes données sont utilisées ou non dans ce calcul », explique Xi. Prenons, par exemple, le produit le plus cher du magasin. Ma question est : combien de personnes achètent ce produit ? Grâce à la confidentialité différentielle, nous appliquons un algorithme aléatoire pour traiter la réponse. »
« Si vous êtes le seul acheteur, la réponse est « un ». Cependant, un algorithme de confidentialité différentielle ajoute du bruit à cette réponse. Face à ce résultat bruité, il est impossible de savoir si le chiffre « un » provient réellement de vous ou du bruit. Cela introduit une part d'aléatoire. Quoi qu'il en soit, que vous soyez réellement dans la base de données ou non – et même si vos données n'ont pas été utilisées dans le calcul – le nombre final reste très faible. Il n'est pas nécessaire qu'il soit exactement égal à « un », mais on sait qu'il s'agit d'un petit nombre : peu de gens achètent ce produit. »
Plus de confidentialité, mais moins de précision. Ça convient à Xi. Dans les algorithmes sur lesquels elle travaille, « je veux que la réponse ait une marge d'erreur de plus ou moins 10. À l'intérieur de cette marge se trouve un certain niveau de confiance. Notre système tentera de trouver le meilleur algorithme de confidentialité différentielle, au coût de confidentialité minimal, permettant d'atteindre cet objectif de précision. Cela diffère de la conception standard d'un algorithme de confidentialité différentielle, qui visait à maximiser l'utilité, tout en respectant les exigences de confidentialité. »
Généralisation des systèmes de confidentialité différentielles
Xi, titulaire de la Chaire d'intelligence artificielle du CIFAR Canada et professeure à l'École d'informatique David R. Cheriton de l'Université de Waterloo, a coécrit son premier article sur la confidentialité différentielle en 2019. À ce moment-là, les grandes entreprises technologiques appliquaient déjà ce concept dans certaines applications, « mais son déploiement à plus grande échelle n'a jamais été possible », explique-t-elle. « Il n'était tout simplement pas évolutif à l'époque. Nous voulons concevoir des systèmes ou des cadres plus généraux, accessibles à tous : des systèmes de bases de données qu'on peut intégrer à son système et utiliser pour traiter des données sensibles. Le but est que le système fournisse une réponse fiable à l'utilisateur. Dans cette optique, elle et son équipe ont publié une série d'articles présentant des systèmes capables de fournir une prise en charge de haut niveau pour la spécification des exigences de confidentialité du propriétaire des données ( PrivateSQL , DProvDB ) et des exigences de précision des analystes de données ( APEx , CacheDP ), tout en optimisant le compromis entre confidentialité et utilité pour les utilisateurs du système.
Le fait qu'une entreprise détienne vos données personnelles ne signifie pas nécessairement qu'elle les partage avec des tiers. « Vos données peuvent rester en sécurité sans aucune fuite de données, c'est tout à fait normal », explique Xi. « Mais nous les utilisons pour des applications plus intéressantes, basées sur les données, afin de prévenir tout comportement malveillant et d'aider les entreprises à mieux comprendre comment améliorer leurs stratégies marketing, sans connaître le comportement précis d'une personne en particulier. »
La confidentialité différentielle n'est pas encore une obligation légale. Elle est progressivement reconnue par les agences gouvernementales, notamment le Bureau du recensement des États-Unis, qui l'a utilisée lors de la publication de ses données de 2020. Cependant, ce terme est loin d'être courant et prête à confusion. « Le public ne comprend pas toujours bien ce que garantit réellement la confidentialité différentielle », explique Xi. Par exemple, elle ne fournit pas de réponse précise à une analyse en raison de son caractère aléatoire, nécessaire à la protection de la vie privée, mais il est possible de quantifier l'ampleur de l'erreur. « Il est essentiel d'expliquer la fiabilité de ces algorithmes. »
Respect de la vie privée dans le secteur de la santé
Il va de soi que l'IA évolue rapidement et qu'il est urgent d'y intégrer des protections de données respectueuses de la vie privée, comme la confidentialité différentielle. « Je ne sais pas combien de temps il me reste », confie Xi. « Je sais seulement que je fais de mon mieux. » Son travail chez Vector la met en relation avec les membres des équipes FL4health et Ingénierie IA de Vector, avec lesquels elle développe un cadre d'apprentissage fédéré préservant la confidentialité des données sur la santé.
« La professeure He a été une leader et une collaboratrice exceptionnelle dans le développement d'algorithmes d'apprentissage fédéré performants offrant de solides garanties de confidentialité, un aspect crucial lors du traitement de données cliniques réelles », déclare David Emerson, chercheur en apprentissage automatique appliqué chez Vector. « Nous avons hâte de poursuivre notre collaboration avec son équipe et de repousser les limites des méthodes d'apprentissage machine dans le domaine de la santé. »
Au départ, Xi s'est intéressée au sujet non pas par urgence, mais pour des raisons intellectuelles relativement banales : il ne s'agit pas d'un piratage de sa carte de crédit ou de son téléphone. « Je pense simplement que c'est un problème très important, et je peux mettre à profit mes connaissances et mes compétences pour contribuer à son amélioration. Je ne suis pas seule. Des personnes compétentes travaillent ensemble sur ce problème. »
Cliquez ici pour en savoir plus sur le travail de Vector en matière de protection des données.
