Par Ian Gormely
« Internet n'oublie jamais » était autrefois considéré comme une vérité fondamentale de la vie en ligne. Mais une série de décisions judiciaires ont remis en question cette idée, et la possibilité d'effacer ses traces numériques s'impose désormais comme un principe essentiel du droit à la vie privée numérique.
Mais si des législations comme le règlement de l'Union européenne sur le « droit à l'oubli » énonce des principes importants en matière de protection de la vie privée numérique, elles n'offrent pas de solutions techniques sur la manière dont cela pourrait être réalisé dans un monde en ligne hyperconnecté où une seule publication peut être agrégée sur de multiples canaux.
De même, la suppression des données d'une personne d'un algorithme d'IA est un processus long et fastidieux. Elle peut coûter cher aux entreprises et retarder le traitement d'une demande légitime de suppression de ses informations.
Pour résoudre ce problème, Nicolas Papernot, membre du corps professoral de Vector, titulaire de la chaire d'intelligence artificielle du CIFAR Canada et professeur adjoint au département de génie électrique et informatique de l'Université de Toronto, et son équipe ont étudié comment entraîner différemment les modèles afin de faciliter le traitement de ces requêtes tout en mettant à jour un modèle sans le modifier fondamentalement. « C'est la garantie qu'on veut offrir aux utilisateurs. »
Les modèles et algorithmes d'IA sont créés à partir de millions de points de données provenant de milliers de personnes. « Il faut considérer ces modèles comme des sous-produits directs des données », explique Papernot. Lors de la phase d'apprentissage, où les algorithmes apprennent en analysant des exemples ou des points de données, chaque point de données sert à mettre à jour tous les paramètres du modèle. Chaque mise à jour subséquente dépendra de ce point de données spécifique. « Par conséquent, si vous supprimez ce point de données, vous devez également supprimer les modèles. »
Bien sûr, abandonner complètement un modèle n'est généralement pas envisageable pour les chercheurs ou les entreprises. C'est pourquoi Papernot et ses coauteurs ont exploré différentes façons de présenter les données à un modèle afin de pouvoir y apporter de petites modifications.
Leur article, « Machine Unlearning », récemment accepté au Symposium IEEE sur la sécurité et la confidentialité, la principale conférence sur la sécurité informatique et la protection des données personnelles, propose une approche en deux temps. Premièrement, ils « fragmentent » les données, créant ainsi de nombreux modèles plus petits au lieu d'un seul grand, ce qui limite l'influence de chaque point de données. « On demande ensuite aux différents modèles de voter pour l'étiquette qu'ils prédisent », explique Papernot. « On compte le nombre de votes obtenus par chaque classe et on affiche la classe qui a récolté le plus de votes. »
Ils « découpent » ensuite les fragments et présentent les données au modèle en petites quantités, augmentant ainsi la quantité de données à chaque étape tout en créant des points de contrôle. « Ainsi, lorsqu'une personne nous demande de désapprendre ses données, nous pouvons retourner au point de contrôle enregistré avant le début de l'analyse », ce qui permet de gagner du temps et des ressources.
Papernot, dont les recherches portent sur la protection de la vie privée et la sécurité dans l'apprentissage machine, n'est pas la seule à s'intéresser à ce problème. Avec l'intégration croissante de l'IA dans de nombreux aspects de la société, le désapprentissage des données devient un enjeu majeur pour les entreprises.
Mais lui et son équipe ont été parmi les premiers à s'y intéresser, et leur approche est plus globale que celle de plusieurs de leurs collègues. « Nous voulions être totalement indépendants du type d'algorithme utilisé, afin de pouvoir l'intégrer facilement à n'importe quel processus. »
L'objectif, explique-t-il, est de permettre aux organisations de recevoir et de traiter rapidement ces demandes. « Si le modèle nécessite une semaine de formation, cela ralentit le traitement des demandes par l'organisation. Nous offrons une solution plus régulière et moins coûteuse. »
