26 février 2021
Les chercheurs travaillant sur Vector se préparent activement pour l'édition 2021 de la conférence ACM sur l'équité, la responsabilité et la transparence (ACM FAccT), qui se tiendra du 3 au 10 mars. Cette conférence interdisciplinaire rassemble des chercheurs et des praticiens renommés, tous préoccupés par l'équité, la responsabilité et la transparence des systèmes sociotechniques. Initialement prévue à Toronto, l'édition de cette année se déroulera en ligne.
Bien que n'existant que depuis quatre ans, la conférence FAccT s'impose rapidement comme la référence dans ce domaine crucial. L'an dernier, plus de 600 chercheurs, décideurs et praticiens y ont participé, un nombre qui devrait doubler cette année.
« Rassembler les experts du monde entier et favoriser un dialogue ouvert sur ce sujet est essentiel pour garantir la mise en place de mécanismes de contrôle et d'équilibre afin que les modèles d'IA ne renforcent pas les préjugés existants », déclare Richard Zemel, directeur de la recherche chez Vector, spécialiste de l'équité dans l'apprentissage automatique et les décisions automatisées et coprésident général de la conférence.
Les entreprises et les institutions se tournent vers l'IA pour automatiser la prise de décision dans tous les domaines, du recrutement au diagnostic médical. Cependant, en tirant parti de cette technologie pour optimiser les processus, elles risquent d'introduire involontairement de nouvelles formes de discrimination. « Alors que l'IA et d'autres technologies s'intègrent de plus en plus à notre quotidien, il est essentiel, pour les entreprises et pour le bien de la société dans son ensemble, de veiller à ce que nos modèles n'intègrent pas, même involontairement, de stéréotypes et de préjugés latents », explique Zemel.
La conférence comprend des conférenciers réputés et des ateliers . Elle offre également des séances où des chercheurs et des praticiens de toutes les disciplines universitaires et de différentes communautés de pratique, notamment des journalistes, des militants, des artistes et des éducateurs, sont invités à proposer des analyses critiques et créatives du domaine de l'équité, de la transparence et de la responsabilité.
Parmi les travaux présentés à la conférence figurent deux articles de chercheurs de Vector.
Peut-on faire semblant jusqu'à y arriver ? : Impacts des données synthétiques différentiellement privées sur l'équité de la classification en aval
Victoria Cheng, Vinith M. Suriyakumar, Natalie Dullerud, Shalmali Joshi, Marzyeh Ghassemi
Présentation le mardi 9 mars de 17 h à 19 h HNE ; séance de questions-réponses en direct à 18 h HNE
L'adoption récente de modèles d'apprentissage machine dans des contextes à haut risque, comme la médecine, a accru la demande en matière de protection de la vie privée et d'équité. Le rééquilibrage des ensembles de données déséquilibrés à l'aide de données synthétiques s'est avéré prometteur pour atténuer l'impact disproportionné sur les sous-groupes minoritaires, mais les modèles génératifs utilisés pour créer ces données sont vulnérables aux atteintes à la vie privée. Les modèles génératifs différentiellement privés sont considérés comme une solution potentielle pour améliorer le déséquilibre des classes tout en préservant la confidentialité. Cependant, notre évaluation démontre que les réseaux antagonistes génératifs différentiellement privés existants ne peuvent garantir simultanément l'utilité, la confidentialité et l'équité. Cette difficulté se traduit directement par une perte de rendement et de représentativité dans des situations réelles.
Regarder la vidéo >
Poursuivre vos longues queues : Prédiction différentiellement privée dans les milieux de soins de santé
Vinith M. Suriyakumar, Nicolas Papernot, Anna Goldenberg, Marzyeh Ghassemi
Présentation le mardi 9 mars de 17 h à 19 h HNE ; séance de questions-réponses en direct à 18 h HNE
Résumé : Les modèles d’apprentissage automatique en santé nécessitent de solides garanties de confidentialité pour protéger les données des patients. L'anonymisation, norme actuelle, s'avère souvent inefficace en pratique. Dans ce contexte, l'apprentissage différentiellement privé offre une approche générale pour l'apprentissage de modèles garantissant la confidentialité. Nous étudions les effets de l'apprentissage différentiellement privé sur la santé. Nous analysons les compromis entre la confidentialité, la précision, l'équité et l'évolution des données. Nos résultats mettent en évidence des compromis importants entre confidentialité et utilité, ainsi que des modèles dont les prédictions sont influencées de manière disproportionnée par d’importants groupes démographiques dans les données d’entraînement. Nous discutons des avantages et des inconvénients de l'apprentissage différentiellement privé en santé.
