Par Jonathan Woods
7 septembre 2022
Comprendre et atténuer les biais est essentiel à l'application des systèmes d'IA, surtout en entreprise. C'est un sujet complexe qui exige non seulement une maîtrise des techniques de correction des biais, mais aussi une connaissance des pratiques de gouvernance propres à l'IA et une réflexion approfondie sur la notion d'équité dans chaque contexte. Sans tenir compte, les biais dans les systèmes d'IA peuvent renforcer les discriminations historiques inscrites dans les données, nuire injustement aux utilisateurs et porter atteinte à la réputation d'une organisation – autant de conséquences inacceptables.
Pour aider les petites et moyennes entreprises canadiennes à relever ce défi, l’Institut Vector, avec le soutien financier du Programme d’aide à la recherche industrielle du Conseil national de recherches du Canada (PARI CNRC), a créé Bias in AI , un programme en ligne, indépendant de tout secteur d’activité, conçu pour aider les professionnels à développer les outils et les compétences nécessaires pour identifier et réduire les biais dans les applications de traitement automatique du langage naturel (TALN) et de vision par ordinateur (VCO).
Dix-huit participants de six entreprises ont suivi le programme « Biais dans l’IA » pendant cinq semaines, entre février et avril 2022. Ce programme interactif comprenait des ateliers et des tutoriels animés par des experts de la communauté Vector, ainsi que des travaux pratiques dans lesquels les participants :
- Exploration des outils d'IA et des meilleures pratiques
- Principes fondamentaux du traitement automatique du langage naturel et de la vision par ordinateur abordés
- Entraînement d'un modèle de génération de texte GPT2/BERT, analyse des facteurs de biais
- J'ai développé un modèle de classification CV pour comprendre les influences liées aux biais.
- Techniques appliquées pour réduire les biais dans les modèles de TALN et de vision par ordinateur
Finalement, chaque entreprise a appliqué ses acquis à sa propre activité dans le cadre d'un projet final présenté pour évaluation à la fin du programme.
Ce programme est conçu sur mesure pour les équipes de science des données au sein des PME, car ces dernières, bien qu'utilisant de plus en plus l'IA, peuvent avoir du mal à se tenir au courant des recherches et des meilleures pratiques en matière de réduction des biais. Melissa Valdez, responsable de la formation, explique : « Nous savons que les startups, les entreprises en forte croissance et les PME n'ont pas nécessairement les ressources nécessaires pour se consacrer à cette question au niveau requis. »
Dan Adamson, PDG d'Armilla (une entreprise ayant participé au programme « Biais en IA » de l'hiver 2022), apprécie que ce programme explore la complexité du problème. « Nous croyons qu'il est essentiel que chaque scientifique des données possède cette formation de base, car le sujet est bien plus complexe que ce qu'ils ont probablement appris en cours d'informatique ou de science des données », a déclaré Adamson.
Adamson a souligné que l'intégration d'éléments non techniques, pourtant essentiels à la gestion des biais, constituait un atout majeur du programme. « Le cours abordait les biais sous plusieurs angles, ce qui est primordial car il ne s'agit pas uniquement d'un problème technique », a-t-il déclaré. « Il est essentiel de tenir compte de la gouvernance et de comprendre les principes commerciaux et éthiques sous-jacents. Le cours a su présenter ces différents aspects de manière très intégrée. »
Armilla aide les scientifiques de données à assurer la qualité des modèles d'apprentissage automatique (notamment en détectant les biais) grâce à sa plateforme et propose des services d'audit pour garantir la fiabilité de ces modèles. Dans le cadre de cette formation, l'équipe d'Armilla a travaillé sur un projet portant sur les données et les systèmes de ressources humaines – un sujet qui suscite de nombreuses demandes au sein de l'entreprise – et sur la possibilité de déceler des inégalités dans la répartition des promotions entre hommes et femmes au sein d'un ensemble de données. Les résultats ont soulevé des questions éthiques et techniques concernant l'équité des systèmes de recrutement et de promotion, a expliqué Adamson, ce qui a nécessité l'expérimentation de techniques de correction, dont le réentraînement des modèles.
« C'était une étude de cas intéressante », a dit Adamson. « Nous voulions nous assurer que nos data scientists restent à la fine pointe de la technologie, et nous avons utilisé [le projet] comme un exercice pour que notre équipe harmonise ses pratiques. »
EthicalAI, une firme de consultation en IA qui aide les entreprises à utiliser l'IA de manière responsable, a opté pour une approche différente afin de corriger les biais dans le cadre de son projet de fin d'études : la création de données synthétiques pour obtenir des ensembles de données plus équilibrés. Pour ce faire, l'entreprise a expérimenté des modèles génératifs multimodaux – des modèles d'IA non supervisés capables de générer de nouvelles données semblables à celles d'un ensemble de données original – afin de créer de nouvelles variations d'images faciales existantes. L'idée était d'intégrer à ces nouvelles variations des caractéristiques telles que l'ethnicité, le sexe ou d'autres variables protégées susceptibles d'être sous-représentées dans l'ensemble de données original. Ces variations seraient ensuite insérées dans l'ensemble de données original, qui pourrait alors servir à entraîner un modèle en aval, réduisant ainsi le risque de favoriser indûment un type de visage par rapport à un autre.
Thor Jonsson, cofondateur d'EthicalAI, a déclaré : « Je peux utiliser le modèle génératif pour constituer un échantillon représentatif de personnes d'apparences diverses. Concrètement, il s'agit d'injecter de nouvelles données dans l'ensemble de données, ce qui nous permet de créer un équilibre entre les personnes d'âges, d'origines ethniques, de sexes, etc., différents. »
L'intérêt, explique Jonsson, réside dans le fait que « ça ne dépend pas de mon étiquetage des photos d'hommes ou de femmes. Il s'agit plutôt de se demander : « Quelles sont les différentes expressions faciales ? » et de s'assurer que les visages atypiques, quel que soit l'ensemble de données utilisé, soient représentés. L'objectif est de créer un système automatisé qui garantit que personne ne soit pénalisé par son appartenance à une minorité. »
L'équipe d'EthicalAI poursuit actuellement les travaux menés dans le cadre de cette formation, en s'intéressant non seulement aux images 2D classiques, mais aussi aux images 3D de personnes. Elle a aussi manifesté son intérêt pour le développement de produits d'IA basés sur ce projet.
Jonsson, lui-même chercheur en intelligence artificielle, reconnaît que ce programme a permis à son équipe d'explorer davantage les technologies de pointe. « Ce cours a vraiment approfondi notre compréhension de ce créneau au sein de la communauté de recherche », a déclaré Jonsson. « Il nous a permis de nous familiariser rapidement avec les idées les plus récentes et les plus prometteuses qui ont émergé pour résoudre ce type de problèmes. »
Aux autres petites et moyennes entreprises utilisant l'IA, Jonsson adresse un message : « Quiconque utilise l'IA aujourd'hui et ne met pas en œuvre de mesures d'atténuation des biais doit le faire. »
Adamson partage cet avis : « Nous encourageons fortement toutes les organisations à envoyer leurs employés se former pour atteindre ce niveau. Plus nous pourrons inciter le secteur dans cette direction, mieux ce sera pour tout le monde », a-t-il déclaré.
« Bravo à Vector de l'avoir mis à disposition. »
Pour en savoir plus sur le prochain cours sur les biais dans l'IA, adressez-vous à votre conseiller en technologie industrielle (CTI) du PARI CNRC, visitez le site Web du programme ou inscrivez-vous au bulletin de Vector.
