Le premier outil gratuit de ce genre offre aux salles de rédaction, aux équipes RH, assureurs et IA, entre autres, un moyen pratique d’éliminer le langage biaisé dans le contenu écrit et les données d’entraînement de l’IA – en quelques secondes
L’Institut Vector a lancé aujourd’hui UnBias-Plus, un outil d’IA gratuit et open source développé par les chercheurs en sécurité de l’IA de Vector, qui aide à détecter, expliquer et réécrire le langage biaisé dans le contenu écrit et les ensembles de données d’entraînement de l’IA – en quelques secondes.
Cette libération survient à un moment décisif. La stratégie nationale canadienne en IA : IA pour tous identifie explicitement la lutte contre les biais algorithmiques comme un pilier du développement responsable de l’IA, reconnaissant que les biais non contrôlés dans les systèmes d’IA sapent l’équité, la sécurité et la confiance du public. L’ampleur du défi est stupéfiante : les biais dans les données d’entraînement de l’IA ont été mesurés à des taux allant de 3,4% à 38,5%, et même les grands modèles de langage (LLM) adaptés à la sécurité présentent des biais raciaux et de genre implicites – une réalité troublante étant donné que les LLM risquent de perpétuer et d’amplifier les biais humains mêmes intégrés dans le texte dont ils apprennent.
UnBias-Plus est le premier outil gratuit de ce genre disponible tant pour les organisations que pour le grand public. L’outil analyse le texte écrit à la recherche d’un langage biaisé selon les dimensions de la race, du genre, de l’âge et du cadre politique, explique précisément pourquoi le langage a été signalé, propose des alternatives neutres et retourne une version entièrement réécrite du contenu original. Plutôt que de simplement produire une copie révisée, UnBias-Plus montre aux utilisateurs pourquoi le langage peut être biaisé, aidant ainsi à mieux comprendre comment les biais apparaissent dans la communication quotidienne. La plateforme est disponible en deux formats :
- Une version sur navigateur destinée au public, supportant un contenu allant jusqu’à 750 mots – pratique pour l’écriture quotidienne et pour les organisations évaluant l’outil avant une adoption plus large; et
- Un installateur développeur pour l’intégration dans les applications, systèmes et flux de travail de l’entreprise.
« Ce qui nous a poussés à construire cela, c’est simple : les personnes les plus blessées par un langage biaisé sont souvent les dernières à savoir que c’est là. Un patient ne voit pas les suppositions enfouies dans ses notes cliniques. Un candidat ne sait pas pourquoi une porte se ferme sans cesse. Nous voulions rendre l’invisible visible – un outil gratuit qui met en lumière les biais, les explique et aide à les corriger. Cependant, le biais ne se limite pas à un document que quelqu’un écrit aujourd’hui. Il vit dans les données utilisées pour entraîner les modèles d’IA et, lorsqu’il n’y est pas détecté, il est appris, répliqué et déployé à grande échelle à travers l’ensemble des organisations. UnBias-Plus donne aux développeurs et aux data scientists la capacité de trouver et de nettoyer ce biais avant qu’il ne devienne partie intégrante du modèle. »
UnBias-Plus est conçu pour aider les professionnels et les secteurs où le biais linguistique a les conséquences réelles les plus importantes :
Éditorial et médias – Les rédacteurs peuvent intégrer UnBias-Plus directement dans leurs flux de travail pour aider à identifier et corriger les biais avant publication, soutenant ainsi un reportage plus précis et inclusif.
Ressources humaines, EDI et équipes en milieu de travail – Cet outil peut servir à filtrer les descriptions de poste, les évaluations de performance, les cas de promotion et les communications internes à la recherche d’un langage genré, racialisé ou chargé qui pourrait involontairement créer des obstacles pour les employés et les candidats.
Communications en santé – UnBias-Plus aide à examiner les notes cliniques, les évaluations de soins et les communications avec les patients pour détecter des cadrages stigmatisants ou discriminatoires pouvant influencer les décisions de soins, la couverture d’assurance et les résultats. Par exemple, si un aidant a écrit « patient non conforme refuse le médicament » – cette formulation suit le patient à chaque rendez-vous futur. UnBias-Plus pourrait signaler ce type de formulation et suggérer une alternative comme « patient a refusé la médication » afin que le dossier reste factuel, et non jugeant.
Assurance – Les équipes peuvent aider à filtrer les lettres d’avantages, les avis d’admissibilité et les communications de couverture afin de s’assurer que le langage reflète la politique et les faits, et non des suppositions inconscientes sur qui mérite des soins.
Développeurs d’IA et scientifiques des données – UnBias-Plus aide à filtrer les annotations, les invites et le texte source afin que les données aseptisées puissent être utilisées pour entraîner ou affiner les modèles d’IA, en identifiant des motifs biaisés à la couche de données – avant que ces motifs ne soient appris, répliqués et intégrés dans les systèmes déployés. Les équipes d’IA peuvent aussi exécuter des sorties de modèles via l’outil pour auditer un langage biaisé avant qu’il n’atteigne les utilisateurs ou ne soit intégré dans les flux de travail en aval.
« Le leadership canadien en IA dépend de la construction de systèmes qui produisent des résultats plus équitables – ce qui signifie s’assurer que la recherche derrière ces systèmes soit accessible à tous. Rendre UnBias-Plus libre, transparent et open source est une expression délibérée de la mission de Vector en tant qu’institut indépendant et à but non lucratif : la recherche sur la façon dont les biais en IA et en langage affecte toute la société, et les outils qui en découlent devraient l’être aussi. En ouvrant ce travail aux développeurs, aux organisations et au public, nous assurons que la capacité de construire une IA plus équitable appartient à tous. »
Découvrez Unbias-Plus :
UnBias-Plus est la première version du Vector Institute dans une suite plus large d’outils Safe AI. Les mises à jour élargiront les capacités avec des outils de détection des biais audio et vidéo ainsi que des outils de détection de désinformation prévus pour une future version. Pour accéder aux autres produits disponibles, veuillez visiter notre page Logiciels Open Source .
UnBias-Plus prend actuellement en charge uniquement le texte en anglais. L’outil ne vérifie pas l’exactitude factuelle, ne détecte pas la désinformation et n’identifie pas le contenu généré par l’IA.
