FairSense : Intégrer l’IA responsable et la durabilité

Portable vectoriel

21 janvier 2025

Génie de l’IA

Auteurs : Shaina Raza, Mark Coatsworth, Tahniat Khan et Marcelo Lotif

Une nouvelle plateforme pilotée par l’IA étend la détection des biais pour inclure du texte et du contenu visuel, tout en tirant parti de cadres d’IA écoénergétiques. Développé par Shaina Raza, scientifique en apprentissage automatique appliqué chez Responsible AI, et l’équipe d’ingénierie IA de Vector, FairSense-AI équilibre efficacité énergétique et sécurité face aux biais.

Avec les centres de données représentant jusqu’à 2% de la consommation mondiale d’électricité, les préoccupations concernant la durabilité environnementale de GenAI augmentent, parallèlement aux défis existants liés au biais et à la désinformation. FairSense-AI exploite des cadres d’IA écoénergétiques tout en fournissant un cadre soutenu par l’IA pour identifier les biais dans des contextes multimodaux ainsi qu’un outil de gestion des risques piloté par l’IA, offrant aux utilisateurs une approche structurée pour identifier, évaluer et atténuer les risques liés à l’IA. Un paquet Python permet aux programmeurs d’intégrer facilement FairSense-AI dans le code logiciel.

Une capture d’écran de l’interface de la plateforme web Fairsense-AI. L’en-tête affiche le logo Fairsense-AI avec des icônes décoratives. La description ci-dessous indique que la plateforme est un outil piloté par l’IA pour analyser les biais dans le contenu textuel et visuel, conçu pour promouvoir la transparence, l’équité et l’équité dans les systèmes d’IA. Quatre caractéristiques clés sont listées : Analyse de texte pour détecter les biais et mettre en évidence les termes problématiques; Analyse d’images pour évaluer les images pour le texte intégré et les légendes; Traitement par lots pour analyser de grands ensembles de données; et la gouvernance de l’IA pour des informations sur les pratiques éthiques de l’IA. Sept onglets de navigation sont visibles en haut : Analyse de texte, Analyse d’images, Analyse CSV par lot de tests, Analyse d’images par lots, Gouvernance et sécurité de l’IA, Tableau de bord des risques de sécurité de l’IA et À propos de Fairsense-AI. L’onglet Analyse de texte est actif, affichant un champ de saisie de texte avec une case à cocher « Utiliser le résumé? » et un bouton Analyser. Un exemple d’entrée est : « Certaines personnes disent que les femmes ne sont pas adaptées à des rôles de leadership. » Sous l’entrée, deux autres exemples d’énoncés sont présentés pour comparaison. En bas de l’interface, une section intitulée « Analyse des biais et du groupe cible » affiche une sortie texte identifiant le ton comme critique et condescendant, notant que le groupe ciblé semble être des femmes. La légende sous la capture d’écran indique que Fairsense-AI analyse le texte pour détecter les biais, mettant en évidence les termes problématiques et fournissant des éclairages sur les stéréotypes.

Fairsense-AI analyse le texte à la recherche de biais, mettant en évidence les termes problématiques et fournissant des éclairages sur les stéréotypes. Cet outil démontre comment l’IA peut promouvoir l’équité et l’équité dans l’analyse du langage

Qu’est-ce que ça fait?

S’appuyant sur UnBias, un outil de neutralisation des biais développé auparavant par Vector, FairSense-AI identifie des schémas subtils de préjugés, de stéréotypes ou de favoritisme afin d’améliorer l’équité et l’inclusivité dans le contenu numérique (texte et images). De plus, FairSense-AI exploite de grands modèles de langage (LLM) et de grands modèles de vision (VLM) optimisés pour l’efficacité énergétique, minimisant ainsi son impact environnemental.

Un graphique à barres intitulé « Réduction des émissions de carbone chez Llama 3,2 1B (kg) » comparant les émissions de CO₂ avant et après optimisation. L’axe des y montre les émissions de CO₂ en kilogrammes sur une échelle logarithmique allant de 10⁻² à 10⁵. L’axe des x montre deux étapes d’optimisation. La première barre, étiquetée « Avant l’optimisation », est rouge et atteint environ 10⁵, avec une annotation de 107 000 000 kg. La deuxième barre, étiquetée « Après optimisation », est verte et se situe juste au-dessus de 10⁻², avec une annotation de 0,012 kg. L’échelle logarithmique met en lumière l’ampleur spectaculaire de la réduction – plus de neuf ordres de grandeur – entre les deux étapes. La légende indique que les techniques d’optimisation ont réduit les émissions à seulement 0,012 kg de CO₂, démontrant que les pratiques responsables d’IA peuvent être à la fois à impact environnemental et rentables dans la formation des LLM

Les techniques d’optimisation ont réduit les émissions à seulement 0,012 kg de CO2, démontrant que des pratiques d’IA responsables peuvent être à la fois à impact environnemental et rentables dans la formation des LLMs

L’impact environnemental réduit de l’outil peut être observé en comparant les émissions de carbone de Llama 3.2 1B (l’un des modèles fondamentaux intégrés) avant et après l’optimisation et l’ajustement fin. Les émissions ont été réduites de 107 000 kg à seulement 0,012 kg par heure d’inférence, ce qui met en lumière comment les objectifs d’IA verte peuvent être atteints sans compromettre la fonctionnalité ou la flexibilité. Le logiciel CodeCarbon a été utilisé pour évaluer l’impact environnemental de l’exécution du code. L’outil suit la consommation d’électricité pendant le calcul et la convertit en émissions de carbone selon la localisation géographique du traitement. Les émissions de carbone étaient mesurées en kilogrammes (kg).

Comment ça fonctionne?

FairSense-AI collecte des données textuelles et d’images provenant de diverses sources, puis utilise des LLM et VLM pour détecter des motifs subtils de biais. Il attribue un score basé sur la gravité du biais et propose des recommandations pour un contenu plus équitable et inclusif. Tout au long du processus, FairSense-AI intègre des techniques d’optimisation écoénergétiques pour aligner l’IA responsable sur les objectifs de durabilité, en tirant parti des ressources locales et des outils gratuits comme Kiln.

Une capture d’écran de l’interface de la plateforme web Fairsense-AI avec l’onglet Analyse d’image actif. L’en-tête de la plateforme et la liste des fonctionnalités sont visibles en haut, ainsi que les sept onglets de navigation. L’espace de travail Analyse d’images montre une image téléchargée à gauche représentant deux figures humaines : l’une debout sur une grande plateforme rouge avec une échelle et l’autre debout sur un bloc beaucoup plus bas sans support, représentant visuellement un accès inégal aux ressources. À droite, une boîte de sortie d’analyse surlignée en orange affiche le texte : « L’image met en lumière l’inégalité des genres, représentant un homme sur une plateforme plus haute avec une échelle, symbolisant l’accès aux ressources et aux opportunités, tandis que la femme se tient sur un bloc inférieur sans soutien, soulignant les disparités systémiques auxquelles les femmes font souvent face. » La légende sous la capture d’écran indique que Fairsense-AI peut analyser les biais visuels, mettant en lumière l’inégalité systémique des genres en matière d’opportunités et de ressources.

Fairsense-AI peut analyser les biais visuels, mettant en lumière l’inégalité systémique des genres en matière d’opportunités et de ressources

Cadre Fairsense

  • Prétraitement des données : collecte et standardise les données textuelles et d’images.
  • Analyse de modèles : utilise des LLM/LVLM pour détecter les déséquilibres de contenu.
  • Score de biais : quantifie et met en lumière la gravité du biais.
  • Recommandations : propose des stratégies pour réduire les biais.
  • Identification des risques : identifie les risques liés à l’IA pour des décisions éclairées.
  • Durabilité : optimise les processus pour atténuer les biais écoresponsables.

La science derrière l’optimisation de Fairsense réside dans l’utilisation de techniques avancées incluant l’élagage des modèles, l’entraînement en précision mixte et l’ajustement fin, afin de réduire la complexité du modèle tout en préservant la performance. En supprimant sélectivement des paramètres moins critiques, en passant à des représentations numériques efficaces et en affinant soigneusement les modèles pré-entraînés, Fairsense réduit considérablement les besoins computationnels et la consommation d’énergie. Cette approche simplifiée maintient non seulement une grande précision et une détection nuancée des biais ainsi que l’identification des risques, mais elle s’aligne aussi sur les objectifs de durabilité en minimisant l’empreinte carbone, 

À l’avenir, les chercheurs de Vector espèrent ajouter un volet de gestion des risques en IA capable d’identifier les risques liés à l’IA, tels que la désinformation, la désinformation ou les biais linguistiques et visuels, à partir des requêtes. Ce cadre de gestion des risques, conçu par Tahniat Khan, s’appuiera sur le MIT Risk Repository et le NIST Risk Management Framework, en accord avec les meilleures pratiques largement reconnues pour une gestion efficace des risques en IA.

Conclusion

La technologie peut être à la fois transformatrice et éthique; bien que l’IA générative soit un outil puissant, il introduit aussi un nouvel ensemble de risques. FairSense-AI établit une nouvelle norme pour l’innovation responsable en IA en rendant la détection des biais et l’identification des risques accessibles tant aux publics techniques qu’aux publics non techniques, tout en maintenant l’accent sur l’efficacité énergétique. Il est possible de prioriser des pratiques d’IA responsables qui profitent à la société et à la planète sans sacrifier l’innovation. Avec des solutions comme celle-ci, nous pouvons exploiter le potentiel de l’IA tout en assurant un avenir plus équitable et durable pour tous.

À lire aussi :