Auteurs : Shaina Raza, Mark Coatsworth, Tahniat Khan et Marcelo Lotif
FairSense-AI, une nouvelle plateforme basée sur l'IA, étend la détection des biais aux contenus textuels et visuels tout en tirant parti de cadres d'IA économes en énergie. Développée par Shaina Raza, chercheuse en apprentissage automatique appliqué au sein de Responsible AI, et l'équipe d'ingénierie IA de Vector, FairSense-AI concilie efficacité énergétique et sécurité face aux biais.
Les centres de données représentant jusqu'à 2 % de la consommation mondiale d'électricité , les préoccupations concernant la durabilité environnementale de l'IA de nouvelle génération s'accentuent, parallèlement aux défis existants liés aux biais et à la désinformation. FairSense-AI exploite des cadres d'IA écoénergétiques tout en fournissant un cadre d'analyse basé sur l'IA pour identifier les biais dans des environnements multimodaux, ainsi qu'un outil de gestion des risques piloté par l'IA. Il offre ainsi aux utilisateurs une approche structurée pour identifier, évaluer et atténuer les risques liés à l'IA. Un paquet Python permet aux développeurs d'intégrer facilement FairSense-AI à leur code logiciel.
Fairsense-AI analyse les textes pour détecter les biais, en soulignant les termes problématiques et en fournissant des informations sur les stéréotypes. Cet outil démontre comment l'IA peut promouvoir l'équité et la justice dans l'analyse linguistique.
À quoi ça sert ?
S'appuyant sur UnBias , un outil de neutralisation des biais développé par Vector, FairSense-AI identifie les schémas subtils de préjugés, de stéréotypes ou de favoritisme afin d'améliorer l'équité et l'inclusion dans les contenus numériques (textes et images). De plus, FairSense-AI utilise des modèles de langage (LLM) et des modèles de vision (VLM) de grande taille, optimisés pour l’efficacité énergétique, minimisant ainsi son impact environnemental.
Les techniques d'optimisation ont permis de réduire les émissions à seulement 0,012 kg de CO2, démontrant ainsi que des pratiques d'IA responsables peuvent être à la fois respectueuses de l'environnement et rentables dans la formation des étudiants à la maîtrise en droit.
L'impact environnemental réduit de l'outil est visible en comparant les émissions de carbone de Llama 3.2 1B (l'un des modèles de base qui y sont intégrés) avant et après optimisation et mise au point. Les émissions ont été réduites de 107 000 kg à seulement… 0,012 kg par heure d'inférence, ce qui démontre qu'il est possible d'atteindre les objectifs d'une IA verte sans compromettre la fonctionnalité ni la flexibilité. Le logiciel CodeCarbon a été utilisé pour évaluer l'impact environnemental de l'exécution du code. Cet outil suit la consommation d'électricité pendant les calculs et la convertit en émissions de carbone en fonction de l'emplacement géographique du traitement. Les émissions de carbone ont été mesurées en kilogrammes (kg).
Comment ça marche ?
FairSense-AI recueille des données textuelles et visuelles provenant de diverses sources, puis les utilise LLM et FairSense-AI utilise des modèles d'apprentissage machine (VLM) pour détecter les biais subtils. Le système attribue un pointage en fonction de la gravité du biais et propose des recommandations pour un contenu plus juste et inclusif. Tout au long du processus, FairSense-AI intègre des techniques d'optimisation écoénergétiques afin d'aligner l'IA responsable sur les objectifs de développement durable, en tirant parti des ressources locales et d'outils gratuits comme Kiln .
Fairsense-AI peut analyser les biais visuels, mettant en évidence les inégalités systémiques entre les sexes en matière d'opportunités et de ressources.
Cadre de gros bon sens
- Prétraitement des données : collecte et normalisation des données textuelles et des images.
- Analyse de modèles : utilise des LLM/LVLM pour détecter les déséquilibres de contenu.
- Évaluation des biais : quantifie et met en évidence la gravité des biais.
- Recommandations : propose des stratégies pour réduire les biais.
- Identification des risques : identifie les risques liés à l’IA pour des décisions éclairées.
- Durabilité : optimise les processus pour atténuer les préjugés éco-responsables.
La science qui sous-tend l'optimisation de Fairsense repose sur l'utilisation de techniques avancées telles que l'élagage de modèles, l'entraînement en précision mixte et le réglage fin, afin de réduire la complexité des modèles tout en préservant leurs performances. En supprimant sélectivement les paramètres les moins critiques, en optant pour des représentations numériques efficaces et en peaufinant soigneusement les modèles préentraînés, Fairsense réduit considérablement les besoins en calcul et la consommation d'énergie. Cette approche simplifiée permet non seulement de maintenir une précision élevée et une détection nuancée des biais et des risques, mais elle s'inscrit également dans une démarche de développement durable en minimisant l'empreinte carbone.
À l'avenir, les chercheurs de Vector espèrent intégrer un module de gestion des risques liés à l'IA capable d'identifier, à partir de requêtes, les risques tels que la désinformation, la désinformation ou les biais linguistiques et visuels. Ce cadre de gestion des risques, conçu par Tahniat Khan, s'appuiera sur le référentiel de risques du MIT et le cadre de gestion des risques du NIST , conformément aux meilleures pratiques reconnues en matière de gestion efficace des risques liés à l'IA.
Conclusion
La technologie peut être à la fois transformatrice et éthique ; si l'IA générative est un outil puissant, elle introduit aussi de nouveaux risques. FairSense-AI établit une nouvelle norme en matière d’innovation responsable en IA en rendant la détection des biais et l’identification des risques accessibles à tous, experts ou non, tout en privilégiant l’efficacité énergétique. Il est possible de privilégier des pratiques d’IA responsables, bénéfiques pour la société et la planète, sans pour autant sacrifier l’innovation. Grâce à des solutions comme celle-ci, on peut exploiter le potentiel de l'IA tout en garantissant un avenir plus équitable et durable pour tous.
