Exploiter le potentiel du réglage des incitations dans l'apprentissage fédéré

Un nouvel article de Xiaoxiao Li, membre du corps professoral de Vector, présente une approche inédite combinant l'apprentissage généralisé et personnalisé au sein d'un système performant capable de gérer l'hétérogénéité des données. Baptisée SGPT (Shared and Group Prompt Tuning), cette méthode améliore les performances, la sécurité et l'interprétabilité.

L'article « Exploiter le potentiel du réglage rapide pour faire le lien entre l'apprentissage fédéré généralisé et personnalisé », coécrit par Wenlong Deng et Christos Thrampoulidis, illustre comment cette approche novatrice combine les avantages de l'apprentissage généralisé (où une IA apprend à partir de diverses sources) et de l'apprentissage personnalisé (où une IA est adaptée à des utilisateurs spécifiques). Cette conception permet à l’algorithme de saisir les caractéristiques communes et spécifiques, facilitant ainsi une meilleure adéquation aux diverses distributions de données locales sans nécessiter de réglage précis local.

L'apprentissage fédéré vise à entraîner des modèles d'apprentissage machine sur plusieurs clients sans partager leurs données, ce qui le rend crucial dans des domaines comme la vision par ordinateur. Cependant, l'hétérogénéité des données, caractérisée par des différences de domaine ou des distributions de classes déséquilibrées, constitue un obstacle majeur. Les méthodes d'apprentissage fédéré généralisées traditionnelles, qui apprennent un modèle global unique, ont souvent du mal à gérer une forte hétérogénéité des données. Les méthodes d'apprentissage fédéré personnalisées, qui adaptent les modèles à chaque client, peuvent mener au surapprentissage.

Contexte et motivation

Les approches traditionnelles de modélisation fonctionnelle peuvent être globalement classées en modélisation fonctionnelle généralisée (GFL) et modélisation fonctionnelle personnalisée (PFL). La GFL vise à apprendre un modèle global unique qui se généralise bien à tous les clients, tandis que la PFL se concentre sur l'adaptation des modèles à chaque client ou groupe de clients. Ces deux approches présentent des limites : la GFL a du mal à gérer une forte hétérogénéité des données, tandis que la PFL peut surapprendre les données locales et ne pas parvenir à se généraliser aux clients hors fédération.

Pour relever ces défis, les auteurs présentent SGPT, un nouvel algorithme qui combine les avantages de GFL et de PFL. SGPT exploite la puissance des transformateurs de vision (ViT), traditionnellement considérés comme gourmands en ressources de calcul, mais qui ont récemment bénéficié de méthodes d'optimisation efficaces, telles que l'optimisation rapide, améliorant considérablement leur efficacité et les rendant parfaitement adaptés à FL. En appliquant des techniques d'optimisation rapide, SGPT établit un cadre FL flexible et efficace, optimisé pour l'ajustement de modèles dans des environnements distribués.

Méthodologie SGPT

L'idée principale de SGPT est d'apprendre à la fois les invites partagées et les invites spécifiques au groupe, permettant ainsi au modèle de saisir les caractéristiques communes à tous les clients tout en s'adaptant aux spécificités de chaque groupe. Voici une description des principaux composants :

1. Invites partagées : elles sont conçues pour recueillir des représentations communes à tous les clients. Elles sont associées aux premières couches du modèle ViT, où les caractéristiques ont tendance à être plus uniformes entre les différentes classes.
2. Invites de groupe : Ces invites sont conçues pour extraire des informations spécialisées pour différents groupes de données. Elles sont insérées dans les couches supérieures du ViT, où les fonctionnalités deviennent plus diversifiées et spécialisées.
3. Module de sélection des invites : Ce module utilise une approche de regroupement par similarité pour assigner les points de données à des groupes spécifiques. Il apprend un ensemble de clés pour chaque groupe et sélectionne l'invite appropriée en fonction de la similarité entre les caractéristiques d'entrée et les clés apprises.
4. Optimisation par descente de coordonnées par blocs (BCD) : Pour entraîner efficacement les invites, SGPT utilise une approche BCD. Il optimise d'abord les invites partagées pour apprendre les informations communes, puis optimise les invites de groupe pour extraire des connaissances plus spécialisées.

Les auteurs présentent plusieurs techniques visant à améliorer la stabilité et l'efficacité de leur approche :

• Étalonnage de la fonction de sélection à l'aide de la probabilité de sélection cumulative afin d'éviter un regroupement en quelques groupes.
• Agrégation des paramètres d'inertie pour les touches et les invites de groupe afin d'assurer la cohérence de la sélection et des connaissances.

Analyse théorique

Cet article propose une analyse théorique de l'écart entre les performances globales et locales du modèle SGPT. Les auteurs identifient deux facteurs clés à l'origine de cet écart :

1. Généralisation : liée au nombre d'échantillons dans chaque groupe.
2. Écart de distribution : différence entre la distribution globale du groupe et la distribution locale de chaque client.

SGPT tient compte de ces facteurs en utilisant des invites partagées dans les premières couches afin de maximiser la taille de l'échantillon pour les caractéristiques communes, et en regroupant les invites dans les couches supérieures afin de minimiser l'écart de distribution pour les caractéristiques diverses.

Dispositif expérimental et résultats

Les auteurs ont mené des expériences approfondies sur divers ensembles de données afin d'évaluer les performances de SGPT dans des conditions d'hétérogénéité des étiquettes et d'hétérogénéité des caractéristiques :

Hétérogénéité des étiquettes :

• CIFAR-100 : 100 clients, chaque client se voyant attribuer des données provenant d'un nombre spécifique de classes.
• Cinq ensembles de données : une séquence de 5 ensembles de données (SVHN, CIFAR10, not-MNIST, Fashion-MNIST et MNIST) répartis sur 20 clients.

Hétérogénéité des caractéristiques :

• Office-Caltech10 : quatre domaines de données comportant chacun 10 classes.
• DomainNet : six domaines avec les dix classes les plus fréquentes.

Les expériences ont comparé SGPT à plusieurs méthodes de référence, notamment FedVPT, FedMix, pFedPG, FedEM et FedPR. Les résultats ont démontré que SGPT surpassait systématiquement ces méthodes de référence, et ce, pour différents niveaux d'hétérogénéité et ensembles de données.

Les principales conclusions sont les suivantes :

1. SGPT a obtenu une précision globale plus élevée et une précision locale plus faible que les autres méthodes, ce qui indique de meilleures performances sur les distributions de données globales et locales.
2. SGPT a démontré sa robustesse face à l'augmentation des niveaux d'hétérogénéité des données, avec des baisses de performance plus faibles que les autres méthodes à mesure que l'hétérogénéité augmentait.
3. Dans les expériences d'hétérogénéité des caractéristiques, SGPT a obtenu les précisions moyennes les plus élevées sur les ensembles de données Office-Caltech10 et DomainNet.

Les auteurs ont aussi mené des études d'ablation pour analyser l'impact des différentes composantes de la SGPT :

• La combinaison d'invites partagées et de groupe a permis d'améliorer significativement la précision globale et la précision locale dans les situations les plus critiques.
• La stratégie proposée d'optimisation par descente de coordonnées par blocs s'est avérée cruciale pour un entraînement efficace des invites.
• Le module de sélection rapide avec mise à jour dynamique a amélioré les performances et la stabilité du clustering.

Conclusion et implications

L'algorithme SGPT représente une avancée majeure dans l'apprentissage fédéré, comblant efficacement le fossé entre les approches généralisées et personnalisées. Grâce à des techniques d'optimisation rapide et à la puissance des transformateurs de vision, SGPT offre des performances supérieures pour la gestion de l'hétérogénéité des données entre les clients.

Les innovations clés de SGPT – les invites partagées et de groupe, le module de sélection des invites et la stratégie d'optimisation BCD – offrent un cadre flexible capable de s'adapter aux distributions de données globales et locales sans nécessiter de réglage précis local. Cette approche améliore non seulement les performances, mais préserve également l'efficacité, avec un nombre de paramètres à entraîner nettement inférieur à celui des méthodes FL traditionnelles.

Alors que l'apprentissage fédéré prend une importance croissante dans les applications d'apprentissage automatique respectueuses de la vie privée, des méthodes telles que SGPT, capables de gérer efficacement les distributions de données hétérogènes, seront cruciales pour les déploiements en conditions réelles. Les recherches futures pourraient explorer l'application de techniques d'ajustement d'impulsions similaires à d'autres types de modèles que les transformateurs de vision, ainsi qu'étudier l'évolutivité et l'efficacité de communication de ces approches dans les systèmes d'apprentissage fédéré à grande échelle.

Créé par l'IA, édité par des humains, à propos de l'IA

Cet article fait partie de notre série « ANDERS – Explication des avancées majeures de l'IA et vulgarisation de la recherche ». Nous utilisons des agents d'IA pour générer des brouillons à partir d'articles scientifiques, qui sont ensuite soigneusement édités et peaufinés par nos équipes. Notre objectif est de vous proposer des explications claires et concises des recherches de pointe menées par les chercheurs de Vector. Grâce à ANDERS, nous nous efforçons de rendre accessibles les avancées scientifiques complexes au grand public, en soulignant leur importance et leur impact sur notre monde.

Lire l'article complet