Les chercheurs de Vector s'attaquent aux défis concrets de l'IA lors de l'ICML 2025

Recueillir des informations pour réduire l'incertitude sur une entité latente est une compétence essentielle dans de nombreux domaines d'application, comme l'évaluation des acquis individuels des élèves, le diagnostic de maladies sous-jacentes ou la compréhension des préférences des utilisateurs. Bien que le langage naturel soit un outil puissant à cette fin, les grands modèles de langage (GML) et les algorithmes d'ajustement existants ne disposent pas de mécanismes permettant de collecter stratégiquement des informations afin d'affiner leur compréhension de l'entité latente. Nous proposons un cadre d'élicitation adaptatif qui réduit activement l'incertitude sur l'entité latente en simulant des réponses contrefactuelles. La modélisation probabiliste d'une entité latente abstraite étant complexe, nous validons et affinons les méthodes de quantification de l'incertitude basées sur les GML en utilisant la perplexité sur des observations futures masquées produites par l'entité latente. Notre cadre permet le développement de stratégies sophistiquées de collecte d'informations, et nous démontrons sa polyvalence par des expériences de sondage d'opinion dynamique et d'évaluation adaptative des élèves.

Les grands modèles linguistiques (LLM) acquièrent une vaste gamme d'informations dans divers domaines. Cependant, leur complexité de calcul, leur coût et leur manque de transparence limitent souvent leur application directe aux tâches prédictives où la confidentialité et l'interprétabilité sont primordiales. Dans des domaines tels que la santé, la biologie et les finances, les modèles linéaires spécialisés et interprétables conservent une valeur considérable. Dans ces domaines, les données étiquetées peuvent être rares ou coûteuses à obtenir. Les distributions a priori bien spécifiées sur les paramètres du modèle peuvent réduire la complexité d'échantillonnage de l'apprentissage par inférence bayésienne ; cependant, l'obtention de ces distributions a priori auprès d'experts peut s'avérer fastidieuse. Nous introduisons donc AutoElicit pour extraire des connaissances des LLM et construire des distributions a priori pour les modèles prédictifs. Nous montrons que ces distributions a priori sont informatives et peuvent être affinées à l'aide du langage naturel. Nous menons une étude comparative approfondie entre AutoElicit et l'apprentissage en contexte et montrons comment sélectionner le modèle le plus approprié parmi les deux méthodes. Nous constatons qu'AutoElicit produit des distributions a priori qui permettent de réduire considérablement l'erreur par rapport à des distributions a priori non informatives, en utilisant moins d'étiquettes, et surpasse systématiquement l'apprentissage en contexte. Nous démontrons qu'AutoElicit permet d'économiser plus de 6 mois d'efforts d'étiquetage lors de la construction d'un nouveau modèle prédictif des infections urinaires à partir d'enregistrements de capteurs chez des personnes atteintes de démence.

L'entraînement des réseaux de neurones est intrinsèquement sensible à l'initialisation et au hasard induit par la descente de gradient stochastique. Cependant, l'impact de ces effets sur les réseaux obtenus, que ce soit au niveau des poids des modèles ou des fonctions sous-jacentes apprises, reste incertain. Dans ce travail, nous montrons que, durant une phase initiale « chaotique », une perturbation extrêmement faible suffit à faire diverger des trajectoires d'entraînement par ailleurs identiques – un effet qui s'atténue rapidement au cours de l'entraînement. Nous quantifions cette divergence par (i) la distance L² entre les paramètres, (ii) la similarité des vecteurs de paramètres mesurée par alignement de permutations et, surtout, (iii) la barrière de perte lors de l'interpolation entre les réseaux. Nous montrons ainsi comment des perturbations affectant différents hyperparamètres ou réglages fins orientent les trajectoires d'entraînement vers des minima de perte distincts. Nos résultats éclairent la stabilité de l'entraînement des réseaux de neurones et ont des implications pratiques pour les techniques de réglage fin et de fusion de modèles.

L'idée d'un apprentissage de modèles tenant compte de la valeur, selon laquelle les modèles doivent produire des estimations de valeur précises, a pris de l'importance dans l'apprentissage par renforcement basé sur des modèles. La perte MuZero, qui pénalise la prédiction de la fonction de valeur d'un modèle par rapport à la fonction de valeur réelle, a été utilisée dans plusieurs travaux empiriques importants. Cependant, l'étude théorique de ses forces et faiblesses demeure limitée. Dans cet article, nous analysons la famille des pertes d'apprentissage de modèles tenant compte de la valeur, dont la perte populaire MuZero. Nous montrons que ces pertes, telles qu'elles sont généralement utilisées, sont des pertes de substitution non calibrées, ce qui signifie qu'elles ne retrouvent pas toujours le modèle et la fonction de valeur corrects. Forts de cette observation, nous proposons des corrections pour résoudre ce problème. De plus, nous étudions l'interaction entre l'étalonnage de la perte, les architectures de modèles latents et les pertes auxiliaires couramment utilisées lors de l'entraînement d'agents de type MuZero. Nous montrons que si les modèles déterministes peuvent suffire à prédire des valeurs précises, l'apprentissage de modèles stochastiques calibrés demeure avantageux.

Nous étudions le problème de l'apprentissage par renforcement distributionnel à l'aide de paramétrisations catégorielles et d'une perte de divergence de Kullback-Leibler (KL). Les travaux antérieurs analysant l'apprentissage par renforcement distributionnel catégoriel ont utilisé une perte basée sur la distance de Cramér, simplifiant l'analyse mais créant un écart entre la théorie et la pratique. Nous présentons une version préconditionnée de l'algorithme et démontrons sa convergence garantie. Nous dérivons ensuite la variance asymptotique des estimations catégorielles sous différents régimes de taux d'apprentissage, la comparons à celle de l'apprentissage par renforcement classique et analysons l'influence de l'approximation de fonctions linéaires sur ces mises à jour. Finalement, nous validons empiriquement nos résultats et menons une étude comparative des avantages relatifs des pertes KL, ce qui nous permet d'en tirer des enseignements pratiques.

Les réseaux de neurones graphiques (GNN) ont démontré une efficacité remarquable dans l'apprentissage à partir de données structurées en graphes. Cependant, leur application aux graphiques orientés (digraphes) présente des défis uniques, principalement dus à l'asymétrie inhérente aux relations entre les nœuds. Les GNN traditionnels excellent dans la capture des relations unidirectionnelles, mais peinent à encoder les dépendances mutuelles entre les chemins, comme les plus courts chemins asymétriques typiques des digraphes. Face à cette lacune, nous introduisons les réseaux de neurones graphiques à temps de trajet (CGNN), une approche qui intègre de manière transparente le temps de trajet de chaque nœud dans le système de transmission de messages. Le principe fondamental des CGNN repose sur une méthode efficace de calcul du temps de trajet, utilisant un laplacien de digraphe nouvellement formulé. Ce temps de trajet est ensuite intégré au processus d'agrégation de voisinage, les contributions des voisins étant pondérées en fonction de leur temps de trajet respectif vers le nœud central de chaque couche. Cela permet aux CGNN de capturer directement les relations asymétriques mutuelles dans les digraphes. De nombreuses expériences confirment les performances supérieures des CGNN. Le code source de CGNN est disponible anonymement ici.

L'estimation adaptative des moments (Adam) est un algorithme d'optimisation fondamental en apprentissage profond, largement reconnu pour sa flexibilité face aux taux d'apprentissage adaptatifs et son efficacité dans le traitement de données à grande échelle. Cependant, malgré son succès pratique, la compréhension théorique de la convergence d'Adam a été limitée par des hypothèses strictes, telles que la quasi-certitude de la borne inférieure du gradient stochastique ou la borne supérieure du gradient uniforme, plus restrictives que celles généralement requises pour l'analyse de la descente de gradient stochastique (SGD). Dans cet article, nous présentons un cadre novateur et complet pour analyser les propriétés de convergence d'Adam. Ce cadre offre une approche polyvalente pour établir la convergence d'Adam. Plus précisément, nous démontrons qu'Adam atteint la convergence asymptotique (au sens de la dernière itération) au sens quasi-sûr et au sens L₁ sous des hypothèses assouplies, généralement utilisées pour la SGD, à savoir la L-régularité et l'inégalité ABC. Par ailleurs, sous les mêmes hypothèses, nous montrons qu'Adam atteint des bornes de complexité d'échantillonnage non asymptotiques semblables à celles de la SGD.

Les prédictions prudentes – où un modèle d'apprentissage machine s'abstient en cas d'incertitude – sont cruciales pour limiter les erreurs préjudiciables dans les applications critiques pour la sécurité. Dans ce travail, nous identifions une nouvelle menace : une institution malhonnête peut exploiter ces mécanismes pour discriminer ou refuser injustement des services sous couvert d'incertitude. Nous démontrons la réalité de cette menace en introduisant une attaque induisant l'incertitude, appelée Mirage, qui réduit délibérément la confiance dans des régions d'entrée ciblées, désavantageant ainsi subrepticement certains individus. Entre-temps, Mirage conserve des performances prédictives élevées sur l'ensemble des points de données. Pour contrer cette menace, nous proposons Confidential Guardian, un cadre qui analyse les mesures d'étalonnage sur un ensemble de données de référence afin de détecter toute réduction artificielle de la confiance. De plus, il utilise des preuves à divulgation nulle de connaissance d'inférence vérifiée pour s'assurer que les scores de confiance rapportés proviennent bien du modèle déployé. Cela empêche le fournisseur de fabriquer arbitrairement des valeurs de confiance pour le modèle tout en protégeant les renseignements confidentiels de ce dernier. Nos résultats confirment que Confidential Guardian empêche efficacement le détournement de prédictions prudentes, en fournissant des garanties vérifiables que l'abstention reflète une véritable incertitude du modèle plutôt qu'une intention malveillante.

Une limite actuelle des modèles de génération vidéo est qu'ils produisent des images d'apparence plausible, mais un mouvement peu réaliste – un problème mal pris en compte par FVD et d'autres méthodes courantes d'évaluation des vidéos générées. Nous allons plus loin que FVD en développant une métrique qui mesure mieux la plausibilité des interactions entre objets et le mouvement. Notre approche novatrice repose sur l'auto-encodage de trajectoires de points et fournit des caractéristiques de mouvement permettant de comparer les distributions de vidéos (d'une vidéo générée et d'une vidéo de référence, ou jusqu'à deux ensembles de données), ainsi que les erreurs de reconstruction pour évaluer le mouvement de vidéos individuelles. Nous montrons que l'utilisation de trajectoires de points, au lieu de la reconstruction de pixels ou de la reconnaissance d'actions, aboutit à une métrique nettement plus sensible aux distorsions temporelles dans les données synthétiques. Cette mesure permet de prédire avec une meilleure précision que de nombreuses alternatives les évaluations humaines de la cohérence temporelle et du réalisme des vidéos générées par des modèles open source.

Nous proposons des méthodes d'audit d'équité des classificateurs multiclasses sous l'hypothèse d'égalité des chances, en estimant l'écart à cette égalité lorsque le classificateur n'est pas parfaitement équitable. Nous généralisons aux classificateurs multiclasses la mesure de prédiction conditionnelle disparate (DCP), initialement proposée par Sabato et Yom-Tov (2020) pour les classificateurs binaires. La DCP est définie comme la fraction de la population pour laquelle le classificateur prédit des probabilités de prédiction conditionnelle différentes de la prédiction de référence commune la plus proche. Nous fournissons de nouvelles méthodes d'optimisation locale pour estimer la DCP multiclasse dans deux cas de figure : l'un où les matrices de confusion conditionnelles de chaque sous-population protégée sont connues, et l'autre où elles ne peuvent être estimées, par exemple en raison de l'inaccessibilité du classificateur ou de l'absence de données individuelles de bonne qualité. Ces méthodes permettent de détecter les classificateurs susceptibles de traiter une fraction significative de la population de manière inéquitable. Des expériences démontrent la précision des méthodes. Le code des expériences est fourni en annexe.

Les modèles d'apprentissage machine modernes sont coûteux à entraîner, et la difficulté de supprimer a posteriori des données d'entraînement spécifiques suscite une préoccupation croissante. Réaliser un désapprentissage exact dans les pipelines d'apprentissage profond – c'est-à-dire produire des modèles comme si certaines données n'avaient jamais été utilisées pour l'entraînement – ​​reste un problème ouvert. Dans cet article, nous réexaminons le désapprentissage exact en apprentissage profond et montrons que, pour les grands modèles de langage (LLM), il est possible de désapprendre efficacement et exactement les « données de réglage fin » (les données utilisées pour adapter un modèle préentraîné). Ce résultat est basé sur deux observations. Premièrement, on peut utiliser l'apprentissage en contexte pour adapter le LLM à l'ensemble de données de réglage fin, au lieu d'algorithmes basés sur la descente de gradient stochastique (SGD). Deuxièmement, nous montrons qu'un apprentissage en contexte précis peut être réalisé avec l'algorithme k-moyennes quantifié, ce qui permet des opérations de désapprentissage en temps quasi constant. Notre évaluation empirique montre que cette méthode de désapprentissage offre des performances similaires aux alternatives de réglage fin, tout en réduisant considérablement les coûts de désapprentissage. Notre étude souligne également la nécessité de nouvelles mesures du coût du désapprentissage lors de l'adaptation de l'algorithme d'apprentissage afin d'accélérer les opérations de désapprentissage.

L'apprentissage discret par invites en boîte noire (BDPL) est une méthode d'optimisation des invites qui optimise les invites discrètes sans accéder aux paramètres ni aux gradients du modèle, rendant ainsi possible l'optimisation des invites sur un modèle de langage étendu (LLM) basé sur le cloud. L'adaptation de l'apprentissage fédéré (FL) au BDPL pourrait améliorer davantage les performances d'optimisation des invites en exploitant des données provenant de sources diverses. Cependant, toutes les recherches antérieures sur l'optimisation fédérée des invites en boîte noire ont négligé le coût important des requêtes associé au service LLM basé sur le cloud. Pour combler cette lacune, nous avons mené une analyse théorique de l'efficacité des requêtes dans le contexte de l'optimisation fédérée des invites en boîte noire. Nos résultats ont révélé que la dégradation de FedAvg pour n'activer qu'un seul client par itération, une stratégie que nous avons appelée FedOne, permettait une efficacité optimale des requêtes dans l'apprentissage fédéré des invites en boîte noire. Forts de cette observation, nous avons proposé le cadre FedOne, une méthode d'apprentissage discret par invites en boîte noire fédérée conçue pour maximiser l'efficacité des requêtes lors des interactions avec des LLM basés sur le cloud. Nous avons mené des expériences numériques sur différents aspects de notre cadre, démontrant une amélioration significative de l'efficacité des requêtes, ce qui concorde avec nos résultats théoriques.

Bien que les modèles génératifs basés sur les scores soient privilégiés dans divers domaines, les outils permettant de contrôler rigoureusement leur comportement lors de l'inférence, notamment pour composer plusieurs modèles préentraînés, restent limités. Les méthodes de guidage sans classificateur existantes utilisent une heuristique simple pour combiner les scores conditionnels et inconditionnels afin d'échantillonner approximativement les distributions conditionnelles. Cependant, ces méthodes n'approximent pas les distributions intermédiaires, ce qui nécessite des étapes de « correction » supplémentaires. Dans ce travail, nous proposons une méthode efficace et rigoureuse pour échantillonner une séquence de distributions recuites, moyennées géométriquement ou produit, dérivées de modèles préentraînés basés sur les scores. Nous dérivons un schéma de simulation pondéré, que nous appelons Correcteurs de Feynman-Kac (FKC), basé sur la célèbre formule de Feynman-Kac et prenant en compte les termes des équations aux dérivées partielles (EDP) appropriées. Pour simuler ces EDP, nous proposons des algorithmes de rééchantillonnage Monte Carlo séquentiels (SMC) qui exploitent la mise à l'échelle lors de l'inférence pour améliorer la qualité de l'échantillonnage. Nous démontrons empiriquement l'utilité de nos méthodes en proposant un échantillonnage amorti via un recuit thermique au temps d'inférence, en améliorant la génération de molécules multi-objectifs à l'aide de modèles pré-entraînés et en améliorant le guidage sans classificateur pour la génération de texte en image.

La diagonale de la matrice d'information de Fisher d'un modèle (la « matrice de Fisher ») est fréquemment utilisée pour mesurer la sensibilité des paramètres. Généralement, la matrice de Fisher est estimée en calculant le carré du gradient des sorties du modèle par rapport à ses paramètres, moyenné sur quelques centaines ou milliers d'exemples – un processus coûteux en ressources de calcul. Pendant ce temps, les méthodes de gradient adaptatif, comme l'optimiseur Adam, calculent une moyenne mobile du carré du gradient au cours de l'entraînement. Cet article explore donc la possibilité d'obtenir une approximation de la matrice de Fisher « gratuitement » en réutilisant l'accumulateur du carré du gradient déjà calculé pendant l'entraînement. À travers une série d'expériences couvrant cinq applications de la matrice de Fisher, nous démontrons que le « Squisher » (accumulateur du carré du gradient comme approximation de la matrice de Fisher) offre des performances similaires à celles de la matrice de Fisher, tout en surpassant les méthodes de référence. De plus, on précise les différences exactes entre le Squisher et la matrice de Fisher et on fournit une quantification empirique de leur impact respectif.

Nous présentons un transformateur multimodal permettant de représenter de nombreuses modalités de télédétection – optique multispectrale, radar à synthèse d'ouverture, altitude, données météorologiques, pseudo-étiquettes, etc. – dans l'espace et le temps. Ces données sont utiles pour diverses applications de télédétection, comme la cartographie des cultures et la détection des inondations. Cependant, l'apprentissage de représentations partagées des données de télédétection est complexe, compte tenu de la diversité des modalités de données pertinentes et de la grande variabilité d'échelle des objets d'intérêt, allant de petites embarcations (1 à 2 pixels, déplacement rapide) à des glaciers (plusieurs milliers de pixels, déplacement lent). Nous proposons un nouvel algorithme d'apprentissage auto-supervisé qui extrait des caractéristiques multi-échelles à partir d'un ensemble flexible de modalités d'entrée grâce à la modélisation par masquage. Nos deux fonctions de perte contrastives, globale et locale, diffèrent par leurs cibles (représentations profondes vs projections superficielles des données d'entrée) et leurs stratégies de masquage (structuré vs non structuré). Notre modèle Galileo est un modèle généraliste unique qui surpasse les modèles spécialisés de pointe pour les images satellites et les séries temporelles de pixels sur onze ensembles de données de référence et pour de multiples applications.

Le concept de netteté a été appliqué avec succès aux architectures traditionnelles telles que les MLP et les CNN pour prédire leur capacité de généralisation. Cependant, pour les transformateurs, des travaux récents ont mis en évidence une faible corrélation entre la platitude et la généralisation. Nous soutenons que les mesures de netteté existantes sont inadaptées aux transformateurs, car leur mécanisme d'attention présente des symétries beaucoup plus riches, induisant des directions dans l'espace des paramètres le long desquelles le réseau, ou sa fonction de perte, reste identique. Nous postulons que la netteté doit pleinement tenir compte de ces symétries et la redéfinissons donc sur une variété quotient obtenue en éliminant les symétries des transformateurs par un facteur de quotient, levant ainsi leurs ambiguïtés. En nous basant sur des outils de géométrie riemannienne, nous proposons une notion de netteté entièrement générale, exprimée en termes de boule géodésique sur la variété quotient corrigée des symétries. En pratique, il faut se rapprocher des géodésiques. Une approximation au premier ordre permet d'obtenir les mesures de netteté adaptatives existantes, et nous démontrons que l'inclusion de termes d'ordre supérieur est cruciale pour rétablir la corrélation avec la généralisation. Nous présentons des résultats sur des réseaux diagonaux avec des données synthétiques et montrons que notre netteté géodésique révèle une forte corrélation pour les transformateurs du monde réel sur les tâches de classification de texte et d'image.

L'adaptation de domaine de graphes (GDA) transfère des connaissances de graphes sources étiquetés vers des graphes cibles non étiquetés, palliant ainsi la rareté des étiquettes. Dans cet article, nous soulignons l'importance de l'homophilie des graphes, un facteur crucial pour l'alignement de domaines de graphes, qui a pourtant été longtemps négligé dans les approches existantes. Plus précisément, notre analyse révèle d'abord l'existence de disparités d'homophilie dans les ensembles de données de référence. De plus, nous montrons que ces disparités dégradent les performances de la GDA, tant du point de vue empirique que théorique, ce qui souligne l'importance de l'alignement par homophilie dans la GDA. Forts de ce constat, nous proposons un nouvel algorithme d'alignement par homophilie qui utilise des filtres mixtes pour lisser les signaux des graphes, capturant et atténuant ainsi efficacement les disparités d'homophilie entre les graphes. Les résultats expérimentaux obtenus sur divers ensembles de données de référence confirment l'efficacité de notre méthode.

Les décalages de sous-population, caractérisés par des disparités dans la distribution des sous-populations entre les ensembles de données d'entraînement et de cible, peuvent dégrader significativement la performance du modèle d'apprentissage automatique. Les solutions actuelles à ces décalages consistent souvent à modifier la minimisation du risque empirique par des stratégies de pondération afin d'améliorer la généralisation entre les sous-populations. Cette stratégie repose fréquemment sur des hypothèses concernant le nombre et la nature des sous-populations, ainsi que sur des annotations relatives à l'appartenance à ces sous-populations, des informations qui sont souvent indisponibles pour de nombreux ensembles de données réels. Nous proposons une nouvelle solution pour explorer heuristiquement le sous-espace des caractéristiques : nous entraînons de nombreux classificateurs tout en imposant une diversification afin de favoriser la découverte et la classification correctes de nouvelles sous-populations, sans nécessiter de connaissances préalables à leur sujet. Étant donné un réseau d'extraction de caractéristiques, nous remplaçons sa couche linéaire standard par un mélange de classificateurs prototypiques, chaque membre étant entraîné à classifier les données en se concentrant sur des caractéristiques et des échantillons différents de ceux des autres membres. Nous démontrons que notre solution surpasse l'état de l'art précédent en termes de précision du pire groupe sur la plupart des benchmarks en utilisant des évaluations empiriques sur neuf ensembles de données réelles couvrant divers domaines et types de changements de sous-population (le code est disponible à l'adresse https://anonymous.4open.science/r/prototypical_ensembles-BCB3).

L'apprentissage fédéré (FL) est apparu comme un paradigme décentralisé pour la formation de modèles tout en préservant la confidentialité. Cependant, le FL conventionnel est confronté à l'hétérogénéité des données et au déséquilibre des classes, ce qui dégrade la performance du modèle. Le FL par regroupement équilibre la personnalisation et l'entraînement décentralisé en regroupant les clients présentant des distributions de données analogues, permettant ainsi une meilleure précision tout en respectant les contraintes de confidentialité. Cette approche atténue efficacement l'impact négatif de l'hétérogénéité dans le FL. Dans ce travail, nous proposons une nouvelle méthode de regroupement pour le FL, **FedGWC** (Federated Gaussian Weighting Clustering), qui regroupe les clients en fonction de la distribution de leurs données, permettant ainsi l'entraînement d'un modèle plus robuste et personnalisé sur les clusters identifiés. **FedGWC** identifie les grappes homogènes en transformant les pertes empiriques individuelles pour modéliser les interactions des clients à l'aide d'un mécanisme de récompense gaussien. De plus, nous introduisons le *Score ajusté de Wasserstein*, une nouvelle mesure de regroupement pour le FL permettant d'évaluer la cohésion des grappes par rapport à la distribution des classes individuelles. Nos expériences sur des ensembles de données de référence montrent que **FedGWC** surpasse les algorithmes FL existants en termes de qualité de grappe et de précision de classification, validant ainsi l'efficacité de notre approche.

An important question today is whether a given text was used to train a large language model (LLM). A \emph{completion} test is often employed: check if the LLM completes a sufficiently complex text. But, we require a ground-truth definition of membership; most commonly, it is defined as a member based on the \ngram overlap between the target text and any text in the dataset. In this work, we demonstrate that this $n$-gram based membership definition can be effectively gamed. We study scenarios where sequences are \emph{non-members} for a given $n$ and we find that completion tests still succeed. We find many natural cases of this by retraining LLMs after removing all training samples that were completed: these cases include exact duplicates, near-duplicates, and even short overlaps; they showcase that it is difficult to find a single viable choice of $n$. Using these insights, we design adversarial datasets that can cause any target sequences to be completed without containing it, for any reasonable choice of $n$. Our findings highlight the inadequacy of $n$-gram membership, suggesting membership definitions fail to account for auxiliary information available to the training algorithm.

Nous présentons une nouvelle conception d'invites pour les grands modèles de langage (LLM), adaptée aux **séries temporelles asynchrones**. Contrairement aux séries temporelles classiques, dont les valeurs sont réparties à intervalles réguliers, les séries temporelles asynchrones sont constituées d'événements se produisant à intervalles irréguliers, chacun étant décrit en langage naturel. Notre approche exploite efficacement la richesse du langage naturel des descriptions d'événements, permettant aux LLM de tirer parti de leur vaste connaissance du monde pour raisonner dans différents domaines et pour diverses tâches. Cela nous permet d'étendre la portée de l'analyse des séries temporelles asynchrones au-delà de la prévision, pour inclure des tâches telles que la détection d'anomalies et l'imputation de données. Nous introduisons également le **Suggestion stochastique douce**, un nouveau mécanisme d'ajustement des invites qui améliore significativement les performances du modèle, surpassant les méthodes d'ajustement existantes telles que QLORA. Grâce à de nombreuses expériences sur des ensembles de données réels, nous démontrons que notre approche atteint des performances de pointe pour différentes tâches et différents ensembles de données.

Les progrès réalisés dans le domaine des grands modèles linguistiques (LLM) ont suscité un vif intérêt pour leur capacité à résoudre des problèmes mathématiques de niveau olympique. Cependant, l'entraînement et l'évaluation de ces modèles sont limités par la taille et la qualité des ensembles de données disponibles, car la création de données à grande échelle pour des problèmes aussi complexes exige un effort considérable de la part d'experts. De plus, les ensembles de données de référence actuels sont sujets à contamination, ce qui rend les évaluations peu fiables. Dans cet article, nous présentons un pipeline automatisé qui exploite les riches ressources du forum Art of Problem Solving (AoPS), qui propose principalement des problèmes de niveau olympique et des solutions issues de la communauté. À l'aide de LLM open source, nous développons une méthode pour extraire des paires questions-réponses du forum, ce qui nous permet de constituer **AoPS-Instruct**, un jeu de données de plus de 600 000 paires QA de haute qualité. Nos expériences démontrent que l'ajustement précis des LLM sur AoPS-Instruct améliore leurs capacités de raisonnement sur différents ensembles de données de référence. De plus, nous avons mis en place un pipeline automatisé qui introduit **LiveAoPSBench**, un ensemble d'évaluation évolutif horodaté, dérivé des données les plus récentes du forum, fournissant ainsi un banc d'essai résistant à la contamination pour évaluer les performances des modèles de raisonnement logique (LLM). Notamment, nous observons un déclin significatif des performances des LLM au fil du temps, ce qui suggère que leur succès sur les exemples plus anciens pourrait provenir d'une exposition préalable à l'entraînement plutôt que d'une véritable capacité de raisonnement. Nos travaux présentent une approche évolutive pour la création et la maintenance d'ensembles de données à grande échelle et de haute qualité pour le raisonnement mathématique avancé, offrant des informations précieuses sur les capacités et les limites des LLM dans ce domaine.

Nous présentons une approche rigoureuse, instance par instance, pour quantifier la difficulté du désapprentissage par ajustement fin. Nous commençons par peaufiner l'analyse de la descente de gradient bruitée pour le désapprentissage (Chien et al., 2024), obtenant un meilleur compromis utilité-désapprentissage en remplaçant les bornes de perte de confidentialité dans le pire des cas par des pertes de confidentialité par instance (Thudi et al., 2024), chacune bornant la divergence (de Rényi) par rapport au réentraînement sans point de données individuel. Pour démontrer l'applicabilité pratique de notre théorie, nous présentons des résultats empiriques montrant que nos prédictions théoriques se vérifient aussi bien pour la dynamique de Langevin à gradient stochastique (SGLD) que pour l'ajustement fin standard sans bruit explicite. Nous démontrons également que les pertes de confidentialité par instance sont fortement corrélées à plusieurs mesures de difficulté des données existantes, tout en identifiant des groupes de points de données plus difficiles, et nous introduisons de nouvelles méthodes d'évaluation basées sur des seuils de perte. Dans l'ensemble, nos résultats fournissent une base pour des stratégies de désapprentissage plus efficaces et adaptatives, adaptées aux propriétés uniques de chaque point de données.

En tant que pierre angulaire de l'imagerie diagnostique, la radiographie thoracique (RT) joue un rôle essentiel dans la prise de décisions cruciales pour la gestion des maladies et les soins aux patients. Bien que les innovations récentes aient permis le développement de modèles spécialisés pour diverses tâches d'interprétation des RT, ces solutions fonctionnent souvent de manière isolée, ce qui limite leur utilité pratique en clinique. Nous présentons MedRAX, le premier agent d'IA polyvalent qui intègre de manière transparente des outils d'analyse de RT de pointe et de vastes modèles de langage multimodaux dans un cadre unifié. MedRAX exploite dynamiquement ces modèles pour répondre à des requêtes médicales complexes sans nécessiter d'entraînement supplémentaire. Afin d'évaluer rigoureusement ses capacités, nous présentons ChestAgentBench, un banc d'essai complet contenant 2 500 requêtes médicales complexes réparties en 7 catégories. Nos expériences démontrent que MedRAX atteint des performances de pointe par rapport aux modèles open source et propriétaires, ce qui représente une avancée significative vers le déploiement pratique de systèmes automatisés d'interprétation des RT. Les données et le code seront accessibles au public à l'adresse https://medrax25.github.io.

Les pipelines d'apprentissage automatique modernes combinent et mélangent de plus en plus de données provenant de sources diverses et hétérogènes, par exemple pour le préentraînement de grands modèles de langage. Cependant, trouver le mélange de données optimal demeure un problème complexe et ouvert. Nous formalisons ce problème de mélange de données comme un objectif à deux niveaux : le meilleur mélange est celui qui permet d'obtenir le meilleur modèle pour un objectif en aval. Malheureusement, cet objectif est généralement insoluble. Dans cet article, nous observons que l'objectif de mélange de données à deux niveaux devient convexe à mesure que notre classe de modèles s'agrandit. Nous développons et étudions une approche basée sur le gradient pour optimiser cet objectif convexe, que nous appelons MixMin, et nous la testons sur des tâches de modélisation linguistique et de chimie. MixMin s'est avéré être la seule méthode pour améliorer uniformément le mélange de données dans toutes nos expériences. Avec MixMin, nous avons amélioré le mélange de données en utilisant moins de 0,2 % de puissance de calcul supplémentaire pour un modèle Pythia de 410 millions de dollars entraîné sur 8,2 milliards de jetons, ce qui a permis d'obtenir une amélioration relative de 1 à 5 % de la vraisemblance logarithmique négative sur PIQA, ARC Easy, SciQ et OpenWebMath. De manière cruciale, nous avons constaté que les mélanges MixMin pour les petits modèles amélioraient l'entraînement des grands modèles, ce qui suggère que les mélanges MixMin pourraient être invariants d'échelle. Lors du mélange de données de bioessais pour entraîner un modèle XGBoost, nous avons observé des améliorations des scores de précision moyens de 0,03 à 0,15.

L'apprentissage fédéré basé sur les enchères (AFL) est devenu un domaine de recherche important ces dernières années. Les stratégies courantes pour les consommateurs de données (CD) d'apprentissage fédéré supposent que l'ensemble des propriétaires de données (PD) requis pour une tâche d'apprentissage fédéré doit être réuni avant le début de l'entraînement. En pratique, un CD peut déclencher le processus d'entraînement à plusieurs reprises. Les PD peuvent ainsi être recrutés progressivement au cours de plusieurs séances d'entraînement du modèle. Les stratégies d'enchères existantes pour les CD d'AFL ne sont pas conçues pour gérer de tels scénarios. Par conséquent, le problème de l'AFL multi-sessions reste ouvert. Afin d'y remédier, nous proposons la stratégie d'optimisation budgétaire multi-sessions pour l'apprentissage fédéré basé sur les enchères (MBOS-AFL). Basée sur l'apprentissage par renforcement hiérarchique, MBOS-AFL optimise conjointement le rythme budgétaire inter-sessions et les enchères intra-sessions pour les CD d'AFL, dans le but de maximiser l'utilité totale. De nombreuses expériences menées sur six ensembles de données de référence montrent qu'elle surpasse significativement sept approches de pointe. En moyenne, la méthode \methodname{} atteint une utilité supérieure de 12,28 %, une acquisition de données accrue de 14,52 % via les enchères pour un budget donné, et une précision de test supérieure de 1,23 % pour le modèle FL résultant, par rapport à la meilleure référence. À notre connaissance, il s'agit de la première méthode d'aide à la décision pour l'optimisation budgétaire avec gestion du rythme budgétaire conçue pour les centres de données dans le cadre d'un apprentissage fluide basé sur des enchères multi-sessions.

La distribution normale joue un rôle central en théorie de l'information : elle représente à la fois la meilleure distribution pour le signal et la pire pour le bruit, possède la plus grande capacité de représentation de toutes les distributions et offre une équivalence entre la non-corrélation et l'indépendance pour les distributions conjointes. La prise en compte de la moyenne et de la variance des activations à travers les différentes couches des réseaux de neurones profonds a grandement facilité leur apprentissage, mais il est rare de trouver une indication précise de la distribution que devraient adopter ces activations, ni de la manière de l'obtenir. Motivés par les propriétés informationnelles de la distribution normale, nous abordons cette question et présentons simultanément la normalisation par la normalité : une nouvelle couche de normalisation qui favorise la normalité des représentations des caractéristiques des réseaux de neurones grâce à la transformation de puissance et utilise un bruit gaussien additif pendant l'apprentissage. Nos expériences démontrent de manière exhaustive l'efficacité de la normalisation, en ce qui concerne ses performances de généralisation sur un ensemble de combinaisons de modèles et de jeux de données largement utilisés, ses solides performances sur divers facteurs de variation courants tels que la largeur du modèle, la profondeur et la taille du mini-lot d'entraînement, son adéquation à une utilisation partout où les couches de normalisation existantes sont conventionnellement utilisées, et comme moyen d'améliorer la robustesse du modèle face aux perturbations aléatoires.

Nous étudions la question de l'apprentissage des classes de distributions en présence d'adversaires adaptatifs, c'est-à-dire d'adversaires capables d'intercepter les échantillons demandés par un apprenant et d'y apporter des manipulations en connaissant parfaitement ces échantillons avant de les lui transmettre. Ceci contraste avec les adversaires inconscients, qui ne peuvent modifier que la distribution sous-jacente d'où proviennent les échantillons, mais pas leur nature i.i.d. Nous formulons une notion générale d'apprentissage par rapport aux adversaires adaptatifs, en tenant compte du budget de l'adversaire. Nous montrons que l'apprentissage par rapport aux adversaires adaptatifs additifs est une condition strictement plus forte que l'apprentissage par rapport aux adversaires inconscients additifs.

Nous proposons un cadre d'optimisation unifié pour la conception de distributions de bruit continues et discrètes garantissant la confidentialité différentielle (DP) en minimisant la DP de R'enyi, une variante de la DP, sous une contrainte de coût. La DP de R'enyi a l'avantage de permettre, en considérant différentes valeurs du paramètre de R'enyi $\alpha$, d'adapter l'optimisation à un nombre quelconque de compositions. Pour résoudre le problème d'optimisation, on le ramène à une formulation convexe de dimension finie et on effectue une descente de gradient préconditionnée. Les distributions de bruit obtenues sont ensuite comparées à leurs homologues gaussiennes et laplaciennes. Les résultats numériques démontrent que nos distributions optimisées sont systématiquement meilleures, avec des améliorations significatives des garanties de DP(\varepsilon, \delta)$ dans les régimes de composition modérés, par rapport aux distributions gaussiennes et laplaciennes de même variance.

Le jailbreak par « many-shot » contourne l'alignement de sécurité des grands modèles de langage en exploitant leur capacité à traiter de longues séquences d'entrée. Pour ce faire, la requête malveillante est précédée de centaines de dialogues fictifs entre l'utilisateur et le modèle. Ces échanges sont tirés aléatoirement d'un ensemble de questions et réponses malveillantes, donnant l'illusion que le modèle a déjà exécuté des instructions malveillantes. Dans cet article, nous présentons PANDAS : une technique hybride qui améliore le jailbreak par « many-shot » en modifiant ces dialogues fictifs à l'aide d'affirmations positives, de démonstrations négatives et d'une méthode d'échantillonnage adaptatif optimisée, adaptée au sujet de la requête. De nombreuses expériences menées sur AdvBench et HarmBench, avec des modèles de langage de pointe, démontrent que PANDAS surpasse de manière significative les méthodes de référence dans les scénarios à contexte long. Grâce à une analyse de l'attention, nous expliquons comment les vulnérabilités liées au contexte long sont exploitées et comment PANDAS améliore encore le jailbreak par « tir à l'arc ».

Ce document de position plaide en faveur d'une transformation fondamentale de l'intégration des grands modèles linguistiques (GML) dans le domaine des soins de santé mentale. Nous défendons leur rôle de co-créateurs plutôt que de simples outils d'assistance. Bien que les GML aient le potentiel d'améliorer l'accessibilité, la personnalisation et l'intervention en situation de crise, leur adoption demeure limitée par des préoccupations liées aux biais, à l'évaluation, à la dépendance excessive, à la déshumanisation et aux incertitudes réglementaires. Pour relever ces défis, nous proposons deux approches structurées : les lignes directrices de mise en œuvre SAFE-I pour un déploiement éthique et responsable, et le cadre d'évaluation HAAS-E pour une évaluation multidimensionnelle et centrée sur l'humain. SAFE-I fournit un cadre pour la gouvernance des données, l'ingénierie adaptative des modèles et l'intégration en situation réelle, garantissant ainsi la conformité des GML aux normes cliniques et éthiques. HAAS-E introduit des indicateurs d'évaluation qui vont au-delà de la simple précision technique pour mesurer la fiabilité, l'empathie, la sensibilité culturelle et l'applicabilité. Nous demandons l'adoption de ces approches structurées afin d'établir un modèle responsable et évolutif pour le soutien en santé mentale basé sur les GML, garantissant que l'IA complète – et non remplace – l'expertise humaine.

Cet article examine les risques systémiques posés par les progrès graduels de l'intelligence artificielle, en développant le concept de « dépossession progressive du pouvoir », par opposition aux scénarios de prise de contrôle brutale généralement abordés dans le domaine de la sécurité de l'IA. Nous analysons comment même des améliorations progressives des capacités de l'IA peuvent saper l'influence humaine sur les systèmes à grande échelle dont dépend la société, notamment l'économie, la culture et les États-nations. À mesure que l'IA remplace de plus en plus le travail et la cognition humains dans ces domaines, elle peut affaiblir à la fois les mécanismes de contrôle humain explicites (comme le vote et le choix du consommateur) et les alignements implicites avec les préférences humaines qui découlent souvent de la dépendance des systèmes sociétaux à l'égard de la participation humaine pour fonctionner. De plus, les systèmes d'IA peuvent amplifier les désalignements existants avec les préférences humaines en optimisant davantage ces systèmes. Ces distorsions entre les domaines peuvent se renforcer mutuellement : le pouvoir économique façonne les récits culturels et les décisions politiques, tandis que les changements culturels modifient les comportements économiques et politiques. Nous soutenons que cette dynamique pourrait mener à une perte pratiquement irréversible d'influence humaine sur les systèmes sociétaux cruciaux, précipitant une catastrophe existentielle par la dépossession permanente de l'humanité de son pouvoir. Cette analyse suggère la nécessité de recherches techniques et d'approches de gouvernance qui abordent spécifiquement le risque d'érosion progressive de l'influence humaine au sein des systèmes sociétaux interconnectés.

Les progrès de l'IA reposent sur les données générées par l'humain, des plateformes d'annotation à l'Internet en général. Cependant, l'utilisation généralisée de grands modèles linguistiques menace désormais la qualité et l'intégrité de ces données sur ces mêmes plateformes. Nous soutenons que ce problème dépasse le simple défi du filtrage du contenu généré par l'IA : il révèle des failles plus profondes dans la conception des systèmes de collecte de données. Les systèmes existants privilégient souvent la rapidité, l'échelle et l'efficacité au détriment de la motivation humaine intrinsèque, ce qui entraîne une baisse de l'engagement et de la qualité des données. Nous proposons de repenser les systèmes de collecte de données afin de les aligner sur les motivations intrinsèques des contributeurs – plutôt que de s'appuyer uniquement sur des incitations externes – pour garantir un approvisionnement en données de haute qualité à grande échelle, tout en préservant la confiance des contributeurs et leur participation à long terme.

L'entraînement des grands modèles de langage (LLM) est une entreprise de plus en plus coûteuse en raison de l'augmentation des besoins en calcul, en matériel, en énergie et en main-d'œuvre d'ingénierie. Outre les coûts d'entraînement, un coût souvent négligé (et rarement pris en compte) est le travail humain nécessaire à la rédaction des milliards de mots utilisés pour entraîner les LLM les plus performants. Dans ce document de synthèse, nous proposons d'attribuer une valeur monétaire à ce travail et défendons l'idée que la part la plus importante du coût de production d'un LLM *devrait* être la rémunération des producteurs de données d'entraînement. Pour appuyer cette position, nous étudions 64 LLM publiés entre 2016 et 2024, en analysant à la fois le coût d'entraînement des modèles et le coût hypothétique de la création des données d'entraînement. Notre analyse indique que même avec une estimation extrêmement prudente de la rémunération à verser pour le travail humain investi dans la création des données d'entraînement, le coût des ensembles de données d'entraînement de ces modèles est de un à trois ordres de grandeur supérieur au coût d'entraînement des modèles eux-mêmes. Face à l'écart considérable entre la valeur des données d'entraînement et l'absence actuelle de compensation pour leur création, nous mettons en lumière et discutons des pistes de recherche qui pourraient permettre des pratiques plus équitables à l'avenir.

À mesure que les modèles d'apprentissage machine gagnent en performance, leurs prédictions sont utilisées pour compléter les données rares ou coûteuses nécessaires à l'estimation de grandeurs importantes. En combinant un petit ensemble de données observées de haute fidélité (mesures réelles) avec un ensemble plus important de données imputées (prédictions du modèle), les praticiens peuvent améliorer la qualité des estimations au-delà de ce que chaque source fournit isolément. Bien que ce paradigme soit prometteur, les cadres existants se concentrent principalement sur l'estimation de moyennes ou de quantiles uniques, ce qui limite leur applicabilité à de nombreux domaines et cas d'utilisation critiques. Pour relever ce défi, nous présentons **QuEst**, un cadre intégrant des données observées et imputées afin d'estimer et de fournir des intervalles de confiance rigoureux pour les mesures de distribution basées sur les quantiles. Ces mesures incluent des mesures de queue comme le CVaR, des segments de population comme les quartiles et d'autres grandeurs clés d'intérêt dans des domaines tels que l'économie, la sociologie, l'éducation et la médecine. QuEst intègre également un algorithme permettant d'estimer ces statistiques pour des mesures et des mesures multidimensionnelles. De plus, nous proposons une nouvelle méthode basée sur une fonction spline pour optimiser notre méthode (ainsi que d'autres méthodes existantes pour ce type d'estimation hybride). Nous démontrons l'utilité de notre cadre à travers des expériences de modélisation économique, de sondage d'opinion et d'auto-évaluation de modèles de langage.

L'apprentissage par renforcement hors ligne (RL) est crucial lorsque l'exploration en ligne est coûteuse ou dangereuse, mais il se heurte souvent à une forte incertitude épistémique en raison de la rareté des données. Les méthodes existantes reposent sur des politiques conservatrices fixes, limitant ainsi leur adaptabilité et leur capacité de généralisation. Pour remédier à ce problème, nous proposons Reflect-then-Plan (RefPlan), une nouvelle approche de planification hors ligne basée sur un modèle (MB) doublement bayésien. RefPlan unifie la modélisation de l'incertitude et la planification MB en reformulant la planification comme une estimation bayésienne de la distribution a posteriori. Lors du déploiement, il met à jour une croyance sur la dynamique de l'environnement à l'aide d'observations en temps réel, intégrant ainsi l'incertitude dans la planification MB par marginalisation. Les résultats empiriques obtenus sur des ensembles de données de référence standard montrent que RefPlan améliore considérablement les performances des politiques RL hors ligne conservatrices. En particulier, RefPlan maintient des performances robustes malgré une forte incertitude épistémique et des données limitées, tout en faisant preuve de résilience face à l'évolution de la dynamique de l'environnement, améliorant ainsi la flexibilité, la généralisabilité et la robustesse des politiques apprises hors ligne.

Le tatouage numérique de texte vise à intégrer subtilement des signaux statistiques dans un texte en contrôlant le processus d'échantillonnage du modèle de langage étendu (LLM), permettant ainsi aux détecteurs de tatouage de vérifier que la sortie a bien été générée par le modèle spécifié. La robustesse de ces algorithmes de tatouage est devenue un facteur clé pour évaluer leur efficacité. Les algorithmes actuels intègrent les tatouages ​​dans des jetons à haute entropie afin d'assurer la qualité du texte. Dans cet article, nous démontrons que cette conception, en apparence inoffensive, peut être exploitée par des attaquants, ce qui représente un risque important pour la robustesse du tatouage. Nous introduisons une attaque par paraphrase générique et efficace, l'attaque par réécriture d'auto-information (SIRA), qui exploite cette vulnérabilité en calculant l'auto-information de chaque jeton pour identifier les jetons présentant des motifs potentiels et mener une attaque ciblée. Nos travaux mettent en évidence une vulnérabilité répandue dans les algorithmes de tatouage actuels. Les résultats expérimentaux montrent que SIRA atteint un taux de réussite proche de 100 % sur sept méthodes de tatouage récentes, pour un coût de seulement 0,88 $ par million de jetons. Notre approche ne nécessite aucun accès aux algorithmes de tatouage numérique ni au modèle LLM tatoué et peut être facilement adaptée à n'importe quel modèle LLM, même ceux destinés aux appareils mobiles. Nos résultats soulignent l'urgence de développer des techniques de tatouage numérique plus robustes.

Les problèmes de satisfaction des contraintes (CSP) trouvent de nombreuses applications, et leur résolution accélérée par l'apprentissage automatique suscite un vif intérêt. La plupart des approches existantes reposent sur l'apprentissage supervisé à partir de solutions réalisables ou sur l'apprentissage par renforcement, des paradigmes qui nécessitent soit des solutions réalisables pour ces CSP NP-complets, soit des budgets d'entraînement importants et un signal de récompense complexe conçu par des experts. Pour relever ces défis, nous proposons ConsFormer, un cadre auto-supervisé qui exploite un Transformer comme raffineur de solution. ConsFormer construit une solution à un CSP de manière itérative, selon un processus qui imite la recherche locale. Au lieu d'utiliser des solutions réalisables comme données étiquetées, nous concevons des approximations différentiables des contraintes discrètes d'un CSP pour guider l'entraînement du modèle. Notre modèle est entraîné à améliorer les affectations aléatoires lors d'une étape unique, mais est déployé de manière itérative lors des tests, contournant ainsi les limites de l'apprentissage supervisé et par renforcement. Notre méthode peut traiter les CSP hors distribution simplement par des itérations supplémentaires.

L'hypothèse du billet de loterie (LTH) suggère l'existence d'un masque et d'un poids LTH clairsemés qui atteignent les mêmes performances de généralisation que le modèle dense, tout en utilisant un nombre de paramètres nettement inférieur. Cependant, la recherche d'une solution LTH est coûteuse en calcul, et le masque de parcimonie LTH ne se généralise pas à d'autres initialisations aléatoires des poids. Des travaux récents ont suggéré que les réseaux de neurones entraînés à partir d'une initialisation aléatoire trouvent des solutions au sein du même bassin d'énergie, à permutation près, et proposent une méthode pour aligner les modèles entraînés au sein du même bassin d'énergie. Nous émettons l'hypothèse que le désalignement des bassins d'énergie est la raison pour laquelle les masques LTH ne se généralisent pas à de nouvelles initialisations aléatoires et proposons de permuter le masque LTH pour l'aligner sur le nouveau bassin d'énergie lors d'un entraînement clairsemé à partir d'une initialisation aléatoire différente. Nous montrons empiriquement une augmentation significative de la généralisation lors de l'entraînement clairsemé à partir d'une initialisation aléatoire avec le masque permuté par rapport à l'utilisation du masque LTH non permuté, sur plusieurs ensembles de données (CIFAR-10/100 et ImageNet) et modèles (VGG11 et ResNet20/50).

Les modèles génératifs récents basés sur la diffusion obtiennent des résultats remarquables grâce à leur entraînement sur des ensembles de données massifs. Cependant, cette pratique soulève des inquiétudes quant à la mémorisation et aux risques de violation du droit d'auteur. Une solution proposée consiste à entraîner le modèle exclusivement sur des données bruitées présentant des risques potentiels de violation du droit d'auteur, garantissant ainsi qu'il n'observe jamais le contenu original. Toutefois, à travers le prisme de la théorie de la déconvolution, nous montrons que, bien qu'il soit théoriquement possible d'apprendre la distribution des données à partir d'échantillons bruités, la difficulté pratique de recueillir suffisamment d'échantillons rend cet apprentissage quasi impossible. Pour surmonter cette limite, nous proposons de pré-entraîner le modèle avec une petite fraction de données propres afin de guider le processus de déconvolution. Combinée à notre méthode de déconvolution stochastique avant-arrière (SFBD), cette approche nous permet d'atteindre un FID de 6,31 sur CIFAR-10 avec seulement 4 % d'images propres (et 3,58 avec 10 %). Théoriquement, on prouve que la SFBD guide le modèle vers l'apprentissage de la vraie distribution des données. Ce résultat souligne également l'importance du pré-entraînement sur des données limitées mais propres, ou sur des ensembles de données similaires. Des études empiriques viennent étayer ces résultats et apporter des éclaircissements supplémentaires.

Le déploiement de modèles d'apprentissage automatique dans des domaines critiques pour la sécurité pose un défi majeur : assurer la fiabilité des performances du modèle sur les données utilisateur en aval, sans accès aux étiquettes de vérité terrain pour une validation directe. Nous proposons le filtre de pertinence, un cadre novateur conçu pour détecter la dégradation des performances grâce à des signaux de pertinence – des caractéristiques de sortie du modèle sensibles aux variations de covariables et indicatives d'erreurs de prédiction potentielles. Le filtre de pertinence évalue si la précision du classificateur sur les données utilisateur non étiquetées présente une dégradation significative par rapport à la précision mesurée sur l'ensemble de données de test étiquetées. Plus précisément, il garantit que cette dégradation ne dépasse pas une marge prédéfinie, qui représente la baisse maximale acceptable de précision. Pour obtenir une évaluation fiable du rendement, nous agrégeons les signaux de pertinence pour les données de test et les données utilisateur, puis comparons ces distributions empiriques à l'aide de tests d'hypothèses statistiques, fournissant ainsi des informations sur l'incertitude de la décision. Notre méthode modulaire s'adapte à différents modèles et domaines. Des évaluations empiriques sur différentes tâches de classification démontrent que le filtre de pertinence détecte de manière fiable les écarts de performance dus aux variations de covariables. Cela permet d'atténuer de manière proactive les défaillances potentielles dans les applications critiques.

Les ensembles classiques généralisent mieux que n'importe quel modèle à composant unique. En revanche, des études empiriques récentes montrent que les ensembles modernes de réseaux de neurones (surparamétrés) n'offrent pas nécessairement d'avantage intrinsèque en matière de généralisation par rapport à des réseaux de neurones uniques, même de plus grande taille. Cet article clarifie la différence entre les ensembles modernes surparamétrés et leurs homologues classiques sous-paramétrés, en utilisant des ensembles de régresseurs à caractéristiques aléatoires (RF) comme base théorique. Contrairement au régime sous-paramétré, où la mise en ensemble induit généralement une régularisation et améliore la généralisation, nous démontrons, sous des hypothèses minimales, que les ensembles infinis de régresseurs RF surparamétrés deviennent ponctuellement équivalents à des régresseurs RF de largeur infinie (uniques), et que les ensembles de largeur finie convergent rapidement vers des modèles uniques avec le même budget de paramètres. Ces résultats, exacts pour les modèles sans crête et approximatifs pour de faibles pénalités de crête, impliquent que les ensembles surparamétrés et les grands modèles uniques présentent une généralisation quasi identique. Nous caractérisons aussi la variance prédictive entre les membres de l'ensemble, démontrant qu'elle quantifie les effets attendus de l'augmentation de capacité plutôt que de refléter une notion conventionnelle d'incertitude. Nos résultats remettent en question les hypothèses courantes concernant les avantages des ensembles dans des contextes surparamétrés, ce qui incite à reconsidérer dans quelle mesure les intuitions tirées des ensembles sous-paramétrés se transposent aux ensembles profonds et au régime surparamétré.

La génération de texte guidée par récompense (RGTG) s'est imposée comme une alternative viable à l'apprentissage par renforcement hors ligne à partir de rétroactions humaines (RLHF). Les méthodes RGTG permettent d'aligner des modèles de langage de base sur les préférences humaines sans entraînement supplémentaire, contrairement aux méthodes RLHF (PPO et DPO). Cependant, elles s'appuient sur un modèle de récompense pour évaluer chaque jeton candidat généré par le modèle de langage lors de l'inférence, ce qui engendre une surcharge importante. De plus, ce modèle de récompense est entraîné uniquement pour évaluer des séquences complètes, ce qui peut mener à des choix sous-optimaux pour les séquences partielles. Dans ce travail, nous présentons une nouvelle architecture de modèle de récompense, entraînée, à l'aide d'une fonction de perte de Bradley-Terry, à privilégier l'expansion optimale d'une séquence en un seul appel. Ainsi, un score est généré simultanément pour tous les jetons candidats possibles, ce qui permet une inférence efficace. Nous analysons théoriquement les modèles de récompense RGTG et démontrons que les modèles de récompense de base privilégient des séquences sous-optimales par rapport à notre méthode lors de l'inférence. Empiriquement, notre modèle de récompense mène à une inférence nettement plus rapide, comparativement aux autres méthodes RGTG, avec moins d'appels au modèle de récompense et des performances compétitives par rapport à RGTG et RLHF.

L'inférence de types pour les langages dynamiques comme Python représente un défi persistant en génie logiciel. Bien que les grands modèles linguistiques (LLM) se soient révélés prometteurs pour la compréhension du code, leurs capacités d'inférence de types restent encore peu explorées. Nous présentons `TypyBench`, un banc d'essai conçu pour évaluer l'inférence de types des LLM sur des dépôts Python entiers. `TypyBench` propose deux nouvelles mesures : `TypeSim`, qui saisit les relations sémantiques nuancées entre les types prédits et les types réels, et `TypeCheck`, qui évalue la cohérence des types entre les bases de code. Notre évaluation de différents LLM sur un ensemble de données soigneusement sélectionné, composé de 50 dépôts Python de haute qualité, révèle que, malgré des scores `TypeSim` satisfaisants, les LLM rencontrent des difficultés avec les types imbriqués complexes et présentent d'importantes erreurs de cohérence des types. Ces résultats suggèrent que les recherches futures devraient se concentrer non plus sur l'amélioration de la similarité des types, mais sur la cohérence au niveau du dépôt. `TypyBench` jette les bases de cette nouvelle approche, en offrant un éclairage sur les performances des modèles face à différentes complexités de types et de contextes d'utilisation.

Nous présentons les Auto-encodeurs Sparses Universels (USAE), un cadre permettant de découvrir et d'aligner des concepts interprétables à travers plusieurs réseaux neuronaux profonds pré-entraînés. Contrairement aux méthodes d'interprétabilité existantes basées sur les concepts, qui se concentrent sur un seul modèle, les USAE apprennent conjointement un espace conceptuel universel capable de reconstruire et d'interpréter simultanément les activations internes de plusieurs modèles. Notre idée principale est d'entraîner un auto-encodeur parcimonieux (SAE) unique et surcomplet, qui ingère les activations de n'importe quel modèle et les décode pour approximer les activations de tout autre modèle considéré. En optimisant un objectif commun, le dictionnaire appris saisit les facteurs de variation communs – les concepts – à travers différentes tâches, architectures et ensembles de données. Nous montrons que les États-Unis découvrent des concepts universels sémantiquement cohérents et importants à travers les modèles de vision ; allant des caractéristiques de bas niveau (par exemple, les couleurs et les textures) aux structures de haut niveau (par exemple, les parties et les objets). Globalement, les États-Unis offrent une nouvelle méthode puissante pour l'analyse inter-modèles interprétable et proposent des applications inédites, telles que la maximisation coordonnée de l'activation, qui ouvrent la voie à une compréhension plus approfondie des systèmes d'IA multi-modèles.