Nous proposons un cadre pour l'utilisation des LLM afin de poser des questions informatives sur les variables et les entités qui ne peuvent pas être observées directement. Parmi les applications potentiellement intéressantes, on peut citer la construction d'un questionnaire de diagnostic dynamique qui maximise les informations obtenues sur la santé d'un patient ou la génération d'un ensemble personnalisé de questions d'examen qui donnent le plus d'indications sur les besoins d'apprentissage d'un étudiant.

Dans ce travail, nous proposons AutoElicit, une méthode d'utilisation des LLM pour aider les tâches de modélisation prédictive, en mettant l'accent sur les soins de santé. Plus précisément, nous présentons une méthode d'utilisation des LLM pour obtenir des distributions préalables d'experts pour les modèles prédictifs linéaires et nous démontrons comment les experts humains peuvent aider le processus. Nous comparons ensuite les prédictions a posteriori avec celles obtenues par l'apprentissage en contexte, où les modèles de langage font des prédictions directement. En utilisant les données de notre étude sur la démence, nous montrons qu'AutoElicit permet d'économiser plus de 6 mois d'efforts d'étiquetage lors de la construction d'un nouveau modèle prédictif pour les infections des voies urinaires à partir des enregistrements des capteurs des participants.

En raison du bruit, deux réseaux neuronaux formés à partir du même point de départ aléatoire peuvent apprendre l'une des nombreuses solutions différentes au même problème, alors que les réseaux préformés ont tendance à apprendre la même solution. Ce que nous ne savons pas, c'est quand et comment les réseaux passent de l'apprentissage de solutions différentes à celui de la même solution ? Pour répondre à cette question, nous formons deux copies jumelles de réseaux neuronaux exactement de la même manière, mais nous ajoutons un changement minuscule (perturbation) à l'une des copies pendant la formation. Nous constatons que pour les réseaux dont les points de départ sont aléatoires, même le plus petit changement (bien plus petit que les effets aléatoires typiques) entraîne l'apprentissage de solutions différentes, alors que les réseaux pré-entraînés n'apprennent des solutions différentes que lorsque des changements bien plus importants que les effets aléatoires sont appliqués. Nos résultats sont importants car nous devons souvent recycler et combiner les connaissances de plusieurs réseaux énormes (tels que les grands modèles de langage). Comme certaines méthodes fonctionnent mieux avec des solutions similaires qu'avec des solutions différentes, nous pouvons adapter nos méthodes de recyclage ou de combinaison de modèles pour mieux cibler chaque cas.

Cet article analyse l'apprentissage par modèle conscient de la valeur (VAML), y compris la perte MuZero, dans l'apprentissage par renforcement basé sur un modèle. Les pertes basées sur le VAML entraînent un modèle à prédire des estimations précises de la valeur d'une action dans chaque état, au lieu de l'entraîner à prédire les états eux-mêmes avec précision.

Une approche populaire de l'apprentissage par renforcement profond consiste à utiliser des pertes de classification pour apprendre l'éventail des résultats futurs possibles. Les travaux théoriques antérieurs qui étudient cet algorithme modifient la perte utilisée afin de simplifier l'analyse, mais cela crée un fossé entre la théorie et la pratique. Dans ce travail, nous étudions directement ces algorithmes d'apprentissage avec la perte de classification utilisée dans la pratique, la divergence KL. Nous montrons qu'avec quelques modifications de la dynamique (l'utilisation d'une matrice de préconditionnement), les mises à jour convergent de manière prouvée. Nous étudions également l'efficacité de ces méthodes par rapport à l'apprentissage par renforcement standard, et nous prouvons des résultats sur la variance exacte de ces algorithmes à l'approche de la convergence. Tout au long de notre analyse, nous obtenons un certain nombre d'informations précieuses pour tous ceux qui utilisent ces méthodes dans la pratique, comme la manière de modifier le taux d'apprentissage utilisé lorsque l'on change le nombre d'atomes (un hyperparamètre distinct), et la manière dont le nombre et l'emplacement de ces atomes affectent l'erreur encourue.

De nombreux GNN traitent les graphes dirigés (digraphes) comme des collections d'arêtes à sens unique, de sorte qu'ils ne parviennent pas à capturer la connectivité asymétrique aller-retour qui détermine en fait l'intensité de l'interaction entre deux nœuds. Cette limitation est évidente dans les médias sociaux, où un fan peut instantanément atteindre une célébrité, alors que l'interaction en retour se produit rarement. Nous introduisons les réseaux neuronaux à graphe de commutation (CGNN) pour modéliser explicitement cette asymétrie. Ces réseaux s'appuient sur un nouveau laplacien digraphique (DiLap) couplé à un recâblage léger des graphes basé sur les caractéristiques. Cela garantit la rareté et l'irréductibilité, facilitant le calcul efficace des temps de parcours déterministes, définis comme le nombre attendu d'étapes d'une marche aléatoire d'un nœud à un autre et vice-versa. Ces temps de parcours servent à pondérer les messages des voisins, ce qui permet aux nœuds mutuellement accessibles d'exercer une plus grande influence lors de l'agrégation. Le temps de parcours capture naturellement les interactions mutuelles réalistes, telles que la dynamique follower-célébrité dans les médias sociaux ou le trafic web bidirectionnel. Par conséquent, le CGNN fournit un cadre plus précis, plus facile à interpréter et plus largement applicable pour l'apprentissage à partir de réseaux dirigés.

Adam est l'une des méthodes d'optimisation les plus populaires utilisées pour former des modèles d'apprentissage profond. Elle fonctionne bien dans la pratique car elle peut ajuster automatiquement la vitesse d'apprentissage pendant la formation. Cependant, jusqu'à présent, comprendre exactement quand et pourquoi Adam fonctionne nécessitait des hypothèses mathématiques très fortes et souvent irréalistes. Dans cet article, nous présentons un nouveau cadre théorique qui montre qu'Adam peut réussir dans des conditions beaucoup plus détendues et pratiques, semblables à celles nécessaires pour analyser l'algorithme plus basique SGD (descente de gradient stochastique). Nos résultats montrent qu'Adam n'est pas seulement performant dans la pratique, mais qu'il présente également de solides garanties théoriques, ce qui permet de combler le fossé entre son succès empirique et sa compréhension formelle. Ce travail peut également aider les chercheurs à analyser plus facilement d'autres méthodes d'optimisation similaires.

Lorsque les systèmes d'intelligence artificielle (IA) ne sont pas sûrs d'eux, ils choisissent souvent de "s'abstenir" de faire une prédiction. Ce comportement prudent permet d'éviter des erreurs préjudiciables dans des contextes où les enjeux sont importants, comme la médecine, la finance ou la justice pénale. Mais que se passerait-il si ce même mécanisme, destiné à promouvoir la sécurité, pouvait être détourné pour devenir un outil de nuisance ? Nos travaux révèlent une possibilité troublante : une organisation pourrait délibérément faire en sorte que son système d'IA semble incertain pour certaines personnes, non pas parce que la tâche est réellement difficile, mais pour leur refuser discrètement des services tels que des prêts ou des prestations. Nous appelons cette stratégie trompeuse Mirage, une attaque qui réduit la confiance de l'IA dans des cas spécifiques tout en restant globalement performante. Il est donc difficile pour les observateurs extérieurs de remarquer quoi que ce soit de suspect. Pour mettre fin à ce type d'abus, nous présentons Confidential Guardian, un nouveau système qui permet à des auditeurs indépendants de vérifier si le comportement prudent d'une IA est réel ou artificiellement fabriqué. Pour ce faire, il analyse le comportement de l'IA sur des cas de test fiables et vérifie son comportement à l'aide d'une technique qui garantit l'honnêteté, sans révéler le fonctionnement interne du modèle. Nos résultats mettent en évidence un danger caché dans les systèmes d'IA actuels et ouvrent la voie à une plus grande transparence et à une plus grande équité, en garantissant que la prudence est utilisée à des fins de sécurité et non de discrimination.

Les modèles actuels d'intelligence artificielle qui créent des vidéos produisent souvent des images individuelles d'apparence crédible, mais la façon dont les choses bougent dans les vidéos n'est pas très réaliste. Les méthodes existantes de vérification de la qualité des vidéos ne permettent pas de repérer ces mouvements médiocres et nécessitent généralement l'accès à un ensemble complet de vidéos au lieu d'être applicables à une seule d'entre elles. Nous avons créé une nouvelle méthode de mesure de la qualité vidéo qui se concentre spécifiquement sur la façon dont les objets se déplacent et interagissent. Notre méthode consiste à suivre des points sur les objets tout au long de la vidéo et à utiliser ces informations pour comprendre le mouvement. Cela nous permet de voir si les mouvements sont réalistes, même pour des vidéos individuelles. Nous avons constaté que notre nouvelle approche, qui utilise ces points suivis, est beaucoup plus efficace que les autres méthodes pour détecter les mouvements bizarres ou non naturels dans les vidéos générées par ordinateur. Elle permet également de mieux faire correspondre ce que les gens pensent être réaliste et cohérent dans les vidéos créées par l'IA. En outre, notre méthode permet de localiser exactement l'endroit d'une vidéo où le mouvement semble incorrect, ce qui facilite la compréhension des erreurs commises.

De nombreux systèmes d'apprentissage automatique prennent des décisions qui affectent la vie des gens, comme l'approbation de prêts ou la recommandation de traitements médicaux. Lorsque l'accès au système sous-jacent est difficile, il devient plus difficile de vérifier s'il traite tous les groupes de personnes de manière équitable. En outre, les contrôles d'équité existants ne prennent souvent pas en compte les cas où ces systèmes traitent plus de deux résultats possibles. Nous présentons de nouvelles méthodes pour vérifier l'équité de ces systèmes de décision multi-classes. Nous nous appuyons sur une mesure de l'équité appelée Disparate Conditional Prediction (DCP), qui examine le nombre de personnes recevant des prédictions qui diffèrent d'une base de référence équitable. Nous étendons cette mesure aux systèmes qui prennent en charge plus de deux résultats et proposons deux méthodes d'estimation de la PDC, l'une pour les cas où nous disposons de données détaillées sur le comportement du système pour différents groupes, et l'autre pour les cas où nous n'avons pas accès au système ou à des données individuelles de haute qualité. Ces outils facilitent la détection des cas où un système de prise de décision est susceptible de traiter injustement une partie importante de la population et aident ainsi les organisations et les régulateurs à identifier et à corriger les biais, ce qui permet d'obtenir des résultats plus équitables pour tout le monde.

Après le déploiement d'un modèle, il peut s'avérer nécessaire de "désapprendre" certaines des données d'apprentissage originales. Le désapprentissage exact des données d'apprentissage a été coûteux pour l'apprentissage profond, et dans cet article, nous avons montré qu'il peut être efficace lors de l'adaptation d'un LLM pré-entraîné à une tâche. Cela découle de l'observation du fait qu'un algorithme d'apprentissage parfois efficace consiste à préparer des exemples d'entraînement à l'invite donnée à un LLM. Nous avons étudié les moyens de désapprendre cette sélection d'exemples et avons constaté que nous pouvions le faire avec des coûts indépendants du modèle et de la taille de l'ensemble de données. Nous avons également observé que tous les efforts passés pour rendre le désapprentissage plus rapide augmentaient également le coût de l'inférence, et nous avons proposé de nouvelles mesures pour capturer ce compromis.

Les grands modèles linguistiques comme ChatGPT sont souvent accessibles par le biais de services payants qui ne permettent pas aux utilisateurs de voir ou de modifier les composants internes du modèle. Pour adapter ces modèles à des tâches spécifiques, les utilisateurs doivent les interroger à plusieurs reprises, ce qui est à la fois coûteux et lent. Cet article étudie comment de nombreux utilisateurs peuvent travailler ensemble pour affiner ces modèles sans partager leurs données, à l'aide d'une méthode appelée apprentissage fédéré. Mais dans cette configuration, le coût se multiplie : chaque utilisateur participant doit effectuer de nombreuses requêtes auprès des LLM. Cela n'est donc pas pratique. Nous présentons FedOne, une nouvelle approche qui entraîne le modèle en activant un seul utilisateur à la fois. Notre analyse montre que cette configuration est non seulement beaucoup plus efficace pour réduire les requêtes coûteuses, mais qu'elle conserve également de bonnes performances. Nous avons testé cette idée sur des tâches réelles en utilisant des modèles tels que GPT-3.5 et nous avons montré que FedOne est à la fois efficace et rentable. FedOne permet aux personnes et aux organisations d'adapter plus facilement et à moindre coût des outils d'IA puissants à leurs besoins.

Les modèles de diffusion sont des outils puissants pour générer des données telles que des images, des molécules ou du texte, mais il est généralement difficile de contrôler leur processus de génération. Cet article présente une méthode appelée correcteurs de Feynman-Kac (FKC), qui permet de contrôler précisément ce que génère un modèle de diffusion sans avoir à le réentraîner. Le FKC fonctionne en ajustant la manière dont les échantillons sont tirés du modèle, sur la base du cadre de Monte Carlo séquentiel et, en particulier, de la formule de Feynman-Kac. Cela permet d'adopter une approche fondée sur des principes pour l'échantillonnage de distributions cibles combinées, comme les mélanges ou les produits de plusieurs modèles pré-entraînés, ou les distributions cibles recuites par la température. Nous montrons que la FKC améliore l'échantillonnage dans trois contextes : 1. le guidage sans classificateur, qui est largement utilisé dans la génération texte-image, 2. la génération de molécules qui satisfont des objectifs multiples (liaison à deux protéines simultanément) et 3. l'échantillonnage de systèmes physiques à différentes températures à l'aide d'un modèle entraîné à une seule température. Contrairement aux méthodes traditionnelles, la FKC permet un échantillonnage flexible et efficace avec peu de calculs supplémentaires. Cela ouvre de nouvelles possibilités d'applications dans l'IA, la découverte de médicaments et les simulations scientifiques.

Comprendre quelles parties d'un réseau neuronal sont les plus importantes (c'est-à-dire quels paramètres sont les plus importants) peut faciliter des tâches telles que la fusion de modèles, l'élagage, l'apprentissage par transfert et l'apprentissage continu. La diagonale de la matrice d'information de Fisher, que nous appelons la matrice de Fisher, est un outil très utilisé à cet effet. Mais son calcul peut s'avérer coûteux, car il nécessite des calculs supplémentaires sur des centaines ou des milliers d'exemples. Dans cet article, nous nous demandons si nous pouvons obtenir une version suffisamment bonne de la matrice de Fisher sans en payer le prix fort. La réponse est étonnamment positive. Au cours de l'apprentissage, les optimiseurs largement utilisés comme Adam gardent déjà trace d'une quantité similaire : les gradients au carré des paramètres du modèle. Cette approximation, que nous appelons Squisher (**Accumulateur de gradient au carré comme approximation du F**isher**), ne nécessite aucun calcul ou mémoire supplémentaire et est facilement disponible "gratuitement". Dans cinq applications courantes de la méthode de Fisher, nous montrons que Squisher produit des résultats comparables à la méthode de Fisher originale, mais avec un coût de calcul nettement inférieur. Cette méthode permet d'économiser du temps et des ressources, ce qui facilite l'application de ces techniques à grande échelle.

 Les données de télédétection (observations par satellite, cartes topographiques, etc.) nous fournissent de nombreuses informations sur notre planète, mais nous en savons moins que vous ne le pensez. L'analyse des données de télédétection à l'aide de l'apprentissage automatique peut nous aider à mieux comprendre l'évolution de notre planète. Nous présentons un modèle d'apprentissage automatique - que nous appelons Galileo - qui peut aider à résumer les données de télédétection. Cela signifie qu'avec un minimum de traitement supplémentaire, ces résumés peuvent aider à faire des prédictions et des cartes, comme celles des inondations ou des champs agricoles. Pour ce faire, nous donnons à Galileo un ensemble incomplet de données pour une période et un lieu donnés, et nous lui demandons de reconstruire ce que nous avons retiré. En faisant attention à ce que nous demandons à Galileo de reconstruire, nous pouvons nous assurer que les résumés de Galileo prennent en compte les choses grandes et lentes (comme les glaciers) ainsi que les choses petites et rapides (comme les bateaux de pêche). Galileo est particulièrement adapté à la télédétection dans la pratique grâce à sa modélisation des données dans l'espace, le temps et une variété de types de données (par exemple, les données optiques des satellites, les cartes topographiques, les données météorologiques et bien d'autres). Nous testons Galileo sur 15 tâches diverses par rapport à 11 autres méthodes : Galileo obtient les meilleurs résultats avec un seul modèle général. Galileo obtient les meilleurs résultats avec un seul modèle général, ce qui le rend immédiatement utile dans de nombreuses applications existantes.

Dans le domaine de l'apprentissage profond, comprendre pourquoi certains réseaux neuronaux font de meilleures prédictions que d'autres est un problème important. L'une des idées les plus répandues pour expliquer ce phénomène s'appelle la netteté. La netteté s'intéresse à la forme du paysage des pertes du réseau, une sorte de paysage montrant à quel point le réseau est bon ou mauvais en fonction de petites modifications de ses paramètres internes. En général, si ce paysage est "plat", cela signifie que les petits changements n'affectent pas beaucoup les performances et que le modèle est plus susceptible de bien se généraliser à des données qu'il n'a jamais vues auparavant. Cette idée fonctionne bien pour les anciens types de réseaux neuronaux tels que les MLP (perceptrons multicouches) et les CNN (réseaux neuronaux convolutifs). Mais pour les transformateurs, cette relation est rompue. Les chercheurs ont constaté que la finesse, telle qu'elle est habituellement mesurée, ne permet pas de prédire de manière fiable si un transformateur se généralisera bien. Nous pensons que le problème ne réside pas dans l'idée même de netteté, mais dans la manière dont elle est mesurée dans les transformateurs. Les transformateurs ont de nombreuses façons de modifier leurs paramètres internes sans changer le comportement du modèle (symétries). Ces symétries perturbent les mesures traditionnelles de la netteté. En utilisant des outils de géométrie différentielle, nous introduisons une définition plus précise de la netteté qui prend en compte ces symétries, et nous constatons qu'une fois ces symétries corrigées, la netteté reste un concept utile.

Les graphiques sont des moyens puissants de représenter des relations complexes, comme la façon dont les gens interagissent sur les réseaux sociaux ou la façon dont les informations circulent sur l'internet. Dans de nombreuses situations réelles, des informations utiles (comme des étiquettes ou des catégories) existent pour un graphique, mais pas pour un autre. L'adaptation au domaine graphique (GDA) permet de transférer ces connaissances d'un graphique à l'autre, ce qui permet de gagner du temps et d'économiser des ressources. Au cours de nos recherches, nous avons découvert qu'un facteur clé appelé homophilie - la tendance des nœuds connectés à se ressembler - est souvent différent d'un graphe à l'autre, et que ce décalage peut nuire aux performances de la GDA. Il est surprenant de constater que ce problème a été largement ignoré jusqu'à présent. Nous avons étudié la manière dont ces différences affectent les résultats et nous avons découvert que l'alignement de cette similarité entre les graphes peut faire une grande différence. Nous avons développé une nouvelle méthode pour atténuer ces différences et améliorer le transfert de connaissances entre les graphes. Notre approche fonctionne bien dans divers ensembles de données, ce qui est prometteur pour l'amélioration de l'apprentissage à partir de données graphiques dans de nombreuses applications, des systèmes de recommandation aux réseaux sociaux.

Les modèles d'apprentissage automatique rencontrent souvent des difficultés lorsqu'ils sont confrontés à des situations légèrement différentes de celles sur lesquelles ils ont été formés. Il s'agit d'un problème majeur lorsque les données comprennent des sous-groupes cachés, tels que différents types de personnes, d'environnements ou de conditions médicales, qui ne sont pas représentés de manière égale. Par exemple, un modèle formé principalement sur des patients en bonne santé peut ne pas fonctionner correctement sur des patients atteints de maladies rares. Notre recherche introduit une nouvelle technique appelée Ensemble prototypique diversifié (EPD) pour résoudre ce problème. Au lieu d'utiliser un seul modèle, nous créons un groupe de classificateurs simples appelés prototypes. Chacun d'entre eux apprend à se concentrer sur différents modèles ou caractéristiques des données. Nous encourageons ces classificateurs à être aussi différents que possible, afin qu'ensemble ils puissent couvrir une plus grande variété de sous-groupes cachés. Le principal avantage du DPE est qu'il ne nécessite aucune connaissance préalable des sous-groupes. Il peut les découvrir automatiquement et s'y adapter en utilisant uniquement les données elles-mêmes. Cela le rend particulièrement utile dans les situations réelles où les étiquettes des sous-groupes sont manquantes ou difficiles à définir. Sur neuf ensembles de données difficiles, notre méthode surpasse systématiquement les solutions existantes et contribue à rendre les modèles d'apprentissage automatique plus équitables et plus fiables lorsqu'ils sont utilisés dans des populations diverses.

La formation de modèles d'IA nécessite généralement la centralisation de grandes quantités de données, ce qui soulève des problèmes de confidentialité. L'apprentissage fédéré (Federated Learning, FL) offre une solution en permettant aux appareils ou institutions périphériques - tels que les smartphones et les hôpitaux - d'entraîner un modèle partagé en collaboration sans envoyer leurs données privées à un serveur central. Cependant, les données du monde réel sont souvent désordonnées : différents appareils peuvent avoir des types de données très divers, ou certaines catégories de données peuvent être rares sur certains appareils alors qu'elles sont courantes sur d'autres. Cette *hétérogénéité des données* fait qu'il est difficile pour les modèles FL d'être performants sur tous les appareils. Notre travail introduit **FedGWC**, une nouvelle méthode pour rendre l'entraînement FL plus efficace. Au lieu de forcer tous les appareils à entraîner un seul modèle, FedGWC regroupe les appareils ayant des caractéristiques de données similaires en grappes, ce qui permet à chaque grappe d'entraîner son modèle spécialisé, qui est beaucoup mieux adapté aux données de ce groupe. Cela ressemble à l'organisation d'un groupe d'étude : au lieu que tout le monde étudie le même sujet général, des groupes plus petits se forment pour se concentrer sur des sujets spécifiques pour lesquels ils ont tous besoin d'aide. Pour ce faire, FedGWC analyse la capacité d'apprentissage du modèle de chaque appareil à partir de ses propres données, sans avoir à examiner les données elles-mêmes. Nous avons également développé une nouvelle méthode pour mesurer la qualité de ces regroupements, en particulier lorsque certaines catégories de données sont beaucoup plus rares que d'autres. Nos expériences montrent que FedGWC améliore de manière significative la précision des modèles dans les configurations FL, en particulier lorsque les données sont diverses et inégalement réparties. Cela signifie que nous pouvons construire des applications d'IA plus puissantes et personnalisées tout en préservant les informations privées sensibles.

Qu'entendons-nous exactement par "inclusion de l'ensemble d'entraînement" dans les modèles linguistiques ? Un grand nombre de travaux - dans le domaine de la recherche, de la politique et même des procès - ont convergé implicitement vers des définitions basées sur le chevauchement des $n$-grammes (sous-chaînes). En d'autres termes, un morceau de texte est considéré comme un "membre" de l'ensemble d'apprentissage si une partie de ce texte (n-gramme) peut être trouvée dans l'ensemble d'apprentissage. Cet article est le récit de deux expériences qui démontrent les limites fondamentales de toutes les définitions d'appartenance basées sur les $n$-grammes. Nous posons deux questions du point de vue de la complétion de texte (verbatim) à l'aide d'un modèle linguistique : 1. **Suppression:** pouvons-nous *empêcher* la génération verbatim d'un texte en supprimant tous ses n-grammes et en ré-entraînant le modèle à partir de zéro ? La réponse est non ! De nombreux textes supprimés peuvent encore être générés textuellement par le modèle LLM réentraîné. 2. **Addition:** pouvons-nous *causer* la génération verbatim d'un texte en nous entraînant sur des textes sans chevauchement de n-grammes ? La réponse est oui ! Et cela ne nécessite que quelques étapes de réglage fin du gradient. Le message clé de ce travail est que l'appartenance aux données dans les LLM va au-delà de l'appartenance à un ensemble de textes dans l'ensemble de données brutes ; elle englobe également les voisinages de données ("soft membership") dus à la généralisation des LLM, à la provenance des données, au prétraitement et à d'autres informations auxiliaires auxquelles l'algorithme d'apprentissage a accès tout au long du pipeline de ML. De nombreux sous-domaines, tels que le droit d'auteur, le désapprentissage, l'inférence d'appartenance et la transparence des données, nécessitent une définition de l'appartenance, et notre travail montre que des notions trop simplistes de l'appartenance entravent les progrès dans ces domaines.

La plupart des systèmes d'IA analysent des données qui arrivent à intervalles réguliers, comme les cours boursiers quotidiens ou les relevés de température horaires. Mais de nombreux événements du monde réel se produisent de manière imprévisible, comme les urgences médicales, les messages sur les médias sociaux ou les pannes d'équipement, et sont décrits en langage naturel plutôt qu'en chiffres. Les méthodes traditionnelles ont du mal à traiter ces données de "séries temporelles asynchrones", car elles ne sont pas en mesure de prendre en compte à la fois le temps irrégulier et les descriptions textuelles riches. Nous avons développé LASTS, une nouvelle approche qui utilise de grands modèles de langage pour analyser ces séquences d'événements irréguliers. Au lieu de forcer les événements à entrer dans des catégories rigides, notre méthode préserve leurs descriptions en langage naturel, ce qui permet à l'IA d'utiliser sa compréhension du langage et sa connaissance du monde. Nous avons également créé le "Stochastic Soft Prompting", une technique de réglage fin qui aide les LLM à comprendre les données de notre domaine spécifique bien mieux que les autres techniques de réglage fin connues. Notre approche est nettement plus performante que les méthodes existantes dans de nombreux ensembles de données du monde réel. Cela rend l'analyse sophistiquée des séries temporelles plus accessible et pourrait améliorer les applications dans le suivi des soins de santé, l'analyse financière et la compréhension des médias sociaux, en aidant les organisations à mieux prédire et répondre à des événements irréguliers mais importants.

La plupart des LLM existants ont des difficultés avec les problèmes mathématiques avancés parce qu'il y a très peu de données d'entraînement de haute qualité pour les questions de niveau olympique, et les références existantes comprennent souvent des problèmes que les modèles ont déjà vus pendant le pré-entraînement, ce qui rend les évaluations peu fiables. Pour y remédier, nous avons construit un pipeline automatisé qui exploite le forum Art of Problem Solving à la recherche de véritables problèmes de niveau compétition et de solutions fournies par la communauté, puis utilise des LLM open-source pour extraire et nettoyer plus de 600 000 paires question-réponse, créant ainsi l'ensemble de données AoPS-Instruct. Nous avons également développé LiveAoPSBench, un ensemble d'évaluation évolutif tiré des derniers messages du forum, qui filtre tout chevauchement avec des données antérieures afin d'éviter toute contamination. En affinant divers LLM sur AoPS-Instruct, nous avons observé des améliorations marquées dans leur capacité à résoudre des problèmes mathématiques difficiles. En outre, le suivi des performances au fil du temps sur LiveAoPSBench a révélé que de nombreux modèles sont moins performants sur les questions plus récentes, ce qui indique que les succès passés découlent souvent du fait d'avoir vu des problèmes similaires lors de la pré-formation plutôt que de véritables compétences de raisonnement. Ce travail offre un moyen évolutif de générer et de maintenir de grands ensembles de données fiables pour le raisonnement mathématique avancé, aidant les chercheurs à mieux comprendre et à pousser les capacités réelles des LLM dans ce domaine.

Dans des scénarios tels que le suivi de la législation ou des données de formation corrompues, un formateur de modèles doit "oublier" une partie de son ensemble de données de formation. Nous établissons un lien avec une métrique dérivée des statistiques collectées pendant la formation, qui permet de prédire la difficulté d'oublier un point de données. Sur le plan théorique, nous prouvons que cette métrique fournit une limite supérieure au nombre d'étapes de descente de gradient nécessaires pour oublier un point de données. De manière empirique, nous constatons que, sur l'ensemble des configurations d'entraînement, cette métrique classe avec précision les points de données en fonction du nombre d'étapes de descente de gradient nécessaires pour les oublier. En outre, nous constatons que les mesures proposées permettent de découvrir des points de données plus difficiles à oublier, par rapport aux approches antérieures d'identification des points de données difficiles.

L'interprétation des radiographies thoraciques est une tâche essentielle en médecine, mais qui demande beaucoup de travail. Les outils d'intelligence artificielle (IA) existants fonctionnent souvent comme des applications autonomes, ce qui limite leur intégration dans des flux de travail cliniques complets. En outre, les modèles d'intelligence artificielle généraux actuels, malgré leurs progrès, ne fournissent pas toujours les capacités d'analyse en plusieurs étapes ou les processus décisionnels transparents requis dans les diagnostics médicaux. Nous avons développé MedRAX, un cadre d'IA conçu pour surmonter ces limitations dans l'analyse des radiographies du thorax. MedRAX fonctionne en coordonnant une série d'outils d'IA spécialisés, chacun étant compétent dans des tâches spécifiques telles que la détection de maladies, l'identification et le tracé de structures anatomiques, ou la réponse à des questions détaillées basées sur l'image. Le système sélectionne et séquence dynamiquement ces outils, en intégrant leurs résultats pour répondre à des requêtes médicales complexes, sans nécessiter de réapprentissage du cadre de base lorsque des outils sont ajoutés ou modifiés. Cette approche permet à MedRAX d'offrir des analyses plus précises, détaillées et interprétables des radiographies du thorax par rapport aux méthodes existantes, ce qui représente une avancée significative vers l'application pratique de l'IA en radiologie. Le système vise à améliorer l'efficacité du diagnostic, à réduire le risque d'erreur et à accroître la clarté des informations fournies par l'IA, ce qui permet d'aider les professionnels de la santé et d'améliorer potentiellement les soins aux patients grâce à une assistance plus robuste de l'IA.

Pour que l'apprentissage automatique soit performant, il faut disposer d'un ensemble de données pertinent pour la tâche que l'on souhaite apprendre. Lorsque l'on dispose de nombreuses sources de données, le problème de savoir comment constituer un bon ensemble de données à partir de ces sources pose un problème d'optimisation typiquement difficile. Dans cet article, nous avons montré que cette optimisation peut être simplifiée si nous formons d'abord un modèle (bon marché) sur chacune de nos sources de données. Nous avons ainsi fourni une méthode pour créer de meilleurs ensembles de données, ce qui a permis d'améliorer les tâches de modélisation linguistique et de chimie. Notre travail ouvre la voie à la recherche d'ensembles de données utiles pour des tâches où les données sont généralement rares.

L'apprentissage fédéré par enchères (AFL) est devenu un domaine de recherche important ces dernières années. Les stratégies dominantes pour les consommateurs de données FL (DC) supposent que l'ensemble de l'équipe des propriétaires de données (DO) requis pour une tâche FL doit être réunie avant que la formation puisse commencer. Dans la pratique, un DC peut déclencher plusieurs fois le processus de formation au FL. Les détenteurs de données peuvent donc être progressivement recrutés au cours de plusieurs sessions de formation au modèle FL. Les stratégies d'appel d'offres existantes pour les DC AFL ne sont pas conçues pour gérer de tels scénarios. Par conséquent, le problème de l'AFL multi-sessions reste ouvert. Pour résoudre ce problème, nous proposons la stratégie d'optimisation budgétaire multisession pour l'apprentissage fédéré par enchères (MBOS-AFL). Basée sur l'apprentissage par renforcement hiérarchique, MBOS-AFL optimise conjointement le rythme budgétaire entre les sessions et les enchères intra-session pour les DC AFL, dans le but de maximiser l'utilité totale. Des expériences approfondies sur six ensembles de données de référence montrent qu'elle surpasse de manière significative sept approches de pointe. En moyenne, MBOS-AFL permet d'obtenir une utilité supérieure de 12,28 %, une augmentation de 14,52 % des données acquises par les enchères pour un budget donné, et une précision de test supérieure de 1,23 % obtenue par le modèle FL résultant par rapport à la meilleure approche de référence. À notre connaissance, il s'agit de la première méthode d'aide à la décision pour l'optimisation du budget avec une capacité d'accélération du budget conçue pour les DC dans le cadre de l'AFL prospectif multisession.

La réussite de la formation des réseaux neuronaux profonds dépend fortement de la manière dont les données sont représentées, lorsqu'elles sont traitées à travers les couches d'un réseau. Jusqu'à présent, le contrôle de la moyenne et de la dispersion de ces représentations était la principale approche utilisée pour aider les réseaux neuronaux à s'entraîner efficacement. Dans ce travail, nous avons en outre motivé une distribution spécifique que les représentations des réseaux neuronaux devraient suivre, et matérialisé ce choix de distribution à l'aide d'une nouvelle couche que nous avons développée. Nos expériences et notre analyse ont démontré de manière exhaustive l'efficacité de cette nouvelle couche.

La généralisation à partir de données d'apprentissage est à la base de la plupart des processus d'apprentissage automatique. Souvent, ces données d'apprentissage sont supposées être générées directement à partir des phénomènes que l'on souhaite apprendre. Dans notre travail, nous étudions la situation dans laquelle un adversaire peut manipuler les données d'apprentissage avant que l'apprenant ne puisse les voir. Nous étudions les adversaires adaptatifs, qui ont accès à l'ensemble des données d'apprentissage et peuvent donc les manipuler en toute connaissance de cause. Nous les opposons aux adversaires inconscients, qui n'ont connaissance que du processus de génération des données, mais pas des données d'apprentissage elles-mêmes. Nous montrons que les adversaires adaptatifs peuvent être strictement plus forts que les adversaires inconscients. En particulier, nous étudions les adversaires additifs, qui peuvent ajouter des points de données, et les adversaires soustractifs, qui peuvent supprimer des points de données. Nous démontrons une séparation entre les adversaires adaptatifs additifs et les adversaires adaptatifs inconscients. Ainsi, nous montrons que dans certaines situations, l'ajout de points de données lorsque l'on connaît un échantillon peut gravement nuire au processus d'apprentissage, alors que des manipulations additives similaires sur le processus de génération de données ne nuiront pas trop au processus d'apprentissage.

La protection des informations sensibles est une préoccupation majeure à l'ère du big data. La confidentialité différentielle (DP) est une méthode populaire pour garantir la confidentialité en ajoutant un bruit aléatoire aux données, ce qui rend difficile l'identification des individus. Cependant, il est essentiel de choisir le bon type de bruit - trop de bruit peut ruiner la précision des données, et trop peu peut ne pas protéger la vie privée. Dans ce travail, nous introduisons une nouvelle façon de trouver la meilleure distribution de bruit pour une garantie de confidentialité donnée. Notre méthode améliore la précision des résultats tout en respectant des normes strictes en matière de protection de la vie privée. Nous montrons que notre bruit optimisé fonctionne mieux que les types de bruit couramment utilisés, tels que le bruit gaussien ou le bruit de Laplace, dans différents ensembles de données et paramètres de confidentialité. Cette approche peut contribuer à rendre l'apprentissage automatique préservant la vie privée plus fiable et plus efficace dans les applications du monde réel.

Il est possible de tromper les grands modèles de langage pour qu'ils produisent des résultats dangereux en les surchargeant avec de longues et fausses conversations. Ces conversations sont conçues pour donner l'impression que le modèle a déjà suivi de nombreuses fois des instructions dangereuses. Dans cet article, nous présentons PANDAS, une technique qui améliore ce type d'attaque en modifiant les fausses conversations avec des phrases d'affirmation positives, des démonstrations négatives et une sélection de contenu plus ciblée. Les résultats obtenus sur des modèles open-source de pointe montrent que PANDAS est plus efficace pour obtenir des résultats nuisibles que les méthodes précédentes. Nous analysons également les résultats intermédiaires des modèles pour comprendre l'effet de PANDAS.

Et si l'IA pouvait être votre coéquipier, et non votre remplaçant, dans la prestation de soins de santé mentale compatissants ? Alors que la génération des natifs du numérique se tourne vers des outils tels que ChatGPT pour tout ce qui concerne les devoirs scolaires et les conseils de carrière, il ne faudra pas attendre longtemps avant qu'elle ne s'appuie sur l'IA pour un soutien émotionnel et en matière de santé mentale. La question n'est plus de savoir si les LLM ont leur place dans le domaine de la santé mentale, mais comment ils peuvent y contribuer de manière sûre, éthique et significative. Cet article soutient que les LLM sont prêts à faire plus qu'automatiser des tâches lorsqu'ils sont conçus en tenant compte de considérations éthiques et de sécurité. Ces outils peuvent contribuer à alléger le fardeau des équipes surchargées, à fournir des conseils personnalisés et à offrir un soutien en temps opportun. Mais l'enjeu est de taille : en l'absence de garanties adéquates, les MLD peuvent causer de graves préjudices, en diffusant des préjugés et des informations erronées, ou en amenant les utilisateurs à accorder une confiance déplacée à leurs réponses. Il est essentiel de mettre en place des garanties solides pour s'assurer que ces outils sont sûrs, fiables et conformes aux normes éthiques. Pour traduire cette vision en action, notre position propose deux cadres : SAFE-i, qui soutient une conception et un déploiement responsables grâce à trois piliers : SAFE-i, qui soutient une conception et un déploiement responsables grâce à trois piliers : les fondements éthiques des données, l'ingénierie des modèles et l'intégration dans le monde réel. HAAS-e, qui propose un cadre d'évaluation centré sur l'humain, construit autour de quatre dimensions essentielles basées sur la fiabilité, l'équité, l'empathie et l'actionnabilité, en introduisant des mesures telles que le score d'empathie contextuelle (CES), l'indice de sensibilité culturelle (CSI), le score d'appropriation de la personnalisation (PAS) et l'évaluation de l'actionnabilité et de la sécurité (ASA). Ensemble, ces outils offrent une feuille de route pratique pour aligner les systèmes d'IA sur les valeurs humaines, les objectifs cliniques et les divers contextes culturels, permettant ainsi aux professionnels de la santé mentale de disposer de collaborateurs d'IA adaptatifs, éthiques et empathiques.

Les scénarios de risque liés à l'IA décrivent généralement une perte relativement soudaine du contrôle humain au profit des IA, dépassant les humains individuels et les institutions humaines, en raison d'une augmentation soudaine des capacités de l'IA ou d'une trahison coordonnée. Cependant, nous soutenons que même une augmentation progressive des capacités de l'IA, sans aucune recherche coordonnée de pouvoir, pose un risque substantiel de déresponsabilisation humaine à terme. Cette perte d'influence humaine sera principalement due au fait que les machines seront plus compétitives que les humains dans presque toutes les fonctions de la société, telles que le travail économique, la prise de décision, la création artistique et même la camaraderie. Une perte progressive du contrôle de notre propre civilisation peut sembler invraisemblable. Les bouleversements technologiques n'ont-ils pas généralement amélioré le bien-être global de l'humanité ? Nous soutenons que l'alignement des systèmes sociétaux sur les intérêts humains n'a été stable qu'en raison de la nécessité de la participation humaine pour la prospérité des économies, des États et des cultures. Une fois que cette participation humaine sera remplacée par des machines plus compétitives, les incitations à la croissance de nos institutions ne seront plus liées à la nécessité d'assurer l'épanouissement de l'homme. Les décideurs à tous les niveaux seront bientôt confrontés à des pressions visant à réduire la participation humaine sur les marchés du travail, dans les structures de gouvernance, dans la production culturelle et même dans les interactions sociales. Ceux qui résisteront à ces pressions finiront par être déplacés par ceux qui ne le feront pas. Pourtant, les humains ne remarqueraient-ils pas ce qui se passe et ne se coordonneraient-ils pas pour y mettre un terme ? Pas nécessairement. Ce qui rend cette transition particulièrement difficile à contrer, c'est que les pressions exercées sur chaque système sociétal se répercutent sur les autres. Par exemple, nous pourrions tenter d'utiliser le pouvoir de l'État et les attitudes culturelles pour préserver le pouvoir économique de l'homme. Toutefois, les incitations économiques qui poussent les entreprises à remplacer les humains par l'IA les pousseront également à influencer les États et la culture pour soutenir ce changement, en utilisant leur pouvoir économique croissant pour façonner à la fois la politique et l'opinion publique, ce qui permettra à son tour à ces entreprises d'accroître encore leur pouvoir économique. Une fois que l'IA aura commencé à supplanter l'homme, les mécanismes de rétroaction existants qui encouragent l'influence et l'épanouissement de l'homme commenceront à s'effondrer. Par exemple, les États financés principalement par des taxes sur les profits de l'IA plutôt que par le travail de leurs citoyens ne seront guère incités à assurer la représentation des citoyens. Cela pourrait se produire au moment même où l'IA offre aux États une influence sans précédent sur la culture et le comportement humains, ce qui pourrait rendre la coordination entre les humains plus difficile, réduisant ainsi davantage la capacité des humains à résister à de telles pressions. Nous décrivons plus en détail ces mécanismes et boucles de rétroaction, ainsi que d'autres, dans le présent ouvrage. Bien que nous fournissions quelques propositions pour ralentir ou éviter ce processus, et que nous examinions les discussions connexes, nous soulignons que personne ne dispose d'un plan concret et plausible pour arrêter la déresponsabilisation progressive de l'homme et que les méthodes visant à aligner les systèmes d'IA individuels sur les intentions de leurs concepteurs ne sont pas suffisantes. Parce que cette déresponsabilisation serait globale et permanente, et parce que l'épanouissement de l'homme nécessite des ressources substantielles à l'échelle mondiale, elle pourrait vraisemblablement conduire à l'extinction de l'homme ou à des résultats similaires.

Les discussions sur la qualité des données dans le domaine de l'apprentissage automatique se concentrent souvent sur des indicateurs et des définitions techniques, négligeant les sources humaines qui génèrent ces données. Une grande partie des données actuelles provient de la participation des utilisateurs sur les plateformes en ligne. Cela nous a amenés à nous poser la question suivante : pouvons-nous apprendre quelque chose sur le maintien de la qualité des données en examinant la manière dont les humains participent à ces plateformes ? Nous examinons le compromis quantité-qualité dans la génération de données sous l'angle de la motivation humaine. En nous inspirant des sciences sociales, nous montrons comment une dépendance excessive à l'égard des incitations externes peut saper la motivation intrinsèque. Nous proposons un changement : concevoir des environnements attrayants et suffisamment incitatifs (par exemple, des jeux en ligne) qui encouragent une participation significative tout en produisant des données de haute qualité. Notre article met en lumière les forces de motivation qui sous-tendent la génération de données en ligne pour l'IA/ML et illustre des cas de systèmes passés qui ont réussi à naviguer dans le compromis quantité-qualité pour générer des données humaines significatives. Nous mettons également l'accent sur des considérations de conception essentielles pour construire les environnements de collecte de données fiables du futur qui non seulement produiront des données de haute qualité, mais respecteront et soutiendront également les personnes qui y contribuent.

Training a modern Large Language Model (LLM) is an incredibly expensive endeavor due to the cost of specialized hardware, energy required to run that hardware, and the enormous engineering labor needed to architect large-scale training systems. However, an often overlooked (and seldom paid) expense is the human labor behind these models’ training data. Every LLM is built on an unfathomable amount of human effort: trillions of carefully written words sourced from books, academic papers, codebases, social media, and more. This position paper aims to assign a monetary value to this labor and argues that the most expensive part of producing an LLM \emph{should} be the compensation provided to training data producers for their work. To support this position, we study 64 LLMs released between 2016 and 2024, estimating what it would cost to pay people to produce their training datasets from scratch. Even under highly conservative estimates of wage rates, the costs of these models’ training datasets are 10-1000 times larger than the costs to train the models themselves, representing a significant financial liability for LLM providers. In the face of the massive gap between the value of training data and the lack of compensation for its creation, we highlight and discuss research directions that could enable fairer practices in the future.

Nous présentons QuEst, une méthode permettant de combiner des données réelles observées avec des prédictions de modèles d'apprentissage automatique afin de produire de meilleures estimations de quantités importantes. Notre cadre est particulièrement utile pour améliorer les résultats expérimentaux dans des domaines tels que l'économie, la sociologie, l'éducation, la médecine, ainsi que pour évaluer les modèles de langage.

Imaginez que l'on apprenne à une IA à effectuer une tâche, comme la navigation dans un bâtiment, en utilisant uniquement un ensemble fixe d'exemples enregistrés. Lorsqu'elle est confrontée à une nouvelle situation qu'elle n'a jamais vue auparavant, l'IA peut devenir confuse et prendre de mauvaises décisions parce que ses connaissances sont incomplètes. De nombreuses approches existantes rendent l'IA trop prudente pour éviter les erreurs, mais cela l'empêche de s'adapter efficacement. Nous présentons une nouvelle méthode appelée Reflect-then-Plan (RefPlan) qui aide l'IA à raisonner intelligemment sur ce qu'elle ne sait pas. Notre méthode fonctionne en deux étapes : * Réfléchir : Pendant que l'IA fonctionne, elle "réfléchit" continuellement à ses expériences récentes - les actions qu'elle a entreprises et ce qui s'est passé en conséquence - pour mettre à jour sa compréhension de l'environnement spécifique dans lequel elle se trouve actuellement. * Planifier : Lorsqu'elle "planifie" sa prochaine action, l'IA ne s'appuie pas sur une prédiction unique et rigide de l'avenir. Au lieu de cela, il envisage une série de scénarios possibles fondés sur son incertitude, ce qui rend sa stratégie plus robuste face à l'inattendu. Nos résultats montrent que cette approche améliore considérablement les performances de l'IA, la rendant plus flexible et plus résistante, en particulier lorsqu'elle est confrontée à des situations inconnues, à des données limitées ou à des conditions changeantes.

Les progrès rapides des grands modèles linguistiques (LLM) ont suscité des inquiétudes quant à leur utilisation abusive potentielle, comme la diffusion de fausses informations et la menace de l'intégrité académique. Pour y remédier, le filigrane textuel est apparu comme une solution prometteuse, intégrant subtilement des motifs indétectables dans le texte généré par le LLM afin d'en vérifier l'origine. Toutefois, l'efficacité de ces filigranes dépend de leur robustesse face aux attaques qui tentent de les supprimer. Les méthodes d'attaque existantes sont souvent inefficaces, non ciblées, gourmandes en ressources et difficilement transférables d'un LLM à l'autre. Notre recherche présente l'attaque par réécriture de l'auto-information (SIRA), une attaque de paraphrase nouvelle et efficace qui révèle une vulnérabilité fondamentale dans les algorithmes actuels de filigranage de texte. Nous avons découvert que les techniques de filigrane intègrent des motifs dans des jetons à "haute entropie", c'est-à-dire des jetons à forte auto-information en raison de leur imprévisibilité et de leur faible probabilité. SIRA exploite ce phénomène en calculant l'auto-information de chaque jeton afin d'identifier et de masquer ces jetons potentiellement porteurs de filigrane. Nous utilisons ensuite un LLM pour effectuer une tâche ciblée de "remplissage dans l'espace", en réécrivant le texte masqué tout en préservant son intégrité sémantique. SIRA représente une avancée significative dans la compréhension et l'évaluation de la robustesse du filigrane LLM. Nos expériences montrent que SIRA atteint des taux de réussite de près de 100 % pour sept méthodes de filigrane récentes, à un coût très faible de 0,88 $ par million de jetons. Cette attaque ne nécessite aucune connaissance préalable de l'algorithme de filigrane ou du LLM utilisé, et elle est hautement transférable, même avec des modèles plus petits au niveau mobile. En exposant cette vulnérabilité généralisée, notre travail met en évidence le besoin urgent de développer des approches de filigrane plus robustes et adaptatives pour garantir la transparence et l'intégrité des contenus générés par l'IA.

La résolution de problèmes dans le cadre de règles et de restrictions spécifiques fait partie de nombreuses tâches de la vie réelle, qu'il s'agisse de résoudre des puzzles comme le Sudoku ou de planifier les horaires de travail d'un employé. Ces problèmes sont souvent difficiles à résoudre, et même les meilleures méthodes traditionnelles peuvent se heurter à des difficultés lorsque les problèmes deviennent plus importants et plus complexes. L'intelligence artificielle a été utilisée pour résoudre ces problèmes plus efficacement. Cependant, de nombreuses méthodes existantes reposent sur l'existence d'exemples de bonnes solutions ou nécessitent de nombreux essais et erreurs, ce qui peut s'avérer lent ou peu pratique. Nous présentons ConsFormer, qui adopte une approche différente. Il entraîne un modèle d'intelligence artificielle à apporter de petites améliorations à une solution en une seule étape, sans avoir besoin de réponses correctes pendant l'entraînement. Une fois déployé, ConsFormer est utilisé de manière répétée pour apporter des améliorations régulières, en partant d'une supposition aléatoire et en l'affinant pas à pas. ConsFormer fonctionne pour différents problèmes et peut traiter des cas plus difficiles simplement en exécutant plus d'étapes d'amélioration. Cela en fait un outil prometteur pour résoudre efficacement des problèmes complexes de raisonnement par contraintes dans le monde réel.

Les systèmes modernes d'intelligence artificielle (IA) sont incroyablement puissants, mais leur formation nécessite souvent d'énormes quantités de puissance de calcul et de données. Cela les rend coûteux et hors de portée pour de nombreux chercheurs et développeurs. Pour remédier à cette situation, les scientifiques ont exploré des modèles d'IA "plus épars", c'est-à-dire des systèmes qui n'utilisent qu'une petite fraction de leurs connexions potentielles, ce qui les rend beaucoup plus efficaces à former et à faire fonctionner. Cependant, un obstacle majeur réside dans le fait qu'une configuration de modèle clairsemé qui fonctionne bien avec un point de départ pour l'entraînement échoue souvent lorsque l'entraînement commence à partir d'un point de départ différent. Nos recherches ont permis d'en identifier la cause première : le désalignement. C'est un peu comme si l'on utilisait une clé (la configuration éparse) sur une serrure qui a été légèrement tournée : elle ne s'adapte tout simplement pas. Pour résoudre ce problème, nous avons mis au point une méthode permettant de "réaligner" la structure éparse de manière à ce qu'elle corresponde aux modèles d'un nouveau point de départ. Cet ajustement améliore considérablement les performances des modèles épars formés à partir de différents points de départ, les rendant presque aussi efficaces que leurs versions originales. Nos résultats facilitent et rendent plus pratique le développement de systèmes d'IA plus légers et plus efficaces, ouvrant la voie à une plus grande accessibilité et à l'innovation dans la recherche sur l'IA.

Les modèles modernes de génération d'images - tels que ceux qui sous-tendent les outils artistiques d'IA - sont généralement entraînés sur des collections massives d'images. Cette pratique soulève toutefois d'importantes préoccupations : certaines des données d'entraînement peuvent être protégées par des droits d'auteur, et les modèles risquent de mémoriser et de reproduire ces contenus de manière trop fidèle. L'une des solutions proposées consiste à entraîner les modèles uniquement sur des versions bruitées (floues ou modifiées) des images, en veillant à ce que les originaux ne soient jamais vus directement. Cependant, dans la pratique, nous montrons qu'il est extrêmement difficile d'apprendre à partir de données bruitées uniquement - il faut un nombre d'échantillons excessivement élevé pour que l'apprentissage soit efficace. Dans ce travail, nous nous concentrons sur les modèles de diffusion et démontrons que l'introduction d'une petite fraction de données propres (originales), seulement 4 % ou 10 %, peut faire une différence substantielle. Nous proposons une méthode appelée déconvolution stochastique avant-arrière (SFBD), qui alterne entre le débruitage d'échantillons bruyants à l'aide du modèle actuel et le réentraînement du modèle à l'aide de ces résultats débruités. Ce processus permet au modèle d'apprendre progressivement à générer des images réalistes, même lorsque la plupart des données d'apprentissage sont bruitées. Nos expériences montrent que le SFBD permet d'obtenir une qualité d'image proche des modèles formés sur des ensembles de données totalement propres, tout en réduisant considérablement les risques juridiques et éthiques. Ce travail offre une voie prometteuse vers la formation de modèles génératifs de manière plus responsable et plus efficace.

Les modèles d'apprentissage automatique apprennent à partir de données pour prendre des décisions, mais il peut être difficile de s'assurer qu'ils restent fiables lorsqu'ils sont confrontés à de nouvelles situations dans le monde réel. Cette recherche présente une nouvelle façon de vérifier si ces modèles commencent à commettre davantage d'erreurs avec de nouvelles données, en particulier lorsque nous ne pouvons pas facilement vérifier si leurs décisions sont correctes. La méthode consiste à examiner des indices subtils dans la manière dont le modèle se comporte avec des données familières et nouvelles afin de détecter si la qualité de ses décisions a diminué. Des expériences ont montré que cette approche permet de repérer avec succès un modèle qui éprouve des difficultés parce que les nouvelles informations sont différentes de celles auxquelles il était préparé. Cela permet de s'assurer que ces modèles d'apprentissage automatique fonctionnent correctement et qu'on peut leur faire confiance, en particulier dans les applications quotidiennes importantes.

Dans les applications critiques pour la sécurité, comme le diagnostic médical ou les voitures autonomes, les chercheurs combinent souvent plusieurs modèles d'IA dans ce que l'on appelle des "ensembles" afin d'améliorer les prédictions - un peu comme si l'on consultait un comité plutôt qu'un seul expert. Cette approche a bien fonctionné pour les modèles simples, mais avec les puissants réseaux neuronaux d'aujourd'hui qui peuvent mémoriser des ensembles de données entiers, les ensembles ne parviennent souvent pas à fournir les avantages escomptés. Nous avons analysé ce phénomène mathématiquement en utilisant des réseaux neuronaux simplifiés. Nous avons découvert que lorsque les modèles sont suffisamment complexes pour mémoriser leurs données d'apprentissage, les ensembles se comportent étroitement comme un seul modèle de plus grande taille. Cela signifie que l'assemblage de grands modèles offre peu d'avantages par rapport à l'entraînement d'un seul modèle plus grand. En outre, nous avons constaté qu'une méthode courante d'estimation de l'incertitude des prédictions d'ensemble - la mesure du désaccord entre les membres de l'ensemble - manque de fondements théoriques dans de tels cas. Nos résultats ne remettent pas en cause l'utilité des ensembles dans la pratique, car les grands modèles peuvent, par exemple, être difficiles à entraîner. Cependant, ils mettent en garde contre le fait de considérer les ensembles comme une stratégie simple et fiable pour améliorer les performances par rapport à ce qu'un seul modèle plus grand pourrait réaliser ou pour évaluer l'incertitude.

Les modèles linguistiques peuvent-ils s'améliorer avec l'aide d'un retour d'information humain sans réentraînement ? Le réentraînement est coûteux, car il nécessite des ressources informatiques et de l'électricité, et contribue aux émissions de carbone. Des travaux antérieurs ont montré qu'il était possible de le faire, mais au prix de temps de réponse plus longs de la part du modèle linguistique, lorsqu'il répond à une requête. Nous présentons une méthode, FaRMA, qui permet de réduire considérablement ce temps de réponse tout en évitant le réentraînement. En outre, nous démontrons des scénarios dans lesquels les méthodes précédentes ne parviennent pas à fournir de bonnes réponses et nous montrons que FaRMA n'est pas vulnérable à ces scénarios.

Comprendre les types de données spécifiques utilisés dans les langages de programmation flexibles tels que Python peut être un véritable casse-tête pour les développeurs de logiciels. Bien que les puissants modèles d'IA connus sous le nom de LLM soient capables de comprendre le code, nous ne savions pas dans quelle mesure ils pouvaient gérer cette tâche spécifique à grande échelle. Pour le savoir, nous avons créé TypyBench, un nouveau test permettant de déterminer avec quelle précision ces IA peuvent prédire les types de données dans des projets logiciels entiers. Nous avons mis au point deux nouvelles méthodes pour mesurer leurs performances : l'une vérifie si le type prédit est proche du type correct, et l'autre si les prédictions de l'IA sont cohérentes dans l'ensemble du code. Nos tests sur 50 projets Python de haute qualité ont révélé que si les IA devinent assez bien la signification générale des types, elles commettent souvent des erreurs avec les types plus compliqués et créent des incohérences au sein d'un même projet. Cela montre que les efforts futurs devraient se concentrer sur l'amélioration de la cohérence des prédictions de l'IA, et TypyBench est l'outil parfait pour guider cette recherche.

Les modèles modernes de vision par ordinateur sont de plus en plus diversifiés, formés à l'aide de différents ensembles de données et d'architectures pour accomplir des tâches visuelles spécifiques telles que l'estimation de la profondeur ou la reconnaissance d'objets. Ces choix de conception déterminent les "concepts" visuels ou les caractéristiques que chaque modèle apprend - de la reconnaissance des bords et des textures à la compréhension des objets et des scènes. Cela soulève une question scientifique fondamentale : ces modèles, malgré leurs différences, convergent-ils vers l'apprentissage des mêmes concepts visuels fondamentaux ? Répondre à cette question est un défi car les représentations internes que ces modèles apprennent sont codées d'une manière que les humains ne peuvent pas interpréter directement. Notre travail introduit les Autoencodeurs Universels Spars (USAE), pour créer un espace conceptuel universel et interprétable qui révèle ce que de multiples modèles de vision apprennent en commun sur le monde visuel. Notre approche nous permet d'identifier les concepts universels les plus importants partagés entre les modèles, tout en découvrant des caractéristiques propres à des modèles spécifiques. Cette analyse permet de comprendre quels choix d'architecture et d'entraînement conduisent à de meilleures représentations visuelles, et quels concepts semblent être des éléments fondamentaux de la compréhension visuelle. Ce travail nous permet de mieux comprendre et de comparer la manière dont différents systèmes d'intelligence artificielle perçoivent et traitent les informations visuelles.