Les chercheurs de Vector présentent 65 articles à la conférence NeurIPS (Conference on Neural Information Processing Systems) de cette année. Du 10 au 16 décembre, en ligne depuis La Nouvelle-Orléans et en personne, les professeurs, les chercheurs associés et les postdoctorants de Vector y présentent des travaux novateurs qui repoussent les limites de différents domaines de recherche en intelligence artificielle. Ces travaux pourraient avoir un impact considérable sur de nombreux aspects de la vie quotidienne, notamment la santé, la découverte de nouveaux matériaux chimiques, la protection des données, la musique et notre compréhension du monde naturel.
Vous trouverez ci-dessous des résumés simplifiés de certains articles et ateliers acceptés par Vector Researchers.
Descriptions des articles rédigées par les coauteurs de l'article et/ou par une IA générative.
Articles acceptés par Vector :
Une étape vers une évaluation mondiale de la biodiversité : l’ensemble de données sur les insectes BIOSCAN-1M
Une étape vers une évaluation mondiale de la biodiversité : l’ensemble de données sur les insectes BIOSCAN-1M
Zahra Gharaee, ZeMing Gong, Nicholas Pellegrino, Iuliia Zarubiieva, Joakim Bruslund Haurum, Scott C. Lowe, Jaclyn TA McKeown, Chris CY Ho, Joschka McLeod, Yi-Yun C Wei, Jireh Agda, Sujeevan Ratnasingham, Dirk Steinke, Angel X. Chang, Graham W. Taylor, Paul Fieguth
Cette étude crée un catalogue de la biodiversité des insectes : l'ensemble de données BIOSCAN-Insect. Cet ensemble de données contient des images annotées de divers insectes, classés taxonomiquement par des experts du domaine, ainsi que des données génomiques associées sous forme de séquences brutes de nucléotides (« code-barres ADN »). Il comprend plus d'un million d'images permettant d'entraîner des modèles de vision par ordinateur pour l'évaluation taxonomique. Il pourrait également intéresser la communauté plus large de l’apprentissage machine en raison des défis intrinsèques qu’il présente, tels que la distribution inégale des images selon les types d’insectes et la complexité du classement taxonomique. Au-delà de l'identification des insectes à partir d'images, ce travail contribue également aux efforts visant à utiliser l'imagerie et les données génomiques de manière complémentaire pour l'étude de la biodiversité. L'article présente l'ensemble de données et explore la tâche de classification à l'aide de méthodes modernes basées sur les réseaux de neurones convolutifs et les transformeurs.
Vieillir avec grâce : Édition de modèles tout au long de la vie grâce à des adaptateurs de valeurs clés discrets
Vieillir avec grâce : Édition de modèles tout au long de la vie grâce à des adaptateurs de valeurs clés discrets
Thomas Hartvigsen, Swami Sankaranarayanan, Hamid Palangi, Yoon Kim, Marzyeh Ghassemi
Comme tout outil, les modèles d'IA peuvent devenir désuets ou présenter des comportements imprévus. Dans cet article, nous présentons GRACE, une méthode d'édition continue des modèles d'IA qui permet d'affiner ces modèles dès qu'ils dysfonctionnent, sans perturber leur fonctionnement global. C'est comparable à l'accordage d'un instrument de musique sans en altérer le timbre. GRACE procède en créant une liste interne de modifications, plutôt qu'en modifiant la structure du modèle. Il peut effectuer cette opération des milliers de fois à partir d'exemples d'erreurs seulement, ce qui constitue une avancée majeure. Nous avons testé GRACE sur divers modèles d'IA populaires et avons constaté qu'il corrigeait efficacement les erreurs et s'adaptait parfaitement à des situations nouvelles et inédites.
Affiche vedette | AlpacaFarm : Un cadre de simulation pour les méthodes qui apprennent des rétroactions humaines
AlpacaFarm : un cadre de simulation pour les méthodes qui apprennent des rétroactions humaines
Yann Dubois, Xuechen Li, Rohan Taori, Tianyi Zhang, Ishaan Gulrajani, Jimmy Ba, Carlos Guestrin, Percy Liang, Tatsunori Hashimoto
AlpacaFarm est un simulateur novateur conçu pour surmonter trois obstacles majeurs au développement de grands modèles linguistiques comme ChatGPT : le coût élevé de la collecte de données, la fiabilité incertaine des évaluations et l’absence de méthodes standardisées. Il génère des invites pour les modèles de langage afin de simuler des rétroactions humaines, réduisant ainsi les coûts d’un facteur de 45 par rapport au recours à des travailleurs du Web, tout en garantissant une grande cohérence avec les réponses humaines. AlpacaFarm introduit un mécanisme d'évaluation automatique, validé par des interactions réelles, et fournit des implémentations normalisées pour des méthodes telles que l'optimisation par paires (PPO) et l'itération d'experts, en utilisant l'apprentissage par rétroaction par paires. Nous constatons que les méthodes utilisant un modèle de récompense peuvent améliorer considérablement les performances par rapport à l’ajustement supervisé et que notre implémentation PPO de référence permet d’obtenir un taux de victoire supérieur de 10 % face à Davinci003.
Une alternative à la variance : l’écart de Gini pour un gradient de politique d’aversion au risque
Une alternative à la variance : l’écart de Gini pour un gradient de politique d’aversion au risque
Yudong Luo, Guiliang Liu, Pascal Poupart, Yangchen Pan
Dans le domaine de l'intelligence artificielle, et plus particulièrement de l'apprentissage par renforcement (RL), il est courant d'apprendre aux machines à prendre des décisions réfléchies. Traditionnellement, cela se fait en contrôlant l'imprévisibilité des résultats de la machine. Cependant, ce processus peut être délicat et nuire à l'apprentissage. Cet article propose une approche alternative, fondée sur une nouvelle mesure du risque : l'écart de Gini. Les auteurs proposent une stratégie novatrice permettant aux machines d'apprendre tout en gérant ce risque. Les tests ont démontré que leur méthode surpasse les stratégies précédentes en maintenant des performances efficaces avec un risque moindre, et en réussissant là où les méthodes antérieures étaient insuffisantes pour guider efficacement le comportement des machines.
Batchnorm permet des attaques radiales non supervisées
Batchnorm permet des attaques radiales non supervisées
Amur Ghose, Apurv Gupta, Yaoliang Yu, Pascal Poupart
Les chercheurs en vision par ordinateur doivent souvent tester la robustesse des systèmes de reconnaissance d'images en essayant de les tromper avec des images modifiées, appelées exemples adverses. Généralement, pour créer ces images trompeuses, il est nécessaire d'avoir accès aux résultats du modèle, tels que les étiquettes de classification et les niveaux de confiance associés. Cependant, cette étude a révélé que, pour les modèles d'apprentissage profond de reconnaissance d'images utilisant une technique particulière appelée normalisation par lots, il est possible de créer des exemples adverses simplement en examinant les calculs intermédiaires du modèle. Pour ce faire, il suffit d'observer dans quelle mesure ces calculs s'écartent d'une distribution géométrique standard, sans aucune connaissance des étiquettes réelles ni du résultat final. Ces calculs intermédiaires forment naturellement des motifs, ressemblant à des formes et des distributions mathématiques bien connues. Les chercheurs ont également découvert que cette tactique peut exposer une faille de sécurité dans ces modèles, y compris lorsqu'ils sont adaptés à d'autres tâches. Plus précisément, la vulnérabilité est liée à l'utilisation de la normalisation par lots, et son élimination permet de réduire le risque. De plus, cette découverte est importante non seulement pour les modèles de reconnaissance d'images, mais aussi pour les modèles les plus récents basés sur les transformateurs, en particulier ceux conçus pour le traitement de l'information visuelle.
Inférence distribuée et ajustement précis de grands modèles linguistiques sur Internet
Inférence distribuée et ajustement précis de grands modèles linguistiques sur Internet
Alexander Borzunov, Dmitry Baranchuk, Tim Dettmers, Max Ryabinin, Younes Belkada, Artem Chumachenko, Pavel Samygin, Colin Raffel
Cette étude présente Petals, un nouveau système permettant aux chercheurs de collaborer et de combiner leur puissance de calcul pour exploiter plus efficacement les grands modèles. Les modèles de grande taille récents nécessitent des ordinateurs puissants, dont de nombreux chercheurs n'ont pas. Il existe des solutions de rechange, comme le stockage de certaines parties du modèle (déchargement de la RAM) ou l'utilisation de services en ligne (API hébergées), mais elles présentent des inconvénients : le déchargement ralentit les modèles pour une utilisation en temps réel, et les API ne permettent pas aux chercheurs de modifier les modèles selon leurs besoins pour des études approfondies. Avec Petals, il est possible d'utiliser même les modèles les plus volumineux sur des configurations informatiques classiques, sans les problèmes rencontrés avec les autres méthodes. De plus, Petals offre une visibilité complète sur le fonctionnement interne des modèles, essentielle pour les chercheurs souhaitant les personnaliser et les améliorer.
Apprentissage et robustesse de la distribution
Apprentissage et robustesse de la distribution
Shai Ben-David, Alex Bie, Gautam Kamath, Tosca Lechner
Cette étude examine la capacité de l'IA à apprendre à partir de données et à demeurer robuste face à des données altérées. En principe, on espère qu'une IA capable d'apprendre à partir de données propres pourra aussi gérer des données partiellement corrompues par une source malveillante. Les chercheurs se sont concentrés sur l'estimation d'une distribution de probabilité inconnue et ont découvert que cela se vérifie lorsque la perturbation consiste uniquement en l'ajout de points de données trompeurs. Par exemple, selon un modèle de contamination appelé Huber, si un adversaire ajoute de fausses informations à l'ensemble de données, l'IA peut toujours apprendre efficacement. Mais la situation change si l'adversaire commence à supprimer des points de données de l'ensemble – un processus connu sous le nom de contamination soustractive. Dans ce cas, si l'IA a appris à partir de données parfaites, cela ne signifie pas nécessairement qu'elle fonctionnera bien avec l'ensemble de données compromis. Cela remet en question l'hypothèse selon laquelle la capacité d'apprendre dans des situations idéales suppose souvent que l'apprentissage dans des conditions moins idéales est également possible. La recherche aborde également les conséquences de ces résultats pour les méthodes de compression de données et l'apprentissage avec des garanties de confidentialité, comme la confidentialité différentielle.
Équivalence des modèles distributionnels pour l'apprentissage par renforcement sensible au risque
Équivalence des modèles distributionnels pour l'apprentissage par renforcement sensible au risque
Tyler Kastner, Murat A. Erdogdu, Amir-Massoud Farahmand
Le monde dans lequel on vit est intrinsèquement stochastique, et chaque décision qu'on prend implique de considérer les risques qui y sont associés. L'apprentissage par renforcement sensible au risque consiste à concevoir des agents capables de prendre des décisions en tenant compte des risques, une capacité qu'ils acquièrent par leurs interactions avec l'environnement. Il est souvent avantageux d'apprendre un modèle de l'environnement avec lequel l'agent peut interagir, plutôt que d'utiliser l'environnement lui-même. Cette approche permet à l'agent de limiter ses interactions avec l'environnement réel ; c'est particulièrement important lorsque ces interactions sont coûteuses, ou dans les applications critiques pour la sécurité, où les erreurs dans l'environnement réel doivent être évitées. Dans ce travail, nous étudions la question de la meilleure façon d'apprendre de tels modèles pour l'apprentissage sensible au risque. Cette question a été étudiée à maintes reprises dans le contexte de l'apprentissage neutre face au risque ; cependant, nous montrons que ces approches sont loin d'être optimales pour l'apprentissage sensible au risque. Nous introduisons un cadre général pour l'apprentissage de ces modèles et démontrons qu'il est possible de choisir le type de risque que le modèle doit prendre en compte en priorité. Nous démontrons que notre cadre peut être combiné avec un large éventail d'algorithmes sans modèle existants, et nous montrons empiriquement les avantages de notre approche.
Article vedette | Contrôle statistique de la dispersion sans distribution pour les applications sociétales
Contrôle statistique de la dispersion sans distribution pour les applications sociétales
Zhun Deng, Thomas P. Zollo, Jake C. Snell, Toniann Pitassi, Richard Zemel
Pour les systèmes d'IA chargés de tâches aux conséquences importantes, il est essentiel de comprendre leur fiabilité. Traditionnellement, l'objectif est de prédire la précision globale du système ou ses marges d'erreur. Cependant, dans les domaines où les décisions ont des répercussions sociétales significatives, il est nécessaire de s'assurer que ses erreurs n'affectent pas injustement différents groupes. Pour répondre à cette problématique, cet article présente un cadre novateur qui dépasse la simple performance moyenne, en évaluant l'équité des décisions d'un système au sein d'une population. Il s'agit d'une approche plus large qui tient compte d'une variété de résultats possibles et de leurs effets sociétaux, et qui permet des analyses statistiques plus complexes que les techniques précédentes. L'efficacité de ce cadre a été démontrée dans diverses applications, comme la détection de propos offensants, l'aide au diagnostic médical à partir d'images et la recommandation de films. Ces travaux constituent un pas vers une IA responsable, équitable et fiable pour les situations à forts enjeux. Cette recherche souligne l'importance non seulement de la performance de l'IA, mais aussi de l'égalité de son impact sur la société.
Protocole d'apprentissage de pair à pair doublement robuste
Protocole d'apprentissage de pair à pair doublement robuste
Nicholas Franzese, Adam Dziedzic, Christopher A. Choquette-Choo, Mark R. Thomas, Muhammad Ahmad Kaleem, Stephan Rabanser, Congyu Fang, Somesh Jha, Nicolas Papernot, Xiao Wang
Cette étude porte sur l'apprentissage machine collaboratif, où différentes organisations travaillent ensemble et combinent leurs données pour bâtir de meilleurs modèles. Bien que cette collaboration semble protéger la confidentialité des données de chacun, un risque subsiste. Le serveur central qui recueille les mises à jour de tous les clients, ou les clients eux-mêmes (les différentes organisations), pourraient ne pas respecter les règles convenues. Un serveur malhonnête pourrait tenter d'accéder aux données des clients, ou ces derniers pourraient envoyer des données malveillantes pour perturber le processus d'apprentissage. Idéalement, chaque partie, client ou serveur, veut s'assurer de l'intégrité de l'autre. La recherche propose une nouvelle approche collaborative, où les apprenants sont des pairs égaux et où il n'y a pas de serveur central. Cette méthode vise à empêcher un serveur d'abuser du système et à éviter que les clients n'envoient des données erronées. Cet article présente un cadre flexible capable d'adapter tout algorithme performant de combinaison des mises à jour de modèles et de le rendre sécurisé dans un environnement où des comportements malveillants de la part des serveurs et des clients sont possibles. Les chercheurs démontrent également que leur approche peut gérer des modèles complexes comportant de nombreux paramètres et un grand nombre de pairs, prouvant ainsi sa faisabilité pour une utilisation concrète.
DynGFN : Vers une inférence bayésienne des réseaux de régulation génique avec GFlowNets
DynGFN : Vers une inférence bayésienne des réseaux de régulation génique avec GFlowNets
Lazar Atanackovic, Alexander Tong, Bo Wang, Leo J. Lee, Yoshua Bengio, Jason Hartford
Cette étude explore comment les cellules contrôlent l'activité et la fonction des gènes. Les chercheurs s'efforcent de comprendre le réseau complexe d'interactions entre les gènes, en abordant deux problèmes clés. Premièrement, les réseaux de gènes sont circulaires et non unidirectionnels. Deuxièmement, les observations sont souvent bruitées, ce qui rend difficile l'identification de schémas précis. Les approches traditionnelles s'attaquent soit à la circularité des réseaux, soit au problème du bruit, mais pas aux deux simultanément. Ici, l'équipe utilise la vitesse de l'ARN – la rapidité avec laquelle les gènes produisent leurs produits – pour développer une méthode qui relève ces deux défis. Ils présentent une nouvelle technique utilisant les réseaux de flux génératifs, qui permet de cartographier les interactions génétiques potentielles en tenant compte de leur nature dynamique et circulaire. Cette méthode offre une compréhension plus claire des réseaux de gènes que les tentatives précédentes.
Volées de perroquets stochastiques : apprentissage d’invites différentiellement privées pour les grands modèles de langage
Volées de perroquets stochastiques : apprentissage d’invites différentiellement privées pour les grands modèles de langage
Haonan Duan, Adam Dziedzic, Nicolas Papernot, Franziska Boenisch
Cette recherche aborde les risques d'atteinte à la vie privée liés aux grands modèles de langage (LLM), qui apprennent à partir de données d'entraînement. Ces données d'entraînement peuvent divulguer involontairement des renseignements sensibles. Les chercheurs démontrent la réalité de ces menaces en révélant une attaque simple mais efficace permettant de déterminer si des données spécifiques ont été utilisées pour entraîner un LLM. L'alternative classique, le réglage fin des modèles à l'aide d'algorithmes privés pour la descente de gradient, sacrifie la simplicité et la rapidité offertes par les données d'entraînement. Pour remédier à ce problème, les chercheurs introduisent une méthode novatrice appelée « apprentissage privé par données d'entraînement ». Ils proposent de créer des « données d'entraînement souples » – des entrées modifiables pour les LLM – de manière confidentielle. Cependant, cette approche est impossible pour les « données d'entraînement discrètes », qui sont fixes et spécifiques. En guise de solution, ils suggèrent de collecter et de fusionner les sorties de plusieurs LLM grâce à une technique qu'ils comparent à un « vol de perroquets stochastiques ». Cette sortie collective devient une seule donnée d'entraînement respectueuse de la vie privée. Les résultats montrent que les performances des modèles linéaires à longue portée (LLM) utilisant cette méthode axée sur la confidentialité se rapprochent de celles des méthodes standard non privées, ce qui indique sa viabilité pour une utilisation pratique avec les services d'IA en ligne existants.
Confidentialité différentielle fonctionnelle de Renyi pour la modélisation générative
Confidentialité différentielle fonctionnelle de Renyi pour la modélisation générative
Dihong Jiang, Sun Sun, Yaoliang Yu
Cette étude explore la confidentialité différentielle de Rényi (RDP), un concept qui gagne en popularité comme alternative à la confidentialité différentielle traditionnelle (DP) grâce à sa meilleure composabilité et sa flexibilité accrue. Les méthodes de confidentialité existantes utilisant la RDP se limitent à la randomisation de sorties vectorielles de longueur fixe. Dans ce travail, les chercheurs s'appuient sur des études antérieures pour adapter la RDP aux scénarios où le résultat peut être une fonction, potentiellement de dimension infinie. Ils développent un ensemble d'outils, incluant une version du mécanisme gaussien adaptée aux données échantillonnées, ainsi que des règles de composition et de post-traitement. Ces outils sont conçus pour faciliter l'intégration de la RDP dans les applications pratiques. Afin de démontrer son utilité, ils appliquent cette version étendue de la RDP, appelée RDP fonctionnelle (f-RDP), aux fonctions de l'espace mathématique connu sous le nom d'espace de Hilbert à noyau reproduisant (RKHS). Dans ce contexte, ils créent un modèle génératif différentiellement privé (DPGM), où le processus d'entraînement du modèle d'apprentissage automatique consiste à libérer en toute sécurité des fonctions de perte protégées par la RDP. Les résultats empiriques suggèrent que cette nouvelle approche de formation offre un meilleur équilibre entre la confidentialité et le rendement par rapport aux méthodes actuelles.
GAUCHE : Une bibliothèque pour les processus gaussiens en chimie
GAUCHE : Une bibliothèque pour les processus gaussiens en chimie
Ryan-Rhys Griffiths, Leo Klarner, Henry B. Moss, Aditya Ravuri, Sang Truong, Samuel Stanton, Gary Tom, Bojana Rankovic, Yuanqi Du, Arian Jamasb, Aryan Deshwal, Julius Schwartz, Austin Tripp, Gregory Kell, Simon Frieder, Anthony Bourached, Alex Chan, Jacob Moss, Chengzhi Guo, Johannes Durholt, Saudamini Chaurasia, Felix Strieth-Kalthoff, Alpha A. Lee, Bingqing Cheng, Alán Aspuru-Guzik, Philippe Schwaller, Jian Tang
GAUCHE est une bibliothèque d'outils mathématiques conçue pour l'apprentissage à partir de données chimiques. Elle est optimisée pour la manipulation des processus gaussiens, une technique d'apprentissage automatique reconnue pour son excellente capacité à mesurer l'incertitude et à améliorer la prise de décision basée sur les prédictions. Les processus gaussiens excellent dans la prédiction de l'inconnu à partir des données connues, notamment dans les situations complexes où l'incertitude est un facteur important. Cependant, leur utilisation en chimie s'apparente à une tentative d'adapter un carré à un rond. Les données chimiques peuvent être très complexes : graphiques complexes, chaînes de caractères ou encore séries de signaux binaires (vecteurs de bits). GAUCHE est conçu pour fonctionner avec ces formats complexes, transformant les processus gaussiens en un outil puissant pour les chimistes. Les créateurs de GAUCHE veulent faciliter l'adoption, par les chimistes, de mesures d'incertitude avancées et de l'optimisation bayésienne, une méthode qui concilie l'exploration de nouvelles possibilités et le développement des possibilités existantes. Ils démontrent le potentiel de GAUCHE dans deux domaines importants : la découverte de nouvelles molécules et la détermination des conditions optimales pour les réactions chimiques. Essentiellement, GAUCHE se veut un pont reliant les techniques d'apprentissage automatique avancées aux problématiques concrètes de la chimie.
Apprentissage de caractéristiques basé sur le gradient sous données structurées
Apprentissage de caractéristiques basé sur le gradient sous données structurées
Alireza Mousavi-Hosseini, Denny Wu, Taiji Suzuki, Murat Erdogdu
Des résultats récents suggèrent que, pour l'apprentissage par gradient de modèles à index unique (qui dépendent d'une projection unidimensionnelle de l'entrée), le nombre d'échantillons d'apprentissage nécessaires, ou « complexité d'échantillonnage », est influencé par l'exposant d'information. Les recherches antérieures se sont concentrées sur des données isotropes, où l'entrée est distribuée uniformément sans orientation particulière. Cependant, les données réelles présentent souvent une « structure de covariance irrégulière », où les données sont inégalement réparties, ce qui influence le processus d'apprentissage. Cet article examine l'impact des données présentant une telle structure sur l'entraînement du modèle. Les chercheurs découvrent que les méthodes de gradient sphérique standard peuvent ne pas détecter l'orientation correcte des données, même si elle correspond au résultat souhaité. Ils suggèrent que des techniques semblables à la normalisation par lots dans les réseaux de neurones peuvent atténuer ce problème. De plus, en exploitant la distribution particulière des données et son alignement avec les résultats ciblés, ils démontrent une complexité d'échantillonnage améliorée par rapport aux scénarios isotropes. Il est à noter que, lorsqu'une variation importante apparaît dans la structure des données, l'étude montre que l'apprentissage basé sur le gradient peut nécessiter moins d'échantillons et surpasser certaines méthodes établies, malgré la complexité suggérée par l'exposant d'information.
À votre manière : Attribution personnalisée de la confidentialité pour DP-SGD
À votre manière : Attribution personnalisée de la confidentialité pour DP-SGD
Franziska Boenisch, Christopher Mühl, Adam Dziedzic, Roy Rinberg, Nicolas Papernot
Cet article propose une modification d'une méthode populaire de protection de la vie privée utilisée dans l'apprentissage automatique, connue sous le nom de descente de gradient stochastique différentiellement privée (DP-SGD). Afin de protéger la confidentialité des données personnelles dans le cadre de l'apprentissage machine, les chercheurs utilisent souvent un « budget de confidentialité ». Ce budget limite le niveau de confidentialité acceptable lorsque les données d'une personne sont utilisées pour entraîner un ordinateur à prendre des décisions. Cependant, la valeur accordée à la vie privée varie d'une personne à l'autre. Certains sont prêts à partager plus d'informations, tandis que d'autres veulent préserver au maximum la confidentialité de leurs données. Pour répondre à cette problématique, l'étude propose une nouvelle idée : pourquoi ne pas laisser chaque personne définir sa propre limite de confidentialité ? Cet article présente une nouvelle méthode appelée DP-SGD individualisée (IDP-SGD). En modifiant la façon dont la machine sélectionne et utilise les données et en ajustant le « bruit » ajouté pour garantir l'anonymat des données, l'IDP-SGD permet d'assurer une confidentialité adaptée aux préférences de chacun. Il en résulte un système plus équilibré où la confidentialité et l'utilité des données sont mieux alignées pour répondre aux besoins individuels.
Poison caché : le désapprentissage des machines permet des attaques d’empoisonnement dissimulées
Poison caché : le désapprentissage des machines permet des attaques d’empoisonnement dissimulées
Jimmy Z. Di, Jack Douglas, Jayadev Acharya, Gautam Kamath, Ayush Sekhari
Cette recherche met en lumière une menace subtile mais redoutable en matière de cybersécurité : les attaques par empoisonnement de données camouflées. Ces attaques sont particulièrement pertinentes lorsque les modèles d’apprentissage machine sont fréquemment mis à jour ou « désapprennent » certaines données – un processus qui peut se produire lorsqu’on demande d’oublier ou de supprimer certaines informations. Voici comment fonctionne l’attaque : l’attaquant insère furtivement quelques points de données modifiés dans l’ensemble d’entraînement. Ces points sont conçus pour demeurer inactifs, ayant initialement peu ou pas d'effet sur le comportement du modèle. Plus tard, l'attaquant déclenche la suppression de certains de ces points de données. C'est à ce moment précis – le réentraînement du modèle – que l'attaque se produit et que les prédictions du modèle commencent à être erronées. Plus précisément, l'attaque vise à amener le modèle à étiqueter incorrectement une donnée particulière – il peut s'agir d'une mauvaise identification d'une image ou d'une mauvaise classification d'un texte. Pour illustrer ce concept, des expériences ont été menées sur des ensembles de données d'images tels que CIFAR-10, Imagenette et Imagewoof. La ruse réside dans la manière dont ces points empoisonnés sont créés. Ces éléments sont camouflés pour se fondre dans les données normales, de sorte que leur effet néfaste n'apparaît qu'après la suppression d'un de ces éléments perturbateurs lors du réentraînement du modèle. Cette méthode d'attaque soulève de nouvelles questions quant à la robustesse des modèles dans des environnements dynamiques où les données sont fréquemment ajoutées ou supprimées.
Amélioration de la généralisation à partir de quelques exemples par l'exploration et l'exploitation de données auxiliaires
Amélioration de la généralisation à partir de quelques exemples par l'exploration et l'exploitation de données auxiliaires
Alon Albalak, Colin Raffel, William Yang Wang
L'apprentissage par l'exemple, qui consiste à entraîner un modèle à partir d'un petit ensemble de données, mène souvent à des modèles qui généralisent mal : ils deviennent trop adaptés à leurs données limitées (un problème appelé surapprentissage). Cette étude présente une technique améliorée d'apprentissage par l'exemple qui intègre des données supplémentaires afin d'améliorer les performances sur la tâche cible. Les méthodes précédentes, bien qu'intégrant des données supplémentaires, devenaient difficiles à gérer avec de grandes quantités d'informations.
L'innovation présentée ici exploite les stratégies du problème du bandit manchot — un équilibre entre l'exploration de nouvelles options et l'utilisation des connaissances acquises — pour gérer efficacement des ensembles de données beaucoup plus volumineux. Deux nouveaux algorithmes, EXP3-FLAD et UCB1-FLAD, sont introduits ; ils ne sont pas affectés par la quantité de données auxiliaires et combinent efficacement l'exploration et l'exploitation. Les résultats montrent une amélioration de 4 % des performances par rapport aux méthodes précédentes. Ils ont aussi permis d'entraîner des modèles de langage avec moins de paramètres, surpassant ainsi les capacités du modèle GPT-3, plus imposant. Cela ouvre des perspectives prometteuses pour la création de modèles d'IA capables de mieux généraliser à partir d'exemples limités.
Affiche vedette | STEVE-1 : Un modèle génératif pour la conversion de texte en comportement dans Minecraft
STEVE-1 : Un modèle génératif pour la conversion de texte en comportement dans Minecraft
Shalev Lifshitz, Keiran Paster, Harris Chan, Jimmy Ba, Sheila McIlraith
L'IA s'étend au-delà des robots conversationnels pour investir le vaste monde ouvert de Minecraft. Cet article présente un modèle génératif puissant, entraîné sur des années de gameplay Minecraft issues de vidéos YouTube, capable de jouer et de suivre des instructions textuelles et visuelles en langage naturel. Ce modèle, nommé STEVE-1 (Steve étant le personnage principal de Minecraft), joue en analysant les pixels à l'écran et en choisissant ses actions au clavier et à la souris. L'article présente une méthodologie novatrice, inspirée de modèles de conversion texte-image comme DALL•E 2, qui permet de s'appuyer sur des modèles de base existants à un coût relativement faible pour créer cet agent puissant et capable d'apprendre, de trouver des ressources, de fabriquer des objets, d'explorer, et bien plus encore. STEVE-1 fait le lien entre les entrées textuelles et visuelles et le contrôle comportemental de bas niveau via les frappes au clavier et les clics de souris. Surtout, grâce à une nouvelle variante de réétiquetage a posteriori, STEVE-1 apprend à suivre des instructions sans entraînement préalable sur un ensemble de tâches spécifiques. Les ressources de recherche, y compris les poids du modèle et les scripts d'entraînement, sont disponibles pour des recherches ultérieures.
Apprentissage en présence de structures de faible dimension : une perspective de matrice aléatoire à pics
Apprentissage en présence de structures de faible dimension : une perspective de matrice aléatoire à pics
Jimmy Ba, Murat A Erdogdu, Taiji Suzuki, Zhichao Wang, Denny Wu
Dans cette étude, nous examinons comment les modèles d'apprentissage machine apprennent une fonction cible à un seul indice à partir de données de covariance présentant des pics. Nous nous interrogeons sur l'amplitude minimale de ces pics pour que les méthodes à noyau et les réseaux de neurones entraînés par descente de gradient apprennent la fonction cible sous-jacente. Nos résultats montrent que les méthodes à noyau et les réseaux de neurones tirent profit des structures de faible dimension dans les données ; de plus, dans notre contexte, les réseaux de neurones s'adaptent plus efficacement à ces structures.
MagicBrush : un ensemble de données annotées manuellement pour l’édition d’images guidée par des instructions
MagicBrush : un ensemble de données annotées manuellement pour l’édition d’images guidée par des instructions
Kai Zhang, Lingbo Mo, Wenhu Chen, Huan Sun, Yu Su
L'édition d'images guidée par texte, utile à des fins personnelles et professionnelles comme Photoshop, repose souvent fortement sur des ajustements manuels en raison des limites des méthodes actuelles d'apprentissage zéro-shot ou de celles entraînées sur des ensembles de données synthétiques et bruitées. Pour y remédier, nous avons développé MagicBrush, un ensemble de données unique en son genre, soigneusement sélectionné et dédié aux tâches d'édition d'images basées sur des instructions. Il comprend plus de 10 000 ensembles d'images associés à des instructions textuelles et à leurs résultats d'édition, couvrant divers contextes d'édition, y compris des séquences d'édition uniques et multiples, avec ou sans masques. Nous avons optimisé un modèle appelé InstructPix2Pix à l'aide de MagicBrush et obtenu des résultats nettement supérieurs, selon les évaluations humaines. De plus, nous avons rigoureusement testé les modèles d'édition d'images actuels face à MagicBrush à travers diverses évaluations, révélant les défis posés par notre ensemble de données et soulignant le décalage entre les technologies existantes et les exigences de l'édition d'images en situation réelle.
MARBLE : Référence de représentation audio musicale pour l’évaluation universelle
MARBLE : Référence de représentation audio musicale pour l’évaluation universelle
Ruibin Yuan, Yinghao Ma, Yizhi Li, Ge Zhang, Xingran Chen, Hanzhi Yin, Le Zhuo, Yiqi Liu, Jiawen Huang, Zeyue Tian, Binyue Deng, Ningzhi Wang, Chenghua Lin, Emmanouil Benetos, Anton Ragni, Norbert Gyenge, Roger Dannenberg, Wenhu Chen, Gus Xia, Wei Xue, Si Liu, Shi Wang, Ruibo Liu, Yike Guo, Jie Fu
Le rôle de l'intelligence artificielle en musique, notamment pour sa compréhension, est moins important que dans d'autres domaines artistiques tels que la création d'œuvres visuelles et l'aide à l'écriture. Afin de pallier le manque de ressources d'apprentissage approfondies et de référentiels standardisés en IA musicale, nous présentons MARBLE. Cette plateforme d'évaluation comparative est dédiée aux tâches de recherche d'informations musicales (MIR) et propose une taxonomie détaillée allant des caractéristiques acoustiques aux descriptions abstraites. MARBLE met en œuvre un protocole d'évaluation standard utilisant 14 tâches sur 8 ensembles de données publics pour évaluer de manière cohérente les performances de différents modèles d'IA musicale. Conçu pour être accessible, évolutif et respectueux du droit d'auteur, MARBLE favorise la reproductibilité des recherches tout en encourageant l'amélioration et l'innovation en IA musicale. Les résultats préliminaires soulignent le potentiel des modèles musicaux à grande échelle récents, qui offrent des perspectives d'amélioration. L'accès au classement et aux ressources de MARBLE est public afin d'inspirer les développements futurs en IA musicale.
MeGraph : Capture des interactions à longue portée par l’agrégation alternée locale et hiérarchique sur une hiérarchie de graphes multi-échelles
MeGraph : Capture des interactions à longue portée par l’agrégation alternée locale et hiérarchique sur une hiérarchie de graphes multi-échelles
Honghua Dong, Jiawei Xu, Yu Yang, Rui Zhao, Shiwen Wu, Chun Yuan, Xiu Li, Chris J. Maddison, Lei Han
Les réseaux de neurones graphiques (GNN) excellent généralement dans le traitement local des données, mais peinent à reconnaître les interactions à longue portée (ILP) au sein des graphes. Notre modèle MeGraph fusionne de manière novatrice les structures locales du graphe avec une hiérarchie globale au sein d'un cadre unifié pour pallier cette difficulté. Cette approche par couches alterne entre la transmission de messages locaux à différentes échelles et l'intégration d'informations à travers toute la hiérarchie du graphe. En combinant continuellement les informations locales et globales de cette façon, MeGraph atteint un meilleur équilibre dans l'analyse des données. Validé par un nouveau banc d'essai spécialement conçu pour tester la détection des ILP, MeGraph affiche des performances supérieures. Il rivalise avec les modèles de référence, voire les surpasse, dans les benchmarks établis et démontre son efficacité sur divers ensembles de données réels, soulignant ainsi sa polyvalence et sa capacité à analyser des données de graphes.
Apprentissage par renforcement inverse multimodal contraint à partir d'un mélange de démonstrations
Apprentissage par renforcement inverse multimodal contraint à partir d'un mélange de démonstrations
Guanren Qiao, Guiliang Liu, Pascal Poupart, Zhiqiang Xu
L'apprentissage par renforcement avec contraintes inverses (ICRL) apprend les règles implicites que les experts démontrent sans qu'elles leur soient explicitement énoncées. Les méthodes traditionnelles partent du principe que tous les comportements experts proviennent d'un seul type d'expert, ce qui simplifie à outrance les situations réelles impliquant divers experts. Notre nouvelle technique, l'apprentissage par renforcement avec contraintes inverses multimodal (MMICRL), est capable de distinguer et d'apprendre simultanément des règles provenant de plusieurs experts. Elle identifie différents experts en données et s'adapte aux contraintes spécifiques de chacun. MMICRL peaufine son processus d'apprentissage grâce à un objectif qui lui permet de reproduire les comportements nuancés de différents experts tout en préservant la diversité comportementale. Intégré à l'apprentissage contrastif pour améliorer sa robustesse, MMICRL a démontré lors de tests son excellence dans l'identification des contraintes et l'exécution des tâches, surpassant ainsi les autres méthodes.
Simulation d'éclairage neuronal pour les scènes urbaines
Simulation d'éclairage neuronal pour les scènes urbaines
Ava Pun, Gary Sun, Jingkang Wang, Yun Chen, Ze Yang, Sivabalan Manivasagam, Wei-Chiu Ma, Raquel Urtasun
Les variations de l'éclairage extérieur peuvent nuire à l'efficacité des robots qui s'appuient sur des données visuelles, surtout s'ils n'ont pas été entraînés dans des conditions d'éclairage variées. LightSim est notre solution : un outil de simulation de caméra conçu pour créer un ensemble d'images diversifié et réaliste sous différents scénarios d'éclairage. Ce système utilise les données de capteurs pour générer des modèles 3D détaillés d'environnements urbains, dont les éléments peuvent être modifiés, supprimés ou visualisés sous de nouveaux angles, tout en conservant un éclairage précis. LightSim combine des techniques de rendu réalistes et des ajustements basés sur l'apprentissage pour modifier les conditions d'éclairage, comme la position et l'intensité de la lumière du soleil. Le résultat : un ensemble cohérent de vidéos virtuelles qui imitent les variations de lumière réelles. Les tests démontrent la capacité supérieure de LightSim à reproduire un éclairage réaliste par rapport aux systèmes précédents. Plus important encore, lorsque les robots sont entraînés avec des vidéos de LightSim, leur capacité à percevoir et à comprendre les données visuelles sous différents éclairages s'améliore considérablement.
Limites optimales du risque excédentaire pour la minimisation du risque empirique sur la régression linéaire de la norme $p$
Limites optimales du risque excédentaire pour la minimisation du risque empirique sur la régression linéaire de la norme $p$
Ayoub El Hanchi, Murat Erdogdu
Dans cette étude, nous examinons une méthode statistique appelée minimisation du risque empirique, utilisée pour prédire les relations entre variables dans une régression linéaire. Nous nous intéressons particulièrement à la norme p pour des valeurs de p allant de légèrement supérieures à 1 à l'infini. Nous constatons que, lorsque notre modèle prédit parfaitement le résultat sans aucune hypothèse préalable, un nombre d'échantillons égal au nombre de variables prédictives suffit à identifier la relation exacte. Lorsque p est supérieur ou égal à 2, et sous certaines hypothèses minimales, nous confirmons une estimation fiable de l'écart potentiel entre le risque de prédiction et le risque réel. Cela s'applique également aux valeurs de p comprises entre 1 et 2, sous réserve du respect de certaines conditions mathématiques.
Affiche vedette | Apprentissage de la distribution privée avec des données publiques : le point de vue de la compression d’échantillons
Apprentissage de distributions privées avec des données publiques : le point de vue de la compression d’échantillons
Shai Ben-David, Alex Bie, Clément L. Canonne, Gautam Kamath, Vikrant Singhal
Cette recherche examine comment apprendre à connaître une distribution de données tout en préservant la confidentialité de certaines données, en utilisant simultanément des données publiques (apprentissage public-privé). Dans ce scénario, le système utilise à la fois des données publiques et des données privées provenant d'une distribution inconnue pour estimer cette distribution. L'élément clé est la protection de la confidentialité des données privées selon des règles strictes, appelées confidentialité différentielle pure. Les résultats suggèrent que la capacité d'apprendre à partir de sources de données publiques et privées de cette manière est liée à deux concepts. Le premier est la possibilité de représenter les données par un ensemble plus petit et plus simple, souvent appelé compression d'échantillon. Le deuxième est une nouvelle idée : l'apprentissage par liste. En exploitant ces relations, l'étude a confirmé des résultats antérieurs sur les distributions gaussiennes et a également apporté de nouvelles perspectives. Celles-ci incluent des estimations de la quantité de données nécessaires à l'apprentissage avec des mélanges de distributions gaussiennes, les performances des systèmes capables de gérer les inexactitudes et les variations de la distribution des données, et la manière dont la capacité d'apprentissage est maintenue lors de la combinaison de différentes distributions. Une autre découverte importante est que, pour l'apprentissage des distributions gaussiennes dans un espace multidimensionnel, il est nécessaire, pour garantir la confidentialité de l'apprentissage, d'avoir au moins autant d'échantillons publics que de dimensions. Ce nombre est presque aussi élevé que la limite connue à ce jour, qui est égale à une unité de plus que le nombre de dimensions.
Apprentissage probabiliste invariant avec classificateurs linéaires randomisés
Apprentissage probabiliste invariant avec classificateurs linéaires randomisés
Leonardo Cotta, Gal Yehuda, Assaf Schuster, Chris Maddison
La construction de modèles complexes respectant les contraintes de cohérence propres à la tâche représente un défi et exige souvent d'importantes ressources de calcul. Notre innovation réside dans l'application d'aléatoire pour créer des modèles à la fois complexes et cohérents, tout en consommant moins de ressources. Cette approche repose sur une conception probabiliste de l'universalité et de l'invariance, aboutissant à des modèles plus économes en ressources. Nous présentons les classificateurs linéaires randomisés (RLC), un nouveau type de modèle de classification binaire capable d'approximer probabilistiquement des fonctions lisses et de conserver l'invariance avec une forte probabilité sous certaines contraintes de paramètres et de taille des données. Ces RLC sont spécialement conçus pour les tâches de classification avec invariance sur les ensembles, les graphes et les sphères, et ce, avec une consommation de ressources moindre que les réseaux de neurones conventionnels. Nos expériences confirment l'efficacité des RLC dans des tâches où les modèles déterministes avec invariance sont souvent moins performants, démontrant ainsi la pertinence et l'efficacité de notre approche probabiliste.
Résolution des interférences lors de la fusion de modèles
Résolution des interférences lors de la fusion de modèles
Prateek Yadav, Derek Tam, Leshem Choshen, Colin Raffel, Mohit Bansal
L'apprentissage par transfert consiste à peaufiner un modèle déjà entraîné pour une nouvelle tâche spécifique. Il offre des avantages tels que de meilleures performances, un apprentissage plus rapide et un besoin réduit d'exemples pour un apprentissage efficace. Cependant, ces modèles améliorés sont généralement limités à une seule tâche et ne partagent pas leurs acquis avec des modèles similaires. Pour remédier à ce problème, des méthodes ont été développées afin de combiner ces modèles monotâches en un seul modèle capable de gérer plusieurs tâches simultanément, sans entraînement supplémentaire. Toutefois, ces techniques de fusion ont souvent échoué car elles ne tenaient pas compte des interférences potentielles entre les différentes parties des modèles, ce qui entraînait une baisse des performances globales. Cet article présente une nouvelle méthode, appelée TIES-Merging, qui fusionne mieux les modèles en : (1) réinitialisant les aspects ayant peu évolué lors de l'entraînement, (2) résolvant les conflits lorsque les modèles divergent sur l'importance relative d'une caractéristique, et (3) combinant les caractéristiques uniquement lorsqu'il existe un consensus sur leur importance. Cette méthode s'est montrée plus efficace dans divers scénarios de test, incluant différents types de tâches, de complexités de modèles et d'architectures. L'étude examine également comment différents types d'interférences affectent le modèle fusionné, en soulignant la nécessité de traiter les conflits d'importance des caractéristiques.
Évaluation robuste des données avec des valeurs de Banzhaf pondérées
Évaluation robuste des données avec des valeurs de Banzhaf pondérées
Weida Li, Yaoliang Yu
Une étude récente de Wang et Jia s'est penchée sur la difficulté de déterminer l'importance des données individuelles utilisées pour l'entraînement de l'intelligence artificielle. Les méthodes courantes, comme la valeur de Shapley, sont confrontées à des difficultés en raison de facteurs imprévisibles dans les calculs, ce qui entraîne des classements incohérents de l'importance des données. Wang et Jia proposent d'utiliser la valeur de Banzhaf, qu'ils estiment moins affectée par cette imprévisibilité. Cependant, en examinant un ensemble plus large de valeurs de Banzhaf pondérées, l'étude révèle que la valeur de Banzhaf classique n'est pas toujours la plus stable. Les chercheurs utilisent une nouvelle approche, le bruit de Kronecker, qui leur permet de mesurer l'imprévisibilité et de trouver un moyen d'ajuster les valeurs de Banzhaf afin de les rendre plus cohérentes. Ils développent une nouvelle méthode qui estime ces valeurs de Banzhaf ajustées de manière plus efficace et plus rapide, et qui donne de bons résultats lors de tests avec du bruit théorique et des données réelles imprévisibles. Cette méthode pourrait constituer un outil précieux pour déterminer l'importance de chaque donnée lors de l'apprentissage des systèmes d'IA. Leurs résultats suggèrent que ces valeurs pondérées de Banzhaf offrent un potentiel pour traiter les incertitudes liées à l'attribution de valeurs aux données d'entraînement.
Poster oral | Mise à l'échelle des modèles de langage à contraintes de données
Mise à l'échelle des modèles de langage à données contraintes
Niklas Muennighoff, Alexander Rush, Boaz Barak, Teven Le Scao, Nouamane Tazi, Aleksandra Piktus, Thomas Wolf, Colin Raffel, Sampo Pyysalo
L'augmentation de la taille des modèles linguistiques passe souvent par l'augmentation du nombre de paramètres et du volume de données d'entraînement (généralement provenant d'Internet). Cette stratégie pourrait bientôt atteindre ses limites, compte tenu de la quantité limitée de textes disponibles en ligne. Pour relever ce défi, nos recherches explorent l'augmentation de la taille des modèles avec des données limitées. Nous avons expérimenté différents niveaux de réutilisation des données et de limites de calcul, en observant leurs effets sur des modèles comportant jusqu'à 9 milliards de paramètres. Nous avons constaté que la réutilisation des données jusqu'à quatre époques n'affecte pas négativement le modèle si les ressources de calcul restent fixes. Au-delà, cependant, le gain de puissance de calcul supplémentaire se stabilise, n'apportant plus d'amélioration des performances. Nous proposons une nouvelle formule pour optimiser l'investissement en ressources de calcul, en tenant compte de la diminution des rendements liés à la réitération des données et au surplus de paramètres. Nos recherches testent également des méthodes alternatives pour enrichir les ensembles de données d'entraînement limités, afin de maintenir l'amélioration du modèle sans dépendre de vastes corpus de textes uniques.
Mécanisme d'attention façonné dans les limites de profondeur et de largeur infinies à l'initialisation
Mécanisme d'attention façonné dans les limites de profondeur et de largeur infinies à l'initialisation
Lorenzo Noci, Chuning Li, Mufan Bill Li, Bobby He, Thomas Hofmann, Chris Maddison, Daniel M. Roy
Dans le domaine de l'apprentissage profond, les Transformers constituent une architecture de réseau devenue populaire en raison de leur efficacité dans la gestion des séquences, comme le langage. Cet article explore une méthode permettant de prédire la facilité d'entraînement de tels réseaux en analysant la matrice de covariance des sorties – un instantané de la dynamique d'apprentissage du réseau – notamment lorsque leur taille est considérablement augmentée. Pour ce faire, nous avons modifié le mécanisme d'attention, composante fondamentale de la manière dont les Transformers pondèrent l'importance des différentes parties des données. Nous avons introduit des ajustements pour les réseaux à la limite des proportions, où la profondeur et la largeur sont infinies. L'étude a révélé qu'au début de l'entraînement, le comportement d'apprentissage attendu de ces réseaux massifs est décrit par une équation différentielle stochastique (EDS) définie par la relation entre la profondeur et la largeur. Afin d'assurer la stabilité dans ce contexte à grande échelle, il est essentiel d'ajuster la fonction softmax au sein du mécanisme d'attention du Transformer. Cela implique un équilibre délicat, obtenu par des ajustements de centrage et d'échelle relatifs à la taille du réseau. Le réseau ainsi obtenu, appelé « Transformateur structuré », démontre une stabilité et une prévisibilité remarquables dans l'apprentissage, même pour des réseaux de grande taille. Les simulations confirment que le modèle SDE reflète avec une précision surprenante le comportement réel de réseaux importants, ouvrant la voie à de futurs modèles d'apprentissage profond à grande échelle et entraînables.
Processus gaussiens calibrés précis
Processus gaussiens calibrés précis
Alexandre Capone, Sandra Hirche, Geoff Pleiss
Les processus gaussiens sont largement utilisés en génie et en sciences pour prédire les résultats et estimer les incertitudes. Cependant, ces estimations ne correspondent pas toujours aux observations du monde réel : c’est ce qu’on appelle un défaut de calibration. Les méthodes actuelles pour corriger ce problème consistent généralement à élargir l'intervalle d'incertitude, mais cela peut mener à des intervalles de confiance trop larges et peu pratiques. Pour y remédier, cet article décrit une nouvelle méthode qui génère des intervalles de confiance fréquentistes pour les processus gaussiens à l’aide d’un mécanisme mathématique semblable au calcul de la variance prédictive a posteriori. Ces intervalles de confiance peuvent utiliser des hyperparamètres de noyau différents de ceux de la prédiction moyenne a posteriori, ce qui permet d’obtenir des intervalles de confiance offrant des garanties de couverture fréquentiste optimales. Les résultats montrent que cette nouvelle méthode d'étalonnage surpasse les méthodes existantes, promettant une meilleure fiabilité dans les applications pratiques.
Équilibre coopératif basé sur la similarité
Équilibre coopératif basé sur la similarité
Caspar Oesterheld, Johannes Treutlein, Roger Grosse, Vincent Conitzer, Jakob Foerster
Dans le domaine en constante évolution de l'apprentissage machine, les systèmes deviennent de plus en plus indépendants et doivent souvent prendre des décisions tout en interagissant avec d'autres systèmes similaires. Le dilemme du prisonnier est un problème classique où la coopération est essentielle : deux parties doivent choisir de coopérer ou de se trahir sans connaître la décision de l'autre. Selon la théorie traditionnelle des jeux, les agents d'apprentissage machine (AA) sont susceptibles de choisir la trahison, car elle leur semble plus sûre. Des recherches antérieures ont suggéré que si ces agents pouvaient pleinement comprendre le fonctionnement de l'autre – par exemple, en accédant à leur code source ou, pour les agents d'AA, à leurs pondérations – ils pourraient choisir de coopérer. Cependant, une transparence totale n'est pas toujours envisageable, alors qu'un aperçu partiel des mécanismes de l'autre est plus courant. Cet article propose un scénario où les agents ne connaissent qu'une seule information l'un sur l'autre : un nombre indiquant leur degré de similarité. Les auteurs démontrent que même cette information minimale est suffisante pour en arriver à des décisions coopératives, comme s'ils bénéficiaient d'une transparence totale. De plus, ils démontrent que les agents d'apprentissage machine peuvent effectivement apprendre à coopérer dans ce contexte grâce à des techniques d'apprentissage simples. Ces résultats pourraient s'avérer essentiels pour la conception de systèmes d'apprentissage machine devant interagir et prendre des décisions dans des contextes sociaux.
Prédiction de l'expression génique résolue spatialement à partir d'images histologiques par apprentissage contrastif bimodal
Prédiction de l'expression génique résolue spatialement à partir d'images histologiques par apprentissage contrastif bimodal
Ronald Xie, Kuan Pang, Sai W. Chung, Catia T. Perciani, Sonya A. MacParland, Bo Wang, Gary D. Bader
Cet article présente BLEEP, une nouvelle méthode permettant aux médecins et aux chercheurs d'examiner les tissus avec une plus grande précision et de comprendre plus rapidement l'activité des gènes. En analysant des lames de tissus colorées avec des colorants spéciaux, BLEEP utilise une technique sophistiquée pour cartographier les gènes associés à différentes maladies. Grâce à un grand nombre d'exemples, elle prédit l'activité génique dans n'importe quelle partie d'une lame de tissu. Cette méthode est plus rapide et moins coûteuse que les méthodes traditionnelles d'étude de l'expression des gènes. Testée sur des échantillons de foie humain, BLEEP a surpassé les méthodes actuelles, promettant d'accélérer la recherche et le diagnostic des maladies tout en réduisant les coûts. Cette avancée majeure laisse entrevoir un avenir où l'analyse tissulaire au niveau génétique pourrait devenir une pratique courante pour les professionnels de la santé, améliorant ainsi notre compréhension et le traitement de nombreuses maladies.
Réseaux neuronaux structurés pour l'estimation de la densité et l'inférence causale
Réseaux neuronaux structurés pour l'estimation de la densité et l'inférence causale
Asic Q. Chen, Ruian Shi, Xiang Gao, Ricardo Baptista, Rahul G. Krishnan
L'ajout de motifs ou de structures spécifiques aux réseaux neuronaux peut améliorer leur efficacité dans certaines tâches. Par exemple, lors de la création de modèles générant des données, il est utile que le modèle comprenne et respecte les relations et les indépendances entre différentes données, à l'instar d'un réseau bayésien – un modèle statistique représentant un ensemble de variables et leurs dépendances conditionnelles. Cette étude propose une approche novatrice, appelée Réseau Neuronal Structuré (StrNN), qui intègre de tels motifs en bloquant sélectivement certaines connexions du réseau. La conception de StrNN repose sur une nouvelle approche de la factorisation matricielle binaire, une méthode mathématique permettant de décomposer des problèmes complexes en éléments plus simples. Bien que la conception de ces structures soit généralement très complexe (NP-difficile) – c'est-à-dire exigeante en ressources de calcul –, cette recherche propose de nouveaux algorithmes qui gèrent cette complexité en adaptant l'architecture du réseau, garantissant ainsi le comportement souhaité du modèle. Le potentiel de StrNN est mis en évidence dans trois scénarios : l’estimation des probabilités pour les données binaires et continues, et l’analyse des relations de cause à effet – essentielle pour comprendre l’influence d’une variable sur une autre. Ces travaux ouvrent la voie à des réseaux de neurones plus efficaces en termes de traitement des données, et constituent une étape importante vers l’utilisation de modèles génératifs pour estimer les effets causaux.
Génération de texte à partir d'images axées sur le sujet par l'apprentissage par apprentissage
Génération de texte à partir d'images axées sur le sujet par l'apprentissage par apprentissage
Wenhu Chen, Hexiang Hu, Yandong Li, Nataniel Ruiz, Xuhui Jia, Ming-Wei Chang, William Cohen
La création d'images à partir de descriptions textuelles a considérablement progressé grâce à des modèles comme DreamBooth, capables de générer des images hautement personnalisées d'un sujet spécifique à partir de quelques exemples. Bien qu'efficace, cette approche est coûteuse car elle nécessite l'entraînement d'un modèle distinct pour chaque sujet. Cet article présente SuTI, un nouveau modèle qui crée des images d'un nouveau sujet dans diverses scènes immédiatement après avoir observé quelques exemples, évitant ainsi le recours à un entraînement individuel coûteux. SuTI utilise l'apprentissage par imitation, où un modèle « apprenti » apprend des résultats de nombreux modèles « experts », chacun entraîné sur un sujet différent à l'aide d'un grand nombre de groupes d'images collectées sur Internet. En conséquence, SuTI imite les capacités des experts à générer des images personnalisées très rapidement. Comparé aux méthodes existantes qui reposent sur un réglage fin pour chaque sujet, SuTI est beaucoup plus rapide : 20 fois plus rapide que les méthodes de pointe actuelles. Lors des tests comparatifs avec d'autres modèles sur DreamBench et sa version mise à jour, DreamBench-v2, SuTI a excellé, notamment dans sa capacité à saisir l'essence du sujet et à s'aligner sur les descriptions textuelles, selon les évaluations humaines.
Communication orale par affiche | L'efficacité surprenante des modèles de diffusion pour l'estimation du flux optique et de la profondeur monoculaire
L'efficacité surprenante des modèles de diffusion pour l'estimation du flux optique et de la profondeur monoculaire
Saurabh Saxena, Charles Herrmann, Junhwa Hur, Abhishek Kar, Mohammad Norouzi, Deqing Sun, David J. Fleet
Récemment, un type de modèle d'IA appelé modèles probabilistes de diffusion débruiteurs a fait sensation dans le domaine de la création d'images, grâce à la qualité et à la variété de ses résultats. Cette recherche révèle qu'ils excellent également dans l'estimation du flux optique (le mouvement apparent des objets dans une scène visuelle) et de la profondeur monoculaire (la distance des objets par rapport au point de vue, à l'aide d'une seule caméra). Étonnamment, ils y parviennent sans nécessiter de structures spécialisées ni de mesures d'erreur personnalisées, généralement indispensables pour ces tâches. Contrairement aux méthodes traditionnelles qui fournissent une seule estimation, ces modèles de diffusion peuvent utiliser des méthodes de Monte Carlo – une technique statistique – pour représenter les incertitudes et les multiples réponses possibles concernant le mouvement des objets et la profondeur. En combinant astucieusement l'apprentissage auto-supervisé (où le système apprend par lui-même à partir des données disponibles), des données simulées et réelles, et de nouvelles techniques permettant de gérer les données d'entraînement imparfaites, les chercheurs ont entraîné des modèles de pointe pour l'estimation de la profondeur et du flux optique. Grâce à des tests et des ajustements approfondis, et grâce à des améliorations spéciales, ces modèles, appelés DDVM (Denoising Diffusion Vision Models), établissent de nouveaux records de précision dans la prédiction de la distance des objets dans les images de scènes intérieures et de la façon dont les objets se déplacent dans les scénarios de conduite, surpassant les méthodes précédentes d'environ 25 %.
Tartarus : une plateforme de référence pour la conception moléculaire inverse réaliste et pratique
Tartarus : une plateforme de référence pour la conception moléculaire inverse réaliste et pratique
AkshatKumar Nigam, Robert Pollice, Gary Tom, Kjell Jorner, John Willes, Luca A. Thiede, Anshul Kundaje, Alan Aspuru-Guzik
L'un des principaux défis de la chimie est la conception rapide de molécules aux propriétés souhaitées, un enjeu crucial pour les progrès de la découverte de médicaments, des sciences des matériaux et de la catalyse. Malgré les avancées considérables en matière de puissance de calcul et d'intelligence artificielle, les progrès restent limités concernant les tests de performance – des tests réalistes permettant de vérifier si ces méthodes sont capables de gérer la conception moléculaire dans des situations concrètes. Cette étude présente une série de tests de performance pratiques, utilisant des simulations physiques pour reproduire la complexité de la conception de molécules destinées aux matériaux, aux produits pharmaceutiques et aux réactions chimiques. Les chercheurs ont utilisé ces tests pour évaluer plusieurs algorithmes établis et ont constaté que le succès d'un algorithme dépend fortement du type spécifique de défi de conception moléculaire auquel il est confronté. Ces nouveaux tests visent à orienter le développement des techniques de conception moléculaire vers des scénarios plus réalistes, comblant ainsi le fossé entre les promesses théoriques et les applications pratiques dans l'industrie et le monde académique.
Affiche vedette | Clonage de la pensée : Apprendre à penser en agissant par imitation de la pensée humaine
Clonage de la pensée : apprendre à penser en agissant par imitation de la pensée humaine
Shengran Hu, Jeff Clune
Le langage est souvent considéré comme un aspect fondamental de la pensée humaine, nous conférant des capacités exceptionnelles de généralisation, d'exploration, de planification, de réajustement et d'adaptation aux nouvelles situations. Or, les agents d'IA pensent rarement en langage naturel. Nous présentons une méthode novatrice, le clonage de pensée, qui permet aux agents d'IA d'imiter la pensée humaine à voix haute tout en agissant, leur apprenant ainsi à penser et à agir comme des humains. Les enfants reçoivent de leurs enseignants une rétroaction non seulement sur leurs actions, mais aussi sur le raisonnement qui les sous-tend. Le clonage de pensée fonctionne de manière similaire : les agents d'IA apprennent à avoir une pensée claire derrière leurs actions. Nous comparons le clonage de pensée à la pratique courante qui consiste à faire imiter aux agents d'IA les actions (uniquement) des humains lors de la résolution de tâches, une méthode appelée clonage comportemental. Les expériences révèlent que le clonage de pensée apprend non seulement plus vite et surpasse le clonage comportemental, mais qu'il est aussi plus performant et apprend plus rapidement dans des situations inédites. Le clonage de pensée offre également des avantages importants en matière de sécurité et d'interprétabilité de l'IA. Puisque nous pouvons observer les pensées de l'IA, nous comprenons mieux les motivations de l'agent, ce qui facilite également la correction de son entraînement s'il s'avère inadapté à une tâche. Si un agent envisage une action dangereuse, on peut aussi l'en empêcher. En fin de compte, en apprenant aux agents à penser autant qu'à se comporter, le clonage de pensée permet de créer des agents plus sûrs et plus performants.
Outils de vérification des données de preuve de formation
Outils de vérification des données de preuve de formation
Dami Choi, Yonadav Shavit, David Duvenaud
Qu'est-ce qu'un « inspecteur nucléaire » de grands modèles neuronaux pourrait vérifier s'il avait accès aux points de contrôle d'entraînement ? Nous proposons un protocole simple pour vérifier les affirmations concernant des entraînements SGD de très grande envergure. Nous montrons comment, à partir des points de contrôle des poids, il est possible de détecter les affirmations falsifiées concernant :
- La taille du modèle et la durée de son entraînement.
- Quelles données ont été utilisées ?
- Si le modèle a été initialisé de manière aléatoire.
- Si elle était secrètement orientée vers un modèle pré-entraîné.
Notre système est simple : les programmes d’entraînement des modèles initialisent leur générateur de nombres aléatoires à partir d’un hachage des données et du code, et enregistrent des points de contrôle réguliers. Le vérificateur recherche les anomalies dans les statistiques de formation et réexécute les segments suspects. La recherche d’anomalies est peu coûteuse, par exemple 1,3 % de performances supplémentaires pour GPT-2.
Former des modèles privés qui savent ce qu'ils ignorent
Former des modèles privés qui savent ce qu'ils ignorent
Stephan Rabanser, Anvith Thudi, Abhradeep Thakurta, Krishnamurthy Dvijotham, Nicolas Papernot
Créer des modèles d'apprentissage profond qui font des erreurs prudentes plutôt que des erreurs par excès de confiance est difficile, et encore plus complexe lorsque ces modèles doivent protéger la confidentialité des données. La protection de la vie privée, aussi appelée confidentialité différentielle (PD), peut introduire un facteur aléatoire supplémentaire qui complexifie l'entraînement. Cette étude examine les classificateurs sélectifs, qui ont la possibilité de ne pas faire de prédiction en cas d'incertitude, dans le contexte de la PD. Les chercheurs trouvent que les méthodes classiques de prédiction sélective peuvent échouer en présence de PD, car elles risquent de divulguer des informations privées. Cependant, ils notent qu'une méthode récente, qui utilise des points de contrôle provenant d'algorithmes d'apprentissage privés standard, fonctionne bien avec la PD. L'étude révèle également que si la PD protège la vie privée, elle affecte négativement les performances des classificateurs sélectifs. Afin d'évaluer l'impact de la PD sur les classificateurs sélectifs à différents niveaux de confidentialité, les auteurs introduisent une nouvelle approche d'évaluation. Leurs expériences montrent que, s'il est possible d'atteindre les performances des modèles non privés, cela implique de sacrifier la couverture du modèle, c'est-à-dire l'ensemble des données qu'il peut prédire avec confiance, à mesure que les mesures de protection de la vie privée se renforcent.
Comprendre la binarisation des réseaux neuronaux avec des quantificateurs proximaux avant et arrière
Comprendre la binarisation des réseaux neuronaux avec des quantificateurs proximaux avant et arrière
Yiwei Lu, Yaoliang Yu, Xinlin Li, Vahid Partovi Nia
BinaryConnect (BC) et ses variantes sont des méthodes courantes de binarisation des réseaux de neurones, simplifiant les réseaux en valeurs binaires pour plus d'efficacité. Cependant, la binarisation se heurte à un problème lors de l'entraînement : le gradient de la fonction signe étant nul, la progression est interrompue parce que les poids ne peuvent pas être mis à jour. Pour contourner ce problème, des « trucs d'entraînement », comme l'approximation des gradients, sont utilisés pour poursuivre l'entraînement, malgré l'absence de fondements théoriques solides. Cet article vise à rationaliser ces pratiques sous l'angle de l'optimisation. Pour ce faire, il fait évoluer ProxConnect (PC) vers ProxConnect++ (PC++), qui intègre diverses méthodes de binarisation. Les auteurs présentent une approche systématique pour la conception de quantificateurs, des outils qui convertissent les signaux continus en signaux binaires, assurant ainsi des performances théoriques optimales. Ils illustrent cette avancée avec le nouvel algorithme BNN++. Des tests de classification d'images sur des réseaux complexes ont montré que BNN++ donne des résultats prometteurs, suggérant qu'il pourrait améliorer l'entraînement des réseaux binaires tout en renforçant le cadre théorique sous-jacent à ces techniques d'optimisation.
VisAlign : Ensemble de données pour mesurer le degré d’alignement entre l’IA et les humains en matière de perception visuelle
VisAlign : Ensemble de données pour mesurer le degré d’alignement entre l’IA et les humains en matière de perception visuelle
Jiyoung Lee, Seungho Kim, Seunghyun Won, Joonseok Lee, Marzyeh Ghassemi, James Thorne, Jaeseok Choi, O-Kil Kwon, Edward Choi
L'alignement de l'IA garantit que les modèles d'apprentissage machine poursuivent des résultats conformes aux intentions, préférences et à l'éthique humaines. Cependant, la nature opaque des modèles d'apprentissage profond à grande échelle rend difficile leur pilotage manuel. Pour assurer la sécurité de l'IA, il est crucial de mesurer la concordance entre sa perception visuelle et la perception humaine. Cet article présente un nouvel ensemble de données conçu spécifiquement pour évaluer l'alignement visuel IA-humain à partir de la classification d'images, un aspect fondamental de la compréhension visuelle. Pour être efficace, un tel ensemble de données doit couvrir un large éventail de scénarios réels et inclure un jugement humain définitif comme référence. L'ensemble de données proposé comprend trois types d'images : « Action obligatoire » (ou « Classification obligatoire »), « Abstention obligatoire » et « Incertaines ». Ces catégories reflètent la quantité et la netteté des informations visuelles présentes. Par exemple, les images « Incertaines » sont très floues et leur étiquetage a été réalisé au moyen d'une contribution collaborative afin de refléter fidèlement la perception humaine. La structure de l'ensemble de données respecte les principes d'échantillonnage établis, les principes statistiques de conception d'enquêtes et l'expertise humaine. En utilisant cet ensemble de données, l'article évalue dans quelle mesure cinq modèles de perception visuelle de pointe et sept méthodes permettant de décider quand s'abstenir de faire une prédiction correspondent au jugement visuel humain, contribuant ainsi au domaine de la sécurité de l'IA.
Affiche vedette | Méthode de Monte Carlo quantique de Wasserstein : une approche novatrice pour résoudre l’équation de Schrödinger quantique à N corps
Méthode de Monte Carlo quantique de Wasserstein : une approche novatrice pour résoudre l’équation de Schrödinger quantique à N corps
Kirill Neklyudov Jannes Nys, Luca Thiede, Juan Carrasquilla, Qiang Liu, Max Welling, Alireza Makhzani
Nous proposons « Wasserstein Quantum Monte Carlo », une approche novatrice pour résoudre l'équation de Schrödinger quantique à N corps, un problème fondamental et complexe en physique quantique, chimie quantique et science des matériaux. Nous abordons la minimisation de la fonctionnelle d'énergie en mécanique quantique selon une perspective purement probabiliste, plutôt que par la formulation conventionnelle de la fonction d'onde. Ce nouveau cadre nous permet de transformer le problème de minimisation d'énergie en un problème d'inférence probabiliste, où la densité cible est la densité de l'état fondamental. Nous nous inspirons ensuite de la littérature sur l'inférence probabiliste et proposons d'utiliser des flux de gradient de Wasserstein (projetés) pour minimiser directement la fonctionnelle d'énergie dans l'espace des distributions. Nous montrons que notre méthode, appelée Wasserstein Quantum Monte Carlo, converge plus rapidement que la méthode variationnelle de Monte Carlo quantique conventionnelle (que nous interprétons comme un flux de gradient de Fisher-Rao projeté) pour différents systèmes moléculaires.
Atelier | L'imagerie médicale rencontre NeurIPS
L'imagerie médicale rencontre NeurIPS
DOU QI, Konstantinos Kamnitsas, Yuankai Huo, Xiaoxiao Li, Daniel Moyer, Danielle Pace, Jonas Teuwen, Islem Rekik
« Imagerie médicale et NeurIPS » est un atelier satellite créé en 2017. Il vise à réunir des chercheurs des communautés de l'imagerie médicale et de l'apprentissage automatique. L'objectif est d'échanger sur les principaux défis du domaine et les occasions de collaboration. Cette année, l'atelier proposera des séances orales et des présentations par affiche en ligne, mettant l'accent sur l'interaction avec le public. Par ailleurs, des conférenciers invités de renom, issus de l'industrie, du milieu universitaire, de l'ingénierie et des sciences médicales, présenteront un panorama des avancées récentes, des défis à relever, des technologies de pointe et des initiatives de partage des données cliniques.
