Titre : Apprentissage des caractéristiques et "hypothèse de représentation linéaire" pour le suivi et le pilotage des LLM

Résumé : un modèle de langage étendu (LLM) formé contient une grande partie des connaissances humaines. Pourtant, il est difficile d'évaluer l'étendue ou la précision de ces connaissances, car les LLM ne savent pas toujours "ce qu'ils savent" et peuvent même être involontairement ou activement trompeurs. Dans cet exposé, je parlerai de l'apprentissage des caractéristiques en introduisant les Recursive Feature Machines (machines à caractéristiques récursives), une méthode puissante conçue à l'origine pour extraire des caractéristiques pertinentes à partir de données tabulaires. Je démontrerai comment cette technique nous permet de détecter et de guider précisément les comportements LLM vers presque n'importe quel concept souhaité en manipulant un seul vecteur fixe dans l'espace d'activation LLM.

À propos de la série de conférences distinguées de Vector
Le Vector Distinguished Lecture Series est un rassemblement formel de scientifiques des données universitaires et industriels de la région du Grand Toronto (GTA) pour discuter de sujets avancés dans le domaine de l'apprentissage automatique. Son objectif est de renforcer la communauté de l'apprentissage automatique à Toronto. Les conférences seront données par des professeurs internationaux et locaux ainsi que par des professionnels de l'industrie.

Cette série de séminaires s'adresse aux professeurs d'université et aux étudiants diplômés en apprentissage automatique dans les domaines de l'informatique, de l'ECE, des statistiques, des mathématiques, de la linguistique et de la médecine, ainsi qu'aux scientifiques des données titulaires d'un doctorat qui effectuent des recherches appliquées intéressantes dans la région du Grand Toronto. La communauté torontoise de l'apprentissage automatique sera plus forte lorsque nous nous connaîtrons et que nous connaîtrons les problèmes sur lesquels les gens travaillent.

La série de conférences de prestige de Vector est actuellement ouverte au public à distance. Les chercheurs de la communauté Vector auront la possibilité de rencontrer les conférenciers en personne. Toutes les conférences seront diffusées en ligne et publiées sur la chaîne YouTube de Vector.