Par Ian Gormely
Il est urgent de mettre en place des protocoles standardisés pour les modèles de langage afin de permettre leur déploiement responsable dans des situations concrètes. Tel est le consensus qui s'est dégagé lors de l'atelier sur les modèles de langage responsables (ReLM), organisé dans le cadre de la conférence annuelle de l'Association pour l'avancement de l'intelligence artificielle (AAAI) à Vancouver.
L'atelier d'une journée, organisé avec l'aide de Vector, portait sur le développement, la mise en œuvre et les applications responsables des modèles de langage, notamment les grands modèles de langage (LLM) qui alimentent les chatbots comme ChatGPT. Il a permis d'approfondir la question de la création et de l'utilisation éthiques des modèles linguistiques, en abordant des enjeux cruciaux tels que la réduction des biais et la transparence, et en soulignant l'importance d'établir des lignes directrices rigoureuses pour la mise en œuvre éthique de ces technologies.
La table ronde, intitulée « Combler le fossé : Déploiement responsable des modèles de langage dans l'industrie et le monde universitaire », réunissait Antoaneta Vladimirova, responsable de l'IA médicale appliquée chez Roche ; Donny Cheung, responsable de l'IA pour la santé et les sciences de la vie chez Google Cloud ; Emre Kiciman, directeur principal de recherche chez Microsoft Research ; Eric Jiawei He, responsable de l'équipe de recherche en apprentissage machine chez Borealis AI ; et Jiliang Tang, professeur titulaire de la chaire de la Fondation universitaire au département d'informatique et d'ingénierie de l'Université d'État du Michigan. Elle était animée par Peter Lewis de l'Université Ontario Tech.
Les intervenants ont souligné que le recours croissant aux modèles linguistiques pour diverses applications met en évidence la nécessité de protocoles standardisés. Sans cela, le déploiement de ces modèles pourrait entraîner des conséquences imprévues susceptibles de nuire à la confiance du public dans les technologies d'IA.
Comment la désinformation se propage en ligne
Filippo Menczer, professeur émérite d'informatique et de sciences informatiques à l'Université de l'Indiana, a prononcé le discours d'ouverture intitulé « IA et manipulation des médias sociaux : le bon, le mauvais et le pire ». Il a fourni une analyse approfondie de la dynamique de la prolifération de l'information et de la désinformation sur les médias sociaux.
Menczer a présenté des techniques d'analyse et de modélisation sophistiquées permettant de comprendre les mécanismes de diffusion des informations, vraies ou fausses. Il a aussi introduit divers outils d'IA conçus pour lutter contre la désinformation. Il a souligné que si l'IA offre des solutions novatrices pour détecter et contrer la désinformation, ces technologies comportent aussi des risques potentiels. Les capacités d'identifier et d'atténuer la désinformation peuvent, de la même manière, être détournées pour renforcer l'efficacité de cette dernière. Il a mis en lumière la nature ambivalente de l'IA dans ce contexte, faisant remarquer que les mêmes outils qui contribuent à protéger notre écosystème informationnel peuvent aussi le complexifier et menacer son intégrité. Les analyses de Menczer ont mis en évidence l'équilibre crucial nécessaire au développement d'outils d'IA efficaces contre les abus, soulignant l'importance des conséquences imprévues liées au déploiement des technologies d'IA.
Le manque de transparence nuit à la réplication
Parmi les six conférenciers invités à l'atelier figurait Frank Rudzicz, membre du corps professoral de Vector, qui a abordé les défis de la reproductibilité dans le développement des modèles linguistiques lors de sa présentation intitulée « Quis custodiet ipsos custodes ? ». Il a mis en lumière les défis posés par les méthodes actuelles de développement de ces modèles pour garantir leur fiabilité et leur prédictibilité. Rudzicz a expliqué que ce manque de transparence et de cohérence peut nuire à la validation et à la réplication scientifiques. Il a insisté sur l'importance d'adopter des pratiques plus robustes et ouvertes pour atténuer ces problèmes, plaidant pour une plus grande responsabilisation et une normalisation accrue dans le domaine afin d'assurer l'efficacité et la fiabilité des modèles de langage. Ses réflexions ont alimenté un débat plus large sur la nécessité de normes éthiques et de méthodologies rigoureuses pour faire progresser l'IA.
Parmi les 40 articles soumis à l'atelier, 21 ont été acceptés, dont six présentations orales et 15 affiches. « Breaking Free Transformer Models : Task-specific Context Attribution Promises Improved Generalizability Without Fine-tuning Pre-trained LLMs » a remporté le prix du meilleur article, tandis que « Inverse Prompt Engineering for Safety in Large Language Models » a été finaliste.
