Jeff Clune, nouveau membre de la faculté Vector, cherche à créer des systèmes d'intelligence artificielle ouverts.

27 juin 2022

Par Ian Gormely

Jeff Clune ne parle pas comme le chercheur moyen en apprentissage automatique. 

Alors que de nombreux scientifiques spécialisés dans l'IA parlent volontiers de l'optimisation ou de la robustesse des modèles, parler à M. Clune de son travail l'amène rapidement à s'intéresser à l'évolution de la pensée et de la culture humaines. 

"Je trouve la biologie de l'évolution infiniment fascinante", déclare-t-il. "Comment l'algorithme relativement inintelligent de l'évolution darwinienne peut-il produire toutes les merveilles que l'on observe dans le monde naturel ? L'évolution innove sans cesse depuis 3,5 milliards d'années et continue de produire des surprises. Pourrions-nous recréer un tel processus d'invention et de découverte à l'intérieur d'un ordinateur ? 

Cela ne veut pas dire que M. Clune, professeur associé à l'université de Colombie-Britannique et l'un des plus récents membres du corps professoral de Vector, n'a pas la réputation "canonique" de ses collègues. Loin de là. Mais il a adopté cette façon plus large d'aborder les problèmes dans le cadre de son objectif de créer des algorithmes "ouverts" qui apprennent en permanence. 

Bien entendu, la reproduction de la "magie" de l'évolution par des ordinateurs nécessitera des algorithmes d'IA extrêmement puissants, créatifs et novateurs. "Je suis ouvert à toute méthode d'IA susceptible de nous aider à y parvenir", déclare-t-il. "J'essaie de marier les inspirations et les idées des processus ouverts que je vois dans le monde réel, comme la culture humaine et l'évolution, avec les meilleures méthodes d'IA qui pourraient aider à reproduire cette magie à l'intérieur d'un ordinateur. Ces méthodes font souvent appel à l'apprentissage par renforcement profond ou, parfois, à des algorithmes évolutionnaires.

Même avec des objectifs aussi élevés, le natif de Détroit - il a obtenu sa licence à l'université du Michigan, sa maîtrise et son doctorat à l'université de l'État du Michigan - a réalisé des progrès significatifs. 

Dans un article de 2015 dans Naturepublié alors qu'il était professeur assistant à l'université du Wyoming, lui et ses collègues Antoine Cully, Danesh Tarapore et Jean-Baptiste Mouret ont appris à un robot à marcher d'une multitude de façons différentes. "Lorsqu'un robot est endommagé, il peut examiner l'ensemble des comportements de marche qu'il connaît déjà et, à l'aide d'un apprentissage automatique sophistiqué, identifier rapidement le comportement qu'il doit adopter maintenant que son corps est endommagé". Dans un autre article de Nature Clune et ses collaborateurs Adrien Ecoffet, Joost Huizinga, Joel Lehman et Ken Stanley ont présenté Go-Explore, un algorithme qu'ils ont développé lorsqu'ils travaillaient à Uber AI Labs (un laboratoire que Clune a contribué à créer). Go-Explore aide les agents à explorer et à résoudre des environnements complexes qui sont difficiles à appréhender parce qu'ils ne fournissent que très peu d'informations en retour pour savoir si l'agent fait ce qu'il faut, ce qui rend l'apprentissage difficile. C'est un peu comme jouer à "chaud froid", mais où le professeur reste silencieux jusqu'à ce que vous soyez à moins d'un pied de l'objet. Ils ont mis l'agent au défi de se déployer, d'explorer le monde et d'apprendre le plus grand nombre possible de comportements diversifiés, mais de grande qualité.

Dans l'ensemble, cette recherche fait partie d'un nouveau sous-domaine de l'IA appelé "algorithmes de diversité de la qualité", dont Clune et ses collègues sont les pionniers. Contrairement à la plupart des systèmes d'apprentissage automatique, qui proposent la meilleure solution unique pour un problème donné, les algorithmes de diversité de la qualité tentent de vous renvoyer un ensemble diversifié de solutions de haute qualité. "Après des années d'échec dans la résolution de certains de ces problèmes d'exploration difficiles, cette nouvelle branche de méthodes nous a enfin permis de percer", explique-t-il. 

Les algorithmes de diversité de la qualité font partie d'un objectif plus large visant à créer des systèmes d'IA ouverts, dont l'objectif est un système qui innove véritablement pour toujours. Clune et ses collaborateurs, Rui Wang, Lehman et Stanley, ont récemment présenté le projet de recherche sur la diversité de la qualité ( POET qui crée ses propres défis et les résout dans un "flux d'apprentissage et d'innovation à durée indéterminée". Pour M. Clune, les algorithmes ouverts font partie d'un objectif encore plus ambitieux : Les algorithmes générateurs d'IAou une IA qui s'améliore sans cesse. L'objectif est de créer un algorithme qui commence simplement et devient de plus en plus intelligent, jusqu'à ce qu'il produise une IA de niveau humain, voire surhumain. "Je m'intéresse aux algorithmes générateurs d'IA parce qu'ils abordent la question de l'illimité, qui est fascinante, mais aussi parce que je pense qu'ils pourraient constituer le chemin le plus rapide vers la production d'une intelligence générale comme celle que possèdent les humains.

M. Clune étudiera ces idées dans son nouveau laboratoire à l'université de la Colombie-Britannique et avec ses collaborateurs de l'Institut Vecteur. Pour en savoir plus sur ses travaux, vous pouvez le suivre à l'adresse @jeffclune sur Twitter ou visiter son site web http://jeffclune.com.

En rapport :

Des protocoles normalisés sont essentiels pour un déploiement responsable des modèles linguistiques

Les inconnues connues : Geoff Pleiss, chercheur chez Vector, se penche sur l'incertitude pour rendre les modèles de ML plus précis.

Un homme regarde un tableau blanc sur lequel sont inscrites des formules en rouge.
Perspectives
Une IA digne de confiance

Comment mettre en œuvre des systèmes d'IA en toute sécurité