Comment Thomson Reuters utilise le traitement automatique du langage naturel (TALN) pour permettre aux travailleurs du savoir de prendre des décisions commerciales plus rapides et plus précises.

2 avril 2020

« Hidden Injustice » , une enquête récente de Reuters, a révélé comment les décisions des tribunaux civils fédéraux ont occulté le rôle des sociétés pharmaceutiques dans l’épidémie croissante d’opioïdes. Ce reportage était révolutionnaire tant par les informations révélées que par la méthode employée. Les journalistes ont utilisé l'apprentissage machine et le traitement automatique du langage naturel (TALN) pour examiner 3,2 millions de plaintes civiles fédérales et plus de 90 millions d'actes judiciaires afin d'identifier les documents classés confidentiels. Ils ont ensuite pu cibler leurs recherches sur les cas où « des informations relatives à la santé et à la sécurité publiques ont été gardées secrètes sans explication » [1].

La série a remporté le premier prix des Philip Meyer Journalism Awards 2019, qui récompensent les travaux de « journalisme de précision, de reportage assisté par ordinateur et de recherche en sciences sociales ». [2]

Pour Thomson Reuters — la société mère de l'agence de presse — les techniques d'IA comme l'apprentissage automatique et le traitement automatique du langage naturel sont au cœur de son activité principale : permettre aux professionnels du droit, des médias , de la fiscalité et de la comptabilité de trouver des informations, de les comprendre et de les utiliser pour prendre des décisions.

Khalid Al-Kofahi, ancien directeur du Centre d'IA et d'informatique cognitive de Thomson Reuters, explique : « En général, les travailleurs du savoir, comme les avocats et les comptables, accomplissent trois tâches principales. Ils ont besoin d'information et entreprennent donc une démarche de recherche et de découverte. Ce faisant, ils analysent les données pour les comprendre. Finalement, ils passent à une action ou prennent une décision. Nous utilisons l'intelligence artificielle pour faciliter toutes ces activités. »

Le parcours de recherche et de découverte de Thomson Reuters l'a notamment mené à parrainer le Vector Institute, et ce pour trois raisons : rester à l'avant-garde de la recherche fondamentale, soutenir l'écosystème canadien de l'IA et développer des approches aux défis communs de l'IA grâce à la collaboration avec d'autres acteurs du secteur.

L'un des projets phares de collaboration est le consortium Vector, spécialisé dans le traitement automatique du langage naturel (TALN), une technique visant à atteindre le Saint-Graal de l'intelligence artificielle : la compréhension fluide du langage. Ce projet réunit 25 acteurs industriels qui collaborent avec les chercheurs de Vector au sein de groupes de travail axés sur diverses expériences liées au TALN. Thomson Reuters a participé à un groupe de travail visant à reproduire à moindre coût BERT ( Bidirectional Encoder Representations from Transformers) , un modèle avancé de représentation du langage. La création de BERT nécessite le pré-entraînement d'un réseau neuronal profond sur un vaste corpus de textes non étiquetés, comme ceux que l'on trouve sur Wikipédia, Twitter ou un site d'actualités, afin de créer un modèle général du fonctionnement du langage. Ce modèle BERT préentraîné peut ensuite être affiné pour des tâches telles que la traduction automatique, l'analyse des sentiments et la réponse aux questions dans des domaines spécifiques comme le droit, la santé et la finance.

Cette fonctionnalité a cependant souvent un coût important. Le pré-entraînement d'un modèle BERT nécessite généralement plusieurs jours de calcul sur du matériel dont l'accès peut s'avérer prohibitif pour la plupart des organisations. L'optimisation d'un modèle BERT préentraîné par un fournisseur sur des processeurs spécialisés dans le nuage, tels que les unités de traitement graphique (GPU) ou les unités de traitement tensoriel (TPU), est beaucoup moins exigeante, mais reste souvent coûteuse et chronophage.

« Certains de ces modèles linguistiques nécessitent d'énormes ressources pour leur développement », explique Al-Kofahi. « L'un de nos défis était de déterminer si nous pouvions entraîner ces modèles à l'aide d'architectures plus distribuées et concevoir des algorithmes capables de réduire la consommation de GPU. » La première phase d'expérimentation, menée sur la grappe de GPU de Vector, s'est avérée prometteuse.

Selon Al-Kofahi, ce projet de consortium est « un cercle vertueux », car les participants en tirent profit sans compromettre leur avantage concurrentiel. Il explique : « C’est un domaine où la collaboration entre les intervenants de l’industrie est tout à fait pertinente, car nous développons des solutions à des problèmes transversaux : comment faire évoluer les modèles d’apprentissage profond. Ensuite, une fois la solution trouvée, chacun d'entre nous peut l'utiliser et adapter ces modèles. »

Al-Kofahi poursuit : « Nous avons tiré des leçons de ces expériences et les avons adaptées à différents domaines. Nous avons BERT pour le droit, BERT pour la fiscalité, BERT pour d’autres domaines encore, et nous étudions actuellement comment intégrer certains de ces modèles à certains de nos produits. C'est une situation gagnant-gagnant. »

Parmi les produits prometteurs, on peut citer WestLaw, la suite logicielle de recherche juridique de Thomson Reuters, dont la technologie a permis aux journalistes de Reuters d'analyser des millions de documents juridiques pour l'émission « Hidden Justice » . Elle jouera bientôt un rôle clé dans un domaine judiciaire beaucoup plus vaste : Thomson Reuters a récemment été sélectionnée par le Bureau administratif des tribunaux américains pour fournir des outils de recherche juridique au pouvoir judiciaire fédéral, notamment à la Cour suprême et aux avocats commis d'office.

Ces prix illustrent l'un des avantages potentiels de la recherche de nouvelles connaissances en IA et du maintien à la fine pointe de la recherche en IA : le développement de technologies qui renforcent la justice et améliorent l'accès à celle-ci.

En 2017, la Legal Services Corporation, une organisation à but non lucratif créée par le Congrès, a publié un rapport déclarant que « le manque de ressources disponibles est responsable de la grande majorité des problèmes juridiques civils admissibles qui ne sont pas traités ou qui ne le sont pas suffisamment », et que « l’insuffisance de ressources est responsable de 85 % à 97 % de tous les problèmes admissibles non traités ou qui ne le sont pas suffisamment ». [3] 

« Comment améliorer l’accès à la justice ? « se demande Al-Kofahi. « L’IA et l’apprentissage machine offrent des possibilités considérables pour optimiser la prise en charge des dossiers, faciliter les résolutions grâce à l’intervention d’un arbitre, etc. Je suis convaincu que l'IA transformera en profondeur le secteur juridique et la manière dont les services juridiques sont fournis. »

Il ajoute : « On fait déjà partie de la transformation. »

[1] Sondage de Reuters. Injustice cachée. Notre méthodologie d'analyse des données. www.reuters.com/investigates/special-report/usa-courts-secrecy-how/

[2] Journalistes et rédacteurs d'investigation. Les prix Philip Meyer . https://www.ire.org/awards/philip-meyer-awards/

[3] Legal Services Corporation. The Justice Gap : Mesurer le besoin civil civil de Low-income Americans. 2017. Pg. 44

Pour en savoir plus sur les possibilités de commandites industrielles de Vector, cliquez ici.