Thèse de Yassir Lairgi
Sujet :
Date de début : 01/10/2023
Date de fin (estimée) : 01/10/2026
Encadrant : Khalid Benabdeslem
Co-encadrant : Rémy Cazabet, Ludovic Moncla
Résumé :
Cette thèse a été réalisée dans le cadre d'une collaboration CIFRE entre le laboratoire LIRIS de l'INSA Lyon (France) et Gauc SAS, filiale du groupe Auvalie, entreprise lyonnaise qui fournit des outils d'intelligence économique à des startups technologiques. L'objectif de cette thèse est de proposer une méthode de détection automatique des signaux faibles dans des flux continus de textes non structurés, depuis la construction de la représentation sur laquelle porte la détection jusqu'à la détection elle-même. Un signal faible est une indication précoce et de faible intensité d'un changement à venir, comme l'entrée d'une entreprise sur un nouveau marché ou le repositionnement d'un concurrent. Ces indications figurent dans des sources publiques, mais elles sont rares au regard du volume de texte qui les entoure, et leur repérage manuel n'est pas réalisable à l'échelle à laquelle les organisations doivent surveiller.
Nous proposons une approche pour la détection automatique de signaux faibles dans des graphes de connaissances temporels et dynamiques construits à partir de textes. Notre proposition se décompose en trois tâches principales. La première tâche construit un graphe de connaissances cohérent à partir de documents bruts, sans ontologie prédéfinie. La deuxième tâche étend cette construction à un graphe de connaissances temporel et dynamique, dans lequel chaque fait porte une période de validité et que l'arrivée de nouveaux documents fait croître. La troisième tâche lit le graphe obtenu et signale les signaux faibles qu'il contient. Notre proposition combine les informations extraites par les grands modèles de langage avec des mécanismes de résolution qui opèrent sur des plongements pré-entraînés et sur la structure du graphe.
La construction du graphe de connaissances repose sur iText2KG, une chaîne incrémentale sans apprentissage préalable, composée de quatre modules. Le Document Distiller réécrit les documents bruts en blocs sémantiques structurés selon un schéma défini par l'utilisateur, ce qui réduit le bruit et guide l'extraction sans imposer d'ontologie fixe. La contribution principale de cette première tâche est la résolution des entités et des relations au fil de la lecture des documents : l'Incremental Entities Extractor maintient un ensemble global d'entités et compare chaque entité extraite localement à cet ensemble par similarité cosinus sur des plongements pré-entraînés, et l'Incremental Relations Extractor applique le même mécanisme aux relations. Le Graph Integrator produit le graphe final dans une base de données orientée graphe. Évalué sur des articles scientifiques, des CV et des sites web, iText2KG obtient des taux de fausses découvertes plus faibles pour la résolution des entités et des relations sur les documents structurés, et de meilleurs résultats que les méthodes de référence dans les trois scénarios.
Nous proposons ATOM, une approche adaptative et optimisée pour la construction de graphes de connaissances temporels et dynamiques, qui répond à quatre limites d'iText2KG : une extraction non exhaustive, une instabilité entre exécutions, une scalabilité limitée et l'absence de modélisation temporelle. Le module 1 décompose chaque document en faits atomiques, c'est-à-dire en énoncés courts et autonomes véhiculant chacun une seule information. Le module 2 extrait en parallèle des quintuplets (sujet, relation, objet, début de validité, fin de validité) à partir de ces faits atomiques, et applique un modèle à double temporalité qui sépare la date d'observation, à laquelle le document a été ingéré, de la période de validité, pendant laquelle le fait est vrai. Le module 3 fusionne en parallèle les graphes temporels obtenus par fusions binaires itératives deux à deux. ATOM améliore l'exhaustivité factuelle et temporelle de 18 % et la stabilité de 33 % par rapport à une extraction directe à partir de paragraphes complets, et réduit la latence de plus de 90 % par rapport aux méthodes de référence.
Enfin, nous proposons C-Unseen, un cadre auto-interprétable qui détecte les signaux faibles dans le graphe construit par ATOM. Il définit d'abord le signal faible, dans ce cadre, comme un sous-graphe rare dont le contenu est en tension avec le récit dominant d'un instantané et dont la tension se poursuit dans les instantanés suivants. Il détecte ensuite de tels sous-graphes au moyen de deux modules. Le Rare Subgraphs Extractor établit le récit dominant de chaque instantané, isole les quintuplets en tension avec ce récit et les relie par un sous-graphe de connexion construit à partir des plus courts chemins entre leurs entités. Le Weak Signal Alerter compare ce sous-graphe à ceux retenus pour les instantanés antérieurs et le qualifie de signal faible lorsque son contenu prolonge une tension déjà visible auparavant. Chaque alerte est accompagnée de son sous-graphe et d'une interprétation en langue naturelle, de sorte qu'un analyste puisse la vérifier plutôt que l'accepter.
Enfin, le bien-fondé de l'approche proposée a été vérifié par une série d'expérimentations sur Wiki-OpenAI, un jeu de données de référence pour la détection de signaux faibles introduit dans cette thèse, ainsi que sur une variante anonymisée de celui-ci, et la chaîne complète a été appliquée à des données de veille concurrentielle.