Thèse de Artur Vieira-Pereira


Sujet :
Protéger le continuum cloud-périphérie contre les menaces pesant sur la confidentialité et la robustesse

Date de début : 01/12/2025
Date de fin (estimée) : 01/12/2028

Encadrant : Sara Bouchenak

Résumé :

L'apprentissage fédéré (FL) est un paradigme prometteur qui gagne du terrain dans le contexte de l'apprentissage automatique préservant la confidentialité pour les systèmes informatiques de pointe [1]. Grâce au FL, plusieurs propriétaires de données appelés clients (par exemple, des organisations dans le FL intersilo) peuvent collaborer pour former un modèle à partir de leurs données privées, sans avoir à envoyer leurs données brutes à des prestataires de services externes. Le FL a été rapidement adopté dans plusieurs applications florissantes telles que la santé numérique [2], qui génère le plus grand volume de données au monde [3]. L'apprentissage décentralisé (DL) va plus loin en proposant un apprentissage fédéré sans serveur, où les données sont conservées chez les clients et aucun serveur n'est nécessaire. Ainsi, le DL implique des protocoles distribués et décentralisés pour permettre aux clients de construire un modèle global [4,5,6]. Bien que le DL constitue une première étape vers la protection de la vie privée en conservant les données au niveau local pour chaque client, cela n'est pas suffisant, car les paramètres du modèle partagés par le DL sont vulnérables aux atteintes à la vie privée [7], comme le montrent plusieurs publications récentes [8]. En outre, le DL est plus vulnérable aux comportements malveillants des clients qui peuvent injecter des informations corrompues dans les données et les modèles, ce qui entraîne des modèles DL défaillants et non robustes. Des études récentes montrent que la robustesse et la confidentialité dans le DL peuvent être incompatibles ; les traiter indépendamment l'une de l'autre, comme c'est généralement le cas, peut avoir des effets négatifs l'une sur l'autre. Il est donc nécessaire de mettre en place une nouvelle approche multi-objectifs pour garantir la robustesse du FL et la protection contre les menaces liées à la confidentialité. Ce projet relève ce défi et vise à traiter avec précision les questions soulevées à l'intersection de la confidentialité, de la robustesse et de l'utilité des modèles DL, grâce à : (i) de nouveaux protocoles DL ; (ii) une approche multi-objectifs pour trouver un compromis entre confidentialité, robustesse et utilité, ces objectifs étant antagonistes ; (ii) l'application de ces techniques au DL dans les systèmes edge-cloud continuum