Résumé de l’intervention : Il est inévitable que les intelligences artificielles prennent bientôt de nombreuses décisions ayant un impact majeur sur nos vies. C’est pourquoi il est essentiel de s’assurer que leur comportement soit guidé par des valeurs humaines — un défi largement connu sous le nom de problème d’alignement de l’IA. Je présenterai nos travaux sur l’équité et l’explicabilité, en m’appuyant à la fois sur des résultats théoriques et expérimentaux, développés en collaboration avec plusieurs partenaires, notamment notre centre médical. Nos recherches se sont concentrées sur des tâches classiques telles que la détection d’anomalies, la classification et le regroupement d’images, ainsi que sur des travaux plus récents impliquant des modèles de langage de grande taille. Au cœur de ces recherches se trouve un ensemble fondamental de questions : comment intégrer des contraintes dans l’apprentissage profond, et comment en extraire ? Enfin, bien que l’essentiel des travaux en alignement de l’IA se concentrent sur les enjeux d’équité et d’explication, ceux-ci ne représentent qu’une petite partie de ce que signifie réellement une machine éthique. Je conclurai en abordant des perspectives de recherche qui vont au-delà de ces aspects.

Biographie : Ian Davidson est professeur d'informatique à l’Université de Californie à Davis depuis 2007. Dans les années 2000, ses travaux ont porté sur l’intégration de contraintes dans les algorithmes d’apprentissage automatique, en particulier le regroupement (clustering). Dans les années 2010, il s’est intéressé à la décomposition en tenseurs et à l’apprentissage par transfert. Après un congé sabbatique en France en 2018 — au cours duquel quelqu’un lui a demandé quelles étaient les implications éthiques de ses travaux — il a recentré ses recherches sur la conception d’intelligences artificielles plus éthiques. Il collabore également avec des experts pour appliquer ses recherches à des problèmes socialement significatifs, notamment dans le domaine des neurosciences. Ses travaux sont financés par des dons de Google, Yahoo et Intel, ainsi que par des subventions de la National Science Foundation (NSF), de l’Office of Naval Research (ONR) et des National Institutes of Health (NIH).