Transport optimal régularisé pour l'estimation des poids dans des modèles de mélange, et application à la cytométrie en flux

Abstract

Les modèles de mélange permettent de représenter différentes sous-populations au sein d’un ensemble d’individus. Dans ces modèles, le paramètre des poids quantifie la proportion des différentes sous-populations au sein de la population générale représentée par le mélange. Dans cette thèse, nous développons des outils pour l’estimation de ce paramètre des poids. Les méthodes proposées dans ce document reposent sur le coût de transport optimal entre mesures de probabilités. Régulariser par l’entropie le problème de transport optimal permet d’en accélérer le calcul effectif. Les propriétés théoriques du coût de transport, et l’accélération algorithmique permise par le terme de régularisation, font du coût de transport régularisé un outil potentiellement efficace en estimation statistique. Dans cette thèse, on étudie une famille d’estimateurs des poids, où chaque estimateur est défini par le minimum d’une fonction faisant intervenir un coût de transport régularisé. Les travaux présentés dans cette thèse sont organisés selon trois axes. Tout d’abord, on utilise ces nouveaux estimateurs des poids pour le traitement de mesures de cytométrie en flux. Dans ce cadre applicatif, le modèle de mélange représente un ensemble de cellules biologiques, et chaque composante du mélange représente une certaine sous-population. On aborde ensuite le développement d’algorithmes efficaces pour le calcul des estimateurs proposés. On étudiera particulièrement des algorithmes stochastiques afin de minimiser les coûts de transport régularisés définissant les estimateurs des poids. Enfin, on s’attache à étudier l’impact statistique du terme de régularisation entropique ajouté au problème de transport optimal. Cette étude se fait pour l’estimation du coût de transport, ainsi que pour l’estimation des poids dans un modèle de mélange. Notre analyse nous permet de proposer un choix du paramètre de régularisation dépendant du nombre d’observations et de leur dimension.