PGMO

PhD award laureats 2024

Congratulations to :

• Tâm Lê - "Nonsmooth calculus and optimization for machine learning: first-order sampling and implicit differentiation"
• Antoine Oustry - "Global optimization of nonlinear semi-infinite programming problems: Applications in power systems and control"

Here quotation of the jury (in French) :

• Tâm Lê - "Nonsmooth calculus and optimization for machine learning: first-order sampling and implicit differentiation"

Tam Le a effectué son doctorat sous la direction de Jérôme Bolte et Edouard Pauwels à la Toulouse School of Economics.

Son travail de thèse concerne l’optimisation non-différentiable et non-convexe pour l’apprentissage statistique. Il a obtenu un corpus de résultats fondamentaux et des garanties théoriques pour des algorithmes très populaires en apprentissage mais jusque-là non rigoureusement justifiés dans le cadre non-lisse et non-convexe.

Tam Le établit deux nouvelles règles de calcul pour une notion de dérivée généralisée dite « dérivée conservative ». La première de ces règles énonce un principe de différentiation sous le signe somme, couvrant le cas de fonctions objectifs définis par une espérance et permettant d’obtenir des garanties concernant l’échantillonnage des gradients ou des propriétés de descente pour la minimisation de risque. La seconde règle est une formule de différentiation implicite, particulièrement utile dans le cadre de la rétro-propagation pour l’optimisation bi-niveaux et pour les réseaux de neurones. Tam Le a également réalisé une analyse novatrice et générale par inclusions différentielles d’algorithmes d’optimisation  (sous-gradient, boule pesante) stochastique toujours dans un cadre non-lisse et non convexe. Il s’agit de travaux véritablement fondateurs qui améliorent significativement notre compréhension d’algorithmes très utilisés en apprentissage statistique

• Antoine Oustry - "Global optimization of nonlinear semi-infinite programming problems: Applications in power systems and control"

Antoine Oustry a effectué sa thèse sous la direction de Claudia D'Ambrosio et Leo Liberti au LIX, Ecole Polytechnique

La thèse d'Antoine Oustry se consacre à la résolution d’une classe de problèmes appelée "semi-infinite programming". Ces problèmes sont particulièrement difficiles en raison du nombre infini de contraintes et de la potentielle non-convexité de la fonction objectif et des contraintes. Plus précisément, calculer un optimum et certifier son optimalité globale constituent un défi scientifique. Cette thèse apporte des contributions théoriques et pratiques pour relever ce défi, et met l’accent sur les applications de la programmation semi-infinie à l’optimisation des réseaux électriques et au contrôle des systèmes dynamiques.

La première partie de la thèse est consacrée à la programmation semi-infinie convexe. Antoine Oustry  y étudie le taux de convergence d'un algorithme des plans coupants et aborde la solution d'une sous-classe de SIP convexe en supposant que le problème de séparation est un problème quadratique sous contraintes quadratiques. La deuxième partie se concentre sur la résolution exacte de problèmes d’optimisation non convexes finis et semi-infinis motivée par le problème d’optimisation des flux de puissance en courant alternatif (problème ACOPF, pour AC Optimal Power Flow). La thèse propose un algorithme d'optimisation globale basé sur une relaxation de programmation semi-définie renforcée et des approximations linéaires par morceaux et examine également une version du problème avec l'incertitude dans le flux de puissance.

La thèse s'engage en faveur des pratiques open-source en mettant systématiquement à disposition sur des sites publics les bibliothèques logicielles développées en langages de programmation open-source.