Francis Bach lauréat du prix Lagrange

Décerné tous les trois ans par la Society for Industrial and Applied Mathematics (SIAM) et la Mathematical Optimization Society, le prix Lagrange en optimisation continue récompense des travaux de recherche dans le domaine de l'optimisation mathématique.

 

Ce n'est pas un prix auquel on pose sa candidature, mais une récompense pour laquelle les chercheurs et chercheuses sont proposés par leurs pairs, ce qui lui donne encore plus de saveur.

 

 

souligne Francis Bach, responsable de l'équipe Sierra. Il est lauréat de l'édition 2018 avec deux anciens postdoctorants, Mark Schmidt aujourd'hui professeur à l'université de Colombie Britannique et Nicolas Le Roux, désormais chercheur chez Google Brain à Montréal. C'est un article intitulé "Minimizing Finite Sums with the Stochastic Average Gradient" qui a valu aux trois chercheurs cette récompense de référence dans l'univers des mathématiques appliquées. 

Un algorithme pour gagner du temps

« Le papier a été publié l'an dernier, sur la base de travaux de 2012, poursuit Francis Bach. Il porte sur un algorithme d'optimisation dit SAG (pour Stochastic Average Gradient). Ce dernier représente une évolution de la méthode connue sous le nom d'optimisation par gradient stochastique, qui a été mise au point il y a une soixantaine d'années mais qui séduit toujours les chercheurs dans le contexte de l'apprentissage à grande échelle, par exemple pour des applications comme la prévision de taux de clics pour la publicité numérique ou les prévisions d'achats pour les webmarchands. » L'atout de cet algorithme ? Un gain de temps de calcul significatif grâce à une convergence beaucoup plus rapide, tout en maintenant une bonne performance de prédiction. « Notre méthode est finalement très simple, puisqu'elle s'exprime en deux lignes de code… Mais elle permet une amélioration avec un facteur 10 à 100 ! De fait elle permet aussi de s'attaquer à des problèmes plus gros et de tester plus de méthodes. »  

Nouveaux horizons

Implémentée dans Scikit-Learn, la bibliothèque de modèles d'apprentissage statistique gérée par Inria, la méthode développée par Francis Bach, Nicolas Le Roux et Mark Schmidt a été par la suite approfondie et enrichie par l'équipe Sierra mais aussi par d'autres chercheurs, séduits par son potentiel. « Désormais les travaux de Sierra portent sur la garantie de la performance future des algorithmes avec l'ambition de développer des méthodes d'apprentissage rapides susceptibles de faire face à des changements d'échelles importants sans grande perte d'efficacité, résume Francis Bach en conclusion. L'apprentissage et l'optimisation sont des domaines très vastes et les pistes à explorer sont encore très nombreuses. » 

>>> En savoir plus sur le parcours de Francis Bach

Diplômé de l'Ecole polytechnique en 1997, Francis Bach obtient son doctorat à Berkeley en 2005 sous la houlette de Michael Jordan , "pape de l'intelligence artificielle". Il a été lauréat de nombreux prix et distinctions, dont deux bourses ERC (Starting Grant en 2009 et Consolidator Grant en 2016 ), le Prix du jeune chercheur Inria 2012 ou encore le prix test-of-time de l'ICML (International Conference in Machine Learning) en 2014. Il a intégré Inria en 2007, d'abord au sein de l'équipe Willow. Il dirige l'équipe Sierra depuis sa création en 2011, dans le sillage du projet ERC du même nom.