Variational Inference (VI) is now a well established approach in statistical learning. It gave raise to many variants and algorithms used to optimize the variational parameter or the model parameter. The common first ingredient of these variants is to exhibit a convenient lower bound of the model likelihood. We will first present recent works on the inference of the variational parameter based on the monotonic optimization of the alpha divergence. However, leveraging reparameterization strategies, many algorithms are based on stochastic gradient descent, in which case controlling the bias and variance of the stochastic gradient is of particular interest. Several variational bounds involving importance weighting ideas have been proposed to generalize and improve on the Evidence Lower BOund (ELBO) in the context of marginal likelihood optimization, such as the Importance-weighted Auto-Encoder (IWAE), Variational Rényi (VR) and VR-IWAE bounds. Yet, it remains unclear how the joint choice of bound and gradient estimator impacts the behavior of the resulting algorithms. In this context, we will present some recent works studying reparameterized and doubly-reparameterized gradient estimators tied to the IWAE, VR and VR-IWAE bounds.

Dans un travail en collaboration avec Juhan Aru, nous considérons deux modèles naturels de fonctions de hauteur aléatoires sur des arbres avec conditions de bord zéro sur un sous-ensemble de feuilles ; à savoir, le champ libre gaussien discret, et un modèle analogue de fonctions de hauteur aléatoires à valeurs entières. Pour ces deux modèles, nous considérons la loi de la hauteur à la racine lorsque l'arbre sous-jacent consiste en les $n$ premières générations d'un arbre de Bienaymé surcritique, et chaque feuille est gardée dans le bord indépendamment avec probabilité $p_n$. Une transition de phase localisation/délocalisation apparaît alors autour de $p_n=n/m^n$, où $m>1$ est l'espérance de la loi de reproduction, et nous établissons une limite d'échelle gaussienne pour la hauteur à la racine dans le modèle à valeurs entières dans le régime délocalisé. Notre preuve repose sur un résultat de concentration quenched pour les marches branchantes surcritiques.

Résumé: Cette thèse étudie le comportement transient de certains processus de diffusion planaires avec interactions au bord, telles que des réflexions ou des interfaces poreuses. Elle porte en particulier sur le calcul des fonctions de Green, l'analyse de leurs asymptotiques et la détermination de la frontière de Martin. La théorie de la frontière de Martin permet notamment de décrire la manière dont ce type de processus s'échappe à l'infini en tenant compte de l'ensemble des trajectoires et fournit l'ensemble des fonctions excessives et harmoniques associées. Les techniques principales utilisées dans la thèse sont les équations fonctionnelles à noyau(x), la méthode du point col, divers outils d'analyse complexe sur des courbes elliptiques, ainsi que la méthode de compensation employée pour traiter les cas des processus dégénérés. Les asymptotiques des fonctions de Green pour les processus étudiés sont alors explicites, tout comme la frontière de Martin qui encode l'ensemble des fonctions harmoniques.

Mots clefs: Frontière de Martin, Equations fonctionnelles à noyau, Mouvement Brownien réfléchi obliquement, Méthode du point col, Approche par compensation, Diffusion avec barrière perméable, Transformées de Laplace.