Relative Character Asymptotics Beyond Stability for $\mathrm{PGL}_2 \times \mathrm{GL}_1$

1. Contexte et Problématique

L'article s'inscrit dans le cadre de la théorie des représentations des groupes de Lie réels et $p$-adiques, en particulier l'étude des caractères relatifs associés à des paires de représentations $(\pi, \sigma)$ d'un groupe $G$ et d'un sous-groupe $H$.

• Contexte existant : Nelson et Venkatesh ont développé une théorie puissante pour les paires de Gan-Gross-Prasad (comme $(SO_{n+1}, SO_n)$ ou $(U_{n+1}, U_n)$) dans le cas réel. Leur travail établit les asymptotiques des caractères relatifs lorsque la paire de représentations est dite stable. La stabilité implique que l'orbite coadjointe relative $O_{\pi,\sigma}$ est une $H$-torseur (l'action de $H$ est simplement transitive). Dans ce régime, le caractère relatif est asymptotiquement contrôlé par l'intégrale de la fonction de test sur cette orbite géométrique unique.
• Le problème : Lorsque la stabilité échoue (c'est-à-dire lorsque l'orbite relative devient singulière ou que l'action de $H$ n'est plus libre), la géométrie de l'orbite devient complexe (par exemple, une croix avec une singularité à l'origine ou une infinité d'orbites). Dans ces cas, la théorie classique de Nelson-Venkatesh ne s'applique plus.
• Objectif de l'article : L'auteur vise à établir des asymptotiques pour les caractères relatifs dans le cas non-archimédien pour la paire $(G, H) = (PGL_2(F), GL_1(F))$, en surmontant l'hypothèse de stabilité. L'objectif est de comprendre le comportement asymptotique même lorsque le conducteur de la fonction $L$ de Rankin-Selberg $L(s, \pi \times \sigma)$ "tombe" (conductor dropping), une situation cruciale pour les problèmes de sous-convexité.

2. Méthodologie

L'approche de Hammonds repose sur une analyse microlocale non-archimédienne et le calcul explicite d'opérateurs intégraux, évitant l'utilisation de la formule des traces relative.

A. Définitions et Objets

• Opérateur de test : Pour une fonction $a$ sur l'algèbre de Lie duale $\mathfrak{g}^*$, on définit l'opérateur $Op(a) = \int_{\mathfrak{g}} a^\vee(x) \pi(\exp x) dx$.
• Fonctionnel linéaire : $\ell_\chi(v) = \int_{F^\times} W_v(h) \chi(h) d^\times h$, où $W_v$ est la fonction de Whittaker et $\chi$ un caractère de $H=GL_1$.
• Caractère relatif : Défini comme la distribution $H_{\pi,\chi}(a) = \sum_{v \in B(\pi)} \ell_\chi(Op(a)v)\ell_\chi(v)$.

B. Stratégie de Calcul

1. Décomposition en paquets d'ondes (Wavepackets) : L'auteur décompose la fonction de test $a$ en une somme de fonctions caractéristiques $1^T_\tau$ supportées sur des boules de rayon $T$ autour de points microlocaux $T\tau$ dans $\mathfrak{g}^*$.
2. Factorisation d'Iwahori : En utilisant la factorisation $K(N) = K_- K_0 K_+$, l'opérateur $Op(a)$ est décomposé en opérateurs unidimensionnels $Op_-, Op_0, Op_+$ agissant sur les directions unipotentes et diagonales.
3. Modèle de Kirillov et Équations Fonctionnelles :
   • Le calcul est effectué dans le modèle de Kirillov de $\pi$, où l'action du sous-groupe unipotent est diagonalisée.
   • L'auteur utilise l'équation fonctionnelle locale pour $GL_2 \times GL_1$ (liant $\pi(w)$ à des facteurs gamma et epsilon) pour traiter la direction unipotente négative ($Op_-$).
   • Une analyse fine des facteurs epsilon $\epsilon(1/2, \pi \otimes \chi)$ et des conducteurs est réalisée pour les cas supercuspidal et série principale.
4. Comparaison avec l'intégrale géométrique : Le résultat du calcul algébrique du caractère relatif est comparé à l'intégrale de la fonction de test $a$ sur une variété géométrique spécifique (une hyperbole) dans l'espace des phases.

3. Résultats Principaux

Le résultat central est le Théorème 1.3, qui fournit une formule asymptotique exacte pour le caractère relatif dans un régime non stable.

• Énoncé du théorème : Soit $\pi$ une représentation unitaire (série principale ou supercuspidale) de $PGL_2(F)$ et $\chi$ un caractère unitaire de $GL_1(F)$. Sous certaines conditions techniques sur les conducteurs (permettant une chute significative du conducteur de la fonction $L$), il existe une hyperbole $Hyp(\pi, \chi) \subset \mathfrak{g}^*$ telle que :
  $$H_{\pi,\chi}(a) = \int_{Hyp(\pi,\chi)} a(\xi) d\xi$$

• Géométrie de l'orbite :

  • Contrairement au cas stable où l'orbite relative est une variété lisse, ici l'orbite relative dégénère souvent en une croix (singulière à l'origine) lorsque les conducteurs coïncident ($C(\pi) = C(\chi)$).
  • L'auteur montre que l'asymptotique est contrôlée par une hyperbole (ou une composante de l'orbite relative) définie par des équations impliquant les conducteurs et les paramètres $\alpha_{\pi,\chi}$ liés aux caractères.
  • La formule reste valide même lorsque la paire n'est pas stable, c'est-à-dire lorsque l'intersection des orbites coadjointes n'est pas un torseur.

• Cas spécifiques :

  • Série principale : Le calcul fait intervenir les conducteurs des caractères $\chi_0$ et $\chi_0^{-1}$ constituant $\pi$, ainsi que le caractère $\chi$.
  • Supercuspidal : Le calcul utilise la correspondance de Langlands locale et les conducteurs des extensions quadratiques associées.

4. Contributions Clés et Innovations

1. Dépassement de l'hypothèse de stabilité : C'est la contribution majeure. L'article démontre que les asymptotiques des caractères relatifs peuvent être décrites par une intégrale géométrique même lorsque la géométrie de l'orbite relative est singulière (non-stable).
2. Méthode non-archimédienne explicite : Contrairement aux travaux antérieurs basés sur l'analyse microlocale réelle, l'auteur développe une technique purement non-archimédienne utilisant la décomposition d'Iwahori et les propriétés arithmétiques des facteurs epsilon et des conducteurs.
3. Gestion de la chute de conducteur : Le papier traite explicitement le cas où le conducteur de la fonction $L$ de Rankin-Selberg chute, une situation souvent exclue dans les théories précédentes mais essentielle pour les applications en théorie des nombres (sous-convexité).
4. Conjecture sur les orbites non fermées : L'auteur propose une conjecture informelle suggérant que les asymptotiques sont gouvernées par les orbites non fermées ayant des stabilisateurs finis, couvrant ainsi le cas de la croix singulière (Théorème 1.3) mais excluant les cas avec une infinité d'orbites (Exemple 1.2).

5. Signification et Implications

• Théorie des nombres : Ces résultats ouvrent la voie à de nouvelles applications dans le problème de la sous-convexité des fonctions $L$. Les bornes de sous-convexité actuelles (comme celles de Nelson) reposent sur des asymptotiques de caractères relatifs dans le régime stable. L'extension au régime non-stable permettrait potentiellement de traiter des cas où les paramètres sont plus proches, améliorant ainsi les bornes connues.
• Géométrie des orbites : L'article enrichit la compréhension de la correspondance entre les représentations et la géométrie des orbites coadjointes dans des situations dégénérées, suggérant que la "géométrie" pertinente pour les asymptotiques est plus subtile que la simple intersection d'orbites lisses.
• Outils pour l'analyse non-archimédienne : La méthode développée (factorisation d'opérateurs, utilisation du modèle de Kirillov pour les fonctionnels linéaires) constitue un outil technique robuste pour l'étude des distributions invariantes sur les groupes $p$-adiques.

En résumé, cet article établit un pont crucial entre la théorie des caractères relatifs et la géométrie des orbites dans des régimes dégénérés, prouvant que la structure asymptotique persiste même lorsque la stabilité géométrique fait défaut, grâce à une analyse arithmétique fine des conducteurs et des facteurs epsilon.