Noyau et translation de Dunkl dans le cas d’un sous-système positif de racines orthogonales

Noyau de Dunkl et formule produit

Commençons par définir le cadre de travail de ce chapitre. On considère un sous-système positif de racines R+ = {α 1 ,… ,αm} constitué de m vecteurs de R d deux à deux orthogonaux (avec 1 6 m 6 d). On complète la famille {α j : 1 6 j 6 m} avec d − m vecteurs notés β 1 ,… ,βd−m de telle sorte que la famille {α j ,βl : 1 6 j 6 m, 1 6 l 6 d − m} soit une base orthogonale de R d . On fixe également une fonction de multiplicité κ associée au système de racines R = {±α j : 1 6 j 6 m}. Puisqu’il y a m classes de conjugaison de réflexions de W(R), cette fonction de multiplicité prend m valeurs, notées κ1,… ,κm, qui sont respectivement associées à α 1 ,… ,αm et que l’on suppose strictement positives. La mesure µW κ est dans ce cas donnée par dµ W κ (x) = Ym j=1 |hx,αj i|2κj dx. Dans tout le chapitre, on notera par souci de simplification W le groupe de réflexions associé à R (plutôt que W(R)). Noyau et translation de Dunkl dans le cas d’un sous-système positif de racines orthogonales 98 Chapitre 4. Analyse de Dunkl dans le cas orthogonal 4.1.1 Formule explicite du noyau et formule produit Nous allons donner dans cette sous-section une expression explicite du noyau de Dunkl associé à W ainsi qu’une formule produit pour ce noyau. Pour cela, commençons par rappeler la représentation intégrale suivante de l’opérateur d’entrelacement V W κ , récemment démontrée par Maslouhi et Youssfi ([34]). Théorème 4.1. Soit R+ = {α 1 ,… ,αm} constitué de m vecteurs de R d deux à deux orthogonaux (avec 1 6 m 6 d) et soit W le groupe de réflexions associé. Notons κj la valeur de la fonction de multiplicité en α j . Soit la fonction h : R m × R d → R d définie par h(t,x) = x + Xm j=1 (tj − 1) hx,αj i hαj ,αj i α j . Alors, l’opérateur d’entrelacement V W κ est donné par la représentation intégrale suivante V W κ f(x) = Z [−1,1]m f 

Un cas particulier intéressant

Considérons dans cette sous-section le cas particulier du système de racines de type A1, c’est-à-dire que l’on fixe dans R 2 le système R = {±(e1 − e2)}, et que l’on choisit comme sous-système positif R+ = {e1 − e2} (en prenant α0 = (2, 1)). Ce système orthogonal est intéressant pour la raison suivante. On connaît explicitement grâce aux travaux de Baker et Forrester (voir [5, 6]) la fonction de Bessel généralisée J S2 κ : c’est une fonction hypergéométrique multivariée 0F (α) 0 à deux arguments, et l’on sait d’après Lassalle ([32]) que celle-ci s’exprime en dimension 2 au moyen de polynômes 102 Chapitre 4. Analyse de Dunkl dans le cas orthogonal de Gegenbauer. Par conséquent, en utilisant la formule explicite du noyau de Dunkl dans le cas A1 (cas particulier de la proposition 4.4), nous allons pouvoir donner une expression des fonctions de Bessel normalisées au moyen d’un développement en polynômes de Gegenbauer. Même si nous n’allons nous intéresser qu’au seul cas de la dimension deux et à la fonction 0F (α) 0 , nous introduisons les notions de polynôme de Jack et de fonction hypergéométrique multivariée en toute généralité. Pour cela, il faudra au préalable définir la notion de partition. Partitions, polynômes de Jack et fonctions hypergéométriques multivariées Pour plus de détails, nous renvoyons principalement le lecteur au livre de Macdonald [33] pour les partitions, à l’article de Stanley [47] pour les polynômes de Jack, aux articles de Baker et Forrester [5, 6] et à l’article de Yan [61] pour les fonctions hypergéométriques multivariées. Partitions La dimension d étant fixée, on appelle partition à au plus d parties tout d-uplet λ = (λ1,… ,λd) d’entiers naturels rangés dans l’ordre décroissant, c’est-à-dire vérifiant λ1 > · · · > λd > 0. On note N d,P l’ensemble des partitions à au plus d parties. Le nombre d’éléments λj 6= 0 (les éléments non nuls sont les parties de λ) s’appelle la longueur de la partition, et on note cette longueur l(λ). Le poids de la partition, noté |λ|, est défini par |λ| = λ1 + · · · + λd. On identifie une partition λ ∈ N d,P avec son diagramme  (j,k) : 1 6 j 6 l(λ), 1 6 k 6 λj . La partition conjuguée (ou duale) λ ′ de λ ∈ N d,P est le m-uplet λ ′ = (λ ′ 1 ,… ,λ′ m) donné par λ ′ j = #{k : λk > j}, c’est-à-dire λ ′ j est le nombre de nœuds sur la j-ème colonne de λ. On définit enfin pout tout (j,k) ∈ λ la longueur-crochet supérieure h ∗ λ et la longueurcrochet inférieure h λ ∗ par h ∗ λ (j,k) = λ ′ k − j + α(λj − k + 1) h λ ∗ (j,k) = λ ′ k − j + 1 + α(λj − k) avec α un réel strictement positif. On va maintenant introduire les polynômes de Jack. Polynômes de Jack Soit λ ∈ N d,P et soit α un réel strictement positif. Le polynôme de Jack d’indice α (ou de paramètre de Jack α) est l’unique (à normalisation près) fonction C (α) λ homogène, symétrique et qui est fonction propre de l’opérateur X d j=1 x 2 j ∂ 2 ∂x2 j + 2 α X d j,k=1 j6=k x 2 j xj − xk ∂ ∂xj 4.1. Noyau de Dunkl et formule produit 103 pour la valeur propre vλ = X d j=1  λj  λj − 1 − 2 α (j − 1) + 2 α |λ|(d − 1). On choisit de normaliser les polynômes de Jack de telle sorte que (x1 + · · · + xd) n = X λ∈Nd,P |λ|=n C (α) λ (x). L’autre normalisation classique est celle donnée par Stanley ([47]), où les polynômes de Jack J (α) λ sont choisis de telle sorte que (x1 + · · · + xd) n = X λ∈Nd,P |λ|=n α |λ| |λ|! h(λ) J (α) λ (x), avec h(λ) donné par h(λ) = Y (j,k)∈λ h ∗ λ (j,k)h λ ∗ (j,k). Pour λ ∈ N d,P de poids n, la relation entre les C (α) λ et les J (α) λ est donc la suivante C (α) λ (x) = α n n! h(λ) J (α) λ . (4.7) Remarque 4.10. Nous ne respectons pas les notations prises par Stanley afin d’éviter des confusions avec les fonctions de Bessel normalisées et les fonctions de Bessel généralisées. Venons-en maintenant aux fonctions hypergéométriques multivariées. Fonctions hypergéométriques multivariées Avant de donner la définition de ces fonctions, rappelons la définition de deux objets usuels de la théorie des fonctions spéciales. Pour tout complexe z et tout entier naturel n, on notera (z)n le symbole de Pochhammer défini par (z)n = ( 1 si n = 0, Qn j=1(z + j − 1) si n > 0. Pour tout complexe z, tout réel α strictement positif et toute partition λ ∈ N d,P , on notera (z) (α) λ le symbole de Pochhammer généralisé défini par (z) (α) λ = Y d j=1  z − 1 α (j − 1) λj . On introduit également la notation commode suivante. Notation 4.11. Par souci de simplification, on désignera par 1 le vecteur de R d (1,… , 1). On peut maintenant donner la définition des fonctions hypergéométriques multivariées.