La transformation de Fourier Plancherel analytique des groupes de Lie. II : les groupes nilpotents
Annales de l'Institut Fourier, Volume 34 (1984) no. 1, p. 1-37

The Fourier Plancherel transform for nilpotent Lie groups is given by exponentiating an infinitesimal representation of the Lie algebras by differential antisymmetrical operators of degree at most one.

This transform can be written as a Fourier Integral operator the amplitude of which is the exponential of a rational phase and the inverse Transform is given by the opposite phase.

The phase, which is polynomial except a division by a central polynomial, gives also the Fourier transform of regular differential operators on the group and the amplitude, which is an analytic function, is also the eigendistribution of a maximal abelian sub-algebra of differential operators on the group.

The rank-two case is computed as an application.

Partant de la représentation de l’algèbre de Lie 𝔤 du groupe G (nilpotent, connexe et simplement connexe) par des opérateurs différentiels rationnels dont l’existence est liée à la conjecture de Gelfand et Kirillov et démontrée dans Nghiêm Xuân Hai (Ann. Inst. Fourier, 33-4 (1983), 95–133), on calcule explicitement la transformation de Fourier-Plancherel de G. En particulier, on obtient la mesure de Plancherel comme une mesure à densité sur un ouvert de Zariski du spectre antihermitien du centre de l’algèbre enveloppante 𝒰(𝔤).

On obtient naturellement le noyau de toutes les représentations unitaires du dual réduite en même temps, avec de très bonnes propriétés : analyticité, décroissance à l’infini, et surtout, les éléments de matrices généralisées qui sont donnés par les valeurs de ces noyaux apparaissent comme des fonctions propres au sens des distributions pour l’action à gauche et à droite d’une sous-algèbre commutative de 𝒰(𝔤).

On donne enfin l’interprétation des représentations en termes d’opérateurs Fourier-Intégraux et on obtient un résultat remarquable : La transformation de Fourier-Plancherel se réalise avec un opérateur Fourier-Intégral à phase rationnelle et la Transformation inverse est juste de phase opposée. On obtient explicitement la transformation de Fourier des opérateurs différentiels polynomiaux sur G. En illustration de ces résultats, on donne le calcul explicite et rapide de cette phase pour les groupes de Lie nilpotents “assez commutatifs” (en sont les groupes de Heisenberg, les groupes de degré de nilpotence 2, les groupes triangulaires de matrices).

@article{AIF_1984__34_1_1_0,
     author = {Nghi\^em Xu\^an Hai},
     title = {La transformation de Fourier Plancherel analytique des groupes de Lie. II : les groupes nilpotents},
     journal = {Annales de l'Institut Fourier},
     publisher = {Institut Fourier},
     address = {Grenoble},
     volume = {34},
     number = {1},
     year = {1984},
     pages = {1-37},
     doi = {10.5802/aif.948},
     zbl = {0498.43009},
     mrnumber = {85k:22020b},
     language = {fr},
     url = {http://www.numdam.org/item/AIF_1984__34_1_1_0}
}
Nghiêm Xuân Hai. La transformation de Fourier Plancherel analytique des groupes de Lie. II : les groupes nilpotents. Annales de l'Institut Fourier, Volume 34 (1984) no. 1, pp. 1-37. doi : 10.5802/aif.948. http://www.numdam.org/item/AIF_1984__34_1_1_0/

[1] L. Corwin & F.P. Greenleaf Fourier Transform of smooth functions on certain Nilpotent Lie groups, Jour. Funct. Anal., 37 (1980), 203-217. | MR 81f:22012 | Zbl 0456.43006

[2] J. Dixmier Algèbres enveloppantes, Gauthier-Villars, Paris, 1974. | MR 58 #16803a | Zbl 0308.17007

[3] R.E. Howe A connection between Nilpotent Lie Groups and Oscillatory integrals associated to singularities, Pacific Jour. Math., 73 (1977), 329-364. | MR 58 #28270 | Zbl 0383.22009

[4] I.M. Gelfand & A.A. Kirillov Sur les corps liés aux algèbres enveloppantes, Publ. Math. IHES, n° 31 (1966), 5-20. | Numdam | MR 34 #7731 | Zbl 0144.02104

[5] Nghiêm Xuân Hai, La Transformation de Fourier-Plancherel analytique des groupes de Lie. I. Algèbres de Weyl et opérateurs différentiels, Ann. Inst. Fourier, 33-4 (1983), 95-133. | Numdam | MR 85k:22020a | Zbl 0498.43008

[6] Nghiêm Xuân Hai Une variante de la conjecture de Gelfand-Kirillov et la Transformation de Fourier-Plancherel. C.R.A.S., Paris, tome 293, série 1, p. 381-384. | MR 82m:17004 | Zbl 0472.43008

[7] Nghiêm Xuân Hai Construction analytique de la Transformation de Fourier-Plancherel des groupes de Lie. Cours de 3è Cycle Orsay, Université de Paris-Sud (1979), Publ. Math. Orsay, (1979) n° 79.06. | Zbl 0477.43011

[8] Nghiêm Xuân Hai Algèbres de Heisenberg et géométrie symplectique des algèbres de Lie, Publ. Math. Orsay (1978) n° 78.08. | MR 80g:17005 | Zbl 0392.17007

[9] Nghiêm Xuân Hai Harmonic analysis on the Poincaré Group : | Zbl 0174.55702

I. Generalized matrix elements, Comm. Math. Phys., 12 (1969), 331-350.

II. The Fourier Transform, Comm. Math. Phys., 22 (1971), 301-320. | Zbl 0221.43015

[10] Nghiêm Xuân Hai Sur certaines représentations d'une algèbre de Lie résoluble complexe (I), Bull. Sc. Math., 97 (1973), 105-128. | MR 49 #7323 | Zbl 0275.17003

[11] A.A. Kirillov Unitary representations of nilpotent Lie Groups, Uspekhi Math. Nauk., 17 (1962), 57-110. | MR 25 #5396 | Zbl 0106.25001

[12] L. Pukanszky Leçons sur les représentations des groupes, Dunod, Paris, 1967. | MR 36 #311 | Zbl 0152.01201

[13] L. Pukanszky Unitary representations of solvable Lie Groups, Ann. Sci. Ec. Norm. Sup., 4è Série, 4 (1971), 457-608. | Numdam | MR 55 #12866 | Zbl 0238.22010