## Voronoï’s geometric theory. Finiteness properties for families of lattices and similar objects. (Théorie de Voronoï géométrique. Propriétés de finitude pour les familles de réseaux et analogues.)(French. English summary)Zbl 1085.11033

In this article, the author extends and generalizes the approach to develop a completely geometric Voronoï theory which he began in [J. Reine Angew. Math. 482, 93–120 (1997; Zbl 1011.53035)] where he introduced the concept of generalized systoles. In the present article, the author introduces the notion of nondegenerate point and systematically studies points satisfying particular properties such as perfection and eutaxy whose definitions are motivated by those from the classical Voronoï theory of lattices. Particular emphasis is laid upon the study of onfigurations and of finiteness results. As applications, the author obtains new results on the invariants of Bergé-Martinet and of Hermite-Humbert that are attached to number fields, and on Riemann surfaces.
The theoretical framework of this theory is laid out in §1 of the present paper. Let $$E$$ be a finite-dimensional $${\mathbb R}$$-vector space, $${\mathcal F}$$ a finite set of vectors in $$E$$ and $$K$$ their convex hull. $${\mathcal F}$$ is said to be perfect if it generates $$E$$ affinely, and eutactic if the origin is in the affine interior of $$K$$. Now let $$V$$ be a smooth and connected variety with $${\mathcal C}^1$$-functions $$f_s:V\to{\mathbb R}$$ indexed by some set $$C$$. $$(f_s)_{s\in C}$$ is called a system of length functions if for every $$p\in V$$, every neighborhood $$U$$ of $$p$$ and every $$L\in{\mathbb R}$$ one has $$f_s >L$$ on $$U$$ for almost all $$s\in C$$. The generalized systole $$\mu (p)$$ in a point $$p\in V$$ is now defined to be $$\mu (p)=\min_{s\in C}f_s(p)$$. Then $$p\in V$$ is called perfect resp. eutactic if the family of differentials $$(df_s(p))_{s\in S_p}$$ is perfect resp. eutactic in the cotangent space $$T^*_pV$$, where $$S_p=\{ s\in C; f_s(p)=\mu (p)\}$$, and (strictly) extreme if $$\mu$$ has a (strict) local maximum in $$p$$. $$V$$ can be partitioned into so-called minimal classes, where two points $$p,q\in V$$ belong to the same class iff $$S_p=S_q$$.
Let now $$V$$ be equipped with a connection (assumed to be geodesic). A $${\mathcal C}^1$$-function $$f:V\to{\mathbb R}$$ is said to be (strictly) convexoïdal if any critical point of $$f$$ restricted to a geodesic is a (strict) local minimum. Now suppose in addition that $$(f_s)_{s\in C}$$ is a family of convexoïdal length functions on $$V$$. Then a point $$p\in V$$ is said to be nondegenerate if for every geodesic emanating from $$p$$ there is at least one $$f_s$$ that is strictly convexoïdal on that geodesic in some neighborhood of $$p$$. With these definitions, it follows readily that if $$V$$ is equipped with a family of convexoïdal length functions, then perfect points are always nondegenerate (Proposition 1.4), and that Voronoï’s theorem (i.e. a point is extreme iff it is perfect and eutactic) holds iff every extreme point is nondegenerate iff every extreme point is perfect. This holds in particular whenever the length functions are strictly convexoïdal (Proposition 1.5). Furthermore, the set of points that are eutactic and nondegenerate is discrete, so in particular also the set of points that are perfect and eutactic (Corollary 1.7).
The author then obtains certain somewhat technical results on isolation of points that are eutactic and nondegenerate by which he can prove that if $$V$$ is a smooth subvariety of $$P_n$$, the space of unimodular positive definite symmetric $$n\times n$$ matrices, defined by polynomials with algebraic coefficients in $${\mathbb R}$$, then there are only finitely many perfect points for $$\mu^D$$ (relative to $$V$$) and they are all algebraic over $${\mathbb Q}$$ as are all nondegenerate eutactic points under some additional assumption on $$V$$ (Corollary 1.12). Here, $$\emptyset\neq D\subset{\mathbb Z}^n \setminus\{ 0\}$$ and $$\mu^D(A)=\min_{s\in D}A[s]$$ for $$A\in P_n$$. The author points out that the interest in this result lies in the fact that it applies readily to all natural and interesting types of lattices, for example autodual lattices.
In §2, the author applies these foundational results in certain situations to obtain finiteness results, notably to $$P_n$$ as defined above and connected complete totally geodesic subvarieties thereof, and in particular their $$\rho$$-invariant forms for some representation $$\rho :\Pi\to \text{GL}_n({\mathbb Z})$$ for a finite group $$\Pi$$ (such $$\rho$$-invariant forms correspond in a natural way to $$\Pi$$-lattices). The main results concern finiteness of minimal classes containing weakly eutactic points and finiteness of perfect or eutatic nondegenerate points (Theorem 1), criteria for nondegeneracy (Theorem 2), the rank of minimal vectors for perfect points (Theorem 3), finiteness of the number of minimal classes modulo a certain action in the hermitian, symmetric or antisymmetric bilinear case (Theorem 4).
Using the methods developed in this paper, the author shows in Theorem 5 that the invariant of Bergé-Martinet satisfies Voronoï’s theorem (also generalized to the hermitian case). He then interprets the invariant of Hermite-Humbert for Humbert forms over the ring of integers $${\mathcal O}_L$$ in some algebraic number field $$L$$. In this new setting, he obtains Voronoï’s theorem for a certain $$\mu_L$$ which is defined in a way so that the notions of perfection and eutaxy coincide with the classical ones for Humbert forms.
A final application concerns systoles of Riemann surfaces (Theorem 6).

### MSC:

 11H55 Quadratic forms (reduction theory, extreme forms, etc.) 11E12 Quadratic forms over global rings and fields 11H06 Lattices and convex bodies (number-theoretic aspects) 11H50 Minima of forms 14K99 Abelian varieties and schemes 30F45 Conformal metrics (hyperbolic, Poincaré, distance functions) 30F99 Riemann surfaces 53C05 Connections (general theory) 53C99 Global differential geometry

Zbl 1011.53035
Full Text:

### References:

 [1] de (∇ σ(u) (A)) u∈S est inférieur ouégalà r (voir (2.24)). On a donc l’algébri-cité des formes parfaites ou eutactiques non dégénérées (proposition 1.8, 1.9 et lemme 1.11). Les assertions de finitude résultent de 2) car dans chaque classe minimale, il y a finitude des formes parfaites (proposition 1.8 et lemme 1.11) et unicité d’uneéventuelle forme eutactique non dégénérée (proposition 1.6, assertion 2). [2] Note 2.19. -Finitude et algébricité des formes de Humbert parfaites sont etablies dans [19, § 4]. [3] 2.12. Systole des surfaces de Riemann. -Soit Σ g la surface topologique orientable fermée de genre g ≥ 2 et soit C g l’ensemble des classes de conjugaison non triviales de son groupe fondamental Π 1 (Σ g ). L’espace de Teichmüller T g associé est muni des fonctions longueur géodésiques ( γ ) γ∈Cg qui sont analy-tiques. Localement sur T g , il n’y a qu’un nombre fini de γ pouvant prendre une valeur petite (voir [2]). La systole σ(X) de X ∈ T g est par définition la longueur minimale d’une géodésique fermée. C’est une fonction invariante sous l’action du groupe modulaire de Teichmüller Mod g et on a les notions de surface de Riemann parfaite, eutactique, . . . pour σ (définition 1.2). Comme les γ sont strictement convexes pour la métrique de Weil-Petersson (voir [38]), tous les points sont non dégénérés et on a automatiquement un théorème de Voronoï. En outre toute classe minimale contient au plus une surface semi-eutactique, par exemple extrême (proposition 1.6, 1). Une première caractérisation des sur-faces de Riemann extrêmes ainsi que la finitude de ces surfaces modulo Mod g ontétéétablies dans [33] (voir aussi [5, § 2.3]). En fait les surfaces parfaites ou semi-eutactiques sont déjà en nombre fini (théorème 6, 2). [4] La forme d’intersection sur H 1 (Σ g , Z) nous permet de définir une notion d’isotropie : X ∈ T g sera dite isotrope si ses systoles (géodésiques fermées de longueur minimale) engendrent un sous-espace totalement isotrope pour l’inter-section, i.e. sont disjointes deuxà deux (rappelons que deux systoles ont au plus un point commun). Par le lemme du collier (voir [15]), la systole d’une surface non isotrope admet la minoration sinh( 1 2 σ(X)) ≥ 1. On en déduit par compa-cité (voir la preuve du théorème 6, 2) que l’ensemble des classes minimales non isotropes est fini modulo Mod g . [5] Théorème 6 (finitude et « algébricité » des surfaces parfaites ou eutactiques) [6] Toute surface de Riemann faiblement eutactique est non isotrope. [7] Modulo l’action de Mod g , il n’existe dans T g qu’un nombre fini de surfaces de Riemann parfaites ou semi-eutactiques pour la systole. [8] Si X ∈ T g est parfaite ou eutactique, alors les longueurs des géodésiques fermées de X (et en particulier sa systole) sont des logarithmes de nombres algébriques sur Q. [9] Il est montré dans [2] que la systole est une fonction de Morse topologique sur T g dont les points critiques sont les surfaces eutactiques, ce qui permet aussi d’établir la finitude de ces surfaces (voir [2, § 6.3]). [10] On ne connaît qu’un petit nombre de surfaces de Riemann fermées par-faites (voir [16, 21, 33, 34, 35]). En revanche, il est plus facile de trouver des surfaces eutactiques. Par exemple toute surface « triangulaire » (i.e. dont le groupe d’automorphismes est le quotient d’un groupe triangulaire de réflexions hyperboliques) est eutactique comme point fixe isolé d’un sous-groupe de Mod g (corollaire 1.3). D’autres surfaces eutactiques sont données dans [17]. [11] Akrout (H.) -Théorème de Voronoï dans les espaces symétriques, Ca-nad. J. Math., t. 54 (2002), no. 3, pp. 449-467. · Zbl 1086.11034 [12] , Singularités topologiques des systoles généralisées, Topology, t. 42 (2003), pp. 291-308. · Zbl 1054.32006 [13] Baeza (R.) & Icaza (M.I.) -On Humbert-Minkowski’s constant for a number field, Proc. Amer. Math. Soc., t. 125 (1997), no. 11, pp. 3195-3202. · Zbl 0896.11014 [14] Bavard (C.) -Invariant d’Hermite isotrope et densité des réseaux ortho-gonaux lorentziens, juin 2003. [15] , Systole et invariant d’Hermite, J. reine angew. Math., t. 482 (1997), pp. 93-120. · Zbl 1011.53035 [16] , Familles hyperboliques de réseaux symplectiques, Math. Ann., t. 320 (2001), pp. 799-833. · Zbl 1008.11027 [17] Bergé (A.-M.) -Minimal vectors of pairs of dual lattices, J. Number Theory, t. 52 (1995), no. 2, pp. 284-298. · Zbl 0829.11036 [18] Bergé (A.-M.) & Martinet (J.) -Sur un problème de dualité lié aux sphères en géométrie des nombres, J. Number Theory, t. 32 (1989), no. 1, pp. 14-42. · Zbl 0677.10022 [19] , Réseaux extrêmes pour un groupe d’automorphismes, in Journées Arithmétiques (Luminy, 1989), Astérisque, vol. 198-200, Société Mathé-matique de France, 1991, pp. 41-66. · Zbl 0753.11026 [20] , Densité dans des familles de réseaux. Application aux réseaux isoduaux, Enseign. Math., t. 41 (1995), no. 3-4, pp. 335-365. · Zbl 0848.52006 [21] , Sur la classification des réseaux eutactiques, J. London Math. Soc., t. 53 (1996), no. 3, pp. 417-432. · Zbl 0854.11035 [22] Bergé (A.-M.), Martinet (J.) & Sigrist (F.) -Une généralisation de l’algorithme de Voronoï pour les formes quadratiques, in Journées Arith-métiques (Geneva, 1991), Astérisque, vol. 209, Société Mathématique de France, 1992, pp. 12, 137-158. · Zbl 0812.11037 [23] Bourbaki (N.) -Éléments de mathématique. Livre II : Algèbre. Cha-pitre 8 : Modules et anneaux semi-simples, Actualités Scientifiques et In-dustrielles, vol. 1261, Hermann, 1958. · Zbl 0102.27203 [24] Buser (P.) -The collar theorem and examples, Manuscripta Math., t. 25 (1978), no. 4, pp. 349-357. · Zbl 0402.53028 [25] Casamayou (A.) -Surfaces de Riemann parfaites en genre 4 et 6, Com-ment. Math. Helv.,à paraître. · Zbl 1078.30039 [26] , Surfaces de Riemann parfaites en petit genre, Thèse, Université Bordeaux I, juillet 2000. [27] Coulangeon (R.) -Réseaux k-extrêmes, Proc. London Math. Soc., t. 73 (1996), no. 3, pp. 555-574. · Zbl 0861.11040 [28] , Voronoï theory over algebraic number fields, Monogr. Enseign. Math., t. 37 (2001), pp. 147-162. · Zbl 1139.11321 [29] Eberlein (P.) -Structure of manifolds of nonpositive curvature, in Global differential geometry and global analysis 1984 (Berlin, 1984), Lect. Notes in Math., vol. 1156, Springer, 1985, pp. 86-153. · Zbl 0569.53020 [30] Hamenstädt (U.) -New examples of maximal surfaces, Enseign. Math., t. 47 (2001), no. 1-2, pp. 65-101. · Zbl 1062.30046 [31] Helgason (S.) -Differential geometry, Lie groups, and symmetric spaces, Academic Press, New York, 1978. · Zbl 0451.53038 [32] Helling (H.) -Diskrete Untergruppen von SL 2 (R), Invent. Math., t. 17 (1972), pp. 217-229. · Zbl 0239.22015 [33] Horowitz (R.D.) -Characters of free groups represented in the two-dimensional special linear group, Comm. Pure Appl. Math., t. 25 (1972), pp. 635-649. · Zbl 1184.20009 [34] Icaza (M.I.) -Hermite constant and extreme forms for algebraic number fields, J. London Math. Soc., t. 55 (1997), no. 1, pp. 11-22. · Zbl 0874.11047 [35] Jaquet-Chiffelle (D.-O.) -Trois théorèmes de finitude pour les G-formes, J. Théor. Nombres Bordeaux, t. 7 (1995), no. 1, pp. 165-176. · Zbl 0843.11032 [36] Korkine (A.) & Zolotareff (G.) -Sur les formes quadratiques posi-tives, Math. Ann., t. 11 (1877), pp. 242-292. · JFM 09.0139.01 [37] Martinet (J.) -Les réseaux parfaits des espaces euclidiens, Masson, Pa-ris, 1996. · Zbl 0869.11056 [38] Milnor (J.) & Husemoller (D.) -Symmetric bilinear forms, Ergeb-nisse der Mathematik und ihrer Grenzgebiete, vol. 73, Springer-Verlag, New York, 1973. · Zbl 0292.10016 [39] Mumford (D.) -A remark on Mahler’s compactness theorem, Proc. Amer. Math. Soc., t. 28 (1971), no. 1, pp. 289-294. · Zbl 0215.23202 [40] Raghunathan (M.S.) -Discrete subgroups of Lie groups, Ergebnisse der Mathematik und ihrer Grenzgebiete, vol. 68, Springer-Verlag, New York, 1972. · Zbl 0254.22005 [41] Rankin (R.A.) -On positive definite quadratic forms, J. London Math. Soc., t. 28 (1953), pp. 309-314. · Zbl 0050.27401 [42] Schmutz (P.) -Riemann surfaces with shortest geodesic of maximal length, Geom. Funct. Anal., t. 3 (1993), no. 6, pp. 564-631. · Zbl 0810.53034 [43] , Systoles on Riemann surfaces, Manuscripta Math., t. 85 (1994), no. 3-4, pp. 429-447. · Zbl 0819.30027 [44] Schmutz Schaller (P.) -Perfect non-extremal Riemann surfaces, Ca-nad. Math. Bull., t. 43 (2000), no. 1, pp. 115-125. · Zbl 1041.11027 [45] Seppälä (M.) & Sorvali (T.) -Affine coordinates for Teichmüller spaces, Math. Ann., t. 284 (1989), no. 1, pp. 165-176. · Zbl 0649.32018 [46] Voronoï (G.) -Nouvelles applications des paramètres continusà la théo-rie des formes quadratiques, premier mémoire. Sur quelques propriétés des formes quadratiques positives parfaites, J. reine angew. Math., t. 133 (1908), pp. 97-178. · JFM 38.0261.01 [47] Wolpert (S.A.) -Geodesic length functions and the Nielsen problem, J. Differential Geom., t. 25 (1987), no. 2, pp. 275-296. · Zbl 0616.53039
This reference list is based on information provided by the publisher or from digital mathematics libraries. Its items are heuristically matched to zbMATH identifiers and may contain data conversion errors. In some cases that data have been complemented/enhanced by data from zbMATH Open. This attempts to reflect the references listed in the original paper as accurately as possible without claiming completeness or a perfect matching.