Theorie des fonctions holomorphes de plusieurs variables

Théorie des fonctions holomorphes de plusieurs variables

CHEZ LE MÊME ÉDITEUR

Dans la même collection

Opérateurs pseudo-différentiels et théorème de Nash-Moser, par G. Alinhac. 1991, 192 pages. Géométrie algébrique, par D. Perrin. 1995,316 pages. Groupes quantiques. Introduction au point de vue formel, par A. Guichardet. 1995, 164 pages. Photons et atomes. Introduction à l'électrodynamique quantique, par C. Cohen-Tannoudji, J. Dupont-Roc, G. Grynberg. 1987,422 pages. Processus d'interactions entre photons et atomes, par C. Cohen-Tannoudji, J. DupontRoc, G. Grynberg. nouveau tirage, 1988,648 pages. Hydrodynamique physique, par E. Guyon, J. P. Hulin, L. Petit. 1991,520 pages. Éléments de chimie quantique à l'usage des chimistes, par J. L. Rivail. 1994, 2e édition, 456 pages. Astrophysique 528 pages.

:

méthodes physiques de l'observation, par P. Léna. 1996, 2e édition,

Théorie des fonctions holomorphes de plusieurs variables

Christine Laurent-Thiébaut Professeur à l'université Joseph Fourier (Grenoble 1)

S A V O I R S

A C T U E L S

InterÉditions / CNRS Éditions

f DANGER I

Ce logo a pour objet d'alerter le lecteur sur la menace que représente pour l'avenir de l'écrit, tout particulièrement dans le domaine universitaire, le développement massif d u photocopillage >). Cette pratique qui s'est généralisée, notamment dans les établissements d'enseignement, provoque une baisse brutale des achats de livres, au point que la possibilité même pour les auteurs de créer des œuvres nouvelles et de les faire éditer correctement est aujourd'hui menacée. Nous rappelons donc que la reproduction et la vente sans autorisation, ainsi que le recel, sont passibles de poursuites. Les demandes d'autorisation de photocopier doivent être adressées à l'éditeur ou au Centre français d'exploitation du droit de copie : 20, rue des Grands-Augustins,75006 Paris. Tél. : O1 44 07 47 70. (t

PHOTOCOPILLAGE . TUELELIVRE

O 1997, InterÉditions, 5, rue Laromiguière, 75241 Paris Cedex 05

et CNRS Éditions, 20/22, rue Saint-Armand, 75015 Paris. Tous droits d e traduction, d'adaptation et d e reproduction par tous procédés, réservés pour tous pays. Toute reproduction ou représentation intégrale ou partielle, par quelque procédé que ce soit des pages publiées dans le présent ouvrage, faite sans l'autorisation de l'éditeur, est illicite et constitue u n e contrefaçon. Seules sont autorisées, d ' u n e part, les reproductions strictement réservées à l'usage privé d u copiste et non destinées à une utilisation collective, et d'autre part, les courtes citations justifiées par le caractère scientifique ou d'information de l'œuvre dans laquelle elles sont incorporées (art. L. 122-4. L. 122-5 et L. 335-2 du Code d e la propriété intellectuelle). Des photocopies payantes peuvent être réalisées avec l'accord de l'éditeur. S'adresser au : Centre français d'exploitation d u droit d e copie, 3, rue Hautefeuille, 75006 Paris. Tél. : O 1 43 26 95 35.

ISBN : 2-7296-0660-2 ISSN : 2-271-05501-6

Table des matières

......................... Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . Avant-propos

I

xi

Propriétés élémentaires locales des fonctions holomorphes de plusieurs variables complexes . . . . . . . . . . . . . 1 Notations et définitions . . . . . . . . . Formule de Cauchy dans les polydisques . . 3 Théorème de l'application ouverte . . . . 4 Suites de fonctions holomorphes . . . . . 5 Applications holomorphes . . . . . . . 6 Quelques théorèmes d'extension holomorphe 2

II

ix

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . 1 . . . 4 . . . 8 . . 10 . . . . . . . . . 11 . . . . . . . . . 13

Courants. structures complexes . . . . . . . . . . . . . . 1 2

3 4

5

6 7

8

Courants . . . . . . . . . . . . . . . . . Régularisation . . . . . . . . . . . . . . . Indice de Kronecker . . . . . . . . . . . . Variétés analytiques complexes . . . . . . . . Structures complexes . . . . . . . . . . . . Formes différentielles de type ( p .q ) . . . . . . Opérateur cohomologie de Dolbeault . . . . Espace tangent complexe au bord d u n domaine .

a.

1

21

. . . . . .

21

. . . . . .

28 38 43 46 47 49

. . . . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

51

III Noyau et formule de Bochner-Martinelli . Applications . . . 55 1 NoyauetformuledeBochner-Martinelli-Koppelman . Résolubilité du 8 pour une donnée à support compact . 3 Régularité du 8 . . . . . . . . . . . . . . . . . 4 Phénomène de Hartogs . . . . . . . . . . . . . 2

. . . . . . . . . .

. . . . . . . . .

55

61 66 69

Table des matières

vi

IV Transformée de Bochner-Martinelli et extension de fonctions CR . . . . . . . . . . . . . . . . . . . . . 73 1 Transformée de Bochner-Martineili . . . . . . . . . . . . . 73 2 Fonctions C R sur une hypersurface réelle . . . . . . . . . . 77 3 Théorème de Bochner . . . . . . . . . . . . . . . . . . 79 4

Formule de Stokes pour les fonctions C R . . . . . . . . . . .

83

5 Primitives du noyau de Bochner-Martinelli . . . . . . . . . . 85 6 Un théorème d'extension de fonctions CR . . . . . . . . . . 87

V

Extension de fonctions holomorphes et de fonctions CR dans les variétés . . . . . . . . . . . . . . . . . . . . .

91

1 Cohomologie à support compact et phénomène de Hartogs . . . 91 Extension de fonctions C R de classe C" . . . . . . . . . . . 94 3 FormuledeCauchy-Fantappié-LemmedeDolbeault . . . . . . 96 4 Isomorphisme de Dolbeault . . . . . . . . . . . . . . . . 101 5 Théorème de Bochner et extension de fonctions C R dans les variétés . . . . . . . . . . . . . . . . . . . . . 105 2

VI Domainesd'holomorphieetpseudoconvexité

. . . . . . . 109

1 Domainesdholomorphieetconvexitéholomorphe . . . . . . . 109 2 Fonctions plurisousharmoniques . . . . . . . . . . . . . . 117 3 Pseudoconvexité . . . . . . . . . . . . . . . . . . . . 129

a

VI1 Problème de Levi et résolution du dans les domaines strictement pseudoconvexes . . . . . . . . . . . . . . . 143 1 Résolution du d avec estimations holdériennes dans les ouverts strictement convexes . . . . . . . . . . . . . . . . . . . 2 Approximation uniforme locale des formes d-fermées dans les domaines strictement pseudoconvexes . . . . . . . . . . . 3 Finitude de la cohomologie de Dolbeault dans les domaines strictement pseudoconvexes . . . . . . . . . . . . . . . . 4 Invariance de la cohomologie de Dolbeault par les extensions strictement pseudoconvexes . . . . . . . . . . . . . . . . 5 Théorème d'annulation pour la cohomologie de Dolbeault dans les domaines strictement pseudoconvexes . . . . . . . . . . . 6 Formule intégrale pour résoudre le avec estimation holdérienne

a

144 153 155 157 161

danslesdomainesstrictementpseudoconvexes . . . . . . . . 163 7 Problème de Levi dans cc" . . . . . . . . . . . . . . . . . 170 8 Problème de Levi dans les variétés analytiques complexes

. . . .

174

Table des matières

vii

VI11 Caractérisation des singularités illusoires pour les fonctions CR sur un bord strictement pseudoconvexe . . . . . . . . 189 Réduction au cas des fonctions continues . . . . . 2 Cas de la dimension 2 . . . . . . . . . . . . 3 Caractérisationcohomologiqueendimensionn 2 2 4 Caractérisationdessingularitésillusoiresfaibles . . 1

Annexe A

. . . . . . 189 . . . . . . 190 . . . . . . 192 . . . . . . 194

..........................

203

1 Variétés différentiables . . . . . . . . . . . . . . . . . . 203 2 Partitions de l’unité . . . . . . . . . . . . . . . . . . . 205 3 Espace cotangent en un point - Formes différentielles de degré 1 . 207 4 Espacetangentenunpoint-Champsdevecteurs . . . . . . . 208 5 Algèbre des formes différentielles . . . . . . . . . . . . . . 211 6 Intégration des formes différentielles . . . . . . . . . . . . 216 7 Formule de Stokes . . . . . . . . . . . . . . . . . . . . 220

.......................... Annexe C . . . . . . . . . . . . . . . . . . . . . . . . . . Bibliographie . . . . . . . . . . . . . . . . . . . . . . . . Index des notations . . . . . . . . . . . . . . . . . . . . . Index terminologique . . . . . . . . . . . . . . . . . . . . Annexe B

223 231 235 239 243

Avant-propos

L‘origine de cet ouvrage est un cours fondamental de 3e cycle donné à l’Institut Fourier en 1994-95. Son objet est d’initier à la théorie des fonctions holomorphes de plusieurs variables complexes dans C” et dans les variétés analytiques complexes. I1 s’adresse en priorité à des étudiants en DEA ou débutant une thèse. I1 suppose connus les fondements de la théorie des fonctions holomorphes d’une variable complexe. Par contre, les bases de géométrie différentielle et de théorie des courants nécessaires à l’étude de l’analyse pluricomplexe sont rappelées dans l’annexeA et le chapitre II de ce volume. Nous utilisons la méthode des représentations intégrales couplée avec la technique des bosses de Grauert. Ce point de vue a l’avantage de proposer un prolongement naturel en plusieurs variables des techniques d’une variable complexe et de conduire rapidement à d‘importants résultats globaux tout en évitant l’introduction de trop nombreux outils nouveaux. Ayant acquis ces méthodes, présentées ici dans le cadre de la pseudoconvexité, le lecteur pourra aborder sans trop de difficultés la théorie d’Andreotti-Grauert, tant dans les variétés analytiques complexes que dans les variétés C R (cf. [He/Le2] et [L-T/Lel). Pour les applications, l’accent est mis sur les problèmes globaux d’extension de fonctions C R : phénomène de Hartogs-Bochner, étude des singularités illusoires pour les fonctions

CR. La plupart des thèmes traités étant classiques, puisqu’ils font partie des fondements de l’Analyse Complexe, il est difficile d‘être original. Ce travail s’est donc largement inspiré d’ouvragesexistants. Les sources utilisées ainsi que quelques repères historiques sont précisés à la fin de chaque chapitre. La bibliographie ne se propose pas d‘être exhaustive, c’est pourquoi de nombreux travaux fondamentaux en relation avec le sujet traité n’y sont pas inclus. Le lecteur intéressé par des notes historiques précises et une bibliographie beaucoup plus complète pourra consulter les notes de fin de chapitre et la bibliographie du livre de R.M. Range [Ra]. Une partie de ce livre (les paragraphes 5 et 6 du chapitre IV, le paragraphe 5 du chapitre Vet le chapitre VIII) doit beaucoup aux travaux de Guido Lupacciolu, disparu prématurément en décembre 1996.

X

Avant-propos

Pour finir je voudrais remercier tous ceux qui m’ont aidée dans la rédaction de ce livre et plus particulièrement Alain Dufresnoy et Jürgen Leiterer. C’est grâce à leurs remarques, tant sur la forme que sur le fond, que ce livre a pu atteindre sa forme finale. Un grand merci égaiement à Myriam Charles pour la saisie d’un texte particulièrement riche en formules mathématiques et à Arlette Guttin-Lombard pour ses conseils Tg-niques.

Introduction

Au début du siècle E Hartogs a mis en évidence les propriétes particulières d‘extension des fonctions hoiomorphes de plusieurs variables complexes en exhibant un domaine de C2 qui n’est pas le domaine d‘existence d u n e fonction holomorphe (de tels ouverts n’existent pas dans C). La compréhension de ce phénomène est alors devenue un des principaux problèmes d‘analyse pluricomplexe. I1 fallait trouver de bonnes caractérisations des domaines d’existence des fonctions holomorphes, appelés domaines dholomorphie. Les premiers travaux sur ce sujet, dus à E Hartogs [Har] en 1906 et E.E. Levi [Lev] en 1910, montrent que les domaines d’holomorphie satisfont certaines propriétés de convexité, que nous appellerons génériquement pseudoconvexité. L‘équivalence entre les différentes notions de pseudoconvexité, qui sont apparues au ! I du temps, a été prouvée par K. Oka [Okl dans les années 40. Les outils adaptés à l’étude de la pseudoconvexité sont les fonctions plurisousharmoniques introduites indépendamment par i? Lelong [Lell] et K. Oka [Ok]. Dans les années 30, H. Cartan et P. Thuilen [Ca/Th] ont trouvé une caractérisation intrinsèque globale des domaines dholomorphie en termes de convexité par rapport à l’algèbre des fonctions holomorphes sur le domaine. Cette “convexité holomorphe” est un des concepts fondamentaux de l’Analyse Complexe. La caractérisation des domaines dholomorphie en termes de pseudoconvexité, encore appelée solution du problème de Levi, a été donnée indépendamment par K. Oka [Ok],H. Bremmermann [Brl] et E Norguet [No] au début des années 50 pour les domaines de Cn et par H. Grauert [Gr] en 1958 pour les variétés analytiques complexes. Elle a nécessité la mise en œuvre de la théorie des faisceaux analytiques cohérents, qui s’est avérée être un outil puissant pour l’étude des espaces analytiques. La solution du problème de Levi, que nous présentons ici, suit les idées de Grauert mais s’appuie sur la théorie des représentations integrales pour résoudre les problèmes techniques. La théorie des représentations intégrales en Analyse Complexe trouve son origine dans les travauxde H. Grauert, G.M. Henkin, I. Lieb et E. Ramirez [GrlLi,He1,2, Ram] au début des années 70. Depuis, cette théorie n’a cessé de se développer. Elle a permis de résoudre des problèmes inaccessibles par les méthodes antérieures et de retrouver, en les précisant, les principaux résultats de la théorie des fonctions

xii

Introduction

holomorphes de plusieurs variables obtenus par d‘autres méthodes. I1 s’agit principalement de construire de bons opérateurs intégraux pour résoudre l’équation de Cauchy-Riemann. La résolution de cette équation est au cœur de la plupart des problèmes d’Analyse Complexe. Dans le cas de la résolution du problème de Levi, elle est à la base de la construction de la fonction holomorphe qui ne se prolonge pas. Le résultat de Hartogs pose également le problème de l’extension des fonctions holomorphes définies au voisinage de tout le bord ou d’une partie du bord d’un domaine et plus généralement des fonctions C R (c’est-à-diredes traces de fonctions holomorphes) définies sur tout ou partie du bord d’un domaine d’une variété analytique complexe. Une démonstration rigoureuse du résultat de Hartogs a été donnée indépendamment par S. Bochner [Bo]et E. Martinelli [Ma21vers 1940 à l’aide d‘une formule intégrale, appelée aujourd’hui “formule de Bochner-Martinelli”. Depuis cette époque, cette formule joue un rôle fondamental dans l’étude de l’extension des fonctions C R dans Cn , mais ne permet malheureusement pas de résoudre les problèmes globaux d‘extension dans les variétés analytiques complexes. Le lien entre le phénomène d‘extension de Hartogs-Bochner et la résolution de l’équation de Cauchy-Riemann avec condition de support a été remarqué par L. Ehrenpreis [Eh]en 1961. C’est un point clé de l’étude de l’extension des fonctions C R dans les variétés. Au milieu des années 80, G. Lupacciolu et G. Tomassini [Lu/To]ont étudié dans un cas particulier le problème de l’extension d’une fonction C R définie sur une partie du bord d u n domaine. De nombreux mathématiciens ont contribué à la résolution de ce problème d’extension au cours des dix dernières années. Les résultats que nous présentons ici sont principalement dus à G. Lupacciolu [Lu1,2]. Ces problèmes d‘extension globale sont bien sûr liés à la rcchcrche d’enveloppe d’holomorphie, mais également à un problème plus géométrique. I1 s’agit de la construction de chaînes holomorphes de bord donné. En effet si on considère le phénomène de Hartogs en termes de graphe, le graphe de l’extension holomorphe est une chaîne holomorphe dont le bord est la variété C R maximalement complexe définie par le graphe de la fonction C R donnée initialement. Le livre est organisé comme suit : Le chapitre I développe les propriétés élémentaires locales des fonctions holomorphes de plusieurs variables complexes qui se déduisent de la théorie des fonctions holomorphes d u n e variable. Dans une première partie, le chapitre II introduit les courants. La notion d‘indice de Kronecker de deux courants permet d’obtenir une formule de Stokes dans un cadre assez général. La seconde partie est consacrée aux variétés analytiques complexes et à la définition des différentes notions liées aux structures complexes : formes différentielles de type ( p , q ) , opérateur et cohomologie de Dolbeault.

a

Dans le chapitre III, nous démontrons la première formule de représentation intégrale : la formule de Bochner-Martinelli-Koppelman. La démonstration donnée

Introduction

...

XII1

ici s’appuie sur la formule de Stokes pour l’indice de Kronecker. À l’aide de la formule de Bochner-Martineili-Koppelman nous commençons l’étude de l’équation de Cauchy-Riemann. Le chapitre IV étudie le problème de l’extension des fonctions C R définies sur le bord d u n domaine borné de C”. Le théorème d’extension de Bochner est démontré et un cas particulier d’extension lorsque la fonction n’est définie que sur une partie du bord du domaine est également considéré. Le chapitre V traite du problème de l’extension des fonctions CR définies sur tout ou sur une partie du bord d’un domaine relativement compact d u n e variété analytique complexe. Nous étudions la relation entre ces phénomènes d’extension et l’annulation de certains groupes de cohomologie de Dolbeault. Dans le chapitre Vi nous définissons les notions de domaine dholomorphie, convexité holomorphe et pseudoconvexité pour les ouverts de Cn. Nous prouvons l’équivalence entre domaine dholomorphie et domaine holomorphiquement convexe et nous montrons que tout domaine dholomorphie est pseudoconvexe. La réciproque, appelée problème de Levi, est étudiée au chapitre ViI. Le chapitre VI1 est consacré à la résolution du problème de Levi. La méthode s’appuie sur la résolution locale du avec estimations holdériennes et sur l’étude de l’invariance de la cohomologie de Dolbeault par la technique des bosses de Grauert. L‘originalité de la démonstration donnée ici est l’utilisation d’un résultat dû à Laufer [Lau] qui permet de déduire l’annulation des groupes de cohomologie de Dolbeault des théorèmes de finitudes obtenus par la résolution locale du Le chapitre se termine par la résolution du problème de Levi dans les variétés analytiques complexes et l’énoncé de plusieurs théorèmes d’annulation pour la cohomologie de Dolbeault qui permettent de donner des conditions géométriques suffisantes pour les phénomènes d’extension de fonctions C R étudiés dans le chapitre V.

a

a.

Le chapitre VI11 donne des conditions nécessaires et suffisantes pour l’extension des fonctions CR définies sur une partie du bord d u n domaine strictement pseudoconvexe. Pour faciliter le travail du lecteur notons les faits suivants : - Le chapitre III, les paragraphes 3 et 4 du chapitre Vet les chapitres VI et VI1 élaborent l’ensemble de la théorie qui permet la résolution du problème de Levi, c’està-dire l’identité entre domaine dholomorphie et ouvert pseudoconvexe dans C” et l’identité entre variété de Stein et variété possédant une fonction dexhaustion strictement plurisousharmonique dans le cas des variétés. - Le chapitre IV, les paragraphes 1, 2 et 5 du chapitre V, le paragraphe 8.3 du chapitre Vi1 et le chapitre VI11 sont consacrés à l’étude des phénomènes globaux d’extension des fonctions CR.

Chapitre I

Propriétés élémentaires locales des fonctions holomorphes de plusieurs variables complexes

Ce chapitre est consacré à l'étude des propriétés locales des fonctions holomorphes de plusieurs variables complexes qui se déduisent directement de la théorie classique des fonctions holomorphes d'une variable complexe. L'élément de base de cette étude est une formule de Cauchy dans les polydisques qui généralise la formule de Cauchy classique. La plupart des théorèmes prouvés dans ce chapitre étendent au cas de plusieurs variables des résultats bien connus pour les fonctions holomorphes en dimension un (Théorème de l'application ouverte, Principe du maximum, Théorème de Montel, Théorème d'inversion locale). Néanmoins, dans le cadre de l'étude de quelques problèmes d'extension holomorphe apparaît un phénomène spécifique à la dimension n, n 2 2, c'est le phénomène de Hartogs dont un cas particulier est exposé à la fin de ce chapitre. Ce phénomène sera étudié en détail dans le chapitre III.

1. NOTATIONS ET DÉFINITIONS

On note N l'ensemble des entiers naturels, IR le corps des nombres réels et C le corps des nombres complexes. Si n E N est un entier strictement positif, l'ensemble Cn est muni de la structure d'espace vectoriel habituelle et si z = (z1, . . . ,z,) E cc",la norme de z est Iz( = (1.~11~ -+ . . . + On définit un isomorphisme de R-espace vectoriel entre Cn et R2" en posant, pour z = ( ~ 1 , .. . , z,,) E Cn, zj = xj iyj s i j = 1,.. . ,n.

+

I. Propriétés élémentaires locales

2

Les opérateurs de dérivation holomorphe et antiholomorphe sont définis par

Si a = ( a l , .. . ,an)E PP et ,8 = (pl,. . . ,&) E si 2 = ( 5 1 , . . . ,xn)est un point de R",on pose

lV sont des multi-indices et

JaJ = a ~ + ' ~ ~ + a n , ( Y " ~ ! " . a , ! , x= a x "1l . . ' x : " ,

On écrira D" à la place de Dao et Dp à la place de 0'0 lorsqu'il n'y aura pas de risque de confusion. Si D est un ouvert de R",l'espace vectoriel des fonctions continues sur D à valeurs complexes est noté c'(O) ouC(D),celui des fonctions k fois continûment différentiables (IC E N,k > O) est noté Ck(D).La réunion des espaces Ck(D), IC E N,est l'espace C"(D) des fonctions indéfiniment différentiables sur D. On vérifie aisément que f E c ' C ( D ) si et seulement si ~ a p Ef C ( D )pour tout couple (a,/?)E lV x i V tel que I C I ] 101 5 k. Si k E N,l'espace vectoriel des fonctions f contenues dans C k ( D )et dont les dérivées Da f ,lal O} ü {x E D I f (x)< O}. Théorème 6.4. Théorème de Riemann. Soient D un ouvert de Cn et A un ensemble analytique distinct de D . Soit f une fonction holomorphe sur D \ A. Supposons que tout pointa E A possède un voisinage U dans D tel que f (U\A soit bornée. Alors il existe une unique fonction F sur D tellequeFID\A = f .

Démonstration. L'unicité est une conséquence immédiate du principe du prolongement analytique. Etudions tout d'abord le cas n = 1. I1 suffit de prouver que si f est bornée et holomorphe dans le disque pointé { z E C I O < IzI < R } , alors f se prolonge holomorphiquement au disque { z E @. I 1x1 < R } , car en dimension 1 les ensembles analytiques sont discrets. Considérons le développement de Laurent de f sur le disque pointé { z E C I O < (21 < R }

< O, aw -+ O quand T + O car f est borné et puisque a, est indépendant d e r , a,z". a , = O. On a donc le résultat en posant F ( z ) = Si v

,>O

Passons au cas général. Pour a E A, soit V un voisinage connexe de a tel que f IV\ A soit borné et sur lequel il existe des fonctions holomorphes f i , . . . ,f p telles que A n V = { z E V I fi(.) = . . . = f p ( z ) = O}. On peut supposer que h = f i $ O et après un éventuel changement de coordonnées affine de Cn que a = O et h(0, . . . ,O,z,) $ O dans un voisinage de z, = O. I1 existe alors 6 > O tel

16

I. Propriétés élémentaires locales

que h ( 0 , . . . ,O,z,) # O pour O < Iznl I 6. Posons z' = ( ~ 1 , .. . ,zn-l). Soit E tel que h(z',z,) # O si lz'l 5 E et Iz, I = 6. On considère la fonction

>0

Remarquons que pour Iz'I I E et It1 = 6, le point (z',t) E V \ A et que g est holomorphe pour Iz'( < E et Iz, I < 6. De plus pour z' fixé avec Iz'I < E , la fonction t +-+ f ( z ' , t ) possède une extension holomorphe au disque { t E C I It1 < 6). En effet, puisque h(z',z,) # O si Iz,I = 6, la fonction z, H h(z',z,) n'a qu'un nombre fini de zéros sur { z , E C I Iz,I < S} et f étant bornée au voisinage de ces zéros, il suffit d'appliquer le cas n = 1.Grâce à la formule de Cauchy en une variableonag(z) = f ( z ) s i z E V\A,lz'l < E, I z , I < 6.Lafonctionfadmetdonc une extension holomorphe au voisinage de chaque point de A et grâce à l'unicité le O théorème est démontré.

B. Théorème de Rad0 Théorème 6.5.Théorème de Rado. Soit f une fonction continue sur un ouvert D de C" . Si f est holomorphe sur { z E D I f ( z ) # O } alors f est holomorphe sur D. Démonstration. La fonction f étant continue, il suffit, d'après le Corollaire 2.8, de prouver que f est séparément holomorphe. De plus la notion d'holomorphie étant locale, il suffit de montrer le théorème pour une fonction d u n e variable sur le disque unité A de @.

a

Supposons que f est une fonction continue sur et que f est holomorphe sur U = { z E A I f ( z ) # O}. Nous allons prouver que U est dense dans A et que f est de classe C" dans A, ce qui nous donne aisément le résultat cherché. En effet, est alors une fonction continue sur A qui est nulle sur une partie dense de A (l'ouvert U ) et donc identiquement nulle sur A, ce qui signifie que f est holomorphe dans A tout entier. Lemme 6.6. Si g est une fonction continue sur Ü et holomorphe sur U , pour tout z E uj 19(z)I I SupCEaanau b(C) I. Démonstration. Considérons pour n E M*,fixé, la fonction g n ( z ) f ( z ) . C'est une fonction holomorphe sur U ,donc d'après le principe du maximum

pour tout z E U , car f s'annule sur A n dU. En prenant la racine nièmedes deux membres de la dernière inégalité et en faisant tendre n vers l'infini on obtient le O résultat.

6. Quelques théorèmes d'extension holomorphe

17

Lemme 6.7. L'ouvert U est dense dans A. Démonstration. Raisonnons par l'absurde. Supposons que U n'est pas dense dans A. I1 existe dors a E A n ûU et une suite ( a u ) v Ede~ points de A \ qui converge vers a. Considérons la suite de fonctions ( & ) v E ~ . Ces fonctions sont holomorphes sur U et continues dans Ü.De plus, grâce au Lemme 6.6, si z E U et si v est assez grand

u

1

'

1 2 < CEaAnau IC - avl - d ( a , d A ) sup

Mais comme a E Ü,la suite (=),,!gq1 U , d'où la contradiction.

~

~

ne peut pas être uniformément bornée sur O

Lemme 6.8. Les fonctions Re f et Im f sont harmoniques sur A et par conséquent f est de classec" sur A. Démonstration. D'après le Théorème de Stone-WeierstraR, toute fonction continue f sur d A est limite uniforme sur d A de polynômes trigonométriques : Pn

f

=

Qn =

lim Q n ( 0 ) où

n+m

k=- P n

Pn

Alors Re Q n ( 0 ) =

ak,n

ck,neiks

cos k0

+ bk,,

sin k0 avec ak,n,bk,n E R et si on pose

k=O

Pn

Pn(z)= Re( f

-

(ak,n - ibk,,)zk, on obtient Re(Pn(z)) = ReQn(0) pourz = eis et k=O

P,) converge uniformément vers û sur ûA.

Soit E

> O, fixé,alors il existe IC0 tel que si IC 2 ko lepk-fl 5 eE

et

lef-"k

I -< eE

sur dA. Les fonctions ef-Pk et ePk-f étant continues sur V et holomorphe sur U , on peut leur appliquer le Lemme 6.6 et on obtient pour k 2 ko lePk-fl

u.

5 eE et

lef-PkI

u

< eE

u

Par conséquent 1 Re(Pk - f ) l 5 E sur et puisque est dense dans A, sur I Re(Pk - f )I est majoré par E sur A car f et les P k sont continues sur A. On a donc prouvé que Re f est limite uniforme sur A des fonctions Re Pk qui sont harmoniques. Le Théorème de Harnack implique alors que Re f est harmonique sur A. En remplaçant f par if on montrerait de même que Im f est harmonique sur A. La fonction f est donc harmonique sur A et en particulier de classe

C".

O

I. Propriétés élémentaires locales

18

C. Phénomène de Hartogs

Dans ce paragraphe nous donnons un cas particulier du phénomène de Hartogs dans @" ,n 2 2. Le cas général du phénomène de Hartogs dans un ouvert de @" , n 2 2, sera étudié en détail au chapitre IV Théorème6.9.SoientD unouvertconnexede@", et& = {w E @ I T < lwl < R } , O 5 T < R . Soit f une fonction holomorphe sur D x Q. On suppose qu'il existe un point a E D tel que f se prolonge holomorphiquement à un voisinage de { u } x A, A = { w E @ I /wI < R } .Alors f se prolonge holomorphiquement à D x A . Démonstration. Notons (z,w) les points de D x Q . Remarquons que sil'extension F de f à D x A existe, pour z E D et p E]T,R [

par la formule de Cauchy en une variable. Pour tout p , tel que T

< p < R, considérons la fonction

Elle est continue sur D x { w E @ I 1wI < p } et séparément holomorphe donc holomorphe sur ce domaine d'après le Corollaire 2.8. Puisque f se prolonge holomorphiquement au voisinage de { a } x A, si r K , ( ~ , Y ) 4 X ) ) .

2. Régularisation

31

La fonction z K,(z,y) est une fonction C" à support compact dans X pour chaque y fixé et dépend de y de manière Coo,de plus w est une forme différentielle de classe C" sur X et donc (T,KE(z,y)w(z)) est bien définie et c'est une fonction de classe C" sur X . En utilisant la densité de l'espace vectoriel engendré par les fonctions du type u(z)v(y),u,v E C " ( X ) dans D o ( X x X ) on obtient

etdoncparladéfinitiondeT, onaT,(y) = (T,KE(z1y)w(z)).

O

Nous allons maintenant étudier la convergence de la famille TE)€€^+ pour les topologies faibles et fortes de D ' ( X ) . Soit II, E Dn(X) une forme différentielle de classe C" à support compact de degré n sur X . Puisque par hypothèse w ne s'annule pas sur X , il existe cp E D O ( X )telle que II,= 'pw. On a alors

(T - T E , $ ) = (T - T,,cpw)= (T,(cp- c p € b ) . Pour obtenir la convergence faible de la famille TE)€€^+ vers T quand E tend vers O, il suffit donc d'étudier la convergence de la famille ( ( P ~ ) ~ ~vers W + cp dans D o ( X ) .Pour prouver la convergence forte de la famille TE)€€^+ vers T quand E tend vers O, il suffira de montrer l'équiconvergence de la famille ( q E ) € €vers ~ +cp lorsque 'p décrit un sous-ensemble borné de D o ( X ) . Définition 2.9. On appelle opérateur différentiel (linéaire) à coeficients C", d'ordre fini une application linéaire P : C " ( X ) 4 C " ( X ) telle que, pour toute carte (U,h) de X , il existe un opérateur différentiel P(u,h)à coeficients C" sur l'ouvert h(U ) de R" vérifiant pour toute fonction f E Cm ( X )

( P f )O h-' = P(u,h)(fO h - l ) dansh(U). On notera P*1'adjointformeldeP pour leproduitscalairesurD'(X) défini par (fig) = J, f(Y)g(Y)w(Y).

Dans la suite le terme opérateur différentiel désignera toujours un opérateur différentiel à coefficients C" d'ordre fini.

Remarque 2.10: Soient et f des fonctions de D o ( X )à support dans un même compact de X . La famille ( f E ) E E l i g + converge vers f dans D o ( X )quand E tend vers O si et seulement si pour tout opérateur différentiel P = P(z,D)on a lim SUP IP(z,Dz)f(z)- P(z,Dx)f,(s)I = o.

€+OXEX

Proposition 2. I 1. Soit f E Do( X ) ,on pose

II. Courants, structure complexe

32

1 ) Pour que la famille (f E ) E E R + converge vers f dans D o ( X )quand E tend vers O ; il faut et il suffit que pour tout opérateur différentiel P sur X

2) Pour qu'il y ait équiconvergence de la famille (f E ) € € R +vers f lorsque f décrit un sous-ensemble borné d e D o ( X )il faut et il suffit que

Pour tout opérateur différentiel P sur X

I

SUPZEX Jx ( ( P ( Z 7 OZ)- P*(Y, ~ , ) ) K € ( ZYc),) f ( Y M Y ) l + 0 quand E tend vers O uniformément par rapport à f dans tout borné de Do ( X ).

Démonstration a) Conditions nécessaires: on suppose que ( f E ) E E R + converge vers f dans Do (V) quand E tend vers O ou bien qu'il y a équiconvergence lorsque f décrit un sous-ensemble borné de Do ( X ) .

Grâce à la convergence de (f E ) E E R +vers f dans D o ( X )et à la continuité de P sur D o ( X ) ,on a

Si de plus il y a équiconvergence des (f E ) € € R + vers f lorsque f décrit un sousensemble borné de Do(X),la limite ci-dessus est uniforme par rapport à f sur tout borné de Do ( X ) . Pour conclure il suffit alors de prouver le lemme suivant que l'on appliquera à la fonction P ( x ,DZ) f.

Lemme 2.12. Soit f une fonction continue à support compact dans X . On pose f E ( x ) = Jx K E ( zy) , f (y)w(y), alors ia famille ( f E ) E E R + converge uniformément vers f sur X quand E tend vers O. Si de plus B est une partie équicontinue de C ( X ) formée de fonctions à support dans un même compact et telle que sup{ I l f l l m , f E B} soitfini, on a équiconuergence des familles (f E ) € € R + lorsque f décrit B.

2. Régularisation

33

Démonstration. Par définition de f E nous avons

La fonction f étant continue à support compact, elle est uniformément continue et donc

(va > 0)(3&0> o ) ( v E < EO)((.,

Y) E UE=$ If(.)

- f(Y)l

< a).

Notons que EO est indépendant de f pour f E B, car les éléments de B sont uniformément équicontinus. Donc si E < EO on a r

( sX

~ ) 2w ( ,Y ) ) ,L étant uncompact contenant supp f u n1(7r21(supp f)).Par hypothèse sur K,, mL,Eest borné indépendamment de E et si L' est un compact de X contenant le support de f, il existe €0 > O tel que si où rnL,€= supXEL

E

~

< EO on ait

II

s,

~

(

~ E ( . 7 Y ) w ( Y )- 1ll00,L~< Q.

Observons que si f E 8,les compacts L et L' peuvent être choisi indépendamment de f . On aura par conséquent, pour E < min(e0, €0)

Ilf - fEllm I M Q + IlfllmQ. Ce qui prouve la convergence de ( f E ) E E W + vers f quand convergence sur B car sup{ Ilflloo, f E B } est fini.

E

tend vers O et l'équi-

n

Fin de la démonstration de la Proposition 2.11 b) Condition suffisante :pour obtenir la convergence de la famille (f,)EEllg+ vers f dans D o ( X )quand E tend vers O il suffit de démontrer que, pour tout opérateur différentiel P sur X, on a

II. Courants,structure complexe

34

or d'après le Lemme 2.12 supzEx IP(z,D,) f (x)- (P(y,Dy)f (y))€(x) I tend vers O quand E tend vers O et

tend vers O quand E tend vers O par hypothèse, d'où le résultat. Si (**) est satisfaite on obtient aisément l'équiconvergence sur tout fermé en reprenant les étapes cidessus. O

<

Considérons une carte (U,h)de X et = ( < I , . . . ,&) les coordonnées locales associées. Soit P un opérateur différentiel sur X alors il existe un opérateur P(u,h) sur h ( U )tel que pour tout f E D o ( V )

P(f 1

O

h-l = +, I L)

(f

O

h-

= Ca,(oune famille d'opérateur régularisant de de Rham et T E D'O ( X ) une distribution sur X . 1) RETest une fonction de classeCm sur X . 2) Le support de R,T est contenu dans un voisinage arbitraire du support de T si E est assez petit. 2) RETconvergefaiblement et fortement vers T quand E tend vers O. Le lecteur pourra vérifier que les noyaux K , ,E E R+ , associés aux opérateurs R, forment une famille de noyaux régularisant satisfaisant les conditions (*) et (**).

2. Régularisation

37

C. Régularisation des courants

Pour régulariser les courants sur X , il suffit de remplacer les noyaux du paragraphe B par des formes différentielles doubles sur X x X,Cw à support dans un système fondamental d’entourages (U,),>O de la diagonale A de X x X . Soit une telle famille. Si cp E D P ( X )est une forme différentielle de classe C” à support compact dans X et si 7r1 et 7r2 désignent les deux projections X x X + X , on pose Si de plus le support de ‘p est contenu dans un domaine de carte U et si E est choisi assez petit pour que 7rT1( U )nu, soit contenu dans un domaine de carte de X x X ,

alors ,

.

.

IUJ={l,

...,n }

où O(.) est la signature de la permutation ( I J ) ct ( 1 , . . . ,n) et dy la forme différentielle dyl A . . . A dy,.

On peut faire une étude analogue à celle du paragraphe B et l’on obtient Théorème 2.17. Soit ( $ E ) E > ~ une famille de formes différentielles sur X x X de classe c”, à support propre contenu dans un système fondamental de la diagonale A de X x X telle que dans toute carte de X x X on ait

&(GY)

=

~,,I,J(x,y)dxI A~ Y J I U J={ l,...,n}

1n~=0

où lesfonctions K E , l , vérifient j la condition (**‘) de la Proposition 2.13 etsont telles que les fonctions (x C) K,,I,J(x,y)dy) convergent uniformément sur tout compact du domaine de carte où elles sont définies vers la fonction constante égale à 1 quand E tend vers O dans R+. Si T E W ( X )est un courant de degrép sur la variété X , la famille ( T E ) E E des ~ régularisées + de T , définies par (T,,cp) = (T,cp,) pour toute cp E Dn-P(X), où cpE est la régularisée de cp par $, converge vers T pour les topologiesfaibles et fortes de D’P(X) quand E tend uers O dans R+ .

sx

Démonstration. Par définition de la topologie forte de D’P(X),il sufiit de prouver l’équiconvergencede la famille des régularisées de (O vers cp lorsque cp décrit un borné de Dn-p(X). Soit (Vi)iE1 un recouvrement de X par des domaines de cartes de X et (xi)iE1une partition de l’unité subordonnée à ce recouvrement. Si B est un borné de Dn-p(X) et si cp E B,posons cpi = xicp. Puisque les fonctions

II. Courants, structure complexe

38

'p sont toutes à support dans un

même conipact dans X , on peut écrire 'p =

E,'pi i€I

où I' est un sous-ensemble fini de I indépendant de 'p E t?. Par linéarité, on obtient le résultat cherché en appliquant la Proposition 2.1 1 à chacune des 'pi. O Définition 2.18. Si (~+/I',),~R+ est une famille de formes différentielles doubles satisfaisant aux hypothèses du Théorème 2.1 7, on appelle opérateur régularisant, les 'p) = (T,' p E ) pour opérateurs RE de V ' * ( X )dans lui-même définis par (RET, T E V " ( X ) et 'p E P ( X ) où les 'pE sont les régularisées de 'p obtenues à l'aide

des noyaux

3. INDICE DE KRONECKER DE DEUX COURANTS

On désigne par X une variété différentiable de classe C"

et de dimension n.

Définition 3.1. Si T et S sont deux courants sur X tels que d"T

+

d"S=n, nous dirons que l'indice de Kronecker de T et s,K ( T , est défini au sens de de Rham si quelles que soient les familles d'opérateurs régularisants ( R E ) E > et~(R:,).,>o qui commutent avec l'opérateurd, la quantité (RETA R:,S, 1 ) possède une limite indépendante des familles d'opérateurs choisies, lorsque E etEl tendent vers O, on note K(T,S ) cette limite.

s)

Si X = L-2 si n 2 3, E = & log

T

l o ù r = (xf+...+x~)1/2etsnl'airedelasphèreunité

Pour tout courant S à support compact dans R", on pose GS = -E * S , puis K S = 6GS. Si S , considéré comme forme différentielle à coefficients distributions, a pour expression S = ' SIdxI le produit de convolution GS = E * S I

' E * SIdxI d'où l'expression de K S

s'écrit GS = I

L'opérateur K : €'(IRn) -+ D'(Etn) ainsi défini a les propriétés suivantes : a) S = dKS KdS, car S = -AGS = d6GS GdGS = dGGS GGdS. b) K n'augmente pas le support singulier. En effet A est elliptique et par suite GS est C" en dehors du support singulier de S.

+

+

+

Revenons au cas où X est une variété. Puisque X est réunion dénombrable de compact, il existe un recouvrement dénombrable et localement fini de X par des domaines de carte Wi CC X. D'après les Lemmes 2.3 et 2.1 de l'annexe A, on peut alors trouver un recouvrement de X par des ouverts V, tels que V , CC Wi et des fonctions vi de classe C" à support compact dans Wi telles que vi = 1 au voisinage de V,. Pour tout courant T sur X , on pose

AiT = qiK(qiT) (où par abus de notation on considère Wi comme un ouvert de R"),et

RIT = T - dAiT - AidT

+

= T - ( T , I ~ ) ~viK(d7i T A T ) - dvi A K(viT).

(Pour être parfaitement rigoureux il faudrait considérer la carte (Wi,hi) de X et définir l'opérateur Ai par AIT = qi (h;') * ( K(hi)* (viT)).Le lecteur pourra vérifier facilement que le fait d'avoir identifié Wi et son image par hi dans IRn ne modifie pas les propriétés de Ai mais permet seulement d'avoir des écritures plus simples.)

3. Indice de Kronecker de deux courants

41

Les opérateurs Ai et Ri ont les propriétés suivantes : a) T = dAiT AidT RiT par construction, d'où résulte dRiT = RidT. b) Ai et Ri n'augmentent pas le support singulier. De plus, RIT est C" sur V, ; en effet RIT et K(dqi A T ) coïncident sur E, et puisque K n'augmente pas le support singulier, K(dqi A T ) est C" sur V, car dvi A T est nul sur V,.

+

+

On pose Ak = AkRkPl... Ri et Rk = RkRk-1.. . R I . Le recouvrement (Wi)étant localement fini, on montre facilement que

RT = lim RkT et AT = lim AkT k+m

k+m

existent, car au-dessus d u n ouvert U CC X,RkT devient stationnaire et AkT s'annule dès que k est assez grand. Les opérateurs A et R ont les propriétés souhaitées : a) On a R"'T - RkT = ( 1 - Rk)Rk-iT

+ Akd)Rk-lT = dAkT + AkdT =

(dAk

car Ri et d commutent, d'où par sommation

T

-

RT = dAT

+ AdT.

b) A n'augmente pas le support singulier car il en est ainsi de Ak.L'opérateur R est régularisant car RkT est C" sur V , dès que IC 2 a. O Démonstration du Théorème 3.5. D'après la Proposition 3.6, T et S admettent les décompositions suivantes :

T = RT S = RS

+ dAT + AdT + dAS + AdS.

Posons

Ti = RT, T2 = dAT, T3 = AdT Si = RS, S2 = dAS, S3 = AdS. Par linéarité K(T,S)sera défini si chacun des K(Ti,sk),z,k = 1,2,3, existe. Remarquons que Ti,i = 1,2,3,est un courant à support compact. Le courant Ti est une forme de classe c" car R est régularisant. Par conséquent K(T1,sk)est défini pour tout k = 1,2,3.Le courant S1 étant une forme de classe C", K(Ti,S,)existe pour tout i = 1,2,3.Pour i=k=2, on peut appliquer la Proposition 3.4 et on obtient K(T2,S2)=0.Les cas i = 2 et k = 3,i = 3 et k = 2,i = IC = 3, se déduisent de la Proposition 3.3 car les opérateurs d et A n'augmentent pas le support singulier. ü

s

Corollaire 3.7. Formule de Stokes pour l'indice de Kronecker. Soient T et deux courants sur X tels que doT + dos= n - 1 et dont l'un est à support compact. Si

SS(bT)n SS(bS) = 0

II. Courants, structure complexe

42

les indicesde KroneckerK(bT,S) etK(T,bS) existenteton a

K(bT,S) = (-l)doS-lK(T,bS). Démonstration. C'est une conséquence immédiate du Théorème 3.5 et de la Prou position 3.4. Exemple d'application :Formule de Cauchy-Green dans @. Soit D un ouvert borné de C à bordCl contenant l'origine. Si $ est une fonction de classe C" dans @. Après identification de Cc avec IR2 on définit les formes différentielles de degré 1, d z et dZ par d z = dx idy et dZ = dx - idy.

+

Si $ est une fonction de classe C" dans @. on pose T=$[D] où [DI désigne le courant d'intégration sur D. Alors S S ( T ) = bD.

&

Si S = $ alors dS = [O],où[O] est le courant d'intégration sur la variété réduite au point O. En effet, si cp E Do(@), par définition de d on a

car S est défini par la forme différentielle localement intégrable notons BE= { z E Qi I IzI < E } , alors

& e.Pour E > O,

En appliquant le Théorème de Stokes, on obtient

car cp est à support compact. De plus -dz

L B ,

)."

=

Comme la fonction cp est de classe C" donc en particulier de classe C1 la première intégrale du second membre tend vers O quand E tend vers O. D'autre part, par la formule de Cauchy on a, pour tout E > O, $ = 1.Par conséquent

& saBc

( G c p ) = 4 0 ) = ([OI>cp).

+

Par ailleurs bT = -d$ A [O] $ A [bD]et donc SS(bT) = S S ( T ) = bD, de plus SS(bS)= {O}, par conséquent SS(bT)n SS(bS)= 0 puisque O E D. On peut donc appliquer le Corollaire 3.7 :

K(bT,S) = K (

-

d$ A [DI

+ 11, A [ b D ]22lT,1y -dz-z)

4. Variétés analytiques complexes

43

Interprétation géométrique de l'indice de Kronecker Nous donnons les résultats suivants sans démonstration ; le lecteur intéressé pourra consulter [Rh, 201 et IL-Tl] pour plus de précisions et de meilleures conditions suffisantes d'existence de l'indice de Kronecker de deux courants. Si Y et Z sont deux sous-variétés fermées orientées de dimension p et n - p de X qui se coupent transversalement et telles que Y ou 2 soit une sous-variété compacte de X, alors les courants d'intégration [Y]et [Z] sur Y et Z sont fermés, ils satisfont donc aux hypothèses du Théorème 3.5 et on a

~ ( [ Y I , [ Z l=) ([Y Z1,l). Ici Y n2 est constitué d u n nombre fini de points et ( [ YnZ],l)est égal au nombre de points de Y n Z en lesquels les orientations de Y et Z coïncident diminuée du nombre de points en lesquels elles diffèrent. Plus généralement, si Y est Z sont deux sous-variétés fermées orientées de X de dimension respective p et q qui se coupent transversalement et telles que Y n Z soit une sous-variété de X et si cp est une forme différentielle de classe C", de degré p q - 76, à support compact dans Xona ~ ( [ Z I l [ YAl cp) = ([Z n Yllcp).

+

4. VARIÉTÉ ANALYTIQUE COMPLEXE

Dans le cadre de l'étude des fonctions holomorphes, il est naturel d'introduire des objets ayant, pour le calcul holomorphe, des proporiétés analogues à celles des variétés différentielles pour le calcul différentiel, c'est-à-dire qui ont hérité localement des propriétés analytiques des ouverts de @". Définition 4.1. SoitX un espace topologique, on appelle atlas complexe un ensemble de cartes (U,cp)tel que les domaines U forment un recouvrement ouvert de X et les applications cp soient des homéomorphismes de U sur un ouvert de cc",qui vérifient la condition de compatibilité holomorphe: si U n U' # 0,l'application cp'

O

9-l :

cp(un u')cp'(u i n u')

est une application biholomorphe entre ouverts de Cn.On dira que deux atlas complexes sont compatibles si leur réunion est un atlas complexe. On définit ainsi une relation d'équivalence.

II. Courants, structure complexe

44

Définition 4.2. On appelle variété analytique complexe un espace topologique sé-

paré, réunion dénombrable de compacts, muni d’une classe dëquivalence d’atlas complexes. Si X est une variété analytique complexe, x un point de X et (U,cp)une carte au voisinage de x , cp est un homéomorphisme de U sur un ouvert de @” et n est appelé la dimension complexe de X en x (comme dans le cas des variétés différentiables n est bien sûr indépendant de la carte (U,cp)au voisinage de 2).On dira que X est une variété analytique complexe de dimension n si pour tout x E X la dimension complexe de X en x est égale à n. Si X et Y sont deux variétés analytiques complexes, une application f : X -+ Y est dite holomorphe si elle est continue et si pour tout couple de cartes (U,cp)et ( V , 9 )de X et Y tel que f ( U ) c V ,l’application 1c, O O cp-’ : p ( U ) -+ $ ( V )est holomorphe. Lorsque Y = C on parlera de fonction holomorphe. Comme dans le cas des applications de classe C Q ,il suffit bien sûr de le vérifier pour toutes les cartes d u n atlas. On notera O ( X ) l’espace vectoriel des fonctions holomorphes sur X à valeurs dans @.

(fi,)

Définition 4.3. Soit (U,cp) une carte d’une variété analytique complexe, alors cp est uneapplication holomorphedeU dansCn, etsicp(x) = (zl(x),. . . ,z,(z)), où les z j : U + C,j = 1, . . . ,n,sont des fonctions holomorphes sur U , les fonctions ( z 1 ,. . . ,zn) s’appellent les coordonnées holomorphes de X sur U définies par la

carte (U,cp). Remarque: I1 est clair qu’une variété analytique complexe X de dimension n est naturellement munie d’une structure de variété différentiable de classe C” de dimension 2n. Les espaces tangent T,X et cotangent T,X à X en x sont donc bien définis. Considérons en particulier l’espace @T: X des 1-formes différentielles en x E X à valeurs complexes qui est le dual du complexifié CTz X de T,X (cf.Annexe A, $ 4). Explicitons ce qui se passe dans une carte (U,cp) au voisinage de x où les coordonnées locales sont (z1,. . . ,zn) avec z j = xj i y j , j = 1, . . . ,n. La fa. . . ,(d~,)~(dy,)~} est une base de CT,X et la base duale mille {(d~l)~,(dy1),, I1 est soua . . ,(,)z,(&),a}. correspondante dans @TzX est {(K)z,(&),,. vent plus intéressant de considérer pour CT: X la base

+

{ (dzï)z,(dzï)i1. . . ,(dzn)zl(dzn)z} et pour CTz X la base duale associée que l’on note

On a par définition

45

4. Variétés analytiques complexes

Si f est une fonction à valeurs complexes de classe C1 sur un voisinage de z dans X , sa différentielle dfz définit un élément de T,X qui s’écrit

n Ou

bien ( d f ) z =

%(z)(dz,), i=l

+ ~ ( ~ ) ( C t z suivant , ) , la base choisie, par

définition des bases dudes. Un calcul simple montre que

ce qui correspond à la définition donnée au chapitre I. Remarquons encore une fois que le fait d’associer à T,’X et à T,X leurs complexifiés, c’est-à-dire de considérer des formes à valeurs complexes, ne fait pas intervenir la structure de variété analytique complexe de X mais que cela peut être fait pour n’importe quelle variété différentiable. Nous n’avons utilisé la structure de variété analytique complexe de X que lors de l’écriture en coordonnées locales. Terminons ce paragraphe en prouvant qu’une variété analytique complexe est orientable. Soit X une variété analytique complexe de dimension n. D’aprèsla Proposition 6.2 de l’AnnexeA, X est orientable si elle possède un atlas c”, (Vi, hi)iEl, tel que pour tout i, j E I

d i j ( z ) = det [ J ( h iO hjl)(hj(z))] > Osiz E Vi f l U j .

+

Considérons un atlas complexe (Vj,‘ p j ) j Ede ~ X . Si ‘ p j = hj i k j , l’ensemble ( U j ,( h j ,k j ) ) j E est ~ un atlas C” de X quivérifie pour z E Vi fl Vj

Une variété analytique complexe X est donc orientable et dans la suite de ce volume nous la munirons de l’orientation définie de la manière suivante lorsqu’un atlas complexe (Vi,‘pi)iElde X est fixé : si ( z l ,. . . , 2,) sont des coordonnées holomorphes associées à la carte (Vi,‘pi)nous choisirons l’orientation associée à la 2n-forme différentielle dZ1

A . . . AdZn A d 2 1 A ’ . . A d Z n

ce qui correspond à l’orientation défini par

d x l A . ‘ . A d z n A d y i A . . . A dy,

II. Courants,structure complexe

46

5. STRUCTURE COMPLEXE

Soit X une variété analytique complexe de dimension n. On va montrer que pour tout point x E X , l'espace vectoriel réel T,'X possède une structure naturelle d'espace vectoriel sur C. Examinons tout d'abord le cas où X = Cn. Comme variété Coo, C? s'identifie à R21n de manière naturelle, donc T,Cn = TXR2ln= R21n = C2" en reprenant l'identification naturelle de C" avec IR2". En identifiant ainsi T,Cn avec O(X)sur X . Définition 5.2. Soient X une variété analytique complexe et A un ouvert de X . Un champ de vecteurs holomorphe sur A est une application V : A -+ T ' i o ( X ) telle quep O V = Id.

6. FORMES DIFFÉRENTIELLES DE TYPE ( p , q )

Soient X une variété analytique complexe de dimension n, et x un point de X . L'existence d'une structure d'espace vectoriel complexe sur T,X nous invite à considérer plus particulièrement les éléments de @T,X qui sont @-linéairespour cette structure.

II. Courants, structure complexe

48

On définit l’espace des 1-formes différentielles de type (1,O) en z par

A1lO(T,*X)= { W E CT,*X I w ( J v ) = i w ( v ) , V v E CT,X}.

Exempie: Par définition de J , les différentielles (df), de germes de fonctions holomorphes en z sont de type (1,O). Si (21,. . . ,zn) sont des coordonnées locales holomorphes au voisinage de z, la famille ( ( d z l ) , , . . . , ( d z n ) z ) forme une base de A1yo(T:X). L‘espace conjugué AoilT:X = A1>oT,X,dont une base dans les mêmes coordonnées est donnée par ( (&I),, . . . ,(&Yn),), est l’espace des formes de type (0,l) en z. On ala décomposition en somme directe

CT,*X = A1’OT,*XCBAol’T,*X.

(6.1)

Considérons maintenant les formes de degré supérieur. Si w est une forme différentielle de degré T à valeurs complexes, c’est une combinaison linéaire d’éléments de la forme w1 A . . . A wr où w j E CTZX. D’après (3.1),chaque w j , l 5 j 5 T , s’écrit w; wy avec w; E A1ioT,X et wy E AoilT,*X.Donc w est une combinaison linéaire d‘éléments qui s’écrivent q1 A . . . A qr où qj est soit de type ( O , l ) , soit de type (1,O).

+

On dira que w est une forme différentielle de type ( p , q )ou de bidegré ( p , q )en z, si w est combinaison linéaire d‘éléments de la forme w i i A . . .A wi, A G j , A . . .A G j q où les w, sont des 1-formes de type (1,O) en z.

+

On note C:,,(X) le sous-espace de C:+q(X) formé des ( p q)-formes différentielles qui sont de type ( p , q ) en chaque point. On a alors la décomposition en somme directe

@ cp,q(x).

C3X) =

p+q=r

Notons queC;,,(X) = {O} s i p o u q

> n = dimê X.

Si (z1, . . . ,zn) sont des coordonnées holomorphes sur un domaine de carte U de X, alors dzj E CTo(U)pour j = 1 , .. . ,n et toute (p,q)-forme w E C:,,(U) s’écrit de manière unique w =

aIJdzI A

&J

I4=P IJI=q

où les U IJ sont des fonctions de classe C k sur U et où la sommation est faite sur les multi-indices I = ( i l , . . . ,ip) et J = (j1, . . . , j q )strictement croissants.

7. Opérateurd et cohomologie de Dolbeault

49

7. OPÉRATEUR d ET COHOMOLOGIE DE DOLBEAULT

La décomposition des 1-formes différentielles sur une variété analytique complexe en formes de type (0,l) et de type ( 1 , O ) va induire naturellement une décomposition de l’opérateur d de différentiation extérieure en un opérateur de différentiation holomorphe et un opérateur de différentiation antiholomorphe. Soit X une variété analytique complexe de dimension n. Si f est une fonction de classe C1 sur X, pour tout z E X on a

+

On peut donc écrire df = d f 8f où d f est une forme différentielle de type (1,O) s u r X e t d f uneformedetype ( 0 , l ) s u r X . Remarquons que la condition f E O ( X )est alors équivalente à 8f = O.

+

La décomposition d = d 8 s’étend aux formes de degré quelconque de la manière suivante : si w E Cp’,q(X)est donnée, dans un système de coordonnées holomorphes (21 , . . . ,zn) au voisinage de z E X, par w =

a I J d z I A d Z J , on lIl=p IJI=q

a, par définition de d ,

dw =

d ( a I j ) A dzI A d z j = III=p IJI=q

(da1J

+ ~ C L I JA) dzr A d z J

IIl=p IJI=q

On pose alors dw =

“ --aIJdz, a

d ( a 1 J ) d z I A dZJ =

IIl=p k=l

IIl=p

82,

A d z l A dZJ

IJI=q

lJI=q

et

IJI=q

On a ainsi défini des opérateurs d et 8 sur Ci,q(X)tels que d(Ci,q(X)) soit contenu dans Cp+l,q(X)et d(Cp’,q(X)) soit contenu dans Cp,q+l(X). Proposition 7.1. Les opérateurs d et 8 ont les propriétés suivantes

+

a)d = d dsurC,’(X), b) d O d = Old O d = 0,d O 8 O d = O surCS,,(X), c) d e t d commutent avec l’image réciproque.

+a

II. Courants, structure complexe

50

Démonstration. La propriété al est une conséquence immédiate de la définition des opérateurs d et

a.

Soitw E C i , , ( X ) ,puisque d

O = ( 8 +d) O

O

d

=O

et d = d

+aon a

+ (a o d + d o a )w + ( a 0 a ) w 8 + 8 û ) w est de type ( p + 1,q + 1) et

= ( d oa ) w

(a+a)W

+

Or ( 8 O S ) w est de type ( p 2 , q ) , ( 3O O (8 0 3)w de type ( p , q 2), par conséquent chacun de ces termes est nul puisque leur somme est nulle.

+

(cl,. cJ

. . ,&) Soit F : X t Y une application holomorphe. Observons que si sont des coordonnées holomorphes au voisinage d’un point y E Y ,F*CJ = O F est une fonction holomorphe au voisinage de z = F-’(y) et donc P*(d(,) = rl( ~ + ’ (est X ) aiors un opérateur linéaire continu L’opérateur 3 : E ~ , Q ) donc fermé. et son noyau que l’on note Z p i Q ( Xest

Définition 7.2. On appelle groupes de cohomologie de Dolbeault les espaces

HP>P(X)= z”~“x)/a€P~q-’(X). Ces espaces sont naturellement munis de la topologie quotient qui n’est en générai pas séparée car d ~ q - ’ ( n’est ~ ) pas toujours fermé. si ~ E P > ~ - ’ ( est X) fermé, H p > q ( Xest ) alors un espace de Fréchet. Ces groupes caractérisent le défaut de résolubilité de l’équation de CauchyRiemanndu = f pour f € z p > q ( X ) . Terminons par la définition des groupes de cohomologie de Dolbeault avec condition de support. On notera c la famille des compacts de X et si K est un

8. Espace tangent complexe au bord d'un domaine

51

compact d u n e variété M , @ désignera la famille des fermés de X = M \ K dont l'adhérence dans M est compacte et Q la famille des fermés de M qui ne rencontrent pas K . Pour simplifier notons O l'une de ces trois familles. E O q ( X ) est alors l'espace des (p,q)-formes de classe C" dans X dont le support appartient à la famille O. Si 8 E O, on note E;,'(X) le sous-espace de Epiq(X) formé des (p,q)-formes à support dans 8, on a alors E g 4 ( X ) = U &;>'(X).Remarquons @€O

que si O est l'une des trois famiiles e,

ou Q, X possède une suite exhaustive

(8i)iEw composée d'éléments de O (ie. X =

U 8i,& c

O

8i+l). Les espaces

i€W

E;"(X) sont fermés dans & P ) q ( X )ce , sont donc des espaces de Fréchet et la topologie de E;'(X) est la topologie la plus fine rendant continues les injections E;;'(X) LJ E g q ( X ) .L'opérateur est un opérateur linéaire continu de E g q ( X ) dans E g q + l ( X ) On . pose Z g q ( X )= ZPiq(X) n E e q ( X ) .

a

Définition 7.3. On appelle groupes de cohomologie de Dolbeauit à support dans O les espaces H g q X ) = zgy x)/aEgq- ( X ). On munit ces groupes de la topologie quotient qui n'est pas séparée en général. Ils caractérisent le défaut de résolubilité de l'équation de Cauchy-Riemann dans la classe des formes à support dans la famille O.

8. ESPACE TANGENT COMPLEXEAU BORD D'UN DOMAINE

Pour introduire la notion de fonction CR (Chap. IV) et celle de domaine pseudoconvexe (Chap. Vi), nous aurons besoin des propriétés de l'espace tangent au bord d'un domaine à bord lisse d u n e variété analytique complexe. L'objet de ce paragraphe est l'étude analytique de cet espace. Nous considérons en particulier l'influence de la structure complexe de la variété ambiante. Dans un premier temps nous allons supposer seulement que différentiable de classe C".

x est une variété

Définition8.1. SoitD u n o u v e r t d e x , onditqueD a un borddeclasseCk,l 5 IC 5 oû,au voisinage de p E d D s'il existe un voisinage ouvert U de p dans X et une fonction r E C k ( U )de clmseCk, à valeurs réelles telle que

U n D = {z E U I r ( z ) < O } d r ( z ) # O, z E u. OndiraquedD estdeclasseCk, s'ilestdeclasseCk au voisinagedechacundeses points. Unefonction r E C k ( U )qui satisfait (8.1) est appelée fonction définissante pour D en p. Si U est un voisinage de d D , T est une fonction définissante globale.

Il. Courants, structure complexe

52

Lemme 8.2. Soient r1 et 7-2 deux fonctions défnissantes pour D , de classe C‘ sur un voisinage U de p E dD. Alors il existe une fonction strictement positive h E C“l ( U ) telle que hr2 surU drl(z)= h(z)dr2(z) pourz E U n BD. r1 =

(8.2)

Démonstration. Remarquons que h est unique puisqu’elle est continue sur U et qu’eile coïncide avec sur U \ dD.

2

On peut supposer, sans perte de généralité, que U est contenu dans un domaine de carte de X . Soit q E U n dD fixé.Choisissons des coordonnées sur U pour que q = O et U n d D = {z E Rn I z, = O} et supposons que r2(x) = IC,. Pour z’ = (xi ,...,z,-l)voisindeO,onarl(x’,O) = Oetdonc

1:

$(x’,tz,)dt, Posons h ( z ) = satisfait 7-1 = hr2 sur U .

c’est une fonction de classe Ck-l sur U qui

Si IC 2 2, on a drl(z) = r2(z)dh(z)+ h(z)drZ(z)= h(z)dr~(x)si z u n dD.

E

+

Si IC = 1,q ( x ) = h(z)r~(z) = (h(z)- h(x1,0))r2(z)h(z1,0)r2(z) et donc r1(z) = h(z’,O)drz(z’,O)o(x,) lorsque x, tend vers O, car h est continu sur U et r2(z’,0) = O. On en déduit donc que drl(z) = h(z)drz(z)si z E U n dD.

+

2

il reste à prouver que h est strictement positive sur U . Comme h = sur U\ D , h est strictement positive sur U \ D car 7-1 et r-2 sont des fonctions définissantes. Puisque drl(z) # O sur U et drl(z) = h(z)dr2(x)sur U n dD, h ne s’annule pas sur U n dD. La fonction h étant continue sur U , elle est donc strictement positive O sur U .

Si D est un domaine à bord Ck au voisinage de p E dD, d D est alors une variété différentiable de classe Ck au voisinage de p . On peut donc considérer l’espace tangentTp(dD) e n p à d D . Proposition8.3. Si T est une fonction défnissante pour D enp, on a

(8.3)

Tp(dD) = {I E T u ( X ) I d T ( P ) ( I )= 0).

Si ( 2 1 , . . . ,xn) sont des coordonnées locales de X au voisinage de p , alors Tp( d o ) si et seulement si

Démonstration. Soit U un voisinage de p tel que

d D n U = {z E U

I . ( E ) < O} et dr(z)# O s i z E U.

O(X). Proposition 8.4. Sir est une fonction déjînissante pour D enp E d D , on a

T ! ( d D )= {t E T,”O(X) I dr(p)(t) = O). ( z 1 , . . . ,zn) sont des coordonnées holomorphes locales de X au voisinage de p alors t E T: ( d o )si et seulement si

Si

Démonstration. Puisque la fonction r est à valeurs réelles on a

dr(p)= dr(p)

+ dr(p) = 2 Re dr(p).

Par définition de T F ( d D )= T p ( d D )n J T p ( d D )et d‘après (8.3)

T Z ( d D )= {t E T,”O(X) I dr(p)(t) = dr(p)(Jt) = O).

II. Courants, structure complexe

54

Mais d r ( p ) étant une (1,O) -forme différentielle en p on a dr ( p )( J t ) = idr ( p )( t ) et donc Re (dr(p)(Jt))= - I m d r ( p ) ( t ) . On en déduit que

T:(dD) = { t E T,’l0(X) I R e d r ( p ) ( t )= Imdr(p)(t) = O} = {t E

T,’>O(X)I d r ( p ) ( t )= O}.

O

Soit CTP( d o ) le complexifié de T,(dD),Tf(dD) est un sous-espace vectoriel de dimension n - 1 de CTp( d o ) . Définition 8.5. L‘espace vectoriel Til1( d o ) = T F ( d D ) ,le sous-espace conjugué de Tf ( d o ) dans CTp( d o ) ,est appelé espace des opérateurs de Cauchy-Riemann tangentiels e n p E dD. Remarquons que, si T est une fonction définissante pour d D en p et si on note (z1,. . . ,zn) des coordonnées locales holomorphes sur X au voisinage de p , un vecteur T E Tp”>’ ( d o ) si et seulement si

Exemple: Si n = 2, T i > ’ ( d D est ) un C-espace vectoriel de dimension 1 engendré

Commentaires. La théorie des courants est développée dans les livres de Schwartz [SC]et de de Rham [Rh].La régularisation dans les variétés et la théorie de l’indice de Kronecker sont traitées également dans le livre de de Rham [Rh].Des précisions sur l’indice de Kronecker peuvent être trouvées dans IL-TU. Pour écrire les paragraphes 4 à 8 de ce chapitre j’ai utilisé l’exposé des notions correspondantes du paragraphe 2 du chapitre III et d u paragraphe 2 du chapitre II du livre de M. Range [Ra].Pour u n exposé plus complet, le lecteur intéressé pourra consulter le livre de R. Narasimhan iNd1.

Chapitre III

Noyau et formule de Bochner-Martinelli-Koppelman Applications

Nous définissons dans ce chapitre un des outils fondamentaux de la théorie des représentations intégrales en analyse complexe : le noyau de Bochner-Martinelli-Koppelman. Ce noyau est une généralisation du noyau de Cauchy à II nous permet de démontrer une formule de représentation intégrale, la formule de Bochner-Martinelli-Koppelinan, qui étend la formule de Cauchy aux formes différentielles de type ( p , q ) dans Cette formule joue un rôle important dans l’étude de l’opérateur 8. Elle nous pennet d’obtenir en nos premiers résultats sur la résolubilité de l’équation de Cauchy-Riemann dans considérant le cas où le second membre est à support compact. Le phénomène de Hartogs, dont nous avons prouvé un cas particulier au chapitre I, est une conséquence de l’existence d’une solution à support compact de l’équation de Cauchy-Riemann si ??, 2 2 et si le second membre est de bidegré ( 0 , l ) et à support compact. Les relations entre l’annulation des groupes de cohomologie de Dolbeault à support compact en bidegré (0,I) et le phénomène de Hartogs seront précisées au chapitre V. Nous utilisons également la formule de Bochner-Martinelli-Koppelman pour étudier la régularité de l’opérateur 8 en prouvant un théorème d’hypoellipticité holdérienne.

en.

en.

e”

1. NOYAU ET FORMULE DE BOCHNER-MARTINELLI-KOPPELMAN n

en x en,on pose ( O, sont plurisousharmoniques dans

If/

Ifla,

D. Remarque : Si D est un ouvert de C", la fonction u ( z ) = - log(dist(z,aD)) n'est pas nécessairement plurisousharmonique. En effet, considérons l'ouvert D = C2 \ {O}.Soientu = (1,O) E D e t w = (0,1).Alors u(u

+ Xw) =

-

log(dist(a + Xw,dD) = -log

d m .

Cette fonction possède un maximum strict au point X = O, elle ne peut donc pas être sous-harmonique, ce qui prouve que u n'est pas plurisousharmonique. Théorème 2.14. Soient D un ouvert de @" et u une fonction de classe C2 dans D à valeurs réelles. Alors u E PSH(D) si et seulement si pour tout z E D le Hessien complexe de u au point z

est une forme hermitienne semi-déjinie positive sur @" Démonstration. Un calcul direct donne

a2 axai

-u(u

+ Xw) =

La+XwU(W).

Le résultat se déduit alors des Théorèmes 2.10 et 2.1 1 qui caractérisent les fonctions O sous-harmoniques de classe C2 par la positivité du laplacien. Corollaire2.15. Soient D un ouvert de @", D' un ouvert de@'" et F une application holomorphedeD dans D'. Siu E PSH(D') n C'(DI), u O F E PSH(D).

Démonstration. Soit u E D et w E @", on a La(uO F ) ( w )= L F ( a ) u ( F ' ( a ) w )I1. O suffit alors d'appliquer le Théorème 2.14. Définition 2.16. Si D est un ouvert de C" et u une fonction de classe C2 sur D. On appelle forme de Levi de u en z E D le Hessien complexe L,u de u en t , c'est-àdire la forme hermitienne

Définition 2.17. Unefonction u E P S H ( D ) n C2( D )est dite strictement plurisousharmonique dans D si et seulement si pour tout z E D la forme de Levi L,u de u au point z est une forme hermitienne définie positive.

VI. Domaines d'holomorphie et pseudoconvexité

126

Nous voulons étendre le Corollaire 2.15 aux fonctions plurisousharmoniques quelconques. Pour cela nous allons tout d'abord démontrer un théorème de régularisation pour les fonctions plurisousharmoniques. Lemme 2.18. Soit u une fonction plurisousharmonique sur un ouvert D de C" . On suppose que sur aucune composante connexe de D, u est identiquement égale à -03. Alors u est intégrable sur tout compact de D et en particulier u > -03 presque partout. Démonstration. I1 suffit de reprendre la démonstration de la Proposition 2.9 en remplaçant le disque A par un polydisque. 17 Théorème 2.19. Soit D un ouvertde C", on pose Dj = { z E D I IzI < j et d i s t ( z , û D ) > f }. Soit u une fonction plurisousharmonique sur D qui n'est pas identiquement égale à -00 sur une composante connexe de D. Il existe alors une suite ( u j ) j E nd'éléments deC"(D) telleque 1) u j est strictement plurisousharmoniquesur D j . ii) u j ( z ) 2 u j + i ( z ) pourtoutz E Dj. iii) lim u j ( z ) = u ( z ) pourtoutz E D. "3'

iv) Si u est continue, la suite (u j ) j E w converge vers u uniformément sur tout compact de D. Démonstration. Soit 8 E D(R) une fonctionC", àvaleurs positives, àsupport dans [-l,l]ettelleque û ( l z l ) d X ( z ) = 1.Puisque Dj est relativement compactdans D , la fonction u est intégrable sur Dj et on peut considérer la fonction wj définie Par

scn

c'est une fonction de classe C" dans C" . Montrons que wj satisfait la propriété de la sous-moyenne sur chaque morceau de droite complexe contenu dans Dj ce qui prouvera que vj est plurisousharmonique sur Dj . Remarquons que wj ( z ) = Jcn u ( z - $)û(( O , il existe une fonction d'exhaustion strictement plurisousharmonique de classeCm ,p, pour R telle que u 5 psurR et Ip(z) -.()I < ~ p o u r zE K . Démonstration. Pour j E Pi,on pose R j = { z E R I u ( z ) < j } . Alors R j c c R et, quitte à ajouter une constante à u, on peut supposer que K c 00.Fixons E > O. D'après le Théorème 2.19, il existe une suite ( u j ) j Ede ~ fonctions de classe

135

3. Pseudoconvexité

C" dans R telles que uj soit strictement plurisousharmonique sur Rj+2,u(z) < u o ( z ) < u ( z ) + E pourz E si1 e t u ( z ) < u j ( z ) < U ( Z ) + i pourz E ~ j , 2j 1.

+

+

On en déduit que uj - j 1 < O sur Rj-2 et uj - j 1 > O sur \ Rj-1 si, j 2 2. Soit x une fonction de classe C" sur IR telle que X ( t ) = O pour t 5 O et x(t),x'(t) etx"(t) soientstrictementpositifspourt > O. A l o r s x o ( u j - j + i ) G O sur 0 , - 2 et x 0 ( u j - j 1) 2 O sur R \ Rj-2. En calculant la forme de Levi on voit que x 0 ( u j - j 1) est plurisousharmonique sur Rj+2 et strictement plurisousharmonique positive sur 2.j\ R.i-1. On choisit alors par récurrence des

+ +

entiers

mj

tels que si e

2

2,pe = uo

+

e

mjx

O

(uj- j

+ 1) soit strictement

i=2

plurisousharmonique sur Re.On a ainsi construit une suite de fonctions ( p e ) e > -2 qui vérifient pe = uo sur Ro, pe 2 u et pe = pe-1 sur Re-2. La fonction p = pe a les propriétés demandées. O Remarque :I1 résulte du Lemme 3.11 et de la définition des ouverts pseudoconvexes qu'un ouvert R de C" est pseudoconvexe si et seulement s'il possède une fonction d'exhaustion strictement plurisousharmonique de classe C2. Grâce au Lemme de Morse suivant, en fait tout ouvert pseudoconvexe R de C" possède une fonction strictement plurisousharmonique dexhaustion p de classe C2 telle que l'ensemble de ses points critiques, i.e. { z E R I d p ( z ) = O}, soit discret dans R. Lemme 3.12. Lemme de Morse. Soient R un ouvert de C" et p une fonction strictement plurisousharmonique de classe C2 dans R. Alors, pour tout E > O, il existe une forme IR-linéaire L : C" + IR telle que max IL(z)I 5 E , l'ensemble

+

+

L€C* ,Izl=l

Crit(p L ) = { Z E R I d ( p L ) ( z ) = O} soit discret dans R et p strictement plurisousharmonique dans R.

+ L soit

Démonstration. Puisque p est de classe c2,daprès un Lemme de Morse (cf [Mi], 5 2, Lemme A ou [RI, Appendice A ou encore, [He/Le2],Appendice B), pour presque toute forme IR-linéaire L : @" -+IR,les points critiques de p L sont isolés. Pour tout E > O, on peut donc trouver une forme IR-linéaire L : Cn -+ IR telle que max IL(z)I 5 E et que Crit(p+ L ) soit discret. I1 résulte de 1aDéfinition2.17

+

LEC" ,121=1

que p + L est strictement plurisousharmonique car les dérivées secondes de L sont O nulles. Corollaire 3.13. Sous les hypothèses du Théorème 3.10, il existe une fonction p satisfaisant les conditions i), ii) et iii) du Théorème 3.10 et telle que de plus Crit(p) := { z E R I d p ( z ) = O} soit discret dans 52. Corollaire 3.14. Si R est un ouvert pseudoconvexe de Cn et K un compact de R, alors = gP"cm . En particulier k; est fermé donc compact dans R.

g;

136

VI. Domaines d'holomorphie et pseudoconvexité

Démonstration. Puisque kEncm = { z E R I u ( z ) < supK u,Vu E PSH(R) on a évidemment kn c kgnCm.Soit z E (1 \ kg, en appliquant le Théorème 3.10 au compact K et au voisinage U = R \ { z } de k:, il existe cp E PSH(R) n C"(R) teiie que cp(z) > O et 'p < O sur k; donc sur K . Par conséquent z # O

C-(R)},

Proposition 3.15. Soit R un ouvert de Cn . S'il existe une fonction plurisousharmonique continue p définie sur un voisinage Uan du bord de R telle que

n Uan = { z E Uan I P ( Z ) < O} alors R est pseudoconvexe. Démonstration. Soient E da et E > O assez petit pour que B( O, donc (3.8)est vérifiée. Réciproquement supposons que R est strictement pseudoconvexe. I1 suffit de prouver que pour X assez grand la fonction = exP - 1 est strictement plurisousharmonique sur un voisinage Uan de dR car R n Uan = { z E Uan I fi(.) < O} etdp(z) = XePdp(z) # Osiz E dR.O n a

3. Pseudoconvexité

139

Par conséquent pour z E ôR et w E Cn

(3.9) Soit K = {(z,w) E û~ x

I

lull

= i et

5

a

w

j

~

IkO}.PuisqueK est

j,k=l

compact et que d'après (3.8),

I i5 g ( z ) w j I > O, si (z,w) E K , on peut choisir =l

X assez grand pour que

I1 résulte alors de (3.9) et de la Définition 2.17 que 6 est strictement plurisousharmonique au voisinage de dR. O Théorème 3.19. Soit R CC Cn un ouvert à bord de classe C2, strictement pseudoconvexe. Alors il existe un voisinage U,defi et unefonction p : U, + R strictement plurisousharmonique de classec' telle que dp( z ) # O si z E dR

R ={z E dR = { z E

et

u, I p ( z ) < O} u, I p ( z ) = O}.

Démonstration. D'après le Théorème 3.18, l'ouvert R possède une fonction définissante po strictement plurisousharmonique de classe C2, c'est-à-dire que po est définie sur un voisinage Van du bord de R, d p o ( z ) # O si z E dR et R n Uan = { z E Van I p o ( z ) < O}. Soit 6 > O, assez petit pour que Kb = { z E Uan I -6 5 p o(z) 5 O} soit un compact de Usa. Choisissons une fonction x à valeurs réelles de classe C" sur W, vérifiant ~ ( t=) -6, s i t 5 -6, x(0) = O, % ( t ) 2 O, pour tout t E R, et g ( t ) > O, si -6 < t < +CO, et définissons p l par p l = -6 sur Ks et pl = x 0 po sur Van. I1 résulte immédiatement des propriétés de x que p l est une fonction plurisousharmonique de classe C2 sur R ü Uan, strictement plurisousharmonique sur { z E Uan I po(z) > - 6 } , d p l ( z ) # O si z E dR et

52 = { z E R u Uan I pi(.) < O}. On déduit du Théorème 3.10 qu'il existe une fonction p2 strictement plurisousharmonique de classe C" dans R telle que R, = { z E R I p 2 ( z ) < a } CC R pour tout a E W. Choisissons ,f3 E R, assez grand pour que p l > - f sur R \ 520 et I)E C" (C" ) à valeurs réelles telle que II, = 1 dans un voisinage de na et I)= O dans un voisinage de C" \ 0. Définissons alors 6 2 par 6 2 = I)pz dans R et p 2 = O dans \ R. La fonction 3 2 est strictement plurisousharmonique sur un voisinage de et donc pour tout c > O, pl cp2 est strictement plurisousharmonique au voisinage de Comme de plus p l est strictement plurisousharmonique sur Uan \ Ra et 6 2 = O sur Van \ 0, la fonction P = p l c62 est strictement plurisousharmonique de classe C2 sur U z = Uan ü R et R = { z E U z I $(.) < O},

a?

na

as.

+

+

VI. Domaines d'holomorphie et pseudoconvexité

I40

si c est choisi assez petit. Choisissons une fonction cp positive de classe C" dans C" telle que 2 = { z E cc" I cp(z) = O} (cf Lemme 1.4.13 de [Na2],par exemple). Quitte à restreindre U s , la fonction p = ,6 E(P est la fonction cherchée si E est assez petit. O

+

Corollaire 3.20. SoitR CC C" un ouvertstrictementpseudoconvexe à borde2. Alors pour tout compact K c ûO et tout voisinage UK de K dans Cn , il existe un ouvert 6 strictement pseudoconvexe à bord C2 tel que

OUK

C ~ C O U U K .

Démonstration. Soient UE et p satisfaisant la conclusion du Théorème 3.19. Choisissons une fonction x de classe C" à support compact dans UK f' Us2 à valeurs strictement positives sur K . Pour E assezpetit, R = { z E U s 1 p ( z ) - E X ( Z ) < O} convient. O

Nous allons étudier maintenant le lien entre la stricte convexité et la stricte pseudoconvexité. Proposition 3.21. Tout domaine R CC Cn strictement convexe à bord C2 est strictement pseudocon vexe.

Démonstration. C'est une conséquence du fait qu'une fonction strictement conO vexe de classe C2 est strictement plurisousharmonique. Nous allons prouver que la réciproque est vraie localement modulo un changement de coordonnées holomorphes.

Lemme 3.22. Soient V un ouvert de Cn et p une fonction strictement convexe de classe C2 sur V . On pose D = { z E V I p ( z ) < O } , alors pour tout compact convexe K C ri V et tout voisinage UK de K , il existe un ouvert strictement convexe0 à bordC2 tel que K c c UK n D. Démonstration. Puisque K est convexe, il existe un ouvert strictement convexe à bord C", tel que K CC Q: CC UK n V.Soit p l une fonction strictement convexe de classe C" sur un voisinage Ul CC UK f' V de O: et telle que R : = { z E U1 I p l ( z ) < O } . Puisque aucun point du bord de est un minimum local de pi et puisque pi est strictement convexe, @I( O assez petit pour que O: = { z E U1 I p l (2) < E } CC U1. Choisissons des fonctions de classe C", f et y, de W dans IR ayant les propriétés suivantes : > O, g ( t )2 O 2 O et ( t ) 2 O pour tout t E IR,-1 < f ( t ) < û , s i t < û,f(û)= O , f ( t ) > 0 , s i t > û , g ( t ) = & s i t 5 O, g ( t ) > O,sit > Oetg(t) = i , s i t > E . Posonscp(z,y) = f ( z ) + g ( y ) s i ( s , y ) E IR2. Alors cp est une fonction convexe de classe 6"' sur IR2 qui vérifie ( 5 , ~>) O et @(z,y) 2 O sur IR^, cp(z,y) > O, si max(z,y - E ) > O et cp(z,y) < O, si z < O

01,

01

g(t)

g(t)

<

3

2

aY

3. Pseudoconvexité

141

et y 5 O. Alors $ ( z ) = cp(p(z),pl(z))est une fonction strictement convexe de classe C2 et si R = { z E Ul I $ ( z ) < O}, alors 0: n D c R c Qf n D et donc K c c UK n D. Puisque $ est strictement convexe et qu’aucun point du bord de R est un minimum local de $ , d $ ( z ) # O si z E dR et par conséquent R est un ouvert strictement convexe à bord C2.

n

Théorème 3.23. Soient V un ouvert de Cn et p une fonction strictement plurisousharmonique de classe C 2 sur V telle que d p ( z ) # O pour tout z E î = { z E V I p ( z ) = O } . SoitD = { z E V 1 p ( z ) < O } . Alorspourtoutpointl E r ilexisteun voisinage Uc de et un ouvert strictement pseudoconvexe à bord C2, CC Cn, tel que i) U c n D c R c D . ii) Il existe une application biholomorphe h défnie sur un voisinage convexe d e n telle que h(R) soit strictement convexe.

Démonstration. D’après le Théorème 2.23, il existe une application biholomorphe h d u n voisinage convexe V, de dans Cn sur un ouvert W de Cn telle que p O h-’ soit strictement convexe sur l’ouvert W . Soit U’ CC W une boule centrée en h ( l ) . D’après le Lemme 3.22, il existe un ouvert 0’ strictement convexe à bord C2 tel que -I U n h(V, n D)C 2’ c h(Vc f? D). En posant Ut = h-’(U’) et R = h-’(Q’) on obtient le théorème. O Corollaire3.24. Un ouvert R relativement compact dans C“ à bordC2 est strictement pseudoconvexe si et seulement si, pour tout point E d o , il existe un voisinage Uc de dans CTzet une application biholomorphe h, défnie sur un voisinage convexe de Üc telle que he (Uc n R) soit un ouvert strictement convexe à bord C2.

Démonstration. La condition est nécessaire d’après le Théorème 3.23. Elle est suffisante par définition des ouverts strictement pseudoconvexes car la condition (3.8) O est invariante par changement de coordonnées holomorphes.

Remarque : Nous venons de prouver que la pseudoconvexité stricte est la formulation localement biholomorphiquement invariante de la convexité stricte. Un contre-exemple dû à J.J. Kohn et L. Nirenberg montre qu’il n’y a pas de relation analogue entre la convexité et la pseudoconvexité même lorsque le bord du domaine est de classe C 2 (cf [KolNil). Commentaires. L‘histoire de la caractérisation des domaines d’existence des fonctions holomorphes débute avec les travaux de E Hartogs et E.E. Levi dans les premières années du siècle. La caractérisation en termes de convexité holomorphe est due à H. Cartan et I! Thullen [CalTh]. Les fonctions plurisousharmoniques ont été introduites par K. Oka et P Lelong, qui en ont décrit les principales propriétés [Lelll. La plurisousharmonicitéde lafonction -log&, dont l’idée remonteà Hartogs [Harl, a été prouvée par K. Oka [Okl, P Lelong [Le121et H. Bremermann [Br2].La condition

142

VI. Domaines d'holomorphie et pseudoconvexité

de Levi pour un domaine dholomorphie a été découverte en 1910 par E.E. Levi [Lev] dans le cas de deux variables L'ensemble des notions introduites et des théorèmes exposés dans ce chapitre se trouvent dans la plupart des livres consacrés à la théorie des fonctions de plusieurs variables complexes, [HelLell, [HoZl, [Kr], [Nall, [Ra],par exemple. Nous avons tout particulièrement suivi l'exposé de Range [Ra] pour le Théorème de Cartan-Thullen et la convexité holomorphe, celui de Hormander [HO21 pour les fonctions plurisousharmoniques et la pseudoconvexité et celui de Henkin et Leiterer [HelLell pour les domaines strictement pseudoconvexes à bord C2.

Chapitre VI1

Problème de Levi et résolution du d dans les domaines strictement pseudoconvexes

Ce chapitre est consacré à la résolution du problème de Levi, c’est-à-dire à la démonsest un domaine d’holomorphie. La tration du fait que tout ouvert pseudoconvexe de méthode utilisée est l’étude du d dans les ouverts pseudoconvexes à l’aide de formules de représentation intégrale locales pour les domaines strictement pseudoconvexes et de la technique des bosses due à Grauert. Nous commençons par étudier la résolution de l’équation de Cauchy-Riemann dans les domaines strictement convexes bornés à bord c2 de A l’aide de la formule de Cauchy-Fantappié introduite au chapitre V, nous prouvons que la solution est holdérienne d’ordre 1 / 2 lorsque la donnée est continue sur l’adhérence du domaine. Ce résultat associé à l’identité locale entre les domaines strictement pseudoconvexes à bord et les domaines strictement convexes nous permet d’obtenir, par des techniques d’analyse fonctionnelle, un théorème de finitude pour certains groupes de d-cohomologie. Nous développons la méthode des bosses de Grauert au paragraphe 4 pour prouver que ces groupes de 3-cohomologie sont isomorphes aux groupes de cohomologie de Dolbeault définis au chapitre II. Un résultat dû à Laufer, que nous présentons au paragraphe 5 , donne finalement l’annulation des groupes de cohomologie de Dolbeault sur les ouverts strictement pseudoLe paragraphe 6 est consacré à la construction d’une convexes bornés à bord c2 de formule intégrale globale pour résoudre le d dans les ouverts strictement pseudoconvexes Nous résolvons enfin le problème de Levi au paragraphe 7. Le derbornés à bord c2de nier paragraphe généralise les résultats des paragraphes précédents aux variétés analytiques complexes. Nous obtenons la caractérisation des variétés de Stein en termes de pseudoconvexité. Nous prouvons également des théorèmes d’annulation pour la cohomologie de Dolbeault à support compact ce qui nous permet, en les associant aux résultats cohomologiques du chapitre V, de donner des conditions géométriques suffisantes pour l’extension des fonctions CR.

en

en.

c2

en.

en.

VU. Problème de Levi

144

1. RÉSOLUTIONDU

a AVEC ESTIMATIONSHOLDÉRIENNES

DANS LES OUVERTS STRICTEMENT CONVEXES

Soit D un ouvert borné strictement convexe à bord C2 de Cn . Alors il existe une fonction p à valeurs réelles de classe C2 dans Cn telle que D = { z E Cn I p ( z ) <

t

E IR2", où CY est un réel strictement positif et xj = xj ( z ) sont les coordonnées réelles du point z E Cn teiles que zj = xj ( z ) ixj+, ( z ) .Comme nous l'avons vu au chapitre V, paragraphe 3,

+

est une section de Leraypour l'ouvert D . Puisque D est strictement convexe, nous avons l'estimation plus précise suivante : Lemme 1.1. Il existe un voisinage UaD du bord de D et des nombres réels strictement positifs E etP tels que, pour tout C E UaD et z E Cn tels que IC - z I 5 E , on ait 2 Re(w,(C),C - 2 )

(1.1)

Démonstration. Soient xj = = xj(C) + zj+n(C).Alors

2 P(C) - P ( Z ) + PIC - zI2.

xj(C) les

coordonnées réelles de C E Cn telles que

Cj

2 Re(w,(C),C

- 2)

En écrivant la formule de Taylor-Young on obtient

+ O(IC

-

zI2),

ce qui implique, puisque p est strictement convexe, que pour E assez petit et C dans un voisinage UaD de d D 2Re(w,(C),C - 4

CY

2 P(C) - P ( Z ) + CI,

- ZIZI si IC

-

zI

IE.

O

Dans le chapitre V, nous avons prouvé le théorème suivant : Théorème 1.2. SoientD un ouvert convexe bornédeCn à bord de classeC2, e t p une fonction dépnissante de classeC2 pour D . Alors pour toute ( p , q )-forme différentielle

-

1. Résolution du d avec estimations holdériennes

f continue sur D et telle que 3f soit aussi continue sur D, O

145

Ip 5

n,O

Iq 5

n,

on a

f = L f +Tfaf

surD, siq = O

f =dT,Pf +T,f,df

surD,sil 5 q 5 n

O ù L f = ScEaDf (0 A KWP(., O, on ait

> O. Ilexisteuneconstantec > O tellequepourtout

VIL Problème de Levi

150

Démonstration. Prouvons 2). Pour n = 1,on a

Pour n

2 2, si x’ = ( 2 2 , . . . ,x,),

une intégration par rapport àlavariable x1 donne

Montrons i i )

O Fin de la démonstration du Lemme 1.3. Pour [ E d D , soit Ut un voisinage de [ tel que (1.9) et (1.10) soient satisfaites pour z E Ut n D. Si V, CC Ut est un voisinage de 6 , les I < P . J n -duzn-l s-lIC-ZIZs+Z JaD\u, I < P l nde2n-i - s l C - ~ I Z s + l et JaD\C; sont clairement bornées sur V, n D , par conséquent pour z E Vc ri D (1.13) et (1.14) Grâce àla compacité de d D , on peut donc trouver un voisinage V de aD tel que les premiers membres de (1.13) et (1.14) soient bornés par C [ d i ~ t ( z , d D ) ] - ~pour /’ tout z E V n D. Comme sur D \ V ces deux intégrales sont bornées cela termine la preuve du lemme. O

Théorème 1.6. Soit D un domaine borné strictement convexe à bord C2 de C”. II existe une constantec > O telle que pour toute forme différentiellef continue s u r D (1.15)

I R”f

+ G;Dflll/2,D 5 clfIû,D.

En particulier si f est une ( p , q )-forme différentielle continue s u r n , O 5 p 5 n, (-l)p+q(R” f +EDf ) del’équation

1 5 q 5 n, tellequedf = O, lasolutionu = d u = f sur D satisfait l’estimation

(1.16)

1’41/2,D 5 Clf10,D.

1. Résolution du d avec estimations holdénennes

151

Démonstration. Grâce au Théorème 1.2 et au Lemme 1.3, il suffit de prouver que la section de Leray w passociée au domaine D vérifie les hypothèses du Lemme 1.3 pour obtenir l’estimation (1.15). Soit p une fonction définissante strictement convexe de D sur UT,alors

est une section de Leray pour D donc ii) est vérifiée. La section w pest indépendante de z , elle satisfait donc également i). I1 reste à montrer iii). Notons xj = zj(() les coordonnées réelles de C E @” telles que (3 = zj( , ) , t z ( z , . ). ,. ,tan-l(z,.))sontalorsdes coordonnées locales sur d D n Uc. Prouvons maintenant l’inégalité (1.2). Puisque t , ( z , z ) = O, quitte à restreindre Uc, il résulte de la formule de Taylor qu’il existe 61 > Otelque I(-- zI 2 61/t(z,()l siz,( E Uc.Aprèsunenouvellerestrictionde Uc, le Lemme 1.1 implique qu’il existe 6 2 tel que pour z, O tel O

Terminons cette étude en prouvant à l’aide d’un contre-exemple dû à E.M. Stein que l’estimation holdérienne d’ordre 1/2 que nous venons d‘obtenir ne peut pas être améliorée.

+

Soit D = ((z1,zz) E Cn I 1z1I2 1zZI2 < l} la boule unité de C2. Notons log la détermination du logarithme définie sur @ \ R+ et pour laquelle l’argument varie entre O et 27r. On pose

(z1,zZ)= (1,O). C’est une (0,l)-forme différentielle de classe C” sur D \ { (1,O)) car log(z1 - 1) si

ne s’annule pas si z1 !$ (1,

+

CO).

De plus, f est continue sur 0, car 1 log(z1

-

VIL Problème de Levi

152

1)I tend vers

03

quand z1

+

let l'holomorphie de la fonction z e --I.-.log(z1-1)

af

sur D implique que = O dans D. Nous allons prouver que, si 1/2, il n'existe pas de fonction u définie sur D telle que au = f sur D et Iul,,~ < +m. Supposons que u soit solution de l'équation au = f et vérifie Iul,,~< +m.

"(e) -

-

Puisque = f,la fonction u - A log(z1-1) est holomorphe dans D. Soit E tel q u e 0 < 2~ < 1, dorsles cercles { ( z I , t z ) E C2 1 21 = 1 - E , J z Z J = &} et { (z1,za) E C2 I z1 = 1 - 2~,Iz21= fi}sont contenus-dans D. Appliquons le Théorème de Cauchy à la fonction z2 ct u(zlrz2) - i o g ( ~ ~ - l sur ) chacun des cercles. On obtient alors

-

Puisque 1 ~ 1 , < ~ +CO, il existe donc une constante C vérifiant O < 2~ < 1,on ait

1I E ~ +

1 log(-E) ~-

lOg(-2E)

1

2i7r~ lOg(-2E)

'

> O telle que, pour tout E

< CEa-1/2.

+

+

Or log( - E ) = Log z7r et log( - 2 ~ ) = Log 2 Log I E ~ ZT, par conséquent log(-€) l o g ( - 2 ~ ) / ce , qui est impossible. Log 2 5

CE^-^/^^

En utilisant le Corollaire 3.22 du chapitre Vi, on déduit du Théorème 1.6 un résultat de résolubilité locale dans les domaines strictement pseudoconvexes bornés à bord de classe C2. un ouvert borné strictement pseudoconvexe à bord C2 de C" 5 p 5 n , l 5 q 5 n, continue sura et d-fermée sur R. Alors pour tout< E d a , il existe un voisinage Uc de dans Cn, une ( p , q - 1)-forme dflérentielle uc E (U, n R) et une constante Cc > O telle queduc = f suru< etIu O, considérons la section de .. pour Da alors @(z, O et choisissons X > 1 tel que

Supposons dans un premier temps que q = O. La (p,O)-forme holomorphe f x est définie sur le voisinage D A du convexe compact D. Par la Proposition 2.1, il existe une (p,O)-forme g holomorphe dans Cn teile que

On déduit alors de (2.1) et (2.2) que supD Siq

If

-

gI

< E.

2 1,ilexisteux E C : , ~ - ~ ( teiiequedux D ~ )

= fxsurDx+i,carDx+i

est un ouvert borné strictement convexe à bord C2 contenu dans D A (cf th. 1.2). Puisque Dx+i contient D, on peut trouver une fonction xx de classe C" à support

3. Finitude de la cohomologie de Dolbeault

155

compact dans Dx+l et égale à 1 sur D. On pose alors g = dxxux et grâce à (2.1) supDIf - g1 <

5 < E.

O

Corollaire 2.3. Soit R un ouvert borné strictement pseudoconvexe à bord C2 de C” .

<

<

Pour tout E 8 0 , il existe u n voisinage Uc de dans C” tel que toute forme dif~férentielle continue sur Uc n 0, ô-fermée dans Uc ri R est limite uniforme sur tout compact d e n n Uc de formes différentielles continues, d-fermées dans Cn . Démonstration. C’est une conséquence immédiate du Théorème 2.2 et du Corollaire 3.24 du chapitre Vi. O

3. FINITUDE DE LA COHOMOLOGIEDE DOLBEAULT

DANS LES DOMAiNES STRICTEMENT PSEUDOCONVEXES

Le but de ce paragraphe est de déduire de la résolution locale du 8 avec estimations holdériennes des théorèmes de finitude pour certains groupes de 8-cohomologie. Pour cela nous aurons besoin de quelques notions et résultats d’analyse fonctionnelle qui sont rappelés dans l’annexe C. Soit D un ouvert borné de C”, nous considèrerons les espaces de Banach des (p,q)-formes différentielles continues sur et Ap{i(D) des ( p , q ) formes différentielles holdériennes d’ordre 1/2 sur D ( c f .chapitre I I I , 5 2). On i / 2~ , - ~ = ( DO )et si q 2 1 on note F pi / ,2q - l ( D )le domaine de définition pose I ~

e:,@)

de l’opérateur 8 en tant qu’opérateur de AP(i-l(D) dans Ci,,@),

c’est-à-dire le

af,

pris au sens sous-espace des formes différentielles f E AP(:-l(D) telles que des distributions, soit continue dans D et admette une extension continue à D. On pose E i ( q ( D ) = 8(F’-l(D)). On note le sous-espace des formes différentielles f E Ci,,(D) telles que 8f = O dans D , c’est un sous-espace fermé de l’espace de Banach C&(D). Enfin, nous noterons H:,’l,,(D) le quotient

Zi,,(o)

q,, (D)/G(Q (D). Proposition 3.1. Soient D un ouvert strictement pseudoconvexe borné à bord C2 de C” ,p et q des entiers tels que O 5 p 5 n,O 5 q 5 n. Alors

il il existe des opérateurs linéaires continus TpP de l’espace C,”,,(D)dans E ’ e s p a c e A ~ ~ ~ - l telsque, (D) si f E C,”,,(D)vérifieaf E e,”,,@), o n a

(3.1)

f

= dT,Pf

+ T;+,df + KQ f

où KQest un opérateur compact deC,”,,(D) dans lui-même. ii) Si q 2 1,aT; définit un opérateur linéaire continu de ZP,,(D) dans luimême dont l’image est de codimensionfinie.

156

VU. Problème de Levi

iii) E&?(D) est un sous-espace uectoriel fermé de codimension finie de

(D).

zp,q

Démonstration. D’après le Corollaire 3.24 du chapitre VI, il existe un recouvrement fini de D par des ouverts U1, . . . ,Um de Cn tels que, pour tout j = 1, . . . ,m, il existe une application biholomorphe hj définie sur un voisinage de vj telle que hj (Uj n D ) soit un ouvert borné strictement convexe à bord de classe C2. I1 résulte alors des Théorèmes 1.2 et 1.6 que l’on peut trouver des opérateurs linéaires continus (T:)j,j = 1 , .. . ,m,deCi,,(D) dans AP(:-l(Uj n D ) tels que, si f E Cp,,(D) etaf E

Cp,q+l(D),

+

f = d(T,P)jf (T,+l)jdf sur Uj n D. Choisissons des fonctions ( ~ j ) j = l , , ,de . , classe ~ C” à support compact dans Cn telles que D n supp ‘ p j

c Uj et

m

= 1 sur D et posons T: f =

‘pj j=l

pour

f

E

Cp”,,(D).

CE,, (D)dans-:!iA

m j=l

f,

‘ p j (T,P)j

Nous avons ainsi défini un opérateur linéaire continu de

( D )qui vérifie m

f = aT,Pf + T,+,af-

acpj A

(T,P)jf

sur

D.

j=l

Posons Kif = -

m -

dpjA(T,P)jf,pour f E Ci,,(D).L‘opérateur K i ainsidéfini

j=l

( D )dans Ai(: (D). Grâce au Théorème est un opérateur linéaire continu de d’Ascoli c’est donc un opérateur compact de Cp”,,(D)dans lui-même, d‘où il. De dans lui-même. En effet, si f E Zi,q(D), on a plus KQenvoie Zp,q(o) -

dKtf =

m

m

j=l

j=l

-a ( Cà‘pjA (T,P)jf) = C a V j A a(T,p)jf m

Af

=

d‘après (3.21, car

f

E

ZP,,(o)

j=l

m

=O

puisque

C’pi= i

sur

-

D.

j=l

D’après (3.1),aT: = I - K QP sur Zp,,(n), pour q 2 1 et, K i étant compact, l’image de I - KQest de codimension finie dans Zp,,(D), ce qui prouve ii). L‘assertion iii) résulte de la proposition 4 de l’annexe C car EP(:(D), qui est l’image par de ( D ) ,est de codimension finie puisqu’il contient l’image de

-

dT$

a

O

Corollaire 3.2. Si D est un ouvert strictement pseudoconuexe borné à bord C2 de Cn alors dimHi,’f,2(D) < +CO, si O 5 p 5 n et 1 5 q 5 n.

4. Invariance de la cohomologie de Dolbeault

157

4. INVARIANCE DE LA COHOMOLOGIE DE DOLBEAULT

PAR LES EXTENSIONS STRICTEMENTPSEUDOCONVEXES A l’aide de la Beulenmethode de Grauert, nous allons prouver que pour un domaine strictement pseudoconvexe borné R de @” le groupe de d-cohomologie HP” (E)est isomorphe au groupe de cohomologie de Dolbeault H p > q ( R )défini %1/2 au chapitre II. Le Corollaire 3.2 impliquera alors que les groupes de cohomologie de Dolbeault d’un domaine strictement pseudoconvexe borné de @” sont de dimension finie.

Définition 4.1. On appelle extension strictement pseudoconvexe élémentaire un couple ordonné [ e 1 , & ] d’ouverts de @” à bord de classe C 2 tel que û1 c 8 2 , satisfaisant la condition suivante : il existe un ouvert V contenant 02 \ 61, des domaines Dl et D Z strictement pseudoconvexes tels que Dl c D2, 02 = 01 U D2, 81 n D2 = D1,(81 \ D z ) n (O2 \ 8 1 ) = 0 et uneapplication biholomorphedéj7nie sur un voisinage de telle que h ( D j ) , j = 1,2, soit un domaine borné strictement convexe à bord C z de C” .

v

Lemme 4.2. Soit [81,02]une extension strictement pseudoconvexe élémentaire. Alors pour tout ( p , q ) ,O 5 p 5 n et0 5 q 5 n

i) l’application restriction H:,’:/z(8z)

+ H i ; : / i ( ë l ) estsurjective, siq 2 1, + H:;:/2(81) est injective, siq 2 2

ii) l’application restriction H:;:/,(&) 1 et 81 strictement pseudoconvexe borné, iii) l’application restriction 2,”,,(82) + 2:,,(81) est d’image dense, si 81 est strictement pseudoconvexe borné. et si q

=

_

_

_

~

Demonstration. Puisque (01 \ OZ) n ( 8 2 \ 81) = 0,on peut trouver des voisinages V‘ et V” de e 2 \ 81 tels que V’ Cc V” Cc V et V” n ( 0 , \ D i ) = 0.Choisissons une fonction x de classe C” dans C” telle que x = 1 sur V’ et supp x c V”.

Montrons il. Soit f i E 2,”,,(81),1

5 q 5 n, on cherche des formes différen-

telles que fz = f i - 3u1 sur 01. Comme tielles u1 E AP{:-l(el> et f 2 E ZP,,(~Z) est l’image par une application biholomorphe, définie au voisinage de Di, d’un domaine strictement convexe borné à bord C 2 , il existe u E A‘/’(D1) telle que f i = au sur D1 ( c f Théorème 1.6). Posons

Les formes différentielles u1 et fz satisfont les conditions demandées. 1/z Prouvons iil. Soient f2 E 2;,,(82) et u1 E A P , q - l ( û l )telles que du1 = fi 1/2 sur 01, nous cherchons uz E A,,,-,(&) telle que du2 = f i sur 82. Comme D i est l’image par une application biholomorphe, définie au voisinage de 0 2 , d’un

VII. Problème de Levi

158

1/2 domaine strictement convexe borné à bord C 2 , il existe u E Ap,q-l (Dz)telle que f2 = au sur 02 et par conséquent u - u1 E (01).

z:,~-~

1/2 Si q 2 2, il existe 2i E Ap,q-.2(D1) telle que 8 v = u û(x2i)= u sur V’ n ûl. Posons

-

-

u1 sur DI. Alors u1

-

aiorsu E AP,,-,(û2) 112 etau2 = fi sur&. Supposons que q = 1 et 01 est strictement pseudoconvexe borné. I1 résulte alors de la définition des extensions strictement pseudoconvexe élémentaires que 82 est aussi strictement pseudoconvexe borné et par conséquent E ~ f ? ( & est) un sous-espace fermé de Z:”,,(&) d’après la Proposition 3.1, iii). I1 suffit donc de construire une suite ( W k ) & N de (p,O)-formes différentielles holdériennes d‘ordre 1 / 2 dans telles que 8wk soient continues sur $2 et lim If2 - &k l0,E, = O. La

e2

k+oo

(p;O)-forme différentielle u - u1 est continue sur Di, 8-fermée sur D I . I1 résulte alors du Théorème 2.2 qu’il existe une suite (?&)&N de (p,O)-formesholomorphes dans V telles que lim

k-tw

Ivk -

-

u l ) l g , E , n ~ u p p x=

o.

+

On définit aiors la suite ( W k ) k E N en posant W k = (1 - x)ul x ( u - U k ) . Mors dWk = f i (dx)(u- u1 - ‘uk) et la suite (Wk)&rÿ satisfait bien les conditions demandées.

+

-

Terminons en prouvant iii). Soit f E 2 : , , ( $ 1 ) . D’après le Théorème 2.2, il existe une suite ( z & ) & N de (p,q)-formes 8-fermées continues dans telles que ‘im If - v k l o , ë l n s u p p x = O. On a alors

v

k-ioo

fiE

+

Posons = (1 - x ) f X v k , c’est une suite de formes différentielles continues sur $2 qui converge uniformément vers f sur $1 et telles que dfk = A (f - v k ) converge uniformément vers O sur $ 2 . Grâce à la proposition 5 de l’annexe C et puisque 0 2 est strictement pseudoconvexe car 81 l’est, il résulte de la Proposition 3.1 qu’il existe un opérateur linéaire continu T de Z,,,($2) dans C:,,-,($2) tel que aT = I sur E,,,(&). Posons U k = T ( & A (f - W k ) ) , alors lim IUklo,g, = O et -

_-

ax

-

k-tm

Par conséquent, si f k = fk - U k , la suite ( f k ) & N est contenue dans o et converge uniformément vers f sur $1.

auk = dfk.

z:,,(&)

Lemme 4.3. Soit R un domaine strictement pseudoconvexe borné à bord C2 de @” et p une fonction déjinissante strictement plurisousharmonique pour fl,i.e. fl = { z E Uan I p ( z ) < O}. PosonsR, = { z E Van I p ( z ) < E } u 0. Pour1E.I assezpetit,R, est un domaine strictement pseudoconvexe à bord C 2 . Il existe alors E O > O tel que,

4. Invariance de la cohomologie de Dolbeault

159

si -EO 5 cy < O 5 p 5 E O , on peut trouver un nombrefini de domaines 191,. . . ,ON telsqueR, = 81 C 02 C . . . C ON = Rp et, pourj = 1 , . . . ,N - 1, [ û j , û j + l ] soit une extension strictement pseudoconvexe élémentaire. Démonstration. D'après le Théorème 3.23 du chapitrem, pour tout ( E da,il existe un voisinage Uc de E dans @" et h, une fonction holomorphe au voisinage de Üc telle que h(Uc n 0) soit strictement convexe à bord C2. Comme dR est compact, on peut extraire un sous recouvrement fini ( U i ) l i i i , du recouvrement (Uc)cEan. I1 existe alors EO

> O tel que nE,\ RpEo C

N

u U,. Choisissons des fonctions

i=l ( x j ) j = l , , , ,de , ~classe

j = 1 , .. . , N , et

N xj

C"

à support compact dans @" telles que supp x j

= 1s u r a c o \

c Uj,

R + ~ .Pour a et p fixés tels que -EO 5

cy

<

j=l

O < /3 5

EO,

on pose k O k = (2

E

CY I P ( Z ) - < (P - a ) CXj(4). j=l

Alors R, = I90 c . . . c 8N = Rp et siE0 est assez petit [Oj+l,8j]est une extension strictement pseudoconvexe élémentaire. O Définition 4.4. Soient D CC R CC Cn des ouverts de @". On dira que R est une extension strictement pseudoconvexe de D , s'il existe un voisinage U de \ D et

une fonction p strictement plurisousharmonique de classeC2 sur U telle que

D n U = { z E U I p ( z ) < O } et R n U = { z E U I p ( z ) < l } . On dira que l'extension estnon critique si la fonction p est sans point critique.

Les résultats qui suivent restent valables sans l'hypothèse non critique. Ils seront démontrés dans le cas général dans le paragraphe 8.

cc R cc @" tels que R soit une extension strictement pseudoconvexe non critique de D . Alors i) pour tout ( p , q ) , O 5 p 5 n, O 5 q 5 n, l'application restriction Hi,':/2(G)+ est un isomorphisme, ii) pour tout ( p , q ) , O 5 p 5 n, O 5 q 5 n, l'application restriction Zp,q(o)-+ Zi,q(D)estd'image dense pour la topologie définie par la norme I lo,o. Proposition 4.5. Soient D , R des ouverts de C",D

Démonstration. Par définition d u n e extension strictement pseudoconvexe non critique, il existe un voisinage U de 2 \ D et une fonction p strictement plurisousharmonique de classe C2 sur U sans point critique telle que D n U = { z E U I p ( z ) < O } e t R n U = { z E U I p ( z ) < l}.PosonsRt = D U { z E U I p ( z ) < t } , O 5 t 5 1.Soit T la borne supérieure de l'ensemble E des t E [0,1]pour lesquels il existe une suite finie 81, . . . ,8k d'ouverts de cc" tels que D = 00 c . . . c ûk = Rt et [0jp1,8j],j = 1,. . . ,k,soit une extension strictement pseudoconvexe élémentaire. Prouvons que T = 1. En effet si T < 1,d'après le Lemme 4.3, il existe EO > O

160

VIL Problème de Levi

tel que l'on puisse passer de àRT+~ par une suite finie d'extensions strictement pseudoconvexes élémentaires pour tout E < E O . Choisissons E < EO tel que T - E E E alors T E est aussi dans E ce qui contredit le fait que T est la borne supérieure de E . Par conséquent T = 1. En appliquant alors le Lemme 4.3 à R = R1 avec ,6' = O et a E E , on obtient de plus que 1 E E .

+

Nous avons donc prouvé qu'il existe une suite finie 00, . . . ,ON d'ouverts de Cn tels que D = 00 c c ON = R " '

et que [Oj-1,0j], j = 1,.. . , N , soit une extension strictement pseudoconvexe élémentaire. Alors chacun des û j , j = O , . . . , N , est un ouvert strictement pseudoconvexe borné et d'après le Lemme 4.2, d u n e part toutes les applications restriction (ej) 3 H o,l/2(ëj-1) P,~ sont des isomorphismes, si O p 71. et 1 q n, et donc la restriction cp = c p O~ . . . O (pl : Hi;:/2(fi) +

< <

Hi,'l/2(o)

< <

11,

est un isomorphisme, d'autre part toutes les applications restriction Zj,q(??j)4 Z,",($j-l) sont d'image dense, si O p 5 n et O q n, et donc la restriction $ = $N O . . . O $1 : Zj,,(D) + Z j > , ( o )est d'image dense. O

<

< <

Théorème 4.6.Soit R un domaine strictement pseudoconvexe borné à bord c2 de Cn . Alors, pour tout couple ( p , q ) ,O p n, 1 q 5 n, l'application restriction

< <

H&-p)

<

+ Hplq(R)

est un isomorphisme.

Démonstration. Soit U un voisinage de 80. Choisissons D CC R tel que R \ U C c D et R soit une extension strictement pseudoconvexe non critique de D. On a alors les applications restriction

H&yD) Lp,H"lq(n) 3 HP>, O ,1/2

(m.

En effet, par l'isomorphisme de Dolbeault HP>Q(R) s'identifie à Z~,,(R)/Z;,,(fl) n 1/2 aCj,,-,(R) et cp est donc bien définie car EP,, (R) c Z;,,(R) n aC~,,-,(R). L'application restriction $ est elle aussi bien définie grâce à la régularité du ( c f chap. III, Remarque 3.6). D'après la Proposition 4.5, $ O cp est un isomorphisme, donc cp est injective et $ est surjective. Pour obtenir le théorème il suffit de prouver que $ est injective ce qui résultera du lemme suivant : -

a

Lemme 4.7. Soient D et R deux ouverts de Cn tels que D CC 0. On suppose qu'il existe un voisinage U de R \ D et une fonction strictement plurisousharmonique p de classe C2 sans point critique telle que D n U = { z E U I p ( z ) < O} et D U { z E U I p ( z ) 5 C } CC R, pour toutC > O. Alors l'application restriction HP?,((R)

+ H;;:/2(D)

estinjectivepourtout(p,q)telsqueO 5 p 5 n , i 5 q 5 n.

5. Théorème d'annulation pour la cohomologie de Dolbeault

161

Démonstration. On peut construire une suite

D = Do c D1 c ... c Di, c . . d'ouverts bornés de

C" tels que R

=

u DI, et

Dk+l

est une extension stricte-

k>O

ment pseudoconvexe sans point critique de Di,, si IC E N. Soit f E Zi,q(R)telle que f = a w o sur D, wo 6 Ap,q112 ( D ) . D'après la Proposition 4.5, i), il existe une

l ~ , , - ~ ( Dtelle i , )que f = dwi, sur Di,, car chaque Di, est une extensuite wk E ~ 112 sion strictement pseudoconvexe non critique de DO. Nous allons construire une suite (ui,)lcENde formes différentielles teiies que uk E C:,q-l(~k), duk = f sur ~ iet ,Iui,+l - ui,lo,B, 5 La suite (uk)kEW, ainsi construite, converge uniformément sur tout compact de R vers une forme différentielle u E Ci,,-,(O) telle que au = f sur D. Posons uo = wo et supposons construites u l l . . . , u k . La forme différentielle wk+l - u k est un élément de Zi,,-,(o,) et, d'après la Proposition 4.5 ii), il existe (lti,+l E ~,",,-,(Oi,+l) telle que

3.

Iwk+l

-

uk - Q l c + l l o , ~ , < 1 / 2 k .

On pose alors ui,+l = wk+l - a k + l et on a bien dui,+l = d ( l t k + l = O sur Dlc+l, et I u k + l - u k l o , p , < 1/P.

Corollaire 4.8. Si alors

f sur

car O

est un ouvert strictement pseudoconvexe borné à bord C2 de Cn,

dimHp,q(R)3 de formes différentielles solutions de 8v, = f sur Da, et telles que v, E k+a-(D,,), O < a < 1, et v, = v,+l dans Da,-Î et u = lim v, sera la CP/-l ,+CC solution cherchée. Posons 03 = u3 et supposons construites v3, . . . ,ve pour C 2 3. Alors ve-ue+l est &fermée dans Da, et le Théorème 6.10 nous donne une solution 'p E Cp,:?l(Da,_,), O < a < 1,d e & = we - ue+1 dans Da,-, . Choisissons une fonction x de classe C" à support compact dans Da,-, et constante égale à 1 sur Da,-, et posons ve+1 = u t t l d(x'p). La forme différentielle ve+1 satisfait les conditions demandées.

+

Considérons maintenant le cas y = 1. Nous allons construire une suite ( v , ) , L ~ de solutions de du,, = f dans D a , telles que vu E C ~ , ~ " ( D aet, ) lvv(z) v,+l(z)I < 2 - , pour z E Da,-l. Une telle suite converge uniformément sur tout compact de D vers une (p,O)-forme u qui a les propriétés requises car les différences u - vu sont holomorphes sur Du. Posons v2 = u2 et supposons v2,. . . ,ve construites pour 2 2. Alors la différence ve - u(+1 est holomorphe dans D,, et grâce auThéorème 7.1 il existe v E cP,o(D),8-fermée telle que Ive(z) - uc+1 ( z ) 17 .(.)I < 2-e pour z E Da,-, . I1 suffit alors de poser ve+1 = ue+1 - v. Corollaire 7.5. Soit D un ouvert pseudoconvexede C" ,alors HP,q(D ) = O pour tout (p,y) telque0 < p < n et1 5 y 5 n.

7. Problème de Levi dans

Théorème 7.6. Un ouvert D de

cn

173

enest un domaine d'holomorphie si et seulement si

H ' > ~ ( D=) O

pour

i

5 q 5 n - 1.

Démonstration. La condition nécessaire est une conséquence des Corollaires 7.3 et 7.5.

Nous allons prouver la condition suffisante par récurrence sur la dimension complexe n. Si n = 1, l'hypothèse est vide, mais le théorème est vrai car tout ouvert de C est un domaine d'holomorphie. Supposons que le théorème est vrai pour les ouverts de Cn-',n 2 2 et considérons un ouvert D de C" pour lequel H o ) q ( D )= O si 1 5 q 5 n - 1.

Montrons pour commencer que si L est une sous-variété linéaire affine de Cn de dimension complexe n - 1, toute composante connexe de D n L considérée comme un ouvert de L 2 CnP1 est un domaine dholomorphie. D'après l'hypothèse de récurrence, il suffit de prouver que Ho > q ( D n L ) = O pour 1 5 q 5 n - 2. Sans perte de généralité, on peut supposer que L = { z E @" I z, = O}. Soit cp une (0,q)-formedifférentielle de classe c", d-fermée sur D n L , 1 5 q 5 n - 2, alors cp s'étend à un voisinage U de D n L dans D en une forme différentielle de classe C", d-fermée, de type (0,q) (il suffit de considérer cp comme une forme ne dépendant pas de zn). Soit x une fonction de classe C" dans D , égale à 1 sur un voisinage de D n L dans D et à support dans U . On pose

+

-

On définit ainsi une (0,q 1)-forme différentielle de classe C", d-fermée dans D tout entier. Puisque par hypothèse Ho>q+l(D)=- O, il existe une (0,q)-forme différentielle de classe C" dans D telle que da = a. On a alors sur D et comme Hotq(D) = O, il existe une (0,q - 1)-forme différentielle Q de classe C" dans D telle que x@- zn% = 8s.En restreignant cette identité à L et en posant 6' = on a obtenu une (0,q - 1)-forme différentielle 6' sur D n L telle que 88 = cp ce qui prouve que H0+7(Dn L ) = O.

QIL,

Supposons maintenant que D n'est pas un domaine d'holomorphie, il existe alors deux ouverts D1 et 0 2 tels que 0 # D1 c D2 n D , 0 2 non contenu dans D et pour toute fonction holomorphe dans D , il existe une fonction g2 E O ( & ) telle que g = g2 sur D1. Soient E Dl et L une sous-variété linéaire affine de @" de dimension complexe n - 1 passant par et telle qu'il existe un point ( E a ( D n L ) n f 1 2 . Puisque toutes les composantes connexes de D n L sont des domaines dholomorphie dans L 2 enpi ainsi que nous venons de le prouver, il existe une fonction f holomorphe dans D n L qui ne peut être étendue en une fonction holomorphe au voisinage de (. Comme H 0 ) l ( D ) = O, il résulte du Lemme 6.4 que f est la restriction à D n L d u n e fonction g holomorphe

VIL Problème de Levi

174

sur D (le Lemme 6.4 est donné sous l'hypothèse d u n ouvert 0 strictement pseudoconvexe, mais on remarque que la démonstration utilise seulement le fait que Ho>'(R)= O). Mais cette fonction g s'étend en une fonction holomorphe au voisinage de ce qui contredit l'hypothèse faite surf. Par conséquent D est un domaine O dholomorphie. Terminons ce paragraphe en regroupant dans un seul énoncé les résultats du Corollaire 7.3, du Théorème 7.6 et du Théorème 1.13 du chapitre VI. Corollaire 7.7. Soit D un ouvert de @" . Les conditions suivantes sont équivalentes : i) D est un domaine d'holomorphie. ii) D est holomorphiquement convexe. iii) D est pseudoconvexe. iv) Ho>'J(D) = O s i l 5 q 5 n - 1.

8. PROBLCME DE LEVI DANS LES VARIÉTÉS ANALnIQUES COMPLEXES

L'objet de ce paragraphe est de relier dans une variété analytique complexe la notion de convexité holomorphe et l'existence d u n e fonction dexhaustion plurisousharmonique de classe C2.

a

A. Résolution du dans les variétés analytiques complexes Dans tout le paragraphe X désignera une variété analytique complexe de dimension n. Définition 8.1. Un ouvert D relativement compact dans X est dit strictement pseudoconvexe s'il existe une fonction p strictement plurisousharmonique de classe C2 définie dans un voisinage du bord de D et telle que D n U ~ = D { z E U ~ ID p ( z ) < O} e t d p ( z ) # Opourtoutz E dD.

Remarque : La notion de fonction plurisousharmonique et strictement plurisousharmonique a bien un sens dans une variété analytique complexe car elle est invariante par changement de coordonnées holomorphes. La définition d u n ouvert strictement pseudoconvexe donnée ici coïncide avec celle du chapitre Vi lorsque X = C". On peut également remarquer qu'un tel domaine est à bord C2. Contrairement à ce qui se passe dans C" , on ne peut pas toujours résoudre le d dans un ouvert strictement pseudoconvexe d u n e variété analytique complexe

-

quelconque. Néanmoins la Proposition 3.1 ainsi que sa démonstration restent encore valables dans ce cadre plus général.

8. Problème de Levi dans les variétés analytiques complexes

175

Théorème 8.2. Soient D un ouvert strictement pseudoconuexe à bord C2 relativement compact dans X , p etq des entiers tels que O 5 p 5 n, O 5 q 5 n. Alors i) il existe des opérateurs linéaires continus T: de dans Ai(:(D) telsque,sif E C:,,(D) vérifiedf E c;,,(D), o n a

Cp,,(o)

où KQest un opérateur compactdeC;,q(D) dans lui-même, ii) si q 2 1, dT,P définit un opérateur linéaire continu de Z,”,,(D)dans luimême dont l’image est de codimension finie, iii) Ej(:(D) est un sous-espace vectoriel fermé de codimension finie de

(D).

zp,q

Nous allons prouver maintenant que, si un ouvert D de X admet une fonction définissante strictement plurisousharmonique de classe C2 définie au voisinage de D et pas seulement sur un voisinage de d D , alors on peut résoudre le dans D. Notons qu’un domaine strictement pseudoconvexe de cc“ possède cette propriété (cf chapitre Vi, Théorème 3.19), mais ce n’est pas le cas d’un domaine strictement pseudoconvexe d u n e variété analytique complexe quelconque.

a

Définition 8.3. Unefonction continue sur X à valeurs réelles est dite d’exhaustion si pour touta E R,l’ensemble{z E X I p ( z ) < O } est relatiuementcompactdansX. Nous nous intéressons aux variétés analytiques complexes qui possèdent une fonction dexhaustion strictement plurisousharmonique de classe C2. Proposition8.4. Si X admet unefonction d’exhaustion strictement plurisousharmonique de classec’, alors elle possède unefonction d’exhaustion strictement plurisousharmonique de classe C2 dont l’ensemble des points critiques est discret. Cette proposition est une conséquence immédiate du Lemme de Morse suivant :

x

Lemme 8.5. Soient une variété analytique complexe et p une fonction strictement plurisousharmonique de classe C2 dans X . Si K est un compact de X tel que d p ( z ) # O pour tout z E K , alors pour tout E > O, il existe une fonction pE strictement plurisousharmonique de classeC2 dans X telle que i) p - p, ainsi que ses dérivées premières et secondes sont majorées par€ sur

X, ii) l’ensembleCrit (p,) = { z E X iii) pE = p s u r K .

I dp, (2) = O } est discret dans X ,

Démonstration. Soit UK un voisinage de K tel que dp # O dans U K . I1 existe alors deux suites d’ouverts (Uj)jEw. et (Vj)jEw. relativement compacts dans X tels que

u uj, oc>

dX\UKC

j=l

VU. Problème de Levi

176

b) pour t o u t j , V, est un domaine de carte et Uj CC Vj,

c) V, n K = 0 pour tout j, d) pour tout compact L de X il n'existe qu'un nombre fini d'indices j tels que

LnV,#0. Grâce aux Lemmes 2.24 et 3.12 du chapitre VI, on peut construire une suite ( x j ) j E ~ de fonctions de classe C" dans X telles que pour tout j on ait 1) xj = O dans un voisinage de X \ V, et par conséquent xj = O sur K , 2) la fonction p . . . x j est strictement plurisousharmonique dans X et n'a qu'un nombre fini de points critiques sur K ü Ü1 ü . . . ü Ü j , 3) la fonction x j ainsi que ses dérivées premières et secondes sont majorées par ~ / 2 sur j X.

+ + +

Alors pE = p

+

03

xj convient.

O

j=l

Dans les variétés analytiques complexes nous devons remplacer la notion d'extension strictement pseudoconvexe élémentaire par celle un peu plus générale d'élément d'extension strictement pseudoconvexe pour pouvoir traverser les points critiques. Définition 8.6. On appelle élément d'extension strictement pseudoconvexe u n couple ordonné [O1,821 d'ouverts de X à bord de classe C2 tel que 81 c 8 2 satisfaisant la condition suivante: il existe un ouvert pseudoconvexeV contenu dans un do0 2 strictement pseudomaine de carte de X contenant 8 2 \ 81 et des domaines Dl et ~convexestelsqueD1 c D 2 , 0 2= û 1 U D 2 , B i n D 2 = D1,(ûl \ D 2 ) n ( & \Ol) = 0 et une application biholomorphe définie sur un voisinage de 7à valeurs dans Cn telle que h ( D j ) ,j = 1,2, soit un domaine borné strictement pseudoconvexe à bord C2 de C" . Le Lemme 4.2 reste valable pour cette notion si on remplace dans sa démonstration le Théorème 1.6 par le Théorème 5.3, le Théorème 2.2 par le Théorème 7.1 et la Proposition 3.1 par la Proposition 8.2. Nous allons étendre le Lemme 4.3 au cas où la fonction p possède des points critiques isolés.

Lemme 8.7. Soit p : X + IR une fonction strictement plurisousharmonique de classe C2 telle que Crit(p) soit discret. On pose D, = { z E X I p ( z ) < a } pour a E IR et on suppose que dDo est compact. Il existe E > O tel que pour tout a,,û vérifiant - E 5 a < O < p 5 E il existe u n nombre fini de domaines 81, . . . ,ON telsque D, = 81 c . . . c ON c Dp e t p o u r j = 1 , . , , , N - 1, [Oj,Oj+l] soit un élément d'extension strictement pseudoconvexe. Démonstration. Puisque Crit p est discret il existe EO > O tel que Crit(p) (DEO \ D v E 0 soit ) fini et contenu dans dDo. Notons < I , . . . , O s u r X \ U , ii) { z E X I cp(z) < c } CC X pourtoutc E R. h

Démonstration. Puisque i? est O(X)-convexe et X holomorphiquement convexe, on peut trouver une suite (Kj)jEw. de compacts O(X)-convexes tels que K1 = h

K , ~j c

cc

Kj+, et x = u K

~Posons . u1 = u et vj =

Kj,,

pourj

2 2. Pour

j=l

chaquej,choisissonsdesfonctionsfjkE O ( X ) , k = I , . . . k.teilesqueIfjkl < 1 ' 3,. sur K j et max I f j k ( z )I > 1,si z E Kj+2 \ U (il en existe car K j = K j ) .De plus, l O sur X \ U et cp < O sur k donc sur K d'après (8.3). De plus iil est vérifiée grâce à (8.4). Par ailleurs cp est plurisousharmonique car c'est la borne supérieure d'une famille de fonctions plurisousharmoniques. Il reste à prouver que cp est strictement plurisousharmonique. Soit E X fixé et (21, . . . ,zn) des coordonnées locales holomorphes au voisinage de q(X)= O (cf chap. VI, cor. 4.3). O Ce théorème d'annulation nous permet de donner des conditions géométriques suffisantes pour le phénomène de Hartogs-Bochner et l'extension des fonctions CR en utilisant les résultats du chapitre V On déduit alors des Corollaires 1.4 et 5.2 du chapitre Vle Théorème de HartogsBochner dans les variétés de Stein. Théorème 8.25. Soit X une variété de Stein de dimension n,n 2 2. Alors le phénomène de Hartogs se produit dans X . Plus précisément pour tout domaine D relativement compact à bord de classec'",k >_ 1,dans X tel que X \ D soit connexe et toute fonction CRf de classeCs, O 5 s 5 k, surdD, il existe une fonction F de classeCs sur D, holomorphe dans D telle que F a D = f .

I

Théorème 8.26. Soient X un variété de Stein de dimension n,n 2 2, et K un compact de X,O(X)-convexe. Alors pour tout domaine D relativement compact dans X tel que 1) ûD \ K soit unesous-variétéde classeC',k 2 1, de X \ K , 2)D\ K = I n t o \ K ) , 3) X \ (EU K ) est connexe et toutefonction C R f de classec', O 5 s 5 k,surdD \ K , il existe une fonction F de classeCs s u r D \ K , holomorphedans D \ K telleque F / a D , K = f. Démonstration. D'après le Théorème 5.1 du chapitre V, il suffit de prouver que H $ l ( X \ K ) = O. Si X est de Stein de dimension n 2 2 alors par le Théorème 8.24, H;>l( X ) = O. Si K est O(X)-convexe, daprès le Théorème 8.17, K possède une suite décroissante (Up),,, de voisinages de Stein telle que Up = K . De plus pour n 2

n

PEN

3,H,0>2(Vp) = O et les hypothèses du Théorème 2.5 du chapitre V sont satisfaites, par conséquent H : ~ ( x \ K ) = O. Considérons maintenant le cas n = 2. Prouvons que l'hypothèse ii) du Théorème 2.5 du chapitre Vest encore satisfaite pour les voisinages (Up),,, de K donnés par le Théorème 8.17. Ces voisinages sont de la forme { p p < c } où p p est une fonction strictement plurisousharmonique dexhaustion de X . Donc, grâce au Théorème 8.11 ii), toute (r,O)-forme holomorphe sur Up est limite uniforme sur tout compact de Up de (r,O)-formes holomorphes sur X. Soit f E c c 2 ( U p )une forme 8-fermée à support compact dans Up qui s'écrit f = 8 g où g E Ccl( X ) est à support compact dans X . Par la formule de Stokes une telle forme vérifie

8. Problème de Levi dans les variétés analytiques complexes

187

pour toute (2,O)-forme holomorphe cp dans X . D’après la Proposition 8.23, pour prouver que f = ago où go E U p )est à support compact dans U p ,il suffit de vérifier d u n e part que E&(U,) est fermé, ce qui est le cas car Up est de Stein (et donc H i > l ( U p= ) O) et d‘autre part que

pour toute (2,O)-forme holomorphe $J sur U p . Mais par définition des U p ,$J = lim (Pnr où les (Pn sont des (2,O)-formes holomorphes sur X et donc f A II, = n-tm UP

Remarque :Pour n 2 3, nous n’avons pas utilisé pleinement l’hypothèse que K est O(X)-convexe, nous avons seulement utilisé le fait que K possède une suite w

décroissante (Up),,, de voisinages de Stein telle que K =

n Up. Un compact p=o

d’une variété analytique complexe qui possède cette propriété s’appelle un compact de Stein. Cette notion sera utilisée au chapitre ViII. En particulier, il résulte de la Proposition 8.22 que, si D est un domaine strictement pseudoconvexe, relativement compact d u n e variété analytique complexe, D est un compact de Stein.

Commentaires. Le problème de Levi dans les domaines de Cn a été résolu par Oka [Ok], en 1942, pour n = 2, puis, au début des années 50, pour n quelconque par Oka [Okl,H. Bremermann [Brll et E Norguet [Nol. En 1958, H. Grauert [Grl a donné la solution d u problème de Levi dans les variétés de Stein à l’aide de la théorie des faisceaux cohérents. La première démonstration de la résolubilité du dans les domaines pseudoconvexes n’utilisant pas la solution du problème de Levi est due à L. Hormander [HOU.Cette démonstration parue en 1965 s’appuie sur des estimations L2 pour le problème a-Neumann. Les premiers opérateurs intégraux pour résoudre lea dans les domaines strictementpseudoconvexes de C” ont été construits au début des années 70 par H. Grauert et I. Lieb [GrfLi]et G.M. Henkin [He2].Leur construction utilise une formule intégrale prouvée indépendamment par G.M. Henkin [Hel]et E. Ramirez [Ram].

a

Les méthodes que nous avons utilisées dans les paragraphes 1 à 4 s’étendent à l’étude du dans les domaines q-convexes au sens de Andreotti-Grauert. Le lecteur intéressé pourra consulter [HelLe2]. La démonstration du Théorème 5.1 est due à Laufer [La]. La résolution du problème de Levi par la méthode des représentations intégrales est exposée dans [HelLell et [Ra]. Une alternative à cette méthode est la théorie L2 de Hormander qui est développée dans [Ho2]. La caractérisation cohomologique des domaines d’holomorphie se trouve dans [Gu]. Le Théorème 8.26 est prouvé dans [LIT21 en utilisant une généralisation du noyau de Bochner-Martinelli aux variétés de Stein.

a

Chapitre VI11

Caractérisation des singularités illusoires pour les fonctions C R sur un bord strictement pseudoconvexe

Dans une première partie nous donnons différentes caractérisations des compacts K du bord d'un domaine D strictement pseudoconvexe d'une variété de Stein de dimension n qui ont la propriété suivante : toute fonction C R continue sur d D \ K s'étend holomorphiquement à D tout entier. Lorsque n = 2, nous obtenons une caractérisation géométrique et si n 2 3, des caractérisations cohomologiques. Nous prouvons entre autres que la condition cohomologique suffisante donnée dans le Théorème 5.1 du chapitre V devient nécessaire si la variété ambiante est de Stein et si on se resrtreint aux domaines strictement pseudoconvexes. Nous terminons par une caractérisation géométrique des compacts K solutions du problème précédent lorsque la fonction à étendre est orthogonale aux (n,n - 1)-formes d-fermées dont le support ne rencontre pas K . Cette condition correspond, lorsque K est vide, à celle du Théorème 3.2 du chapitre IV.

1. RÉDUCTION AU CAS DES FONCTIONS CONTINUES

Soient X une variété analytique complexe de dimension n, D un domaine relativement compact de X et K un sous-ensemble compact de d D tel que d D \ K soit une sous-variété de classe Ck,k 1, de X \ K . Le compact K est une sins k, sur d D si toute gularité illusoire pour les fonctions C R de classe Cs,O fonction C R de classe C" définie sur d D \ K s'étend en une fonction holomorphe dans D et de classe Ck dans D \ K .

>

< <

Dans les chapitres précédents nous avons donné des conditions cohomologiques (cf chap. V, th. 5.1 associé aux th. 2.5 et 2.6) et des conditions géométriques (cf chap. ViI,th. 8.26) suffisantes pour qu'un compact K de d D soit une singularité illusoire pour les fonctions C R de classe C" sur dD. Dans ce chapitre nous alions

190

VIII. Caractérisation des singularités illusoires pour les fonctionsC R

nous intéresser au cas particulier où D est un domaine strictement pseudoconvexe à bord Ck,k 2 2 et donner dans ce cas différentes caractérisations des singularités illusoires pour les fonctions CR. Remarquons tout d‘abord que si D est un domaine strictement pseudoconvexe à bord Ck,k 2 2, de X et K un compact de d D , il existe un ouvert R de D tel que ( d D \ K ) U R soit un voisinage de all \ K dans D \ K et toute fonction C R de classe C ” , O 5 s 5 k, sur d D \ K s’étend en une fonction holomorphe sur R et de classe C” sur ( d D \ K ) ü R. C’est une conséquence immédiate de la proposition suivante : Proposition 1.1. SoitD un domainestrictementpseudoconvexeà bordek, k 2 2 , de X e t x un point de dD. Il existe un voisinage V, de x dans X tel que toute fonction C R de classeCs sur V, n d D s’étende en unefonction holomorphe sur V, n D et de classe C” sur V, n D. Démonstration. D’après le Théorème 3.23 du chapitre Vi, il existe un voisinage U, de x et des coordonnées holomorphes sur ce voisinage relativement auxquelles d D est convexe. Supposons ces coordonnées choisies telles que x = O et que l’hyperplan tangent en z à d D ait pour équation Re z, = O. I1 existe alors E # O assez petit pour que z E { z E U, I Rez, > E } n D c U,. Posons rx = d D n { z E U, I Re z, > E } . Grâce à l’étude faite dans le paragraphe 6 du chapitre IV, toute fonction C R de classe Cs sur rx s’étend en une fonction holomorphe sur D n { z E U, I Rez, > ~ } e t d e c l a s s e C ~ s u r D n {Ez U, I Rez, > E } . Par O conséquent V, = { z E U, I Re z, > E } convient. Grâce à cette remarque, nous voyons que pour l’étude des singularités illusoires pour les fonctions C R sur un bord strictement pseudoconvexe on peut se limiter au cas des fonctions C R continues.

2. CAS DE LA DIMENSION 2

Soient X une variété analytique complexe et D un domaine relativement compact de X. On note O ( D )l’espace vectoriel des fonctions holomorphes définies sur un voisinage de D. Définition2.1. Un sous-ensembleE d e n estO(D)-convexe sietseulementsi h

E = E O(D) - - -{ z

E

I

If(z)l

L SUP If(z)l,f E O ( D ) ) . zEE

Remarque :Si D est strictement pseudoconvexe la condition pour un sous-ensemble E de D d‘être O@)-convexe est équivalente à E est O(U)-convexe pour un voisinage U de D, ce voisinage pouvant être choisi de Stein si X est de Stein. C’est

2. Cas de la dimension 2

191

une conséquence du ii) du Théorème 8.11 du chapitre VII, qui implique, dans ce cas, la densité des fonctions holomorphes sur un voisinage U de D dans O@), ce voisinage pouvant être choisi de Stein et tel que est O(U)-convexe, si X est de Stein. I1 suffit si D admet une fonction définissante strictement plurisousharmonique p sur un voisinage Va0 de d D , i.e. D n Va0 = { z E Va0 I p ( z ) < O} de prendre U = D U { z E Va0 I p ( z ) < E } pour E assez petit (cf chap. VII, Th. 8.19 et Prop. 8.22). Théorème 2.2. Soit D un domaine relativement compact, strictement pseudoconvexe à bord Ck,IC 2 2, d’une variété de Stein X de dimension 2. Alors pour tout compact K contenu dans d D , les conditions suivantes sont équivalentes : i) K est une singularité illusoire pour les fonctions C R sur d D , ii) K est O@) -convexe. Démonstration. Prouvons ii) implique i). Soit U un voisinage de Stein de D tel que K soit O(U)-convexe, il en existe d’après la remarque car D est strictement pseudoconvexe et X de Stein. Le Théorème 8.26 du chapitre Vi1 appliqué au triplet ( U , D , K ) dont , les hypothèses sont clairement vérifiées, implique alors que K est une singularité illusoire pour les fonctions C R sur dD. Étudions maintenant la réciproque. Puisque D est strictement pseudoconvexe, le Lemme 8.18 du chapitre Vi1 implique que k , ( ~n , d D = K . Soit Dl un do-

D c D’,

n dD’ = K et il suffit de faire une petite perturbation C2 de d D laissant fixe K point par point, on peut alors passer de D à D’ par une suite dénombrable d’éléments d’extension strictement pseudoconà Slodvexes ce qui donne la densité de O@’) dans O@). Grâce à un résultat /.dû . kowski, que nous détaillerons ci-dessous dans le cas où X = O, pour tout 8 E IW et @ j ( O ) tend vers un point po E K quand j tend vers l’infini. Posons fj ( 2 1 ,z2) = Z Z - - < plJ ( Z i ) ’ La fonction f j ainsi définie est holomorphe au voi-

a

h

a2.

sinage de r? n D’après le Théorème 7.1 du chapitre VII, on peut approcher fj uniformément sur r? f? par des fonctions holomorphes dans C2. Comme

a2

a2

Ifj I 5 max(

,2) sur r? n dA2 et puisque la borne supérieure de Ifj I sur k n tend vers l’infini avec j , on peut donc construire une fonction f holomorphe dans C2 dont la borne supérieure sur K n est strictement supérieure à la borne supérieure sur K n dA2 ce qui contredit le principe du maximum local. h

a2

Pour obtenir la seconde assertion il suffit de remplacer C2 par un ouvert pseudoconvexe U de C2 tel que les fonctions holomorphes sur U soient denses dans Q(D) et D soit O(U)-convexe et de répéter la démonstration précédente. O

3. CARACTÉRISATION COHOMOLOGIQUE EN DIMENSION n

23

Lorsque la dimension de la variété ambiante est plus grande que 3, nous n’obtenons plus de caractérisation géométrique pour les singularités illusoires, mais seulement une caractérisation cohomologique.

3. Caractérisation cohomologique en dimension n

23

193

Théorème 3.1. Soit D un domaine relativement compact, strictement pseudoconvexe à bordek, Ic 2 2 , d’une variétéde Stein X de dimension n 2 3. Alors pour tout compact K contenu dans d D , les conditions suivantes sont équivalentes : i) K est une singularité illusoire pour les fonctions C R s u r d D , ii) H o l l ( X \ K ) = O, iii) H ~ ~ \ (K )x = O. Démonstration. L‘implication iii) =+ il est une conséquence du Théorème 5.1 du chapitre Vcar D étant strictement pseudoconvexe et K c d D les hypothèses 2) et 3) de ce théorème sont évidemment satisfaites. Le fait que ii) implique iii) résulte du Théorème 2.7 du chapitre V, car X étant une variété de Stein on a H:)’ ( X ) = O ( c f chap. VII, th. 8.24). I1 reste à prouver que i) implique ii). Nous utiliserons le lemme suivant :

Lemme 3.2. Soient X une variété de Stein de dimension n, n 2 3, et K un compact de Stein. Alors H o ) l ( X\ K ) = O. Démonstration. Puisque K est un compact de Stein il possède par définition, une suite décroissante (Up),,, de voisinages de Stein tels que l’adhérence de Up+,soit Up. Soit f une (0,l)-forme différentielle CO3, dcontenue dans U, et K =

n

PEN

fermée sur X \ K . Choisissons une suite ( X , ) , ~ N d‘éléments de D ( X ) tels que x, = 1 au voisinage de Ü,+l et x, = O au voisinage de X \ Up. Prolongeons (1 - x p ) f par O dans Ü,+1. Alors a(1 - x,)f = &yp A f estune (0,2)-forme est un ouvert de Stein et ri 2 3, d-fermée à support compact dans Up.Puisque 17, il existe une (0,l)-forme différentielle g, de classe C“ à support compact dans Up telle que a(i - x , ) f = 3 g p , d‘où a ( g p (1 - xp)f)= O sur x et comme x est de Stein, il existe 7, E C” ( X )telle que g, (1 - x,)f = 87, sur X . Remarquons que yp+l - 7, est holomorphe dans X \ Ü, et que X \ Ü p est connexe car Up est pseudoconvexe. I1 résulte alors du phénomène de Hartogs dans les variétés de Stein ( c f .chap. VII, th. 8.25) qu’il existe une fonction h, holomorphe dans X telle

+

+

00

quehplX,Up = y,+l-y,.Posonsh localement finie sur X De plus on a

\K

= y1+ C(yj+1-yj-hj).Cettesommeest j=l

et définit donc une fonction h de classe C” sur X

\ K.

Fin de la démonstration du Théorème 3.1.Puisque D est strictement pseudoconvexe, il existe des domaines strictement pseudoconvexes D’ et D” tels que D” c D C D’et 0” n d D = K = D n do’. Nous allons prouver qu’étant donné une (0,l)-forme différentielle f de classe C”, d-fermée dans X \ K , il existe une

194

Vlll. Caractérisation des singularités illusoires pour les fonctions C R

fonction g de classe C" sur X \ K telle que d g = f . Puisque D' est un ouvert de Stein, il existe u1 E C" (D') telle que au1 = f sur D' ( c f chap. VI1 Corollaire 8.21 et Proposition 8.22). Comme 8'est un compact de Stein car D" est strictement pseudoconvexe, il résulte du Lemme 3.2 que l'on peut trouver une fonction u2 E C"(X \ 8') telle que au2 = f sur x \ La fonction v = u1 - u2 est définie et holomorphe sur D' \ 8'qui est un voisinage de d D \ K . Puisque K est une singularité illusoire pour les fonctions C R sur d D il existe une fonction V E O ( D )qui étend 'u à D. Posons

3'.

g = 7L1 = u2

-

V

sur sur

D'

x \ D".

On définit ainsi une fonction de classe C" sur X\ K qui vérifie dg = f sur X \ K . 0 Remarque :I1 résulte du Théorème 3.1 que le fait que K soit une singularité illusoire pour les fonctions C R sur le bord d u n domaine strictement pseudoconvexe ne dépend pas du domaine strictement pseudoconvexe contenant K lorsque n 2 3 mais seulement de K lui-même et de ses propriétés en tant que sous-ensemble de la variété X .

4. CARACTÉRISATIONDES SINGULARITÉSILLUSOIRES FAIBLES

Soient X une variété analytique complexe de dimension n, D un domaine relativement compact de X et K un sous-ensemble compact de ûD tel que r = d D \ K soit une sous-variété de classe C k , IC 2 1 , de X \ K . Le compact K est une singularité illusoire faible pour les fonctions C R sur d D si pour toute fonction f E C(r)orthogonale aux formes cp, de classe C" sur X , d-fermées, de bidegré (n,n - 1), définies au voisinage de D et à support disjoint de K , i.e. fP = O, il existe une fonction F holomorphe dans D continue dans D \ K telle que FI = f . Notons que les fonctions considérées sont C R , puisque les formes d exactes sont d-fermées. Nous avons démontré au paragraphe 3 du chapitre IV que si X = û? , K = 0 est une singularité illusoire faible pour les fonctions C R sur d D et nous avons remarqué que les fonctions C R ne sont pas toujours orthogonales aux (n,n- 1)-formesd-fermées en particulier lorsque r n'est pas connexe.

sr

Commençons par des caractérisations cohomologiques.

Théorème 4.1. Soit D un domaine relativement compact, strictement pseudoconvexe à bord C2 d'une variété de Stein de dimension n 2 2 . Alors pour tout compact K contenu dans d D , les conditions suivantes sont équivalentes : i) K est une singularité illusoirefaible pour les fonctions C R sur d D , ii) Hoi'(X \ K ) estséparé, iii) H:' ( X \ K ) est séparé.

4. Caractérisation des singularités illusoires faibles

195

Démonstration. Commençons en prouvant que ii) implique iii). Soit f une $,O,l)forme différentielle de classe C" sur X \ K appartenant à l'adhérence de 3,5:>( X \ K ) dont le support est contenu dans un compact L de X . Puisque H 0 > l ( X\ K ) est séparé, il existe g E c" ( X \ K ) telle que f = 39. La fonctiong est holomorphe sur X \ ( Lü K ) .Puisque X est une variété de Stein, de dimension n 2 2, il résulte du phénomène de Hartogs qu'il existe une fonction 9 E O ( X )qui coïncide avec g en dehors d'un compact de X . Si on pose go = g - j , alors f = ago et le support de go est relativement compact dans X . Par conséquent H 2 l ( X \ K ) est séparé.

C R continue Montrons maintenant que iiil implique il. Soit f une fonction sur ï qui est orthogonale aux (n,n- 1)-formes différentielles C", d-fermées dont le support est disjoint de K . D'après la Proposition 1.1, f possède une extension holomorphe f à un voisinage U de ï dans D. Soit x une fonction C" sur X \ K égale à 1 sur un voisinage de X \ ( D U K ) et nulle sur D \ U . Le support de est alors relativement compact dans D. Notons E l'adhérence des (0,l)-formes différentielles 8-exactes dans ( X \ K ) ) + .Nous allons prouver que f3x E E. Raisonnons par l'absurde. Si $ E , il existe une forme linéaire continue T sur (Ccl(X \ K ) ) +telle que TI, = O et (T,f3x) # O. On peut considérer T comme un (n,n - 1)-courant sur X \ K à support fermé dans X et on a (T,dg) = O pour toute fonction g E C" ( X \ K ) dont le support est relativement compact dans X , ce qui signifie que T est d-fermé. D'après le Corollaire 4.2 i) du chapitre V, il existe une forme différentielle 'p de classe C", d-fermée dans X \ K et un courant S sur X \ K , tous deux à support fermé dans X , tels que T = 3s cp. Comme f a x est d-fermée dans X \ K , on a alors

ax

(CTl

fax

+

d'après la formule de Stokes et l'hypothèse sur f , ce qui contredit le choix de T donc fdx E E . Mais par hypothèse H(P'l(X \ K ) est séparé, donc = 89, où g est une fonction C" sur X \ K à support relativement compact dans X . La fonction g est alors holomorphe sur un voisinage de X \ (D ü K ) et puisque X est de Stein de dimension n 2 2, il résulte du phénomène de Hartogs qu'il existe une fonction 9 E O ( X )telle que g = g sur un voisinage de X \ ( D U K ) . En posant F - = x f - g j on obtient une fonction holomorphe dans X \ K continue dans D \ K qui coïncide avec f au voisinage de ï dans D donc avec f sur î.

fax

+

Terminons en prouvant que i) implique ii). Puisque D est strictement pseudoconvexe, il existe des domaines strictement pseudoconvexes D' et D" tels que D" c D c -D' et D" n d D = K = D n dD'. Soit f une (0,l)-forme différentielle C", d-fermée sur X \ K telle que f soit la limite dans Cri ( X \ K ) de la suite (8gj)jEw,où g j E C"(X \ K ) . Puisque D' est un ouvert de Stein,.il existe ' ) que f = au1 sur D'. u1 E ~ " ( 0 tel Supposons dans un premier temps que n 2 3. Comme 8'est un compact de Stein, il résulte du Lemme 3.2 que Hoil(X \ = O. I1 existe alors u2 E C"(X\D") telle que f = au, sur X\D". La fonction w = u1 -u2 est holomorphe

8')

VIII. Caractérisation des singularités illusoires pour les fonctions C R

196

-

surlevoisinageD'\D''der etsicpestune (n,n-1)-formec", compact dans X \ K , on a

8-ferméeàsupport

en appliquant à deux reprises le Théorème de Stokes. -

Soit maintenant cp une (n,n- 1)-forme différentielle C", 8-fermée quelconque dont le support ne rencontre pas K . Puisque D est strictement pseudoconvexe, D possède une base de voisinages de Stein et il existe donc une (n,n- 2)-forme $ de classe Coo,sur un voisinage relativement compact V de D telle que cp = sur V . Soit une fonction C" sur X , identiquement nulle au voisinage de D et égale à 1 sur X \ V . Posons cpo = cp = (1 - x)cp - ax A $. La forme cpo s'étend par O à X \ K en une forme d-fermée à support compact dans X \ K . On a alors

a$

x

a(x$)

car x est nulle au voisinage de D. Puisque K est une singularité illusoire faible il existe une fonction V holomorphe sur D' telle que V = v sur D' \ 8'. Si on pose g = u1 - V = 212

sur sur

on obtient une fonction g de classe C" sur X que H 0 > l ( X\ K ) est séparé.

Dl

x\D", \ K telle que dg = f ,ce qui prouve

Pour traiter le cas n = 2, la démonstration est analogue, mais on utilise que

H O ~ ~\ (8') X est seulement séparé (aiors qu'il était nui pour n 2 31, ce que nous allons démontrer.

O

Proposition 4.2. Soient X une variété de Stein de dimension 2, et K un compact de Stein. Alors H p i ' ( X \ K ) ,p 2 O, est un espace vectoriel topologique séparé.

Démonstration. Prouvons tout d'abord que, pour tout compact L de X \ K , DF2(X \ K ) f i dDP>l(X\ K ) est un sous espace fermé de DF2(X \ K).I1 suffit de montrer que si f E DPi2(X \ K ) , à support dans un compact L , est la limite d u n e suite (f j ) j E N d'éléments de P 2 ( X \ K ) , à support dans L, tels que fj = d g j , o ù g j E2?Pi1(X\K),alors f = d g , o ù g ~ D p ~ ' ( X \ K ) . O n p r o l o n g e f à X par zéro, aiors, si cp E est une forme d-fermée, on a grâce à la formule de Stokes dgj A cp = O. f A cp = Jim

c~-~,~(x)

sx

3'00

Sx

La variété X étant de Stein, H,"-pl'(X) = O et par conséquent E;-,,,(X) est fermé dans C;-,,,(X). La Proposition 8.23 du chapitre VI1 et la régularité du 8,

4. Caractérisation des singularités illusoires faibles

197

impliquent alors que f = dh, où h E DP>'(X).Puisque K est un compact de Stein, il existe un ouvert de Stein U dans X tel que K C U C X \ L. La forme h est d-fermée sur U et on a h = du sur U , où u E CEo.Soit x E D ( X ) une fonction identiquement égale à 1 au voisinage de K et à support dans U . On pose g = h - ~ ( x u g) est , une (p,l)-forme différentielle C" sur X, à support compact dans X \ K telle que 8 g = f . La proposition résultera alors du lemme général suivant.

O

Lemme 4.3. Soient M une variété analytique complexe de dimension n, p etq, p 2 O, 1 1 q < n , des entiers. Si pour tout compact L de M , V p q ( M )n dVplq-l(M) est un sous espace fermé de V p q ( M ) alors , Hn-Pln-q+'(M) est séparé. En particulier H,P,q(M)est séparé si et seulement si Hn-p>"-q+' ( M )est séparé. Nous allons prouver que sous les hypothèses du lemme l'espace

Er-p,n-q+l(M) = {. E

03

cn-p,n-q+l(M)

I

= dV,V E

cr-p,n-q(M)}

I

est égal au sous-espace fermé Zr-p,n-q+l(M)de Zr-p,n-q+l(M)des formes différentielles f vérifiant f A cp = O pour toute cp E Dp)q-'(M) telle que dcp = O dans M . Le Théorème de Stokes implique que EF-p,n-q+l(M)est contenu

,s

-

-

dans Z z p , n - q + l( M ) . Étudions l'inclusion inverse. Soit f E ZEp,n-q+l (M), on définit une forme linéaire continue F sur DPiq-l(M) en posant F(cp) = (-i)p+qlS,j A 'p pour 'p E D P ? ~ - ~ ( M Puisque ). f E il existe une forme linéaire H sur dDP>q-l(M)telle que F = H O 3. Pour prouver la continuité de la forme linéaire H , il suffit, par définition de la topologie de D P ) q ( M )de , montrer que pour tout compact L de M la restriction H L de H à D p q ( M ) n dDp,q-'(M) est continue. Fixons L et considérons une suite exhaustive ( K j ) j c .de ~ compacts de M . Pour chaque j, notons dj la restriction de = {f E Dg,"(M)I = l'opérateur 3 à l'espace de Fréchet ZEq-,(Kj,L,M)

af

O sur Kj \ L } . L'espace D p q ( M ) n dDP+-'(M) est la réunion des images des opérateurs 8j, mais comme il est fermé par hypothèse , c'est un espace de Fréchet et le théorème de Bake implique alors qu'il existe j o tel que Imdj,ne soit pas maigre. Par le théorème de l'application ouverte, l'application djo est surjective et ouverte, ce qui prouve la continuité de H L et celle de H . Par Hahn-Banach l'appliction H s'étend en un ( n - p,n - q)-courant T qui vérifie

1

(dT,cp)= (-l)pfq(T,8cp)= (-l)p+qF(cp) =

f A cp = (Tf,cp)

X

pourtoutecp E DP>Q-l(M). O n a d o n c d T = Tf et commef E C,"Lp,n-q+l ( M ) , par l'isomorphisme de Dolbeault, f E Er-p,n-q+l( M ) . Prouvons la seconde assertion. La condition suffisante résulte de la Proposition 8.23 du chapitre Vi1 et de l'isomorphisme de Dolbeault. Si le groupe de COhomologie H,P,Q(M) est séparé, alors pour tout compact L de M , le sous espace D p q( M ) n dDP,q-l ( M ) est fermé dans D p q (M ) , d'où la condition nécessaire d'après la première assertion. O

198

VIII. Caractérisation des singularités illusoires pour les fonctions C R

Terminons par une caractérisation cohomologique intrinsèque et une caractérisation géométrique des singularités illusoires faibles. Si F est un fermé de X , on note CEq(F)l'espace des germes de (p,q)-formes différentielles sur F , c'est-à-dire la limite inductive sur les ouverts U de X contenant F de la famille CEq(U),les applications Z U V : CEq(U) + Crq(V)pour V c U étant simplement les applications restriction. L'opérateur 8 : c"(F) + CEq+, ( F ) est bien défini et c'est une application continue, qui vérifie d O 8 = O. On peut donc parler du groupe de cohomologie

où Z E q ( F ) =

{u E C,qP(F) I 8 u = O}, HP)q(F)est muni naturellement de la

topologie quotient. Théorème 4.4. Soit D un domaine relativement compact strictement pseudoconvexe à bord C2 d'une variété de Stein de dimension n 2 2 . Alors pour tout compact K contenu dans d D , les conditions suivantes sont équivalentes : i) K est une singularité illusoirefaible pour les fonctions C R sur d D , ii) D c ïO(D)oùro(D) = u { E - E c I? compact}. h

h

iii) Pour tout compact L

L

O(D) I c D \ K , il existe un compact ï

L

c

ï tel que

c (h)O(D). iv) H*J-' ( K ) = O.

Démonstration. Prouvons tout d'abord que ivl implique il. D'après l'équivalence entre les assertions il et iiil du Théorème 4.1, il suffit de montrer que si le groupe Hn,n-l ( K )est nul, alors H:'(X \ K ) est séparé. Notons Q la famille de supports constituée par l'ensemble des fermés de X qui ne rencontrent pas K et considérons le groupe ( X \ K ) de cohomologie de Dolbeault à support dans la famille Q. Nous allons prouver que ce groupe est nul si l'assertion iv) est satisfaite. Soit f E Zg'"(X \ K ) une (n,n)-forme différentielle 8-fermée de classe C" sur X \ K à support dans Q. Comme la variété X est de Stein, il résulte du Corollaire 8.21 du chapitre VI1 qu'il existe une (n,n - 1)- forme différentielle g de classe C" sur X telle que 8f = g. Puisque le support de f est contenu dans q ,la forme g est 8-fermée au voisinage de K . La condition ivl implique alors qu'il existe un voisinage U de K et une forme différentielle h de classe C" sur U telle que dh = g sur U . Si x est une fonction de classe C" à support dans U et indentiquement égale à 1au voisinage de K , la forme 9 = g - d x h est à support dans 9 et vérifie 89 = f , donc H$'*(X \ K ) = O. Remarquons que le Lemme 4.3 reste valable si on remplace la famiiie c par la famille Q et la famille des fermés de X \ K par la famille @. 11 en résulte H : ~ (\xK ) est séparé. Montrons que il implique iil. Supposons que K soit une singularité iiiusoire faible pour les fonctions CR sur dD. Notons d(D U ï) l'algèbre des fonctions continues sur I' ü D et holomorphes dans D. Comme K est une singularité illusoire faible, d(DU I?) n C ( r ) est une sous-algèbre fermée de C ( ï ) (en effet c'est

4. Caractérisation des singularités illusoires faibles

199

l’intersection des sous-espaces fermés Fv = {f E C(r) I r f y- = O}, où y décrit l’ensemble des (n,n - 1)-formes différentielles de classe C30, d-fermées au voisinage de D, dont le support ne rencontre pas K ) .Par conséquent l’application restriction p de d ( D u r) sur d ( D u r) n C(r)est un isomorphisme topologique. Notons x son inverse. Si z est un point de D , le théorème de Hahn-Banach implique l’existence d u n e forme linéaire continue : C(r) -+ C qui coïncide sur d ( D U I’) n C(r)avec l’application f I r e x(f Ir)(.) = f ( z ) . Grâce au théorème de représentation de Riesz il existe donc une mesure pz de masse finie à support compact sur r telle que $J

f(z) =

L L

fksi f

E

d ( D u r).

Puisque d ( D n r)est une algèbre, pour tout k E N,on a

fk(z)=

f‘dp,,

si

f E d ( D u r).

On en déduit que, pour tout k E N,

En faisant tendre k vers l’infini. on obtient

lf(.)I I: SUP{lf(Ol I

c E SUPPP2)l

-

si

f E d ( D u r)? h

ce qui prouve que z E ( s ~ p p p , ) ~et( donc, ~ ) par définition de ro(B), D

c

r O (-D ) ’ h

Étudions maintenant l’implication iij lemmes.

+ iiij.

Nous aurons besoin de deux

Lemme 4.5. Soient D un domaine relativement compact strictement pseudoconvexe à bord C2 d’une variété de Stein X de dimension n 2 2 et K un compact contenu dans d D . Pour tout compact E c d D \ K , il existe un domaine D’ relativement compact strictement pseudoconvexe à bord C2 contenant D tel que ôD’ nD = K et O@‘) I ~ s o i t d e n s e d a n s O ( DetuncompactE’ ) c ôDl\K telqueE C

EC>(~~).

Démonstration. On obtient D‘ en effectuant une petite perturbation C2 de dD laissant fixe K point par point. On peut alors passer de D à D’ par une suite d’éléments d‘extension pseudoconvexe ce qui implique la densité de O ( 8 )I D dans O@). Pour chaque IC E E , considérons le voisinage V, de IC dans X construit dans la Proposition 1.1. On peut supposer que ne rencontre pas K . L‘ensemble E étant compact, E est recouvert par un nombre fini V I ,. . . ,Vp de tels V,. Notons

vz

E’ =

u (Vi naDl).Si D’ est assez proche de D , vi nD’, i = 1, . . . ,p, est un doP

-

i=l

maine du type étudié dans le paragraphe 6 du chapitre Vet donc E

c

h

O

200

Viii. Caractérisation des singularités illusoires pour les fonctions C R

Lemme 4.6. Soient Y un ouvert de Stein d'une variété de Stein de dimension n 2 2,

etE uncompactdeY. OnnoteE, = { z E X I dist(z,E)5 E } etonchoisits assez petit pour que E, soit encore un compact de Y .Alors

>O

A

Démonstration. Posons K = (E,)y, c'est un compact O(Y)-convexe, il possède donc une base U de voisinages de Stein telle que pour tout U E U , O ( Y ) lu soit dense dans O ( U )(cela résulte immédiatement du Théorème 8.17 et de la Proposition 8.9 du chapitre VII). On a alors

dist(Êy,dK)= inf dist(Êy,dU)= inf dist(Êu,dU) UEU

U€U

car ÊY = Êu puisque O ( Y ) lu est dense dans O ( U ) .Comme tout élément U de U est un domaine dholomorphie car il est de Stein, il résulte du Théorème 1.13 du chapitre Vi que

dist(Êy,dK)= inf dist(E,dU). UEU

Maissi U E U , U contient E,, par conséquent dist(Êy,dK)2 E et donc ( Ê y ) , C

K. A

Suite de la démonstration du Théorème 4.4. Supposons que D C ï o ( D ) , alors si h

a E D \ K il existe un compact E, de î tel que a E (E,),(D). D'après le Lemme 4.5, on peut trouver un domaine DI strictement pseudoconvexe contenant D tel que dD' n D = K et O ( 8 ) ID soit dense dans O ( D )et un compact EL C r' = DI \ K tel que E, c (Ga)o(El). On a aiors h

h

h

a E (Ea)o(D)= (E&(EJ) c ( W q E y Ainsi que nous l'avons déjà remarqué dans le paragraphe 1 de ce chapitre, on peut trouve; un voisinage de Stein U de 8 tel que pour tout compact C de 8, C - = Cu. Avec les notations du Lemme 4.6 choisissons E assez petit pour que A

O(D')

(Ea)€flD= 0 et (

nK

= 0, ce qui est possible car E&est un compact de

cc" \D et les points de K sont des points pics pour O@'). Le Lemme 4.6 implique alors que

B(a,E) c

((E)u), c

et en vertu du principe du maximum local

((ELMU

D n B(u,E) c

h

(ïa)U,

où ï a =

n d D est un compact de I?. Si L est un compact de d D \ K , L est recouvert par un nombre fini d'ouverts Va de D de la forme D n B(u,E)et par conséquent il existe un compact ï L c ï tel que L c ( ï r , ) o ( D ) . h

Terminons en prouvant que iii) implique iv). Considérons une (n,n- 1)-forme différentielle 'p d-fermée de classe C" sur un voisinage U de K et X une fonction de classe Coo à support compact dans U et égale à 1 sur un voisinage V de

4. Caractérisation des singularités illusoires faibles

201

sDfax

K . L‘applicationf +-+ A ‘p est une forme linéaire continue sur O@). Posons L = D n supp ax, c’est un compact disjoint de K et d‘après iii), il existe un compact J?L c I’ tel que

I1 résulte du Théorème de Hahn-Banach et du Théorème de représentation de Riesz qu’il existe une mesure p L sur rLtelle que (pL,f)= JD A ‘p si f E O@). Si X D désigne la fonction caractéristique de D , a = X D ~ XA ‘p - p~ est une mesure sur D u r qui vérifie (a,!) = O pour toute f E O ( D ) .L‘ouvert D étant strictement pseudoconvexe, il existe un domaine G‘ strictement pseudoconvexe tel que supp a c GI,K n G’ = 0 et O ( D )soit dense dans o(G’) IG’n(D”r). (Pour obtenir GI,il suffit de pousser légèrement le bord de D à l’intérieur de D au voisinage de K et de le pousser vers l’extérieur près du support de a ) .La mesure a définit alors un (n,n)-courant Tuà support compact dans G’ qui vérifie (T,,f) = O pour toute f E O(G’). Comme G’ est de Stein, il existe un (n,n - 1)-courant S à support compact dans G’ tel que Tu = dS. Mais Toest une forme différentielle de classe C” sur D n G’, il résulte alors de la régularité du 8, ( c f chap. Vi, Corollaire 4.2 ii)), qu’il existe une forme différentielle ‘po de classe C” sur D n G’ nulle au voisinage de K telle que acpo = To sur D n GI. Considérons à présent un domaine G” strictement pseudoconvexe tel que K c G” c D U V . En restreignant à G”, la relation a’po = Tuon obtient A ‘p = 890 soit a(Xp - ‘po) = O sur GI’ (on a implicitement prolongé X‘p par zéro pour la définir sur GI’ tout entier). Puisque G” est de Stein, Hnln-’(G”) = O et il existe donc une (n,n - 2)-forme différentielle II, de classe C” sur G” telle que X‘p - ‘po = aII, sur G”. Comme X = 1 et ‘po = O au voisinage de K , on aura aII, = ‘p au voisinage de K , ce qui prouve que H n , n - l ( K ) = O. O

fax

aA

Commentaire.L’étudedes singularités illusoires pour les fonctions C R définies sur le bord d’un domaine a débuté avec le travail de G. Lupacciolu et G. Tomassini [LulTo] en 1984 et s’est développée rapidement dans les années qui ont suivi. Les résultats les plus significatifs ont été prouvés par G. Lupacciolu [Lu1,2]. Un panorama de l’ensemble des résultats obtenus sur ce sujet est exposé dans [CifStl.

Annexe A

Variétés différentiables, formes différentielles

Le lecteur trouvera ici un certain nombre d'outils élémentaires de géométrie différentielle qui sont utilisés dans ce volume. Après avoir introduit la notion de variété différentiable, nous définissons l'algèbre des formes différentielles et nous prouvons le Théorème de Stokes qui est le résultat fondamental de cette annexe.

1. VARIÉTÉS DIFFÉRENTIABLES

Définition 1.1. Sur un espace topologique X , une carte h de X est un homéomorphisme d'un ouvert U de X sur un ouvert de R" pour un certain entiern. L'ouvert U est le domaine de la carte h ;on dit que c'est un ouvert de carte. On désigne parfois la carte h par le couple (U,h ).

Si V est un ouvert de X , V

c U , alors hl

est une carte de domaine V .

Définition 1.2. a) Deux cartes h et h' de X , de même domaine U sont dites q-compatiblessi les deux homéomorphismes réciproques h' O h-l : h ( U ) -4 h'(U)

h O h'-l : h'(U) -+h ( U ) sont de classe C'J, q E N* ü { m}, au sens des applications d'un ouvert de RP dans un ouvert de RP'. b) Deux cartes (U,h ) et (U',h') sont dites q-compatibles si: U f l U' = 0 ou bien hl U n U , et h' UnU, sont q-compatiblesau sens de a).

I

Remarque: Si n et n' sont des entiers associés aux cartes h et h', ils sont égaux lorsque h et h' sont compatibles. En effet, si q 2 1, la différentielled(h' O h-')(z) pour 2 E h(U ) est une bijection linéaire de R* dans R"'et donc n = n'.

204

A. Vm'étés différentiables, formes différentielles

Définition 1.3. Un atlas de X de classe CQ est un ensemble de cartes deux à deux q compatibles dont les domaines constituent un recouvrement ouvert de X . Deux atlas de classeCQsont dits compatibles si leur réunion est un atlas de classeCQ. Remarque :La compatibilité est une relation d'équivalence dans l'ensemble des atlas de classe CQde X . Définition 1.4. On appelle variété différentiable de classe CQ un espace topologique séparé, réunion dénombrable de compacts, muni dune classe d'équivalence d'atlas de classe CQ. Exemples 1)Un ouvert non vide D de Rn a une structure naturelle de variété Cm. Un atlas IdD)}. est donné par { (D, 2) La sphère de R3 est une variété C" munie d u n atlas à deux cartes. 3) Si D est un ouvert relativement compact de Rn tel que pour tout P E d D il existe un voisinage W, de P vérifiant d D f l W, = { x E W, I r p ( x ) = O} où r p est une fonction de classe Ck,1 5 IC 5 00, sur W, et dr, # O sur d D n W,. Alors d D est une variété de classe C k (c'est une conséquence du théorème des fonctions implicites). Si X est une variété différentiable, pour tout x E X , il existe une carte (U,h) teile que x E U et h soit une application de U dans R" . L'entier n ne dépend que de 5 , c'est la dimension de X en x.I1 est clair que n est fixe sur chaque composante connexe de X . Définition 1.5. Une variété différentiable dont toutes les composantes connexes sont de dimension n sera dite de dimension n. Définition 1.6. Soient X et Y deux variétés différentiables de classeCQ.Une application f : X t Y est dite de classeCP,p 5 q, si elle est continue et vérifie la condition suivante :pour tout couple de cartes (U,h ) , (V,k)de X et de Y tel que f ( U ) c V , 1'application

IC

O

IV)

(f

O

h-' : h ( U ) -+

k(V)

est de classe C P en tant qu'application d'un ouvert de R" dans un ouvert de R" . Notons qu'il suffitde vérifier ces propriétés pour l'ensemble des cartes d'un atlas. Si Y = R ou C, une application de classe C P de X dans Y est appelée fonction de classe C P sur X . Définition 1.7. Soit (U,h ) une carte d u n e variété différentiablex de classeCQ,alors h est une application de classeCQde U dans R" U -+ h ( U ) c R" 5

h ( z ) = (xi(x),. . . ,xn(x))

2. Partitions de 1 'unité

205

-+R,j

où lesxi : U X I ,. . . ,x, sont

= 1, . . . ,n,sont desfonctions de classesCQsur U . Les fonctions appelées les coordonnées locales de X sur U définies par la carte

(U,h).

2. PARTITIONS DE L'UNITÉ

Dans ce paragraphe, nous construisons un outil qui permet de localiser les problèmes donnés sur une variété, en particulier de se ramener dans un domaine de carte. Lemme 2.1. Soit A un compact de IRn et U un ouvert contenant A. Il existe une fonction réelle de classe Cm à support compact dans U , comprise entre O et 1 et égale à 1 sur A. Démonstration. Considérons la fonction définie sur R par

{

= v(f)g(x) + f(x)v(g).

(Une application ayant ces propriétés s’appelle une dérivation en 2).

Démonstration. I1 suffit d’appliquer les définitions.

O

Exemple: Soit (U,h) une carte en x E X telle que h(x) = O et ( X I , .. . ,xn)les coordonnées locales définies par cette carte. On note ( &),la classe de la courbe

t

H

h - l ( O , . . . ,O, t ,O,. . . ,O) pour tout j = 1,.. . ,n. Si f est une fonction de TKi

classe C1 au voisinage de x on a pour j = 1,. . . ,n

A. Variétés différentiables, formes différentielles

210

Proposition 4.3. Les vecteurs (&,, dual de 7:' ( X ) .

. . . ,( &),forment une base de (2': ( X ) ) ' le

Démonstration. I1 suffit de vérifier que les vecteurs ( &),, basedualedelabase

((~IC~),)+I,...,~

. . . ,( G), a forment la

deT:(X).Pourcelacalculons

(&),(zIc).

O

ce qui prouve le résultat.

Théorème 4.4.L'espace tangent en x à X s'identifie avec le dual de l'espace cotangent

enxàX,i.e.T,X = (T,(X))*. Démonstration. D'après la remarque qui suit la Définition 4.1 et le premier point . reste à prouver l'inclusion de la Proposition 4.2, T , ( X ) s'injecte dans (7'; ( X ) ) * I1 inverse. Soit (U,h)une carte de X telle que IC E U , h ( z )= O et h ( U )coïncide avec l'ouvert {ICE IR" I sup lxjl < I}. Si L E ( T ; ( X ) ) * ,alors grâce à la Propoj=l,...,n

sition 4.3 il existe des réels a l , . . . ,an tels que L =

n

aj (&),. Considérons des j=l

fonctions yj,j= 1,.. . ,n, définies sur un intervalle ouvert I de IR contenant O et telles que Iyj(t)I < 1 pour tout t E I et yj(t) = a j t au voisinage de O. Notons r la courbe de X passant par IC définie par h-' O y où y(t) = (yl(t),. . . ,yn@)). Alors O L coïncide avec la classe de I? et par conséquent (T,*( X ) ) "c T, ( X ) . Remarque: T,'(X) est donc le dual de T , ( X ) et les bases a ( ( K ) x ) j = l .,. . psont duales.

((d1~j),)j=1,...,~ et

Onadoncsi(df), E T,*(X)

Si nous considérons des fonctions à valeurs dans @, nous pouvons définir l'espace vectoriel sur @ des 1-formes différentielles au point IC E X , à valeurs complexes. On le note CT: X, il s'identifie à l'espace des applications IR-linéaires de T,X dans @. L'espace vectoriel @TzX est en fait le complexifié @@E T,*X de l'espace vectoriel réel T,*X, c'est un espace vectoriel de dimension complexe n. On peut considérer également le complexifié @T,X de l'espace vectoriel réel T,X. Tout élément v E C T x X s'écrit de manière unique Y = v1 iva où Y I,va E T,X. Une 1-forme différentielle w à valeurs complexes s'étend naturellement en une application @-linéaireW' : CT, -+ c en posant w' (v1 iva) = w (vi) iw (va). On montre facilement que CT; X et CT,X sont naturellement duaux en tant que @-espaces vectoriels.

+

x

+

+

5. Algèbre des formes différentielles

21 1

Définition4.5. On d é f i n i t T ( X )comme la réunion disjointepourx 6 X d e s T x ( X ) ,

c'estl'espace tangent à X et on notep la projection naturelle d e T ( X )sur X . Définition 4.6. SoientX une variétédifférentiable de classeC4,q 2 1,e t A un ouvert

de X . Un champ de vecteurs sur A est une application V : A p O V = Id.

+ T ( X ) telle que

Soit (U,h)une carte de X et (ICI,. . . ,IC") les coordonnées locales associées. Si V est un champ de vecteurs de A et si IC E A n U on a

On notera a le champ de vecteurs défini sur U par IC ax, écrire

( 8x1

On peut alors

où les aj sont des fonctions définies sur A n U .

< q , si les fonctions aj sont de

Le champ de vecteurs V sera dit de classe C e $ classe Ce sur A n U .

5. ALGÈBRE DES FORMES DIFFÉRENTIELLES

Soient X une variété différentiable de classe Cq:q 2 1,et z un point de X . On considère la puissance extérieure rièmesur R,A'T: ( X ) ,de l'espace cotangent TZ ( X ) à X en z. Pour la définition et les principales propriétés de la puissance extérieure rièmed u n espace vectoriel le lecteur pourra consulter [Lan].Dans le cadre qui nous intéresse nous allons utiliser l'interprétation plus concrète suivante de la puissance extérieure dème. Par définition A o T Z ( X ) = R et si T 2 1,comme T , * ( X )est le dual de T x ( X ) , on identifie h'T,* ( X ) avec le R-espace vectoriel des formes r-linéaires alternées sur T, ( X ) ,c'est-à-dire les applications r-linéaires

w : T X ( X )x . . . x T 2 ( X ) +R \

"

/

r-fois telles que si v1, . . . ,v, 6 T, ( X ) et a est une permutation de { 1, . . . , T } w(vu(l),. . . , v u ( r )= ) sign(g)w(v1,. . .,vr) où sign(a) désigne la signature de la permutation a. En particulier w ( v 1 , . . . , v T ) = O si vi = vj pour i # j. Remarque: On a A I T , ( X ) = T , * ( X ) et si T A r T Z ( X ) = {O}.

> dimT,(X)

= d i m X , alors

A. Variétés différentiables,formes différentielles

212

On appelle algèbre extérieure de T; ( X )la somme A'T; ( X ) = @ ArT; ( X ) . r>O

A. Produit extérieur

Le produit extérieur d u n e r-forme w de A r T Z ( X ) et d'une s-forme q de A s T ; ( X ) est une ( r s)-forme, notée w A q, définie par

+

+

où l'on somme sur toutes les permutations a de l'ensemble (1, . . . ,r s}. Si r ou s est nul, par exemple T = O, w est un nombre réel et on pose w A 7) = wq.

Les relations précédentes et la distributivité par rapport à l'addition permettent de définir le produit extérieur de deux éléments quelconques de A'T; ( X ) .On obtient ainsi une loi de composition interne sur A'T; ( X ) que l'on note A. On vérifie aisément que A est associative mais pas commutative. On a néanmoins wAq= (-l)TSqAwsiw~ArTj(X)et~~AST,*(X).

Soient (U,h)une carte de X au voisinage de z et ( 2 1 , locales associées. Pour r E { 1, . . . ,n}ia famille { ( d z j , ) z A . . . A (dxj,.)x,l5 ji

. . . ,z,) les coordonnées

< ... < j r 5 n}

est une base de A r T ; ( X ) , en particulier d i m A ' T , ( X ) = de ArTZ ( X ) s'écrit

cn et toute r-forme w

où la sommation se fait sur les r-uplets strictement croissants (jl,. . . , j r ) de (1,.. . ,n}'et (dz~)= , (dzj,), A

. . . A (dzj,), si J

= (jl,. . . , j r ) .

Remarquons que les coordonnées a J de w dans cette base sont données par aJ=w((-),a

8%

,..., ( - )a, ) s i J =

(jl,...,j r ) .

8%

Définition 5.1. SoientX une variétédifférentiablede classeCq,q 2 1,e t A un ouvert de X . Une r-forme différentielle ou forme différentielle de degré T sur A est une applicationw : A + A ' T * ( X ) = U A ' T ; ( X ) tellequep O w = Id s i p est ZQ XEX

projection naturelledeA'T*(X) s u r X . Soient (U,h)une carte de X et ( X I ,. . . ,zn) les coordonnées locales associées. Si w est une r-forme différentielle sur A et si z E A n U on a

5. Algèbre des formes différentielles

213

On notera d z la ~ forme différentielle de degré r définie par z Ç-) ( d z ~ ) , .On a donc w = a J d z J où les U J sont des fonctions définies sur A n U .

I

J = ( j , 1 . . .,&I j , O pour tout y = h ( z ) , z E U ri U', où J désigne la matrice jacobienne, d'après la Proposition 6.2. Supposons X connexe, orientée et considérons un atlas U = ( U i , h i ) i Ecor~ ~ partition de l'unité subordonnée respondant à l'orientation de X . Soit ( x i ) i Eune au recouvrement ( U i ) i E Si ~ .w est une forme différentielle continue de degré n, à support compact dans X , on pose

On montre facilement que cette définition est indépendante du choix de la partition de l'unité et de l'atlas correspondant à l'orientation. Si X n'est pas connexe, on pose w où les Xi sont les composantes connexes de X . w=

sx

iEi

sx

'

sx

L'expression w définie ci-dessus s'appelle l'intégrale de la n-forme différentielle w sur la variété orientée X. On remarque que si l'on change l'orientation de X , l'intégrale est multipliée par -1. Remarque :On n'a défini l'intégrale que pour les formes différentielles continues à support compact, il est clair que comme dans le cas de Rn on peut étendre cette notion à d'autres classes de formes, par exemple les formes à coefficients L1.

A. Variétés différentiables, formes différentielles

220

7. THÉORÈME DE STOKES

Nous ne prouverons pas dans ce paragraphe le Théorème de Stokes sous ses hypothèses les plus générales mais seulement le cas particulier qui est utilisé dans ce livre. Théorème 7.1. Soit X une variété différentiable orientée de classe CQ,q 2 2, de dimension n et soit D CC X un ouvert relativement compact dans X à bord de classe c1.S i w E c:-,(D) aiors

Remarques 1) L'hypothèse de régularité sur w signifie que w est définie et continue sur et que les coefficients de w dans un système de coordonnées locales associées à une carte (U,h ) sont de classe C1 dans U nD, c'est-à-dire que les dérivées partielles de ces coefficients définies sur U n D s'étendent continûment à U n D.

2) L'orientation de bD est supposée être l'orientation induite par celle de D et on a posé

où i est l'injection de bD dans X . Démonstration du Théorème 7.1. L'ensembleD étant compact, on peut trouver un

e

nombre fini de cartes (U,,h,)l