La théorie de Smale des dynamiques hyperboliques a eu un double role : d'une part elle à mis en évidence que des systèmes simples, sur des espaces de dimension petite, pouvaient avoir un comportement dynamique chaotique, et ceci de façon persistante. D'autre part les dynamiques chaotiques qui apparaissent dans cette théorie admettent une descrition complète, en particulier du point de vue de la théorie ergodique.
La théorie de Smale a cependant un défaut essentiel : l'ensemble des dynamiques hyperboliques n'est pas dense dans l'ensemble des difféomorphismes ou des flots, et ce dès la dimension 3 pour la topologie C1.
Un problème essentiel est alors :
Problème Peut-on
donner une description satisfaisante de la dynamique d'une partie
dense dans l'ensemble des difféomorphismes?
Les résultats dans ce sujet sont encore très partiel. Mon approche s'intègre dans celle d'un groupe de chercheurs (Lorenzo Diaz, Marcelo Viana, Enrique Pujals, Martin Sambarino, Raul Ures....et bien d'autres) centrés sur l'IMPA (Rio de Janeiro) et autour de Jacob Palis. Nous avons suivi plusieurs pistes qui ont récemment trouvé leur cohérence:
D'une part, avec Lorenzo Diaz et Enrique Pujals, nous avons mis au point (à travers des exemples, puis de façon conceptuelle) un cadre géométrique (plus faible que l'hyperbolicité) permettant de couvrir une partie générique de l'ensemble des dynamiques. D'autre part, avec Marcelo Viana, nous montrons comment ce cadre géométrique permet de donner une bonne description de la dynamique, à l'aide de la théorie ergodique.
Dans cette page, sans doute trop technique et donc réservée
aux spécialistes, j'essaye de présenter mes propres travaux
dans ce domaine.
Avec L. Diaz et E. Pujals, voir l'article 33, nous montrons qu'en dimension quelconque, il existe un sous-ensemble de Diff1(M), résiduel ( intersection dénombrable d'ouverts denses) pour la toplogie C1 pour lequels la dynamique présente une dichotomie de comportements possible: loin de l'adhérence des ensembles infinis de sources ou de puits, la dynamique est concentrée sur des ensembles possèdant un affaiblissement de l'hyperbolicité, appelée décomposition dominée . Pour les surfaces compactes, R. Mané avait prouvé une telle dichotomie générique, entre infinité de puits et de sources, et hyperbolicité: notre travail est tout-à-fait dans le même esprit.
L'un des points-clés qui nous a amené vers ce résultat a été la compréhension des difféomorphismes robustement transitifs c'est à dire que tout difféomorphisme suffisamment C1-proche possède une orbite dense. Le résultat de Mané sur les surfaces impliquait que les seuls difféomorphismes robustement transitifs des surfaces sont les difféomorphismes d'Anosov du tore T2. L'existence d'exemples de difféomorphismes robustement transitifs non-hyperboliques (construits dans les années 70 par Shub puis Mané sur les tores T4 et T3 respectivement) interdisaient une généralisation directe de ce résultat, en dimension plus grande.
Avec L. Di az puis avec M. Viana nous avons construit de nombreux exemples de difféomorphismes robustement transitifs s'éloignant de plus en plus de l'hyperbolicité pour finalement ne conserver que la décomposition dominée.
Théorème Tout
difféomorphisme robustement transitif d'une variété
compacte M possède une décomposition dominée.
Enjeux pour l'avenir
Les résultats ci-dessus ne font que commencer la description d'une partie dense de Diff1(M) , en montrant l'existence d'une décomposition dominée. En effet, si la dynamique d'un difféomorphisme, en restriction à un ensemble hyperbolique est bien comprise, on sait très peu de chose si l'on remplace la structure hyperbolique par une simple décomposition dominée.
L'an passé nous nous demandions si le Shadowing Lemma pouvait
être vérifié génériquement pour les dynamiques
partiellement hyperboliques: nous savons a présent qu'il n'en est
rien: voir 30.
Voici quelques unes des questions qui me semblent être abordables à présent, et dont la réponse permettrait de structurer les dynamiques génériques:
Problèmes:
Depuis quelques années J. Palis conjecture que ce résultat
reste vrai pour une famille dense de dynamiques. Que cette conjecture soit
vraie ou fausse, il me semble que le problème qu'elle pose est essentiel
pour les systèmes dynamiques.
Avec Marcelo Viana, nous étudions l'existence de telles mesures
SRB (pour Sinai Ruelle et Bowen), ainsi que la finitude et leur bassin
d'attraction. Nous avons commencé notre étude par les ensembles
partiellement hyperboliques, c'est-à-dire possédant une décomposition
dominée o\`u l'un des deux fibrés invariant est uniformément
hyperbolique (l'autre étant appelé {\em central}). Nous avons
obtenu des réponses donnant un panorama presque complet, sous l'hypothèse
que tous les exposants de Lyapunov sont de meme signe dans la direction
centrale, pour un ensemble de mesure de Lebesgue positive de points:
L'article 29 permet aussi, mais avec des hypothèses très
restrictives, de traiter certains exemples d'ensemble avec décomposition
dominée mais n'ayant aucun sous-fibré uniformément
hyperbolique (donc pas partiellement hyperbolique).
Il est cependant assez facile de contruire des exemples partiellement
hyperboliques ne possédant pas de mesures SRB. Nous pensons à
présent essayer une méthode perturbative:
Problème: Considèrons
l'ensemble des difféomorphismes robustement transitifs, possédant
un fibré instable fort (avec peut-être une hypothèse
sur la dimension de ce fibré relativement à la dimension
du fibré central). Existe-t-il une parttie dense formée
des difféomorphismes possédant un nombre fini de mesure SRB
telles que l'union de leurs bassins est de mesure de Lebesgue total dans
la variété ?
L'une des difficultés pour ce problème consiste en le
contrôle des exposants de Lyapunov dans la direction centrale. Un
récent travail de Shub et Wilkinson, généralisé
par Dolgopyat permet de perturber cet exposant central, en dimension trois,
pour des systèmes préservant le volume et dont la direction
centrale a dimension 1 (ceci leur permet de prouver la généricité
de l' ergodicité stable, dans ce cadre. Malheureusement leurs
technique semble difficile à adapter en dehors du cadre conservatif.
Avec M. Viana nous avons commencé une nouvelle approche: il s'agit
d'adapter le célèbre théorème de Furstenberg
pour le produit aléatoire de matrices au cadre des cocycles linéaires
au dessus des systèmes hyperboliques. Un résultat récent
de J. Bochi (étudiant de Viana) montre que, parmis les cocycles
continus et non hyperboliques, l'existence d'exposants nuls est générique.
Nos idées semblent pouvoir traiter le cas des cocycles différentiables
tels que la dynamiques hyperbolique horizontale (de la base) domine la
dynamique dans les fibres.