L'étude des mécanismes d'épitaxie de couches contraintes et en particulier de la transition 2D-3D présentent à la fois un intérêt fondamental pour la compréhension des mécanismes et technologique pour la fabrication de dispositifs électroniques et optoélectroniques. Le STM est un instrument particulièrement intéressant pour cette étude car il permet de caractériser la morphologie de la surface jusqu'à l'échelle atomique.

Nous avons connecté sous ultra-vide un microscope à effet tunnel à un bâti d'épitaxie par jets moléculaires préexistant. Le problème posé par ce type de connexion réside dans la grande sensibilité du STM aux vibrations mécaniques. C'est pourquoi nous avons conçu et réalisé un système d'isolation original présenté dans le chapitre II : Le STM a été monté sur un chassis rigide construit sur une dalle de béton isolée et la connexion sous ultra-vide avec le bâti d'épitaxie est assurée par un soufflet déformable qui encaisse les déplacements dus aux vibrations. Une étude vibratoire préliminaire a permis de montrer l'efficacité de ce système. Il a ensuite été réalisé ainsi que les systèmes de transferts d'échantillons du bâti d'épitaxie vers le STM. La résolution atomique a été obtenue sur des échantillons tests et le STM a été utilisé pour caractériser des couches épitaxiées.

Dans le chapitre III, nous avons déterminé les conditions optimales d'imagerie de surfaces InGaAs réalisées sous stabilisation arsenic. Nous avons utilisé le STM pour déterminer les conditions optimales de gel de la surface et évaluer les effets sur la morphologie d'un maintien en température. En particulier nous avons montré qu'un maintien à 525°C sous flux d'arsenic à une pression équivalente de flux de 6.10^-6 Torr pendant 10mn permet d'obtenir un lissage appréciable. Nous avons également étudié les mécanismes de la croissance 2D. En particulier nous avons montré que lors de la croissance de couches accordées In_0,53Ga_0,47As sur InP les atomes voient une barrière de potentiel lors du franchissement d'une marche descendante. Nous suggérons que cette barrière peut être amplifiée pour des atomes de gallium : suite à la ségrégation d'indium en surface, la dernière couche atomique est enrichie en indium et contrainte en compression. A la suite de la relaxation élastique près des bords de marche, le paramètre de maille augmente à l'approche d'une marche descendante. Les atomes de Ga sont alors repoussés par la marche et vont s'incorporer préférentiellement dans les zones où le paramètre de maille est plus faible.

Enfin nous avons présenté dans le chapitre IV de ce mémoire les résultats de l'étude de la transition 2D-3D de couches contraintes avec un désaccord de maille de 2% en compression et en tension. La morphologie 3D obtenue est très anisotrope : une modulation périodique de la hauteur est très marquée suivant [110], alors que les hauteurs sont peu modulées dans la direction [1-10]. On observe cependant que les marches parallèles à [110] (de type B) sont convexes pour une contrainte en compression et concaves pour une contrainte en tension. Pour tenir compte de l'anisotropie observée expérimentalement, nous avons traité séparément les directions [110] et [1-10]. Nous avons montré que la tension de ligne des marches de type B (dans la direction [110]) est susceptible de stabiliser les marches convexes en compression et concaves en tension. Dans un deuxième temps nous avons calculé l'énergie de relaxation permise par les bords de plateaux parallèles à [1-10] et nous avons montré qu'il existe une hauteur critique de l'ordre de 2MC : pour un plateau de hauteur inférieure à la hauteur critique la croissance reste 2D. En revanche les atomes arrivant au voisinage d'un plateau de hauteur supérieure à 2MC vont permettre au système de gagner de l'énergie en augmentant la hauteur du plateau. Lorsque les plateaux sont suffisamment hauts, le gradient de contrainte qu'ils induisent dans les couches complètes est suffisant pour remettre en mouvement des atomes de couches complètes, ce qui caractérise la transition 2D-3D. Des limitations cinétiques peuvent ralentir la formation des plateaux qui provoquent la remise en mouvement des couches complètes.

La transition 2D-3D de la croissance de couches contraintes InGaAs sur InP pourrait être utilisée pour la réalisation de dispositifs à partir de structures à boîtes ou à fils quantiques. Cependant la mise en évidence de propriétés quantiques nécessiterait la réalisation de structures présentant une très faible dispersion de taille et une répartition régulière. Or la courbure des marches ainsi que la reproductibilité de la taille moyenne des structures 3D en fonction des conditions de croissance permettent de supposer qu’il peut exister une taille et une forme optimales pour ces structures 3D. Dans ce cas, la régularité des structures que nous avons observées pourrait être améliorée en favorisant la réorganisation des marches lorsque la morphologie 3D se forme. Il serait par exemple intéressant de maintenir une couche tridimensionnelle en température pendant un temps plus ou moins long afin d’étudier son évolution. L'optimisation des paramètres de croissance et de recuit (température et pression équivalente des flux) pour favoriser l'auto-organisation serait donc un nouveau pas vers la réalisation de dispositifs à boîtes ou à fils quantiques.