Doctorant F/H Representation learning from remote sensing data

Le centre de recherche Inria de l’Université Grenoble Alpes regroupe un peu moins de 600 personnes réparties au sein de 27 équipes de recherche et 8 services support à la recherche.

Son effectif est distribué sur 3 campus à Grenoble, en lien étroit avec les laboratoires et les établissements de recherche et d'enseignement supérieur (Université Grenoble Alpes, CNRS, CEA, INRAE, …), mais aussi avec les acteurs économiques du territoire.

Présent dans les domaines du calcul et grands systèmes distribués, logiciels sûrs et systèmes embarqués, la modélisation de l’environnement à différentes échelles et la science des données et intelligence artificielle, le centre Inria de l’Université Grenoble Alpes participe au meilleur niveau à la vie scientifique internationale par les résultats obtenus et les collaborations tant en Europe que dans le reste du monde.

Cette thèse s'inscrit dans le cadre du défi INRIA-CNES Earth-FM (Enhancing Archival Remote sensing data
for Training Holistic Foundation Models).

La thèse sera co-encadrée par Jocelyn Chanussot au Centre INRIA de l'Université Grenoble Alpes et par Josiane Zerubia au Centre Inria d'Université Côte d'Azur. Le travail s'effectuera principalement à Grenoble avec des missions à prévoir à Nice. 

General context :

The aim is to enhance and complement the use of remote sensing data archives via the combination of such data with textual and/or metadata information associated to the image scene or to the particular geographical area covered by the satellite data. To this purpose, research activities will be conducted on vision-language models tailored for the remote sensing field with a particular emphasis on the available CNES data archive.

PhD topic : Text/Metadata supervision for learning representations of satellite images.

Within satellite imagery, metadata such as ground sample distance, off-nadir viewing angle, time and location hold significant semantic information that improves scene understanding. Recent literature [Bourcier24] demonstrated that jointly combining remote sensing image data and their corresponding metadata allows to learn effectively representation capable to improve performances on downstream recognition tasks. In this project we propose to make a step further investigating how metadata can be used to learn large foundation models in the framework of the exploitation of large image archives of optical data. This task could leverage Pleiades (image and metadata) datasets.

In the frame of self-supervised learning, temporal contrastive learning is a simple way to construct a very high number of positive pairs. Another idea is to also leverage geographic metadata [Ayush21] in order to construct contrastive pairs, hence driving improved feature learning that will account for regional characteristics while foundation models are trained using data with a global coverage.

Large foundation models benefit from learning across multiple modalities and multiple tasks. Metadata may be used to address such situations by providing auxiliary labels (e.g., season, time of day, sensor name). The model can take metadata as an additional input (e.g., time + location embedding). Metadata can be directly combined with visual features in a cross-modal architecture (e.g., using vision transformers with tabular inputs).

Finally, models may generalize better across domains (sensor, location, season) by encoding domain-relevant metadata.

[Ayush21] Kumar Ayush, Burak Uzkent, Chenlin Meng, Kumar Tanmay, Marshall Burke, David Lobell, and Stefano Ermon, “Geography-Aware Self-Supervised Learning”, ICCV 2021

[Bourcier24] Bourcier, Jules, et al. "Learning representations of satellite images from metadata supervision." European Conference on Computer Vision. Cham: Springer Nature Switzerland, 2024.

Travail de thèse:

• recherche bibliographique
• proposition de méthodes et mise en oeuvre des choix effectués en accord avec la direction de la thèse
• tests et validation des résulatts avec les données fournies par le CNES
• dissémination des résultats par des publications
• participation à la vie de l'équipe (participation aux séminaires etc.)
• rédaction du mémoire de thèse et soutenance

Compétences techniques et niveau requis : Python, librairies d'apprentissage profond

Langues :  français courant, anglais C1 au minimum.

Compétences relationnelles : excellent niveau en communication écrite et oral

Compétences additionnelles appréciées :

• Restauration subventionnée
• Transports publics remboursés partiellement
• Congés: 7 semaines de congés annuels + 10 jours de RTT (base temps plein) + possibilité d'autorisations d'absence exceptionnelle (ex : enfants malades, déménagement)
• Possibilité de télétravail 90 jours/an fixes ou flottants et aménagement du temps de travail
• Équipements professionnels à disposition (visioconférence, prêts de matériels informatiques, etc.)
• Prestations sociales, culturelles et sportives (Association de gestion des œuvres sociales d'Inria)
• Accès à la formation professionnelle
• Participation Protection Sociale Complémentaire sous conditions

2300 euros brut / mois