Post-Doctoral Research Visit F/M [DRI Campaign] - Exploring Socio-Cultural Bias in a Multilingual Context
Type de contrat : Fixed-term contract
Contrat renouvelable : Oui
Niveau de diplôme exigé : PhD or equivalent
Fonction : Post-Doctoral Research Visit
Contexte et atouts du poste
Context
The goal of this project is to address key issues in Large Language Models (LLMs), particularly cultural biases stemming from Western-centric training data. These models often underperform or exhibit prejudice in non-English and especially South American contexts due to limited resources for bias detection. We propose to define sociologically grounded notions of social bias that can be computationally identified and measured. This involves data collection, annotation, and adapting existing datasets. Once biases are defined, we will detect them through model behavior analysis and apply cutting-edge fact-editing techniques to adjust the model’s internal weights, mitigating harmful stereotypes while enhancing culturally relevant knowledge. Our focus is on general, multilingual methods, with a key application to Latin American languages and cultural contexts.
Is regular travel foreseen for this post ?
Regular travels to Chile are planned and fully funded.
Computing resources
Access to high-level Inria HPC clusters is granted. Access to the Jean Zay and Adastra HPC cluster will be sought.
Mission confiée
Assignments :
With the help of the project team, and especially Djamé Seddah, the recruited person will be taken to develop techniques able to ease the exploration and the mitigation of socio-cultural biases in current Large Language Models. An important part of the project will be devoted to the development of new benchmarks able to assess the exact sensitivity of models to culturally-based biases.
Collaborations :
The person recruited will work in close liaison with (i) other members of the Almanach team involved in the SaLM project (https://salmproject.github.io/) working on adjacent domains of biases detection and neutralization, (ii) members of Universidad de Chile (led by Valentin Barrière) and Inria Chile (led by Luis Marti, Nayat Sanchez Pi)
Principales activités
- Establishing the state of the art of relevant techniques to the project
- Software development
- Conducts of experiments
- Preparation of reports and publications
- Release as open source the resulting software and resources
Compétences
Technical skills and level required :
Excellent level of python + all tools needed for data science, deep learning and natural language processing.Experience with large scale experiments
Languages :
Fluent English. Knowledge of Spanish, especially the variant spoken in Latin-America as well as their regional socio-cultural contexts would be a plus.
Relational skills :
Team worker, autonomous and eager to disseminate results.
Other values appreciated : Enthusiasm, team spirit.
Avantages
- Subsidized meals
- Partial reimbursement of public transport costs
- Leave: 7 weeks of annual leave + 10 extra days off due to RTT (statutory reduction in working hours) + possibility of exceptional leave (sick children, moving home, etc.)
- Possibility of teleworking and flexible organization of working hours
- Professional equipment available (videoconferencing, loan of computer equipment, etc.)
- Social, cultural and sports events and activities
- Access to vocational training
- Social security coverage
Rémunération
Salary: 2927€ (Brut) per month
Informations générales
- Thème/Domaine : Language, Speech and Audio
- Ville : Paris
- Centre Inria : Centre Inria de Paris
- Date de prise de fonction souhaitée : 2025-11-01
- Durée de contrat : 12 months
- Date limite pour postuler : 2025-06-01
Attention: Les candidatures doivent être déposées en ligne sur le site Inria. Le traitement des candidatures adressées par d'autres canaux n'est pas garanti.
Consignes pour postuler
Deadline for applying: June 1st 2025
Join with your application:
- Detailed CV with a description of the PhD and a complete list of publications with the two most significant ones highlighted
- A Motivation letter
- 2 letters of recommendations
- Passport copy
Sécurité défense :
Ce poste est susceptible d’être affecté dans une zone à régime restrictif (ZRR), telle que définie dans le décret n°2011-1425 relatif à la protection du potentiel scientifique et technique de la nation (PPST). L’autorisation d’accès à une zone est délivrée par le chef d’établissement, après avis ministériel favorable, tel que défini dans l’arrêté du 03 juillet 2012, relatif à la PPST. Un avis ministériel défavorable pour un poste affecté dans une ZRR aurait pour conséquence l’annulation du recrutement.
Politique de recrutement :
Dans le cadre de sa politique diversité, tous les postes Inria sont accessibles aux personnes en situation de handicap.
Contacts
- Équipe Inria : ALMANACH
-
Recruteur :
Seddah Djame / Djame.Seddah@inria.fr
L'essentiel pour réussir
Autonomy, dynamism and thoroughness.
A real interest in language and its challenges.
A propos d'Inria
Inria est l’institut national de recherche dédié aux sciences et technologies du numérique. Il emploie 2600 personnes. Ses 215 équipes-projets agiles, en général communes avec des partenaires académiques, impliquent plus de 3900 scientifiques pour relever les défis du numérique, souvent à l’interface d’autres disciplines. L’institut fait appel à de nombreux talents dans plus d’une quarantaine de métiers différents. 900 personnels d’appui à la recherche et à l’innovation contribuent à faire émerger et grandir des projets scientifiques ou entrepreneuriaux qui impactent le monde. Inria travaille avec de nombreuses entreprises et a accompagné la création de plus de 200 start-up. L'institut s'efforce ainsi de répondre aux enjeux de la transformation numérique de la science, de la société et de l'économie.