医疗AI模型风险评估博士研究员

Doctorant F/H Évaluation des risques liés aux modèles d’IA en Santé

Download job offer in PDF format

The offer description be low is in French

Contract type : Fixed-term contract

Level of qualifications required : Graduate degree or equivalent

Fonction : PhD Position

About the research centre or Inria department

Le centre de recherche Inria de l’Université Grenoble Alpes regroupe un peu moins de 600 personnes réparties au sein de 27 équipes de recherche et 8 services support à la recherche.

Son effectif est distribué sur 3 campus à Grenoble, en lien étroit avec les laboratoires et les établissements de recherche et d'enseignement supérieur (Université Grenoble Alpes, CNRS, CEA, INRAE, …), mais aussi avec les acteurs économiques du territoire.

Présent dans les domaines du calcul et grands systèmes distribués, logiciels sûrs et systèmes embarqués, la modélisation de l’environnement à différentes échelles et la science des données et intelligence artificielle, Inria Grenoble - Rhône-Alpes participe au meilleur niveau à la vie scientifique internationale par les résultats obtenus et les collaborations tant en Europe que dans le reste du monde.

Context

Évaluation des risques liés aux modèles d’IA en Santé

Contexte

Les données de santé, généralement issues du soins, constituent un potentiel important pour la recherche et l’organisation du système de santé. Compte tenu du caractère sensible des données médicales, dont la divulgation non maîtrisée entraîne des risques d’atteinte à la réputation et de préjudices pour les personnes concernées, la mise en place de mesures de protections adéquates est un préalable à leur exploitation. Un cadre normatif strict s’applique d’ailleurs aux traitements réalisés sur ces données (règlement général sur la protection des données, loi informatique et liberté, méthodologies de référence, règles internes des organisations, etc.). Outre leur coût et leur complexité de mise en œuvre, ces mesures de protection limitent le potentiel d’exploitation des données et donc les conséquences positives attendues pour la santé des populations.

Les méthodes visant à garantir la protection des données sensibles sont nombreuses comme l’anonymisation ou la dé-identification des informations, l’agrégation de données, l’apprentissage fédéré, ou la génération de données synthétiques . Dans leurs versions actuelles, ces méthodes ne permettent pas de répondre aux besoins pratiques d’un Entrepôt de Données de Santé (EDS) :

• Le choix de la méthode appropriée au cadre légal dans un contexte spécifique dépend de chaque situation et mélange des arguments de nature juridique, scientifique, organisationnel et technique ;

• Mise en œuvre complexe dans un environnement évoluant très rapidement (ex : structure des données souvent complexe, volumétrie importante, évolution rapide des méthodes et modèles de traitement des données, développement de méthodes de ré-identification par exemple sur les modèles entraînés sur des données personnelles, etc.) ;

• Faible niveau de connaissance sur les risques d’atteinte à la vie privée et les possibilités des méthodes de protection au sein des organisations ;

• Les craintes de risques résiduels d’atteinte à la vie privée conduisent souvent les organisation à une limitation préventives des traitements, parfois au-delà du cadre légal.

Au sein de la direction des services numériques de l’AP-HP, le pôle innovation et données assure, parmi d’autres missions, le développement et l’exploitation d’un entrepôt de données de santé (EDS) regroupant les données de soin des hôpitaux de l’AP-HP. Cet entrepôt, l’un des plus importants d’Europe, contient des informations sur des millions de patients (dossiers médicaux, comptes rendus, résultats d’analyse, imagerie, etc.) et offre des perspectives importantes en matière de recherche clinique, d’appui au pilotage et plus largement d’innovation dans le domaine de la santé. Comme les autres entrepôts de données de santé, il est soumis à des impératifs d’exploitation et de transmission des données pour réaliser des missions primaires ainsi qu’à des contraintes réglementaires et éthiques fortes.

Une grande partie de ces données issues d’un EDS sont des documents textuels non structurés sous forme de rapports médicaux. Avec l'essor de l'apprentissage automatique (ML) et l'avènement du traitement automatique du langage naturel (NLP), les grands modèles de langage (LLMs) sont de plus en plus utilisés pour automatiser le traitement de ces rapports médicaux.

Les dossiers médicaux des patients sont des données extrêmement sensibles et privées. Leur utilisation et leur diffusion sont donc soumises à de nombreuses réglementations, telles que la loi HIPAA aux États-Unis ou le RGPD en Europe. Dans cette réglementation, l'une des principales conditions préalables à la diffusion des données médicales est la suppression de tout élément permettant l'identification directe (c'est-à-dire la dé-identification ou la pseudonymisation) ou indirecte (c'est-à-dire l'anonymisation) d'un patient.

Les avancées récentes en NLP basées sur les réseaux de neurones ont démocratisé leur utilisation. Depuis l'avènement de ChatGPT, les LLMS ne se limitent pas à la génération de texte et peuvent inclure plusieurs tâches, notamment la classification et la reconnaissance d'entités nommées (NER), permettant ainsi la dé-identification de textes libres. Par exemple, Johnson et al. ont proposé d'utiliser un réseau de neurones basé sur une architecture BERT pour détecter un certain nombre d'éléments d'identification dans les documents médicaux. Plus récemment, différents hôpitaux ont également exploré la possibilité d'utiliser des LLMs pour pseudonymiser automatiquement des textes (c'est-à-dire masquer des informations directement identifiantes) issus de leur EDS. Dans ces approches, le modèle BERT est affiné avec les rapports médicaux de l'hôpital (afin d’être spécialisé et de bien comprendre ce type d’information) avant d'entraîner une reconnaissance d'entités nommées (NER) sur un ensemble des informations qui identifient directement les patients. Boutet et al. vont plus loin en proposant une approche permettant de spécialiser un LLM sur des patient médicaux en limitant la mémorisation par le modèle des informations à la fois directement et indirectement identifiantes (c’est à dire ce qui correspond l’anonymisation) afin de faciliter le partage des modèles entre hôpitaux.

Assignment

Objectif

Les travaux envisagés dans cette thèse permettront de répondre aux problématiques actuelles d’un EDS tel que celui de l’AP-HP. Plus spécifiquement, les travaux se focaliseront sur :

• L’anonymisation de modèles d’apprentissage entraîné sur des données personnelles, notamment dans le champ du traitement automatique des langues, afin de faciliter leur partage ;

• Le développement d’une méthode générale pour évaluer les risques associés au partage de modèle ;

• La mise en application et l’intégration des méthodes proposées à l’EDS ainsi que l’amélioration des performances des méthodes existantes, notamment le passage à l’échelle.

• La quantification des risques pour des informations personnelles utilisées dans plusieurs modèles d'apprentissage (lien entre les risques d'un modèle sur l'autre modèle)

• Évaluation de la confidentialité des données d'entraînement dans le cas de modèles exploitant des données multimodales (liens entre les données de type compte rendu et imagerie)

• Étude de la propagation du risque de confidentialité quand les modèles sont entraînés avec des données synthétiques (données réelles -> données synthétiques -> entraînement de modèles d'IA)

• Étude du lien entre attaque de Privacy et attaque de sécurité

• Analyse des attaques dans leurs ensemble (la notion de chaînes d’attaque)

Encadrement :

Le doctorant ou la doctorante sera encadré sur le plan scientifique par Antoine Boutet (Insa-Lyon / Inria). Les travaux de thèse seront enrichis de collaborations avec le pôle innovation et données de la direction des services numériques de l’AP-HP dirigé par Clément Henin pour illustrer des cas d’usage concrets.

Main activities

Principales activés :

• revue de l'état de l'art

• développement d'attaques de bout en bout

• développement de contre-mesures

• rédaction d'article + présentation de travaux

• amérlioration des solutions mises en œuvre concrètement au sein des hôpitaux

Benefits package

• Restauration subventionnée

• Transports publics remboursés partiellement

• Congés : 7 semaines de congés annuels + 10 jours de RTT (base temps plein) + possibilité d'autorisations d'absence exceptionnelle (ex : enfants malades, déménagement)

• Possibilité de télétravail 90 jours/an fixes ou flottants et aménagement du temps de travail

• Équipements professionnels à disposition (visioconférence, prêts de matériels informatiques, etc.)

• Prestations sociales, culturelles et sportives (Association de gestion des œuvres sociales d'Inria)

• Accès à la formation professionnelle

• Participation Protection Sociale Complémentaire sous conditions

Remuneration

2300 euros brut / mois

Apply for this position

Share

• Facebook

• Linkedin

• Twitter

• Email

General Information

• Theme/Domain : Security and Confidentiality

Information system (BAP E)

• Town/city : Villeurbanne

• Inria Center :

Centre Inria de l'Université Grenoble Alpes

• Starting date : 2026-12-01

• Duration of contract : 3 years

• Deadline to apply : 2026-11-20

Warning : you must enter your e-mail address in order to save your application to Inria. Applications must be submitted online on the Inria website. Processing of applications sent from other channels is not guaranteed.

Instruction to apply

Les candidatures doivent être déposées en ligne sur le site Inria. Le traitement des candidatures adressées par d'autres canaux n'est pas garanti.

Defence Security :

This position is likely to be situated in a restricted area (ZRR), as defined in Decree No. 2011-1425 relating to the protection of national scientific and technical potential (PPST).Authorisation to enter an area is granted by the director of the unit, following a favourable Ministerial decision, as defined in the decree of 3 July 2012 relating to the PPST. An unfavourable Ministerial decision in respect of a position situated in a ZRR would result in the cancellation of the appointment.

Recruitment Policy :

As part of its diversity policy, all Inria positions are accessible to people with disabilities.

Contacts

• Inria Team :

PRIVATICS

• PhD Supervisor :

Boutet Antoine / antoine.boutet@inria.fr

The keys to success

• goûts et appétences pour la sécurité / privacy,

• domaine d'excellence en IA,

• autonome et motivé

• communication et dialogue

• compétences relationnelles

About Inria

Inria, the French national institute for research in digital science and technology, supports the French government in national research and innovation strategies in the digital field, acting as Digital Programs Agency. Inria leads over 300 research and innovation projects with its 3,500 scientists, engineers, and support staff, in partnership with universities and the digital ecosystem (businesses, entrepreneurs, and public stakeholders). Together, we explore strategic fields such as artificial intelligence, cybersecurity, quantum computing, cloud technologies, digital transformation in healthcare, digital twins, and digital technologies for defence. We develop practical solutions such as software, tech startups, partnerships with national companies, and cutting-edge training programmes. Our goal is to drive scientific, technological, and industrial excellence to ensure France’s digital sovereignty.