STAGE – Ingénieur de Recherche Détection de backdoors dans les grands modèles de langage (H/F)

Lieu : Palaiseau, France

Construisons ensemble un avenir de confiance

Thales est un leader mondial des hautes technologies spécialisé dans trois secteurs d’activité : Défense & Sécurité, Aéronautique & Spatial, et Cyber & Digital. Il développe des produits et solutions qui contribuent à un monde plus sûr, plus respectueux de l’environnement et plus inclusif. Le Groupe investit près de 4,5 milliards d’euros par an en Recherche & Développement, notamment dans des domaines clés de l’innovation tels que l’IA, la cybersécurité, le quantique, les technologies du cloud et la 6G. Thales compte près de 85 000 collaborateurs dans 65 pays. ​

Nos engagements, vos avantages

• Notre savoir-faire technologique

• Notre attention portée à l’équilibre des collaborateurs

• Un environnement inclusif et bienveillant

• Un engagement sociétal et environnemental reconnu (Thales Solidarity, indice CAC 40 ESG…)

Votre quotidien

Thales Research&Technology, notre centre de recherche dans les domaines matériels, et CortAIx Labs, notre centre de recherche en IA et digital ont pour mission de proposer des innovations de ruptures, de maintenir et d’accroitre l’avance technologique et d’en assurer la compétitivité pour le groupe.

Les grands modèles de langage (LLM) occupent aujourd’hui une place centrale dans de nombreux systèmes critiques : assistants conversationnels, aide à la décision, génération de code, analyse documentaire, cybersécurité ou encore traitement de données sensibles. Leur intégration croissante dans des environnements industriels et institutionnels soulève cependant des enjeux majeurs de confiance, de robustesse et de sécurité. Parmi les menaces émergentes, les attaques par backdoor constituent un risque

particulièrement préoccupant. Une backdoor est un comportement malveillant ou non souhaité inséré dans un modèle lors de son entraînement, de son affinage ou via sa chaîne d’approvisionnement. En apparence, le modèle fonctionne normalement dans la majorité des cas, mais adopte un comportement spécifique lorsqu’un déclencheur particulier est présent dans l’entrée. Dans le cas des LLM, ces déclencheurs peuvent prendre des formes variées : mots-clés, motifs syntaxiques, styles rédactionnels, séquences rares, instructions cachées, voire caractéristiques sémantiques subtiles.

 

La détection de ces comportements est un sujet de recherche encore ouvert, rendu difficile par :

• la taille des modèles,

• l’opacité de leurs mécanismes internes (caractère boite noire),

• la diversité des modalités d’injection de backdoors,

• la difficulté à distinguer un comportement malveillant d’un simple biais ou d’une généralisation inattendue.

Le stage proposé s’inscrit dans une démarche de sécurisation des modèles d’IA et vise à explorer, comparer et évaluer des méthodes de détection de backdoors appliquées aux LLM, dans une perspective à la fois  cientifique et opérationnelle.

 

Les objectifs du stage sont les suivants :

• acquérir une compréhension approfondie des menaces backdoor sur les LLM ;

• établir un benchmark expérimental de méthodes de détection ;

• mesurer les limites des approches existantes dans un cadre réaliste ;

• produire des résultats exploitables sous la forme de rapport d’étude et prototypes de détection (code,

démo).

 

Vos missions

 

Le stagiaire contribuera à l’étude et au développement de méthodes permettant de détecter la présence de backdoors dans des grands modèles de langage, en s’appuyant sur l’état de l’art académique et sur des expérimentations pratiques.

Le travail consistera notamment à :

•  réaliser une étude bibliographique sur les attaques backdoor visant les modèles de langage et les méthodes de détection existantes ;
•  identifier différents scénarios de menace pertinents pour les LLM ;
• mettre en place un protocole expérimental sur des modèles open source de taille modérée ;
•  reproduire ou implémenter plusieurs approches de détection ;
•  évaluer leurs performances selon différents critères : précision, robustesse, coût de calcul, généricité ;
•  proposer, le cas échéant, des pistes d’amélioration ou une approche complémentaire.

 

Votre profil

 

Le candidat recherché est un étudiant en dernière année ayant un intérêt marqué pour l’IA et la cybersécurité, recherchant un stage de fin d'études avec les compétences suivantes :

•  bonnes bases en machine learning et deep learning ;
•  maîtrise de Python ;
•  connaissance pratique d’au moins un framework de deep learning, idéalement PyTorch ;
•  familiarité avec les modèles de type Transformers et les concepts de base des LLM ;
•  capacité à conduire des expérimentations, analyser des résultats et documenter une démarche scientifique.

Tous nos stages sont conventionnés et soumis à une gratification dont le montant est déterminé selon votre niveau d’études.

Thales, entreprise Handi-Engagée, reconnait tous les talents. La diversité est notre meilleur atout. Postulez et rejoignez nous !