STAGE – Ingénieur de Recherche Vol de modèle par extraction : attaques et défenses (H/F) – 6 mois

Lieu : Palaiseau, France

Construisons ensemble un avenir de confiance

Thales est un leader mondial des hautes technologies spécialisé dans trois secteurs d’activité : Défense & Sécurité, Aéronautique & Spatial, et Cyber & Digital. Il développe des produits et solutions qui contribuent à un monde plus sûr, plus respectueux de l’environnement et plus inclusif. Le Groupe investit près de 4,5 milliards d’euros par an en Recherche & Développement, notamment dans des domaines clés de l’innovation tels que l’IA, la cybersécurité, le quantique, les technologies du cloud et la 6G. Thales compte près de 85 000 collaborateurs dans 65 pays. ​

Nos engagements, vos avantages

• Notre savoir-faire technologique

• Notre attention portée à l’équilibre des collaborateurs

• Un environnement inclusif et bienveillant

• Un engagement sociétal et environnemental reconnu (Thales Solidarity, indice CAC 40 ESG…)

Votre quotidien

Thales Research&Technology, notre centre de recherche dans les domaines matériels, et CortAIx Labs, notre centre de recherche en IA et digital ont pour mission de proposer des innovations de ruptures, de maintenir et d’accroitre l’avance technologique et d’en assurer la compétitivité pour le groupe.

Au sein de cette entité, cortAIx Labs, basé à Palaiseau, est département de recherche et développement de pointe au

sein de Thales, dédié aux domaines de l'intelligence artificielle (IA), de l'apprentissage automatique (ML) et de la science des données. Ses principaux domaines d'expertise sont notamment l'intelligence artificielle et l'apprentissage automatique, avec le développement d'algorithmes sophistiqués d'IA et d'AM adaptés à des applications spécifiques de défense et de sécurité, à la sécurité des données, à la cybersécurité, à la robotique et aux systèmes autonomes. L'une des activités du laboratoire de cybersécurité de cortAIx Labs concerne la sécurité de l'IA. AI Friendly Hacker est un programme dédié

à la sécurité de l'IA, qui contribue à la fois à l'attaque et à la défense de l'IA en matière de robustesse, de confidentialité et de propriété intellectuelle.

Vos missions

Les modèles d’intelligence artificielle sont aujourd’hui de plus en plus coûteux à développer, tant en ressources humaines qu’en données et en moyens matériels. À ce titre, ils constituent désormais des actifs à forte valeur ajoutée. Toutefois, une fois déployés sur une machine ou un serveur, ces modèles deviennent vulnérables à différentes formes d’attaques, notamment aux attaques de vol par extraction de modèle.

Ces attaques visent à entraîner un modèle substitut capable d’imiter le comportement du modèle cible, tout en minimisant les coûts de calcul et de collecte de données afin de rendre l’opération rentable pour l’attaquant. Selon l’hypothèse de sécurité considérée, ces attaques peuvent se situer

dans un cadre black-box, où seul l’accès aux sorties du modèle est possible, ou white-box, où les paramètres et certaines caractéristiques internes du modèle sont accessibles. Dans de nombreux cas, elles s’appuient sur des approches de distillation de connaissance (knowledge distillation). À titre d’exemple, la méthode proposée par Truong et al. [1] consiste à générer des données synthétiques à l’aide d’un modèle génératif (Generative Adversarial Network, GAN) afin de réaliser ce transfert.

Afin de se prémunir contre ce type de menace, plusieurs mécanismes de défense ont été proposés dans la littérature. Parmi les approches prometteuses, celle introduite dans consiste à partitionner le modèle, dès l’entraînement, en deux composantes : une partie publique, non protégée, et une

partie privée, protégée et donc inaccessible à un attaquant. Cette stratégie permet de viser un compromis intéressant entre sécurité et utilité du modèle déployé.

L’objectif du stage est d’étudier en profondeur les principales méthodes d’attaque par extraction de modèle, ainsi que les mécanismes de défense permettant de s’en protéger.

Nous proposons que le stage se déroule de la manière suivante :

• Etat de l’art sur les méthodes de vol de modèles par extraction

• Etat de l’art sur les méthodes de protection contre le vol de modèle

• Compréhension et implémentation des méthodes existantes

• Comparaison de ces méthodes. Proposition pour améliorer l’existant sur un des axes attaque ou/et défense

• Rédaction de la documentation et une éventuelle publication dans une conférence ou un journal en fonction des résultats obtenue

Les données utilisées pendant ce stage pourront en autres être des Open Data. Les contributions techniques du stage pourront, notamment, enrichir les contributions de CortAIx Labs dans des projets internes et sur des projets Européens, et enrichir une boite à outils développés par CortAIx Labs autour de l’IA de confiance.

Votre profil

Vous êtes issu d'une formation technique/ingénieur BAC+5 en Sciences des Données/ en apprentissage automatique, à la recherche d'un stage de fin d'études de 6 mois ?

Vous êtes curieux et rigoureux ?

Vous recherchez un stage de fin d’étude de 5 à 6 mois ?

Vous disposez d'une aisance affirmée en programmation en Python ? Les formules mathématiques ne vous font pas peur ?

Vous avez un intérêt particulier pour la sécurité des modèles d'IA ?

L’idée de participer à un projet de recherche sur des thématiques d’apprentissage automatique novatrices vous anime ?

L’idée d’être intégré à une équipe composée de chercheurs en cybersécurité et sécurité de apprentissage automatique vous attire ?

Si la réponse est oui, parlons missions !

Tous nos stages sont conventionnés et soumis à une gratification dont le montant est déterminé selon votre niveau d’études.

Thales, entreprise Handi-Engagée, reconnait tous les talents. La diversité est notre meilleur atout. Postulez et rejoignez nous !