CS27 - Bac+5 - Évaluation et Monitoring des Agents IA en Production (H/F)
Careers | Renault Group
·Yesterday
- Location
- FR_REN_RSAS - Boulogne, France
- Type
- Full-time
- Department
- IT
- Education
- Associate
- Closing date
- Today
- Source
- Workday
Description
Company
RENAULT s.a.s.Job Description
Contexte
L'intelligence artificielle générative et les agents IA transforment progressivement les usages au sein de Renault Group. Afin d'accompagner leur déploiement à grande échelle, le Centre of Excellence AI développe des méthodologies, des outils et des plateformes permettant d'évaluer, de suivre et d'améliorer en continu les performances des agents IA tout au long de leur cycle de vie.
Dans ce contexte, nous recherchons un(e) stagiaire de fin d'études pour contribuer à la structuration et à l'industrialisation des processus d'évaluation des agents IA, depuis leur développement jusqu'à leur monitoring en production.
Vos missions
Au sein du Centre of Excellence AI, vous participerez à la mise en place d'un cadre commun d'évaluation des agents IA.
Vos principales missions seront les suivantes :
- Cartographier et analyser les processus d'évaluation existants au sein des différentes équipes.
- Agréger, comparer et synthétiser les méthodes, outils et bonnes pratiques déjà en place.
- Concevoir et contribuer à l'implémentation d'une plateforme commune d'évaluation et de monitoring des agents IA.
- Travailler sur les jeux de données d'évaluation et explorer les mécanismes permettant leur mise à jour automatique ou semi-automatique en liens avec les évolutions de la vérité terrain.
- Collecter, analyser et comparer les métriques utilisées dans l'entreprise pour mesurer la qualité, la robustesse et la performance des agents IA.
- Participer à la définition de recommandations et de standards d'évaluation pour les futurs développements et leur application aux agents déjà en production.
- Réaliser une veille sur les frameworks et méthodologies d'évaluation des systèmes d'IA générative.
Profil recherché
- Étudiant(e) en dernière année d'école d'ingénieur ou Master 2 avec une spécialisation en Intelligence Artificielle, Machine Learning, NLP (Natural Language Processing), Data Science ou Informatique.
- Connaissances des technologies d'IA générative : LLM, NLP, RAG, agents IA et techniques d'évaluation associées.
- Solides compétences en Python et en développement de solutions Data & IA.
- Conaissances des framework de création d'agent en python (ADK, Langgraph...).
- Intérêt marqué pour les problématiques d'évaluation, de qualité et d'industrialisation des systèmes d'IA.
- Capacité d'analyse, esprit de synthèse et autonomie.
- Bon niveau d'anglais professionnel.
Compétences appréciées
- Expérience avec des frameworks d'évaluation de LLM et d'agents IA (Ragas, Vertex AI Gen AI evaluation service, ...).
- Connaissance des problématiques de monitoring, d'observabilité et de gouvernance des systèmes IA.
- Familiarité avec les pipelines de données et les mécanismes d'automatisation.
- Connaissances de l'environnement cloud GCP.
Ce que vous apprendrez
- Les enjeux de gouvernance et d'industrialisation de l'IA à l'échelle d'un grand groupe.
- Les mise en pratique d'évaluation des agents IA en production en liens avec des impératifs métier.
- La conception de plateformes de monitoring et d'observabilité pour les systèmes d'IA générative.
- La définition de métriques et de standards permettant d'améliorer la qualité des solutions IA déployées en production.
- La collaboration avec des experts IA, Data Science et Software Engineering sur des cas d'usage stratégiques pour Renault Group.
Job Family
Information Technologies & SystemsContract Duration
6 monthsRenault Group is committed to creating an inclusive working environment and the conditions for each of us to bring their passion, perform to the full and grow, whilst being themselves.
We find strength in our diversity and we are engaged to ensure equal employment opportunities regardless of race, colour, ancestry, religion, gender, national origin, sexual orientation, age, citizenship, marital status, disability, gender identity, etc. If you have a disability or special need requiring layout of the workstation or work schedule, please let us know by completing this form.
In order to follow in real time the evolution of your applications and to stay in touch with us, we invite you to create a candidate account. This will take you no more than a minute and will also make it easier for you to apply in the future.
By submitting your CV or application, you authorise Renault Group to use and store information about you for the purposes of following up your application or future employment. This information will only be used by Renault Group companies as described in the Group privacy policy.