Hiring.Camp

Senior AI Platform Engineer- LLM & Agents (m/w/d)

Neurawork

·

3 weeks ago

Location
Deutschland
Workplace
Remote
Type
Full-time
Department
Engineering
Seniority
Senior
Source
JOIN

Description

NeuraPlox baut eine AI-Agent-Plattform für Enterprise-Kunden aus Banken, Versicherungen und Pharma. Unsere Kunden müssen ihre KI-Outputs nicht nur erklären wollen, sondern erklären können: gegenüber Aufsicht, Audit und eigenen Fachbereichen. Deshalb bauen wir explainable AI mit Audit-Lineage, Decision-Provenance und Retrieval, das auch bei Millionen von Vektoren pro Tenant sauber funktioniert.

Wir sind ein investor-backed Startup mit einem kleinen Team, in dem jede Entscheidung sichtbar Wirkung hat. Als Senior AI Platform Engineer verantwortest du die Agent-Architektur, also den Kern unseres Produkts, und baust das AI-Engineering bei uns entscheidend mit auf.

Aufgaben

Was Du bei uns machst

  • Eine produktionsreife AI-Agent-Plattform auf Basis von PydanticAI, LiteLLM und Langfuse

  • RAG-Pipelines mit pgvector at scale: Multi-Tenant-Isolation, Index-Rebuild-Strategie, Hybrid Search und Re-Ranking

  • Einen Multi-Tenant-Token-Quota-Service und Eval-Frameworks pro Tenant

  • MCP-Tool-Integration (Model Context Protocol) als fester Bestandteil der Architektur

  • Lückenlose Auditierbarkeit von Prompt bis Output, damit Entscheidungen für Fachbereich und Aufsicht nachvollziehbar sind

  • Architektur-Entscheidungen, die auch im Bank-, Versicherungs- und Pharma-Umfeld bestehen

Wie wir arbeiten

  • Eval-driven: Jeder Agent-Change läuft durch eine Eval-Suite, bevor er live geht.

  • ADRs: Relevante Architektur-Entscheidungen werden dokumentiert, nicht im Slack-Thread vergraben.

  • Gemessen statt geraten: LLM-Calls sind ab Tag eins in Langfuse sichtbar, inklusive Kosten und Latenz.

  • Empirisch: Re-Ranking, pgvector-Sizing und Retrieval-Qualität entscheiden wir auf Basis von Daten.

  • Kurze Wege: Direkter Draht zum Founding-Team, keine Projektmanagement-Ebene dazwischen.

Qualifikation

Was wir suchen

  • 5+ Jahre Software-Engineering mit Python in Produktion

  • Erfahrung mit LLMs in Produktion: Tokens, Latenz, Kosten und Evals sind für dich Alltag

  • RAG-Systeme, die du selbst gebaut und betrieben hast, inklusive Retrieval-Tuning und Re-Ranking

  • Ein Agent-Framework wie LangGraph, PydanticAI oder vergleichbar im Produktiveinsatz

  • Sehr gutes Deutsch und gutes Englisch, da du mit Enterprise-Kunden im DACH-Raum arbeitest

Ein Plus, aber kein Muss:

  • Erfahrung mit LiteLLM, Langfuse oder MCP. Was du noch nicht kennst, lernst du bei uns schnell.

  • pgvector-Sizing bei großen Datenmengen

  • Kubernetes-Grundlagen

  • Erfahrung mit regulatorischen Anforderungen wie EU AI Act, DORA, BaFin/MaRisk oder GxP

Was wir bieten

  • Verantwortung ab Tag eins: Du prägst die Agent-Architektur, statt nur Prompts zu tunen, ohne Management-Layer über dir

  • Direkter Draht: Du berichtest an Christoph Knöll (Founder/CEO) und arbeitest eng mit unserem Head of AI, mit kurzen Entscheidungswegen

  • Flexibilität: Voll-remote mit Wohnsitz in Deutschland, flexible Arbeitszeiten, ca. einmal im Monat Team-Tage im Münchner Office

  • Raum zum Testen: Moderner Stack und Zeit, neue Modelle, Frameworks und Retrieval-Ansätze ernsthaft zu evaluieren

  • Fachlicher Austausch: Ein Team, das LLM-Systeme in Produktion betreibt und Entscheidungen auf Basis von Evals trifft

  • Weiterentwicklung und Sichtbarkeit: Konferenzen, Schulungen und die Möglichkeit, als Experte nach außen aufzutreten, z. B. mit Talks oder Fachbeiträgen

Bewerbung: so kommst du zu uns!

Wir freuen uns über Deinen CV und beschreibe kurz ein LLM- oder RAG-System, das Du in Produktion gebracht hast: Use Case, Größenordnung, deine Rolle.

Dein Neurawork-Team!

Skills

PythonKubernetesLLMRAG

Similar Jobs

30

Senior Platform/DevOps/Infra engineer (AI)

Nagarro·Warsaw, Mazovia·Remote

Today

Senior AI Platform Engineer (Cloud)

Sky·Osterley, England +1·Hybrid

Today

Senior ML Data Platform Engineer | $165K-$175K + Hybrid + Equity | AI Powered Outage Intelligence SaaS Startup

PhillyTech·King of Prussia, Pennsylvania·Hybrid

Today

Senior Software Engineer - AI & Platform

Arketa·New York City, New York·Remote

Today

Senior Cloud/Platform Engineer (Azure, AI Platform) (m/w/d)

Ascent LLC.

Senior Staff AI Security Engineer, AI Platform (AI Native)

Life360·New York City, New York·Remote

Today

Azure AI Platform Engineer III/Senior

EQT Corporation·Remote·Remote

1d ago

Senior Software Engineer, AI Platform Core

Filevine·Prague, Czechia·Hybrid

1d ago

Senior Product Lead, Agent Fleet and AI Platform

Burq·Lahore, Punjab·Onsite

1d ago

Senior AI Platform Engineer

Rws·Brno, South Moravian +7·Hybrid

1d ago

Senior AI Platform Engineer

Global Rws·Brno, South Moravian +7·Hybrid

1d ago

Platform Professional Services Senior Consultant (AI), (Remote, GBR)

Crowdstrike·UK·Remote

1d ago

Senior Manager, ITP Program Management, AI and Agentic Platform

Micron·Bengaluru, Karnataka +1

1d ago

Senior AI Engineer IT-HR Platform (m/f/d) – with salary details

Become 1 of us·Airoli, Maharashtra +2·Hybrid

1d ago

Senior Manager, ITP Program Management, AI and Agentic Platform

Micron Technology·Bengaluru, Karnataka +1

1d ago

Senior AI Platform Engineer (Azure)

Primaris

Senior Director, AI Architecture & Platform Engineering

Marketing·Lewisville, Texas·Hybrid

1d ago

Senior Forward Deployed Engineer - SAP Business AI Platform - Indaiatuba/SP

John Deere·Indaiatuba, São Paulo

1d ago

Senior Product Marketing Manager, Platform AI

Ironcladhq·New York City, New York +1·Hybrid

2d ago

Senior DevOps Engineer (AI-Enabled Platform Engineering)

EverOps·Remote·Remote

2d ago

Senior Consultant - AI Platform Lead

AstraZeneca is·Mumbai, Maharashtra·Hybrid

2d ago

Senior Consultant - AI Platform Lead

AstraZeneca·Tennessee, US·Hybrid

2d ago

Senior Product Manager, AI Platform

Cogent Security Llc·New York City, New York +1·Hybrid

2d ago

Senior Consultant - AI Platform Lead

AstraZeneca·Mumbai, Maharashtra·Hybrid

2d ago

Senior AI Platform Engineer

Antal | Rekrutacje

Senior Cloud Platform Engineer - AI Education Systems

Nvidia·Santa Clara, California

3d ago

AI Senior Software Engineer - Platform Engineering, Foundations

Monday.com·Tel Aviv, Israel·Hybrid

3d ago

Senior Cloud Platform Engineer - AI Education Systems

Nvidia·Santa Clara, California

3d ago

Senior Engineer - AI Platform

Barclays·Bengaluru, Karnataka +1

3d ago

Senior Director, AI FinOps & Platform Economics

Pfizer·Ireland +1·Hybrid

3d ago