Skip to content

Nobody tells you why you were rejected. We will. Free, in 30 seconds.

Score my CV against live jobs

Machine Learning Engineer (m/w/d)

Rockstardevelopers GmbH · Stuttgart

RemoteMidPosted 23 Jul 2026

What this role requires

2 requirements, read out of the advert rather than guessed from the job title:

Also mentioned, not required: FastAPI, Grafana, Kubernetes, ArgoCD, Jenkins, LangChain, LangGraph, Milvus, German (C1). Worth having, but their absence is not what gets a CV filtered out.

See how often each of these is required across open data roles in Europe.

Check my CV against these 2 requirements

Free, no card. Tells you which of them your CV evidences and which it only implies.

Job description

Du baust produktive KI-Systeme (LLM, RAG, Agenten) für große Kunden im öffentlichen Sektor. Kein Prototyp für die Schublade, sondern Software, die im Regelbetrieb läuft.

Wer wir sind

Rockstardevelopers, gegründet 2015, Büros in Stuttgart und München. Aus hunderten Projekten für Enterprise- und Mittelstandskunden wissen wir, wie man Software baut, die im Ernstfall trägt.

Seit einer Weile verschiebt sich unser Schwerpunkt Richtung KI: LLM-Anwendungen, RAG, Agenten-Systeme, die beim Kunden wirklich produktiv gehen. Genau dafür suchen wir dich.

Worum es geht

Unsere Kunden sind IT-Dienstleister im öffentlichen Sektor, ein reguliertes Umfeld mit hohen Ansprüchen an Datenschutz und Betriebssicherheit. Dort baust du KI-Lösungen in bestehende Branchenlösungen ein: Dialogsysteme, semantische Suche, RAG-Pipelines, Agenten, alles im echten Produktivbetrieb für viele Nutzer. Projektsprache ist Deutsch.

Read the full description (36 more sections)

Ein Wort zu Remote, weil es oft die erste Frage ist: Der Alltag läuft remote-first innerhalb der DACH-Region. Ab und zu bist du vor Ort, den Rest der Zeit arbeitest du von dort, wo du gut arbeitest.

Deine Aufgaben

LLM-Anwendungen bauen. Du entwickelst dialogbasierte Systeme und semantische Suche und integrierst sie in die fachlichen Anwendungen der Branchenlösung.

RAG-Systeme aufsetzen und pflegen. Inklusive Wissensbasis-Management: Indexierung, Aktualisierung, saubere quellengetrennte Ablage von strukturierten und unstrukturierten Inhalten.

Betrieb und Monitoring. MLOps im Produktivbetrieb: Observability, strukturiertes Logging, Fehleranalyse. Du sorgst dafür, dass die Systeme laufen, nicht nur, dass sie einmal liefen.

Agenten produktiv setzen. Von der Entwicklung über die Integration und die Anbindung an Portalsysteme bis zur stabilen Auslieferung.

Auf Datenbasis verbessern. Auf Basis von Monitoring-Daten, Tests und Nutzerfeedback machst du die Lösungen Schritt für Schritt besser.

Neues erproben. Du identifizierst neue KI-Anwendungsfelder, probierst sie aus und baust die Datenpipelines von der Aufbereitung über die Modellerstellung bis in die Produktion.

Das musst du mitbringen

Die folgenden vier Punkte sind harte Voraussetzungen, jeder muss nachweisbar sein. Wenn einer davon fehlt, können wir dich leider nicht ins Rennen schicken. So ehrlich sind wir lieber vorab, als dir Zeit zu stehlen.

Mindestens 2 Jahre Berufserfahrung als Machine Learning Engineer in Konzeption, Entwicklung, Implementierung und Optimierung skalierbarer ML-Lösungen.

Mindestens 2 Jahre Erfahrung in agilen Entwicklerteams.

Deutsch mindestens auf C1-Niveau in Wort und Schrift, nachweisbar über ein Sprachzertifikat oder als Muttersprache.

Abgeschlossenes Studium der Informatik, Wirtschaftsinformatik oder eine vergleichbare Ausbildung, nachweisbar über Zeugnis oder Eigenerklärung.

Das bringst du idealerweise mit

Kein Muss, aber je mehr davon, desto besser:

Vektorsuche und semantische Indexierung in Vektordatenbanken, idealerweise Milvus

Backend-Entwicklung mit Python, vorzugsweise FastAPI

LLM-Orchestrierung mit LangChain oder LangGraph

Betrieb produktionsnaher KI-Systeme: Monitoring (idealerweise Grafana), strukturiertes Logging, Fehleranalyse, Deployment

Datenschutzkonforme KI-Gestaltung, gerade beim Umgang mit personenbezogenen Daten in Logging und Observability

GenAI im Einsatz für viele Nutzer, idealerweise in einem Multimandanten-Umfeld

Kubernetes, ArgoCD, Jenkins

Erfahrung mit agilen Lieferstrukturen, idealerweise SAFe

Erfahrung aus Projekten der öffentlichen Verwaltung

Was wir bieten

Echte Produktivprojekte. KI, die beim Kunden in Betrieb geht. Kein Innovation-Lab, keine Folien.

Remote-first in der DACH-Region. Gelegentlich vor Ort, ansonsten arbeitest du von dort, wo du gut arbeitest.

Moderner KI-Stack. RAG, Agenten, Vektorsuche, MLOps. Aktueller Stack, kein Legacy-Ballast.

Internes Upskilling. Wir investieren in deine KI-Skills.

MacBook , außer der Kunde stellt eigene Hardware.

Flache Hierarchien. Die Gründer sind deine direkten Ansprechpartner.

Ein Team, das sich kennt , auch bei verteiltem Arbeiten.

Klingt nach dir?

Dann bewirb dich, ein Lebenslauf reicht, ein Anschreiben brauchst du nicht. Wenn du früh verfügbar bist, ist das ein klares Plus. Wir melden uns innerhalb weniger Tage.

Find more English Speaking Jobs in Germany on Arbeitnow

You will apply. Then you will hear nothing.

And no one will tell you what was wrong. See it before you send: your ATS score, every weak line, and the fix for each.

  1. 1

    Drop in your CV

    One PDF, thirty seconds. No card.

  2. 2

    See what is wrong with it

    Every weak passage, quoted from your own CV, with the line to replace it.

  3. 3

    Apply where you fit

    Every European role ranked against what your CV actually says.

  • Free, no card
  • Your CV file is deleted after parsing
  • Or skip the upload — build your profile by hand
  • Refreshed every 6 hours