(Senior) MLOps Engineer (w/m/d)

KPMG Karriere Deutschland
Frankfurt am Main

Du möchtest Large Language Models in stabile Produktivsysteme überführen und moderne AI-Plattformen an der Schnittstelle von Modellen, Daten, Infrastruktur und Governance aufbauen? Dann bring Dich hier ein:

  • LLMOps & Lifecycle Management : Du konzipierst, entwickelst und betreibst End-to-End-LLM-Pipelines – von der Modellauswahl über Prompt- und Versionierungsstrategien bis hin zu Evaluierung, Monitoring und kontinuierlicher Optimierung.
  • Produktivsetzung von AI : Du überführst Prototypen in stabile, skalierbare Produktivsysteme und stellst Performance, Zuverlässigkeit, Wartbarkeit und reibungslose Betriebsprozesse sicher.
  • Modellintegration & Orchestrierung : Du integrierst moderne KI-Technologien wie Azure OpenAI, OpenAI, Agent Frameworks und weitere LLM-Services in produktive Business-Anwendungen und etablierst robuste Orchestrierungslogiken.
  • Agentic Skills & Skalierung : Du entwickelst und operationalisierst Agentic Skills für konkrete Business-Anwendungsfälle und schaffst die technischen Voraussetzungen, um diese nachhaltig im Unternehmen zu skalieren.
  • Evaluierung & Qualität : Du entwickelst Evaluierungs-, Benchmarking- und Guardrail-Ansätze, um LLM-basierte Anwendungen transparent, sicher, evaluierbar und qualitativ hochwertig zu machen.
  • Daten & Retrieval : Du entwickelst und integrierst RAG-Architekturen, Vektordatenbanken und Datenpipelines, um kontextbasierte Datenflüsse zuverlässig abzubilden und AI-Systeme fachlich wirksam zu machen.
  • Cloud & Betrieb : Du entwickelst, deployest und betreibst skalierbare AI-Lösungen auf Azure und bindest dabei APIs, Datenbanken, Observability-Tools und cloudbasierte Services nahtlos in die Gesamtarchitektur ein.
  • Security & Governance : Du sicherst hohe Standards in Bezug auf Datenschutz, Compliance, verantwortungsvollen KI-Einsatz und technische Governance über den gesamten Lebenszyklus der Systeme hinweg.
  • Zusammenarbeit & Agilität : Du arbeitest eng mit AI-Engineers, Data Engineers, Software-Entwicklern und Fachbereichen zusammen und bringst Dich aktiv in agile Entwicklungsprozesse, technische Konzeption und Enablement ein.

Dein Profil

  • Akademischer Hintergrund : Du hast ein Studium der Informatik, des Ingenieurwesens oder eines vergleichbaren Fachgebiets abgeschlossen. Ein Schwerpunkt auf KI, Softwareentwicklung, Daten oder Cloud-Technologien ist von Vorteil.
  • LLM- und KI-Verständnis : Du verfügst über fundierte praktische Erfahrung mit Large Language Models, Prompting, RAG-Architekturen und Evaluierungsansätzen und kannst dieses Wissen in produktive Anwendungen übertragen.
  • Technologische Kompetenz : Du bringst fundierte Erfahrung in der Backend- und Plattformentwicklung mit und arbeitest sicher mit APIs, Microservices sowie modernen Software-Engineering-Praktiken rund um produktive AI-Systeme.
  • Cloud-Erfahrung : Du hast Erfahrung mit Azure-basierten Entwicklungs- und Deployment-Umgebungen und bringst ein gutes Verständnis für moderne DevOps-, CI/CD- und Betriebsprozesse mit.
  • Datenverständnis : Du hast Erfahrung mit Datenpipelines, Embeddings, Vektordatenbanken und Retrieval-Konzepten und verstehst, wie Datenqualität die Leistungsfähigkeit von LLM-Anwendungen beeinflusst.
  • Tooling & Frameworks : Du bringst praktische Erfahrung mit LLM-Frameworks, Evaluierungs-Tooling und Observability-Lösungen mit und kennst gängige Muster zur Operationalisierung generativer KI.
  • Arbeitsweise und Kommunikation : Du arbeitest eigenständig, denkst analytisch und kommunizierst klar (Deutsch C1 und Englisch B2) mit fachlichen und technischen Stakeholdern, auch bei komplexen Anforderungen und in interdisziplinären Teams.

Deine Benefits

Die abgebildeten Leistungen können je nach Position und Standort leicht variieren.

Veröffentlicht am 2026-05-30

Empfohlene Jobs

Contract Support (m/w/d) - Internationale Bauberatung Full-time

Turner & Townsend
Frankfurt am Main

Unternehmensbeschreibung Turner & Townsend ist ein globales Dienstleistungsunternehmen mit circa 22.000 Mitareitenden in über 60 Ländern. Wir arbeiten mit unseren Kunden in den Bereichen Immobilie…

Details Anzeigen
Veröffentlicht am 2026-06-02

Ausbildung Eventmanager, Künstler-Manager, A&R Manager, Booker, Musikverleger, Musikpromoter, Musikjournalist (m/w/d)

SAE Institute Frankfurt
Frankfurt am Main

Modularer Aufbau in sechs Modulen: Musikmanagement (Artist & Repertoire Management, Studio Management,...) Musikrecht (Urheberrecht, Lizenzierung, Veranstaltungsrecht, Vertragsrecht, ...) Musikm…

Details Anzeigen
Veröffentlicht am 2026-04-11

IT Security Manager (m/w/d) Föderale IT-Architektur

Föderale IT-Kooperation (FITKO)
Frankfurt am Main

Das sind deine Aufgaben Du unterstützt das Informationssicherheitsmanagement der FITKO in der föderalen Arbeitsgruppe Informa­tions­sicherheit des IT-Planungsrats. Dort bringst du deine Expertise …

Details Anzeigen
Veröffentlicht am 2026-06-03

Risk Controller (m/w/d)

Frankfurt am Main

hinzugefügt 26/05/2026 Attraktives Vergütungspaket mit zahlreichen Zusatzleistungen Offene Unternehmenskultur Firmenprofil Unser Mandant ist eine führende, global agierende Investmentbank …

Details Anzeigen
Veröffentlicht am 2026-05-26

Hotelfachleute als Quereinsteiger (m/w/d) im Versicherungswesen

Frankfurt am Main

Sind Sie auf der Suche nach einer neuen beruflichen Herausforderung? Dann gehen Sie den nächsten Schritt für Ihren beruflichen Erfolg und entdecken Sie mit uns neue Karrieremöglichkeiten! Wir, de…

Details Anzeigen
Veröffentlicht am 2026-05-28

Procurement Specialist (m/w(d)

Provadis Professionals GmbH
Frankfurt am Main

Werden Sie Teil der Professionals Familie! Wir wollen Ihre Zukunft ausgestalten! Wir wollen Ihnen eine berufliche Orientierung geben! Wir sind Teil der Branche! Wir sind sowohl Arbeitgeber als auch …

Details Anzeigen
Veröffentlicht am 2026-03-24

Business Unit Leiter Kunststofftechnik (m/w/d)

Kraft von Wantoch GmbH
Frankfurt am Main

Wir sind Kraft von Wantoch Ihre spezialisierte Personalberatung mit Weitblick und Teil einer starken Unternehmensgruppe, die Recruiting und HR-Marketing ganzheitlich denkt. Gemeinsam mit unseren Schwe…

Details Anzeigen
Veröffentlicht am 2026-05-28

stellv. Pflegedienstleitung m/w/d ab sofort gesucht

Ambulanter Pflegedienst Diehl
Frankfurt am Main

stellv. Pflegedienstleitung (m/w/d) in Vollzeit Ambulanter Pflegedienst Diehl – Frankfurt Ihr Herz schlägt für die ambulante Pflege? Werden Sie Teil unseres engagierten Teams! Der Ambulante …

Details Anzeigen
Veröffentlicht am 2026-05-11

Volontär*in (m/w/d) Kommunikation

Frankfurter Buchmesse GmbH
Frankfurt am Main

Willkommen bei der Frankfurter Buchmesse- einem bunt gemischten Team von über 70 Messe- und Buchmenschen. Wir setzen uns für die Vertretung und Förderung der deutschen Buchbranche auf globaler Ebene …

Details Anzeigen
Veröffentlicht am 2026-03-03

120-200€/Tag: Dein sinnvoller Studentenjob (a) in Frankfurt!

talk2move Fundraising GmbH
Frankfurt am Main

Frankfurt ist schnell und genau hier braucht es Menschen, die stehen bleiben, zuhören und erklären. Als Fundraiser:in arbeitest du flexibel neben Schule oder Studium und unterstützt NGOs wie World Vis…

Details Anzeigen
Veröffentlicht am 2026-03-30