AI Platform Engineer / MLOps Engineer (w/m/d)

indivHR | We 💚 IT Recruiting
Frankfurt am Main

Unser Kunde ist einer der weltweit führenden Anbieter von IT-Beratung, digitaler Transformation und Technologiedienstleistungen. Das Unternehmen ist der größte Consulting-Anbieter europäischen Ursprungs, mit 300.000+ Beschäftigten in über 40 Ländern.

Für die Business Cloud suchen wir bundesweit eine(n)

AI Platform Engineer / MLOps Engineer (w/m/d).

📍Deutschlandweite Standorte möglich

Für unseren Kunden suchen wir einen AI Platform Engineer / MLOps Engineer (w/m/d), der den Aufbau und die Weiterentwicklung lokaler AI-/LLM-Plattformen verantwortet.

Du arbeitest an hochmodernen, sicheren AI-Infrastrukturen (On-Prem oder Private Cloud), implementierst Open-Source-LLMs und sorgst für einen stabilen, sicheren und performanten Betrieb.

Die Rolle bietet einen hohen Gestaltungsspielraum und richtet sich an technikaffine Expert:innen, die an der Schnittstelle zwischen Machine Learning Engineering, Infrastruktur und Betrieb arbeiten möchten.

Deine Aufgaben:

  • Aufbau und Weiterentwicklung lokaler AI-/LLM-Plattformen (On-Prem oder Private Cloud)

  • Deployment, Fine-Tuning und Optimierung von Open-Source-LLMs (z. B. Llama, Mistral, Qwen)

  • Planung, Konzeption und Aufbau der erforderlichen Infrastruktur für LLM-Workloads

  • Design und Integration eines skalierbaren Betriebsmodells inkl. Prozesse & Schnittstellen

  • Aufbau sicherer Data-Pipelines für Trainings-, Test- und Evaluationsdaten

  • Implementierung von Vector Databases und Retrieval-Augmented Generation (RAG)

  • Enge Zusammenarbeit mit Software- und Infrastrukturteams zur Integration von LLM-Funktionen in bestehende Produkte

  • Evaluierung neuer Modelle, Frameworks und Libraries (z. B. Transformers, vLLM, Ray, LangChain)

  • Sicherstellung von Compliance, Security, Datenschutz sowie SP2-Konformität

  • Unterstützung bei Architektur- und Technologieentscheidungen im AI-/ML-Umfeld

Was Du mitbringst:

  • Mindestens 2 Jahre relevante Berufserfahrung im Bereich Machine Learning Engineering, MLOps oder AI Platform Engineering

  • Sehr gute Kenntnisse in Python und gängigen ML/AI-Frameworks (z. B. PyTorch, Hugging Face, Transformers)

  • Erfahrung im Deployment von LLMs (z. B. vLLM, Ollama, TGI, Text Generation WebUI oder ähnlichen Inference-Stacks)

  • Tiefes Verständnis moderner Retrieval-Architekturen (RAG), Embedding-Modelle und Vector Databases (z. B. FAISS, Milvus, Weaviate, Pinecone

  • Solide Kenntnisse von Cloud- oder On-Prem-Umgebungen (Azure, AWS, GCP oder OpenStack) inkl. notwendiger Hardware.

  • Verständnis für IT-Security, Zero-Trust-Prinzipien sowie SÜ2-Fähigkeit

  • Erfahrung im Umgang mit APIs, Microservices und Integrationen in bestehende Plattformen

  • Fähigkeit, komplexe technische Themen für Fachbereiche klar und verständlich zu kommunizieren

  • Mindestens C1 Deutsch und B2 Englisch

  • Nice to have: Erfahrung mit Model Evaluation, Prompt Engineering, Fine-Tuning oder Quantisierung (z. B. GGUF/INT4/INT8)

Was Dich erwartet:

  • Spannende und vielseitige Projekte

  • Flexibilität in Arbeitszeitgestaltung und Homeoffice

  • Individuelle Weiterentwicklungsmöglichkeiten durch pragmatische Laufbahnmodelle und organisierten Wissenstransfer

  • Großzügige Zusatzleistungen inkl. Firmenwagen

  • Tolle Arbeitsatmosphäre mit Eigenverantwortung, Gestaltungsfreiraum und wertschätzendem Miteinander auf Augenhöhe

Interesse?

Dann bewirb dich gleich hier online und wir melden uns in Kürze bei Dir. Bei Fragen hilft dir Nora gerne weiter. Kontaktiere sie einfach unter [email protected] . Wir freuen uns auf dich!

Veröffentlicht am 2025-12-06

Empfohlene Jobs

Tischlermeister (m/w/d)

Evangelisches Frankfurt und Offenbach
Frankfurt am Main

Seit 1980 ist der Evangelische Verein für Jugendsozialhilfe als anerkannter Träger der freien Jugendhilfe in Frankfurt am Main tätig. Mehr als 90 Kinder- und Jugendhäuser, Schulprojekte, Einrichtungen…

Details Anzeigen
Veröffentlicht am 2026-02-20

Empfangs- und Rezeptionsmitarbeiter für Zahnarztpraxis (m/w/d)

Patient 21 SE
Frankfurt am Main

Das sind wir: Wir sind eine familiäre Praxis mit vier behandelnden Zahnärztinnen und einem Zahnarzt in der ein kollegiales Miteinander und Teamarbeit großgeschrieben werden. Bei uns wird das gesam…

Details Anzeigen
Veröffentlicht am 2026-02-03

Senior UX/UI Designer (m/w/d)

ABRIO GmbH
Frankfurt am Main

Stell dir vor, es ist dein erster Tag als Senior UX/UI Designer (m/w/d) bei ABRIO. Du wirst herzlich von einem motivierten und kreativen Team empfangen. Nach einem ersten gemeinsamen Team-Lunch tauc…

Details Anzeigen
Veröffentlicht am 2026-02-26

Grundschullehrer (all genders) für das Fach Deutsch

Phorms Education SE
Frankfurt am Main

Die Phorms Schule Frankfurt ist eine bilinguale deutsch-englische und staatlich anerkannte Ersatzschule mit zwei Standorten. Im verkehrsgünstig gelegenen Holzhausenviertel befindet sich unsere Phor…

Details Anzeigen
Veröffentlicht am 2026-02-20

IT-Administrator (m/w) in einer Behörde - hybrides Arbeiten (Remote & Präsenz)

Frankfurt am Main

Sind Sie bereit Ihre Karriere auf das nächste Level zu bringen? Dann haben wir genau die richtige Position für Sie! Als IT-Administrator:in bei einem unserer renommierten Kundenunternehmen, einer…

Details Anzeigen
Veröffentlicht am 2026-03-18

Kreditsachbearbeiter (m/w/d)

Page Personnel
Frankfurt am Main

Homeoffice Gleitzeit FIRMENPROFIL: Unser Kunde ist eine etablierte Bank. AUFGABENGEBIET: Prüfung und Bearbeitung von Kreditanträgen Erstellung und Überprüfung von Kreditverträgen …

Details Anzeigen
Veröffentlicht am 2026-01-26

Projektmanager Digitalisierung Real Estate Management (m/w/d)

Apleona GmbH
Frankfurt am Main

Verstärken Sie unser Team und gestalten Sie gemeinsam mit uns Ihre Zukunft!  Wir – die Apleona GmbH – suchen für unseren Standort in München, Frankfurt Projektmanager Digitalisierung Real …

Details Anzeigen
Veröffentlicht am 2025-12-24

PMO Specialist Global SuccessFactors Rollout (m/w/d) in Neckarsulm, Lidl

Lidl Stiftung & Co. KG
Frankfurt am Main

Einleitung Die Digitalisierung sowie die Entwicklungen auf dem Arbeitsmarkt sind dynamische Treiber der HR Transformation. Diese Transformation gestalten wir aktiv und stärken die Rolle und den Me…

Details Anzeigen
Veröffentlicht am 2026-02-28

Junior Consultant Meldewesen / Banking (all genders)

Msg Systems AG
Frankfurt am Main

Das erwartet dich bei uns Erhalte eine intensive fachliche Einarbeitung in den Themen Aufsichtsrecht, Meldewesen / Regulatory Reporting sowie eine Schulung in der Standardsoftware BAIS Unterstü…

Details Anzeigen
Veröffentlicht am 2025-11-28

Praktikum - Business Development Retail (w/m/d)

Deutsche Börse AG
Frankfurt am Main

Frankfurt am Main Your career at Deutsche Börse Group Dein Arbeitsgebiet Als Praktikant*in – Business Development Retail (w/m/d) unterstützt du das Team bei der Weiterentwicklung der Frankfur…

Details Anzeigen
Veröffentlicht am 2026-02-20