AI Platform Engineer / MLOps Engineer (w/m/d)

indivHR | We 💚 IT Recruiting
Frankfurt am Main

Unser Kunde ist einer der weltweit führenden Anbieter von IT-Beratung, digitaler Transformation und Technologiedienstleistungen. Das Unternehmen ist der größte Consulting-Anbieter europäischen Ursprungs, mit 300.000+ Beschäftigten in über 40 Ländern.

Für die Business Cloud suchen wir bundesweit eine(n)

AI Platform Engineer / MLOps Engineer (w/m/d).

📍Deutschlandweite Standorte möglich

Für unseren Kunden suchen wir einen AI Platform Engineer / MLOps Engineer (w/m/d), der den Aufbau und die Weiterentwicklung lokaler AI-/LLM-Plattformen verantwortet.

Du arbeitest an hochmodernen, sicheren AI-Infrastrukturen (On-Prem oder Private Cloud), implementierst Open-Source-LLMs und sorgst für einen stabilen, sicheren und performanten Betrieb.

Die Rolle bietet einen hohen Gestaltungsspielraum und richtet sich an technikaffine Expert:innen, die an der Schnittstelle zwischen Machine Learning Engineering, Infrastruktur und Betrieb arbeiten möchten.

Deine Aufgaben:

  • Aufbau und Weiterentwicklung lokaler AI-/LLM-Plattformen (On-Prem oder Private Cloud)

  • Deployment, Fine-Tuning und Optimierung von Open-Source-LLMs (z. B. Llama, Mistral, Qwen)

  • Planung, Konzeption und Aufbau der erforderlichen Infrastruktur für LLM-Workloads

  • Design und Integration eines skalierbaren Betriebsmodells inkl. Prozesse & Schnittstellen

  • Aufbau sicherer Data-Pipelines für Trainings-, Test- und Evaluationsdaten

  • Implementierung von Vector Databases und Retrieval-Augmented Generation (RAG)

  • Enge Zusammenarbeit mit Software- und Infrastrukturteams zur Integration von LLM-Funktionen in bestehende Produkte

  • Evaluierung neuer Modelle, Frameworks und Libraries (z. B. Transformers, vLLM, Ray, LangChain)

  • Sicherstellung von Compliance, Security, Datenschutz sowie SP2-Konformität

  • Unterstützung bei Architektur- und Technologieentscheidungen im AI-/ML-Umfeld

Was Du mitbringst:

  • Mindestens 2 Jahre relevante Berufserfahrung im Bereich Machine Learning Engineering, MLOps oder AI Platform Engineering

  • Sehr gute Kenntnisse in Python und gängigen ML/AI-Frameworks (z. B. PyTorch, Hugging Face, Transformers)

  • Erfahrung im Deployment von LLMs (z. B. vLLM, Ollama, TGI, Text Generation WebUI oder ähnlichen Inference-Stacks)

  • Tiefes Verständnis moderner Retrieval-Architekturen (RAG), Embedding-Modelle und Vector Databases (z. B. FAISS, Milvus, Weaviate, Pinecone

  • Solide Kenntnisse von Cloud- oder On-Prem-Umgebungen (Azure, AWS, GCP oder OpenStack) inkl. notwendiger Hardware.

  • Verständnis für IT-Security, Zero-Trust-Prinzipien sowie SÜ2-Fähigkeit

  • Erfahrung im Umgang mit APIs, Microservices und Integrationen in bestehende Plattformen

  • Fähigkeit, komplexe technische Themen für Fachbereiche klar und verständlich zu kommunizieren

  • Mindestens C1 Deutsch und B2 Englisch

  • Nice to have: Erfahrung mit Model Evaluation, Prompt Engineering, Fine-Tuning oder Quantisierung (z. B. GGUF/INT4/INT8)

Was Dich erwartet:

  • Spannende und vielseitige Projekte

  • Flexibilität in Arbeitszeitgestaltung und Homeoffice

  • Individuelle Weiterentwicklungsmöglichkeiten durch pragmatische Laufbahnmodelle und organisierten Wissenstransfer

  • Großzügige Zusatzleistungen inkl. Firmenwagen

  • Tolle Arbeitsatmosphäre mit Eigenverantwortung, Gestaltungsfreiraum und wertschätzendem Miteinander auf Augenhöhe

Interesse?

Dann bewirb dich gleich hier online und wir melden uns in Kürze bei Dir. Bei Fragen hilft dir Nora gerne weiter. Kontaktiere sie einfach unter [email protected] . Wir freuen uns auf dich!

Veröffentlicht am 2025-12-06

Empfohlene Jobs

Oberarzt HNO Hals-Nasen-Ohrenheilkunde - Region Frankfurt am Main (m/w/d) - SHC-429-441-MS

1a-Ärztevermittlung GmbH
Frankfurt am Main

Als spezialisierte Personalvermittlung im Bereich Healthcare, stehen wir seit mehr als 15 Jahren Kliniken und Ärzten bundesweit als kompetenter Ansprechpartner im Bereich der Ärztevermittlung zur Sei…

Details Anzeigen
Veröffentlicht am 2025-10-30

Senior Consultant Transaction Advisory Private Equity (M/F/D)

Analysys Mason
Frankfurt am Main

We are Analysys Mason – an award-leading global management consulting firm helping clients to make and act on the decisions that steer their progress and connect our world.Specialising in technology,…

Details Anzeigen
Veröffentlicht am 2026-03-21

Service in der Gastronomie in raum Frankfurt

Friends 2 Lease GmbH
Frankfurt am Main

Kurzfristige Beschäftigung, Minijob, Werkstudent

Details Anzeigen
Veröffentlicht am 2026-03-04

Investment Banking Senior Associate

Citi
Frankfurt am Main

The Investment Banking Senior Associate / Assoocate is an intermediate level position in our German Coverage team responsible for assisting clients in executing complex M&A and equity capital market …

Details Anzeigen
Veröffentlicht am 2026-02-06

Sales Manager (m/w/d)

SELLWERK GmbH & Co. KG
Frankfurt am Main

Wähle deinen Wunschstandort: Frankfurt, Darmstadt, Limburg, Offenbach, Wiesbaden, Mainz, Hanau, Bad Homburg, Rüsselsheim, Neu-Isenburg SELLWERK begleitet Unternehmen in ganz Deutschland auf ihrem d…

Details Anzeigen
Veröffentlicht am 2025-06-13

SAP SD Inhouse Berater Job (g.n.) im Raum Frankfurt

Frankfurt am Main

Unser Auftraggeber aus dem Raum Frankfurt, ein marktführendes Unternehmen aus dem Industriebereich, sucht nach Verstärkung im SAP Logistikbereich. Egal ob als Junior oder als erfahrener Berater, hier…

Details Anzeigen
Veröffentlicht am 2025-11-20

Facharzt für Innere Medizin (m/w/d) Schwerpunkt Geriatrie in Teilzeit oder Vollzeit

Kronfried Consulting
Frankfurt am Main

Für Deutschlands größter Anbieter in der ambulanten Medizin suchen wir im exklusiven Auftrag eine/n engagierte/n und empathische/n Facharzt/ Fachärztin für Innere Medizin in unbefristeter Festa…

Details Anzeigen
Veröffentlicht am 2026-03-18

(Senior) Consultant SAP ICM / SAP Incentive Management (all genders)

Msg Systems AG
Frankfurt am Main

Das erwartet dich bei uns SAP ICM-Experte: Du wirkst in Transformationsprojekten mit Fokus auf Vertriebsvergütung, Bonusmodellen, Auszahlungsstrategien, aber auch Integrationsszenarien mit und ge…

Details Anzeigen
Veröffentlicht am 2026-01-13

Verkaufsmetzger / Feischereifachverkäufer (w/m/d)

Frankfurt am Main

Wir, die Jobvermittler PAV GmbH, sind eine der ältesten und erfahrensten privaten Arbeitsvermittlungen und Personalvermittlungen in Deutschland. Zusammen mit unseren Partnern bringen wir gewerbliches…

Details Anzeigen
Veröffentlicht am 2025-06-30

Polier (m/w/d) Tief- & Straßenbau

4Chain Consulting
Frankfurt am Main

Keine Lust mehr auf altbackene Baustrukturen, nörgelnden Chefs und fehlende Wertschätzung? Viel lieber ein Umfeld mit Kommunikation auf Augenhöhe, echte Anerkennung und flexible Arbeitszeitregelungen…

Details Anzeigen
Veröffentlicht am 2026-02-25