AI Platform Engineer / MLOps Engineer (w/m/d)
Unser Kunde ist einer der weltweit führenden Anbieter von IT-Beratung, digitaler Transformation und Technologiedienstleistungen. Das Unternehmen ist der größte Consulting-Anbieter europäischen Ursprungs, mit 300.000+ Beschäftigten in über 40 Ländern.
Für die Business Cloud suchen wir bundesweit eine(n)AI Platform Engineer / MLOps Engineer (w/m/d).
📍Deutschlandweite Standorte möglich
Für unseren Kunden suchen wir einen AI Platform Engineer / MLOps Engineer (w/m/d), der den Aufbau und die Weiterentwicklung lokaler AI-/LLM-Plattformen verantwortet.
Deine Aufgaben:
Aufbau und Weiterentwicklung lokaler AI-/LLM-Plattformen (On-Prem oder Private Cloud)
Deployment, Fine-Tuning und Optimierung von Open-Source-LLMs (z. B. Llama, Mistral, Qwen)
Planung, Konzeption und Aufbau der erforderlichen Infrastruktur für LLM-Workloads
Design und Integration eines skalierbaren Betriebsmodells inkl. Prozesse & Schnittstellen
Aufbau sicherer Data-Pipelines für Trainings-, Test- und Evaluationsdaten
Implementierung von Vector Databases und Retrieval-Augmented Generation (RAG)
Enge Zusammenarbeit mit Software- und Infrastrukturteams zur Integration von LLM-Funktionen in bestehende Produkte
Evaluierung neuer Modelle, Frameworks und Libraries (z. B. Transformers, vLLM, Ray, LangChain)
Sicherstellung von Compliance, Security, Datenschutz sowie SP2-Konformität
Unterstützung bei Architektur- und Technologieentscheidungen im AI-/ML-Umfeld
Was Du mitbringst:
Mindestens 2 Jahre relevante Berufserfahrung im Bereich Machine Learning Engineering, MLOps oder AI Platform Engineering
Sehr gute Kenntnisse in Python und gängigen ML/AI-Frameworks (z. B. PyTorch, Hugging Face, Transformers)
Erfahrung im Deployment von LLMs (z. B. vLLM, Ollama, TGI, Text Generation WebUI oder ähnlichen Inference-Stacks)
Tiefes Verständnis moderner Retrieval-Architekturen (RAG), Embedding-Modelle und Vector Databases (z. B. FAISS, Milvus, Weaviate, Pinecone
Solide Kenntnisse von Cloud- oder On-Prem-Umgebungen (Azure, AWS, GCP oder OpenStack) inkl. notwendiger Hardware.
Verständnis für IT-Security, Zero-Trust-Prinzipien sowie SÜ2-Fähigkeit
Erfahrung im Umgang mit APIs, Microservices und Integrationen in bestehende Plattformen
Fähigkeit, komplexe technische Themen für Fachbereiche klar und verständlich zu kommunizieren
Mindestens C1 Deutsch und B2 Englisch
Nice to have: Erfahrung mit Model Evaluation, Prompt Engineering, Fine-Tuning oder Quantisierung (z. B. GGUF/INT4/INT8)
Was Dich erwartet:
Spannende und vielseitige Projekte
Flexibilität in Arbeitszeitgestaltung und Homeoffice
Individuelle Weiterentwicklungsmöglichkeiten durch pragmatische Laufbahnmodelle und organisierten Wissenstransfer
Großzügige Zusatzleistungen inkl. Firmenwagen
Tolle Arbeitsatmosphäre mit Eigenverantwortung, Gestaltungsfreiraum und wertschätzendem Miteinander auf Augenhöhe
Interesse?
Dann bewirb dich gleich hier online und wir melden uns in Kürze bei Dir. Bei Fragen hilft dir Nora gerne weiter. Kontaktiere sie einfach unter [email protected] . Wir freuen uns auf dich!
Empfohlene Jobs
Area Sales Manager (w/m/d)
Über uns: Hagleitner ist der führende Komplettanbieter für innovative Hygieneprodukte. Mit unseren Spendersystemen sind wir erfolgreich im Direktvertrieb in 12 Ländern in Zentral- und Osteuropa und …
Manager Business System Transformation (m/w/d) - BU2
Für unsere Standorte Frankfurt, Düsseldorf und Hamburg (gerne auch teils Remote) suchen wir Verstärkung -- Let´s go Live -- Live Reply ist der Spezialist der Reply-Gruppe für Beratung, Planung, D…
Reinigungskraft (m/w/d)
Was wir suchen Du suchst einen Nebenjob in der Reinigung mit geregelten Arbeitszeiten? Perfekt – sorge mit uns als Reinigungskraft (m/w/d) für Ordnung und Sauberkeit auf Minijob-Basis in Frankfurt-…
Famulatur
Wenn Sie eine Famulatur in unserer Klinik absolvieren möchten wenden Sie sich bitte mit einer formlosen Bewerbung und dem gewünschten Zeitraum an das Sekretariat von Prof. Dr. med. Ch. Sarrazin: …
Projektleiter Elektrotechnik m/w/d
Aufgaben Projektleitung des Teilbereiches Elektrotechnik für Großprojekte Koordination und Organisation reibungsloser Bauabläufe inklusive Arbeitsvorbereitung und Terminplanabstimmun…
Versandmitarbeiter (m/w/d)
Über uns Alpha-Business-Solutions ist eine von 17 starken Marken der AlphaConsult Gruppe mit 150 Standorten als Personaldienstleister für Beruf und Karriere: Mit einem Expertenteam aus erfahrenen Ma…
Kaufmännische Teamassistenz (m/w/d)
Für unseren renommierten Kunden in Frankfurt am Main suchen wir ab sofort eine engagierte kaufmännische Teamassistenz (m/w/d). Sie suchen eine neue berufliche Herausforderung und bringen bereits E…
Assistenz in Vollzeit für unsere Rechtsabteilung (m/w/d)
Assistenz in Vollzeit für unsere Rechtsabteilung (m/w/d)30.01.2026 ABG FRANKFURT HOLDING GmbH Wohnungsbau- und Beteiligungsgesellschaft mbH Frankfurt am Main Weitere passende Anzeigen: Jobmaile…
Associate Business Consultant - Life Sciences R&D and Quality
Veeva Systems is building the industry cloud for Life Sciences to help companies work in a more efficient and connected way. Learn more about our products, vision and values, and status as a public b…
Staplerfahrer (m/w/d)
Das bieten wir wir bieten mit unserem Auftraggeber wohnortsnahe Arbeitsplätze an in Frankfurt Oder, Eisenhüttenstadt, Fürstenwalde, Beeskow, Storkow eine Arbeitsplatzbesichtigung vor Arb…