AI/ML Engineer (w/m/d)
- Entwicklung und Betrieb von LLM- und Agenten-Workflows (Agenten-CLIs wie Claude Code/opencode, Workflow-Orchestrierung, Human-in-the-Loop-Gates)
- Aufbau des Knowledge-Management- und Retrieval-Layers: Embeddings, Chunking und Retrieval-Logik über Code-Repositories, Confluence und Jira – von Volltextsuche bis zu semantischer Suche auf einer Vektordatenbank – inklusive Evaluierung von Retrieval-Qualität
- Integration externer Systeme über APIs und das Model Context Protocol (MCP) (Bitbucket, Confluence, Jira) mit projektbezogener Autorisierung
- Betrieb und Weiterentwicklung des LLM-Gateways (LiteLLM): Modell-Routing, Token-/Kosten-Attribution, Rate-Limiting
- Monitoring und kontinuierliche Verbesserung von Antwortqualität, Latenz, Kosten und Drift (Prometheus, OpenTelemetry, Kafka-basierte Kosten-Events)
- Übersetzung von Anforderungen der Produktteams in skalierbare, wartbare AI-Workflows in einer Kubernetes-nativen Architektur
- Erfolgreich abgeschlossenes Studium (z. B. Informatik, Data Science) oder eine vergleichbare Qualifikation
- Mehrjährige Berufserfahrung in der Softwareentwicklung
- Sehr gute Python-Kenntnisse und moderne Engineering-Standards (Testing, API-Design, Git-Workflows); Grundkenntnisse in Java/Spring Boot von Vorteil
- Praktische Erfahrung mit LLM-APIs sowie dem Aufbau von RAG-/Retrieval-Architekturen (Embeddings, Chunking, Vektordatenbanken)
- Erfahrung mit API-basierter Systemintegration; Kenntnisse des Model Context Protocol (MCP) sind ein Plus
- Solides Verständnis verteilter, cloud-nativer Systeme: Docker, Kubernetes, Observability
- Erfahrung mit Event-Streaming (Kafka) und relationalen Datenbanken (PostgreSQL) von Vorteil
- Bewusstsein für Kosten-, Sicherheits- und Governance-Aspekte produktiver LLM-Systeme (EU-Datensouveränität, Secrets-Handling)
Vielfalt bereichert. Unterschiedliche Kulturen, Nationalitäten, Geschlechter, Altersgruppen, sexuelle Orientierungen und Religionen sowie Menschen mit Behinderungen – wir wünschen uns Vielfalt und fördern sie. Denn nur Teams, die alle Facetten der Gesellschaft widerspiegeln, bieten die besten Rahmenbedingungen für Kreativität und machen ein Unternehmen produktiv und unverwechselbar. Wir wertschätzen Vielfalt und begrüßen alle Bewerbungen.
Kontakt
Fragen?
1&1 Telecommunication SE
Recruting
Nutzen Sie für Ihre Bewerbung bitte ausschließlich unser unkompliziertes Online-Formular , sodass wir Ihnen einen möglichst transparenten Bewerbungsprozess unter Einhaltung aller datenschutzrechtlicher Vorgaben gewährleisten können. Bewerbungen per Mail können wir leider aus genannten Gründen nicht berücksichtigen.
Empfohlene Jobs
Servicetechniker:in Fahrtreppen und Aufzüge
Zum nächstmöglichen Zeitpunkt suchen wir dich als Servicetechniker:in Fahrtreppen und Aufzüge (w/m/d) für die DB Services GmbH am Standort Frankfurt am Main. Deine Aufgaben: Dein Aufgabengebiet…
Head of Group Risk Resilience (f/m/d)
Frankfurt am Main Your career at Deutsche Börse Group Your area of work: The Group Risk Resilience Section oversees Deutsche Börse Group's resilience framework, covering Business Continuity …
(Junior) Migration Manager (m/f/d) - Custody & Fund Accounting
Plutoneo Consulting GmbHWe are the experts in all aspects of the securities process, with a focus on middle- and back-office processes. Together with and on behalf of our domestic and international c…
(Senior) Consultant Global Mobility Sozialversicherung (m/w/d)
Begleite KPMG bei den zukünftigen Herausforderungen unserer Kund:innen. Begeistere auch Du Dich für die Vielfalt unserer Fragestellungen - und mache gemeinsam mit uns den Unterschied. Finde gemeinsam …
Hardware Engineer- Automotive (m/w)
Hardware Engineer- Automotive (m/w) Referenz ID: 1152030 Finden Sie mit der AllatNet Recruiting Ihren Traum-Job. Durch unseren einzigartigen Kontakt zu Groß- und mittelständischen …
Grundschulbetreuer (m/w/d)
Die Schulbetreuung an der Wickerbach-Grundschule befindet sich in Wiesbaden-Naurod mit viel Natur-Umgebung. Wir bieten feste altersgemischte Betreuungsgruppen mit verlässlicher Bindung, regelmäßigen …
Project Manager R&D (m/f/d)
Unternehmensbeschreibung Sika ist ein Unternehmen der Spezialitätenchemie, global führend in der Entwicklung und Produktion von Systemen und Produkten zum Kleben, Dichten, Dämpfen, Verstärken und…
DevOps Engineer (m/w/d)
Menschen und Technologien zu verbinden, den Perfect Match für unsere Kunden zu gestalten, immer die richtigen Expert:innen für die jeweilige Herausforderung zu finden - das ist unser Anspruch bei FERC…
Außendienstmitarbeiter im Projektgeschäft TGA (m/w/d)
DEINE AUFGABEN Intensive und fachlich qualifizierte Beratung und Betreuung der Kunden Aufbau langfristiger Kundenbeziehungen Kundenindividuelle Angebotserstellung und deren Nachverfolgung …