Senior AI Architect (m/w/d) - Public Sector in München

Introduction

Eine Karriere bei IBM Consulting lebt von langfristigen Kundenbeziehungen und enger Zusammenarbeit auf Augenhöhe – weltweit.

Du arbeitest mit Vordenkern aus unterschiedlichsten Branchen daran, die Hybrid-Cloud- und AI-Journey der innovativsten Unternehmen weiterzuentwickeln. Dass du bei deinen Kunden wirklich etwas bewegen kannst, liegt nicht nur an deinem eigenen Know-how, sondern auch an unserem starken Partnernetzwerk und den Technologien aus dem IBM-Portfolio – darunter Softwarelösungen und Red Hat.

Neugier und der Anspruch, ständig dazuzulernen, sind bei uns keine Floskeln, sondern Teil des Arbeitsalltags. Du wirst ermutigt, Dinge zu hinterfragen, über deinen eigenen Bereich hinauszuschauen und neue Ideen einzubringen. Genau daraus entstehen Lösungen, die für unsere Kunden einen echten Unterschied machen. Gleichzeitig legen wir großen Wert auf deine persönliche Weiterentwicklung – in einem Umfeld, das offen ist, sich weiterentwickelt und in dem deine individuellen Stärken zählen.

In dieser Rolle arbeitest du in einem unserer IBM Consulting Client Innovation Center (Delivery Center). Dort unterstützt du Kunden aus dem öffentlichen und privaten Sektor weltweit mit fundiertem technischem und branchenspezifischem Know-how. Unsere Delivery Center stehen für lokale Expertise und helfen unseren Kunden dabei, Innovationen voranzutreiben und neue Technologien erfolgreich einzusetzen.

In this role, you'll work in one of our IBM Consulting FutureNow Centers , where we deliver deep technical and industry expertise to a wide range of public and private sector clients around the world. Our delivery centers offer our clients locally based skills and technical expertise to drive innovation and adoption of new technology.

Your role and responsibilities

Als Senior AI Architekt (m/w/d) bei IBM Consulting übernimmst du eine zentrale Rolle bei der Entwicklung und Umsetzung von Lösungen für unsere Kunden.

Zu deinen Hauptaufgaben gehören:

• Zusammenarbeit mit Kunden und internen Teams zur Analyse von Anforderungen und Ableitung tragfähiger Lösungsarchitekturen
• Verantwortung für Design, Entwicklung, Integration und Testing von AI‑Lösungen über mehrere Plattformen hinweg
• Konzeption komplexer System‑ und Cloud‑Architekturen sowie Auswahl geeigneter Technologien und Analytics‑Komponenten für performante, skalierbare Lösungen
• Sicherstellung eines durchgängigen Informationsflusses durch fundiertes Verständnis von Datenquellen, Formaten, Schnittstellen und CMS.

• Diese Position ist innerhalb der Hybrid Cloud & Data Service Line.

Required education

Bachelor's Degree

Preferred education

Master's Degree

Required technical and professional expertise

• Fundierte Kenntnisse in Informatik mit Schwerpunkt auf AI/ Machine Learning / Cognitive Computing sowie DevSecOps und AIOps
• Ausgeprägte Erfahrung im Design, in der Bewertung und Umsetzung komplexer IT-Architekturen mit AI-Komponenten unter Einsatz von Cloud-Technologien (z. B. AWS, Azure) sowie etablierten Frameworks (inkl. Generative AI und Large Language Models)
• Nachgewiesene Praxis in der Anwendung von Large Language Models sowie generativer und agentischer AI zur Entwicklung skalierbarer und robuster AI-/Cognitive-Computing-Lösungen
• Sehr gute technische Kenntnisse in Container-Technologien (z. B. OpenShift inkl. GPU-Nutzung) sowie GenAI- und Agentic-Architekturen (z. B. RAG, agentische Patterns)
• Tiefe Erfahrung mit DevSecOps/MLOps (CI/CD, ML Lifecycle), API-Design und Integration sowie sehr gute Programmierkenntnisse in Python (z. B. PyTorch)
• Ausgeprägte Beratungs- und Kundenorientierung sowie Erfahrung in der Führung technischer Teams in komplexen Projektumfeldern
• Sehr gute Deutschkenntnisse in Wort und Schrift (mind. C1) und gute Englischkenntnisse (mind. B2)

Preferred technical and professional experience

• Erfahrung im Aufbau von hybriden bzw. Multi-Cloud-Umgebungen (z. B. Kubernetes, Vanilla-Setups, OpenShift Container Platform, AWS, Azure).
• Idealerweise bringst du zudem Kenntnisse und Erfahrung in der Zusammenarbeit mit Kunden im öffentlichen Sektor (Public, Government) mit.