Senior AI Architect - Defense (m/w/d) in Köln

Introduction

Eine Karriere bei IBM Consulting lebt von langfristigen Kundenbeziehungen und enger Zusammenarbeit auf Augenhöhe – weltweit.

Du arbeitest mit Vordenkern aus unterschiedlichsten Branchen daran, die Hybrid-Cloud- und AI-Journey der innovativsten Unternehmen weiterzuentwickeln. Dass du bei deinen Kunden wirklich etwas bewegen kannst, liegt nicht nur an deinem eigenen Know-how, sondern auch an unserem starken Partnernetzwerk und den Technologien aus dem IBM-Portfolio – darunter Softwarelösungen und Red Hat.

Neugier und der Anspruch, ständig dazuzulernen, sind bei uns keine Floskeln, sondern Teil des Arbeitsalltags. Du wirst ermutigt, Dinge zu hinterfragen, über deinen eigenen Bereich hinauszuschauen und neue Ideen einzubringen. Genau daraus entstehen Lösungen, die für unsere Kunden einen echten Unterschied machen. Gleichzeitig legen wir großen Wert auf deine persönliche Weiterentwicklung – in einem Umfeld, das offen ist, sich weiterentwickelt und in dem deine individuellen Stärken zählen.

In dieser Rolle arbeitest du in einem unserer IBM Consulting Client Innovation Center (Delivery Center). Dort unterstützt du Kunden aus dem öffentlichen und privaten Sektor weltweit mit fundiertem technischem und branchenspezifischem Know-how. Unsere Delivery Center stehen für lokale Expertise und helfen unseren Kunden dabei, Innovationen voranzutreiben und neue Technologien erfolgreich einzusetzen.

In this role, you'll work in one of our IBM Consulting Client Innovation Centers (Delivery Centers), where we deliver deep technical and industry expertise to a wide range of public and private sector clients around the world. Our delivery centers offer our clients locally based skills and technical expertise to drive innovation and adoption of new technology.

Your role and responsibilities

Als Architekt bei IBM Consulting übernimmst du eine zentrale Rolle bei der Entwicklung und Umsetzung von Lösungen für unsere Kunden. Du bist nah am Kunden, verstehst seine Anforderungen und begleitest gleichzeitig das technische Team durch die gesamte Implementierung.

Du arbeitest eng mit den relevanten Ansprechpartnern auf Kundenseite sowie mit internen Teams zusammen, um Business-Anforderungen, Systemgrenzen und unterschiedliche Erwartungen zu verstehen – und daraus passende, tragfähige Lösungsarchitekturen abzuleiten.

In der Rolle als AI Architect verantwortest du das Design und die Umsetzung von KI- bzw. kognitiven Lösungen, die oft über mehrere Plattformen hinweg laufen und aus verschiedenen Software-Komponenten bestehen. Du entwickelst die technische Architektur für konkrete Use Cases und steuerst Entwicklung, Integration und Testing.

Dafür bringst du ein gutes Verständnis für System Engineering, Cloud-Architekturen sowie probabilistische und stochastische Modelle mit. Du weißt, wie man komplexe Systeme sinnvoll zerlegt und mit den richtigen Technologien wieder zu einer funktionierenden Gesamtlösung zusammenführt.

Du kennst dich mit gängigen Technologie-Stacks aus und kannst passende Analytics-Komponenten auswählen, um skalierbare und performante Lösungen zu konzipieren. Dabei hast du sowohl die technische Umsetzung als auch die Performance im Blick.

Außerdem hast du ein solides Verständnis für Datenformate, Datenquellen, Content-Management-Systeme und deren Schnittstellen. Ziel ist es, den gesamten Informationsfluss abzudecken – von der Datenquelle bis zur Verarbeitung innerhalb moderner KI-Lösungen.

Required education

Bachelor's Degree

Preferred education

Master's Degree

Required technical and professional expertise

• Fundierte Kenntnisse in Informatik, idealerweise mit Schwerpunkt auf Künstlicher Intelligenz / Machine Learning, Cognitive Computing sowie DevSecOps und AIOps
• Sehr gute Deutschkenntnisse in Wort und Schrift (mind. C1)
• Erfahrung im Design, in der Bewertung und Umsetzung komplexer IT-Architekturen mit AI-Komponenten unter Einsatz von Cloud-Technologien sowie etablierten Frameworks (inkl. Generative AI und Large Language Models)
• Praxis in der Anwendung von Large Language Models sowie generativer und agentischer KI zur Entwicklung skalierbarer und robuster AI-/Cognitive-Computing-Lösungen
• Sehr gute technische Kenntnisse in Container-Technologien (z. B. OpenShift inkl. GPU-Nutzung) sowie GenAI- und Agentic-Architekturen (z. B. RAG, agentische Patterns)
• Erfahrung mit DevSecOps/MLOps (CI/CD, ML Lifecycle), API-Design und Integration sowie sehr gute Programmierkenntnisse in Python (z. B. PyTorch)
• Ausgeprägte Beratungs- und Kundenorientierung sowie Erfahrung in der Führung technischer Teams in komplexen Projektumfeldern; Bereitschaft zur Sicherheitsüberprüfung (SÜ)

Preferred technical and professional experience

• Erfahrung im Aufbau von hybriden bzw. Multi-Cloud-Umgebungen (z. B. Kubernetes, Vanilla-Setups, OpenShift Container Platform).
• Idealerweise bringst du zudem Kenntnisse und Erfahrung in der Zusammenarbeit mit Kunden im öffentlichen Sektor (Public Sector) mit.