AI DevOps Engineer (all genders)

Hier ist dein Raum

Als Cloud Company vereinfachen und beschleunigen wir die IT-Systeme unserer Kunden. Unser Ziel ist es, Menschen und Waren nachhaltig zu bewegen - mit Software für Außenhandel, Zoll, Exportkontrolle und Logistik.

Du bekommst bei uns den Freiraum und offene Strukturen, um wirklich was zu bewegen und ein Arbeitsumfeld, das dafür sorgt, dass du dein Bestes erreichen kannst.

Unser Headquarter in Stuttgart ist zentraler Treffpunkt für die Zusammenarbeit. Dein Heimathafen kann aber ebenso unser Office in Mainz sein - vorausgesetzt, du reist gelegentlich nach Stuttgart.

Das kannst du bei uns bewegen

AEB verfolgt einen pragmatischen KI-Ansatz: Wir verankern KI gezielt in Produkten, Prozessen und Zusammenarbeit, um nachhaltigen Mehrwert für Kunden und Mitarbeitende zu schaffen. Um unsere Ideen und Initiativen auf die Bahn zu bringen, brauchen wir Mitgestalter*innen.

Diese Aufgaben treibst du voran:

• Du betreibst unser self-hosted LiteLLM Gateway als zentralen Zugang zu LLMs (inkl. Key-, Budget- und Policy-Mechanismen) und entwickelst es gemeinsam mit uns weiter.
• Du integrierst die Azure AI Foundry in unser Plattformkonzept (Zugriffe, Observability, Governance), sodass Teams Agents und Modelle sauber in den Produktbetrieb bringen können.
• Du automatisierst und betreibst Anwendungen mit Hilfe von CI/CD-Praktiken und Infrastructure as Code (z. B. GitLab CI, Helm/ArgoCD), damit Änderungen reproduzierbar, auditierbar und schnell ausrollbar sind.
• Du etablierst Observability (Metrics/Logs/Tracing), SLOs und Incident-Prozesse für unsere KI-Services.
• Du unterstützt interne Nutzer*innen durch Templates, Runbooks und Self-Service, damit die Plattform einfach und sicher eingesetzt werden kann.
• Du entwickelst unsere AI Platform weiter, beispielsweise rund um MCP Server, Coding Tools und Agent Registry.

• IT, KI und skalierbare technische Lösungen begeistern dich - besonders dann, wenn sie echten Mehrwert schaffen
• Du hast Erfahrung mit AI-Plattformen und -Tools wie AI Foundry, LiteLLM, Open WebUI oder n8n
• IaC-Praxis (idealerweise modulare, wiederverwendbare Bausteine)
• Erfahrung im Betrieb containerisierter Plattformen (Kubernetes) und im Aufbau von CI/CD
• LLMOps-Erfahrung, z. B. mit RAG-Systemen, Inference-Workloads, Drift-/Qualitätsmonitoring, Guardrails/Policies und Kostenmetriken

• Flexible Arbeitsorte und Arbeitszeiten
• Gesundheitsförderung mit eGym Wellpass, instahelp, Jobrad-Leasing und mehr
• Jobticket-Zuschuss: 80 % Übernahme des Deutschland-Tickets