Zum Hauptinhalt gehen
Erstellt am 12. Juni 2026

Senior AI / Machine Learning Engineer - Enterprise & On-Prem Systems

Nortal
DE Vollzeit
Reference: 97_600817_2026-5514

Overview

Wir bei Nortal unterstutzen den offentlichen Sektor und Unternehmen dabei, KI nicht nur zu diskutieren, sondern produktiv und verantwortungsvoll einzusetzen. Wenn Du bei Themen wie LLMs, RAG-Architekturen und On-Prem-Deployments nicht an Spielerei, sondern an robuste, auditierbare Systeme denkst, passt Du gut zu uns.

Wir suchen eine:n Senior AI / Machine Learning Engineer - Enterprise & On-Prem Systems (m/w/d) mit starkem Fokus auf Enterprise-AI-Systeme.

In dieser Rolle entwickelst Du keine Demo-Chatbots, sondern produktionsreife KI-Losungen fur regulierte Umgebungen. Du konzipierst, baust und deployest AI-Systeme, die unter realen Bedingungen funktionieren - mit klaren Workflows, reproduzierbaren Ergebnissen und hoher technischer Qualitat.

Du arbeitest eng mit unseren lokalen Teams in Deutschland zusammen und - wenn es das Projekt erfordert - auch standortubergreifend mit internationalen Kolleg:innen. Gemeinsam entwickelt Ihr skalierbare, sichere und nachvollziehbare AI-Architekturen fur anspruchsvolle Kundenumgebungen

Uber Nortal

Seit uber 25 Jahren gestalten wir die digitale Transformation - mit komplexen Losungen fur globale Unternehmen und Organisationen im offentlichen Sektor. Heute stehen wir an der Spitze einer KI-getriebenen Transformationsara und unterstutzen Organisationen dabei, Daten in echten geschaftlichen Mehrwert zu verwandeln. Durch die Kombination aus tiefgehender Fachexpertise sowie Daten- und KI-Kompetenz entwickeln wir Losungen, die sofort Wirkung zeigen und gleichzeitig langfristig skalierbar sind.

Wir sind uberzeugt: Komplexitat muss nicht kompliziert sein - und die besten Losungen sind diejenigen, die in der Praxis funktionieren, nicht nur auf dem Papier. Deshalb vertrauen uns unsere Kunden ihre ambitioniertesten und geschaftskritischen Vorhaben an.

Unser Angebot - perfekte Rahmenbedingungen

Als motivierte und offene Personlichkeit findest du bei uns die ideale Moglichkeit, dich in einem internationalen und wachsenden Unternehmen zu entfalten.

  • Flexible Arbeitszeiten mit Freizeitausgleich und Sabbatical-Optionen fur eine gesunde Work-Life-Balance
  • Personliches Onboarding mit Patensystem fur einen starken Start
  • Kontinuierliche Weiterentwicklung durch internationale Learning Hives, bezahlte Trainings und 6 Learning & Development Days pro Jahr
  • Offene, wertschatzende Unternehmenskultur mit gelebter Transparenz auf allen Ebenen

Kurzum: Wir bieten dir ein Umfeld, in dem du wirklich zahlst - fachlich und menschlich.

Responsibilities

  • Design von End-to-End AI-Systemarchitekturen (LLM-basiert und klassische ML-Ansatze)

  • Aufbau produktionsreifer RAG-Pipelines

  • Definition von Modell- und Inferenzstrategien fur On-Prem-GPU-Umgebungen

  • Konzeption strukturierter, auditierbarer AI-Workflows (keine generischen Chatbots)

  • Sicherstellung von Reproduzierbarkeit, Observability und Traceability von AI-Outputs

Qualifications

Dein Profil (Must-have)

  • Mehrjahrige praktische Erfahrung in der Entwicklung produktionsreifer AI-/LLM-Systeme

  • Fundierte Kenntnisse im Bereich LLM- und NLP-Engineering

  • Sehr gute Python-Kenntnisse

  • Erfahrung mit Containerisierung (Docker) und Kubernetes

  • Praxis in der Implementierung von RAG-Architekturen und Retrieval-Systemen

  • Erfahrung mit Vektordatenbanken

  • Verstandnis fur On-Prem-Architekturen und regulatorische Anforderungen

  • Fahigkeit, Architekturentscheidungen eigenstandig zu treffen

  • Sehr gute Deutschkenntnisse (C1/C2, verhandlungssicher)

Nice-to-have

  • Erfahrung in der Arbeit mit regulierten Branchen (z. B. Public Sector, Finance, Healthcare)

  • Erfahrung in der Optimierung von LLM-Inferenz auf GPU-Hardware

  • Know-how in Observability- und Monitoring-Setups fur AI-Systeme

  • Erfahrung in der Zusammenarbeit mit Frontend-, DevOps- und IT-Teams auf Kundenseite

  • Fahigkeit, technische Konzepte adressatengerecht zu vermitteln

Personlich passt Du gut zu uns, wenn Du:

  • AI-Use-Cases eigenstandig von der Idee bis zur produktiven Losung treibst

  • Unklare Business-Anforderungen in belastbare technische Konzepte ubersetzen kannst

  • Unter Zeitdruck MVPs lieferst, ohne die Architekturqualitat zu kompromittieren

  • Verantwortung ubernimmst und strukturiert arbeitest

Employment Type: FULL_TIME

Jobbenachrichtigungen per Newsletter erhalten