Skip to content

Open nowPosted 19 days ago

Lead / Principal AI Infrastructure Architect

Workable (global search)108,016 open roles

Where
Stuttgart, BW, Germany
Get the CV for this job

From $25 per CV, paid once. No subscription.

Your applicationOpen nowLead / Principal AI Infrastructure ArchitectWorkable (global search) · Stuttgart, BW, Germany
  1. YouYes, apply to this one.

  2. CV RocketCV written for this posting.

  3. 25 readersRecruiter, hiring manager, skeptic. Round after round.

  4. CV RocketApplied on Workable (global search)'s own form.

The reply lands in your private mailbox

3×more interviews than doing it yourself with ChatGPT.

The clock on this job

Early applications get read.

7.9% of postings close within 7 days. Measured by our own scanner across the market. Workable (global search) postings stay open a median of 7 days.

Share of postings closed within
  1. 1.6%1 day
  2. 3.6%3 days
  3. 7.9%7 days
  4. 14.9%14 days
  5. 34.0%30 days
This job: posted 19 days ago

Workable (global search) median: 7 days open

The posting

Wir suchen einen **Lead / Principal AI Infrastructure Architect**, der die durchgängige Verantwortung für den Entwurf, die Bereitstellung und die Optimierung der Infrastruktur für groß angelegte Workloads im Bereich Künstliche Intelligenz (KI) und maschinelles Lernen (ML) übernimmt.

Der Schwerpunkt der Rolle liegt auf der Architektur hochskalierbarer und kosteneffizienter Rechenumgebungen, einschließlich **GPU-Clustern, Plattformen für verteiltes Training, Infrastruktur für Model-Serving, Netzwerktechnik, Speicherlösungen, Orchestrierung sowie cloudbasierten KI/ML-Plattformen**.

Sie übersetzen Geschäftsziele, Service-Level-Anforderungen, Sicherheitsstandards und technische Rahmenbedingungen in robuste Infrastrukturarchitekturen. Sie evaluieren alternative Lösungen, treffen fundierte Architekturentscheidungen und stellen sicher, dass die Plattformen auf **Leistung, Skalierbarkeit, Zuverlässigkeit, Sicherheit und Kosteneffizienz** ausgelegt sind.

Als technische Führungskraft übernehmen Sie die architektonische Leitung, etablieren Engineering-Standards und Best Practices, betreuen (mentoren) Ingenieure und Architekten und arbeiten eng mit Kunden und Stakeholdern zusammen, um Infrastrukturstrategien und Roadmaps zu definieren.

Requirements

Absolut. Ich habe diese Stellenbeschreibung auf die gleiche Weise bereinigt: Arbeitgeberspezifische Formulierungen und Wiederholungen wurden entfernt, die Sprache gestrafft und **Verantwortlichkeiten, technische Anforderungen sowie Führungserwartungen** klar voneinander abgegrenzt – bei gleichzeitiger Wahrung des Senioritätsniveaus und der Kernanforderungen.

# Lead / Principal AI Infrastructure Architect

## Über die Position

Wir suchen einen **Lead / Principal AI Infrastructure Architect**, der die durchgängige Verantwortung für den Entwurf, die Bereitstellung und die Optimierung der Infrastruktur für groß angelegte Workloads im Bereich Künstliche Intelligenz (KI) und maschinelles Lernen (ML) übernimmt.

Der Schwerpunkt der Rolle liegt auf der Architektur hochskalierbarer und kosteneffizienter Rechenumgebungen, einschließlich **GPU-Clustern, Plattformen für verteiltes Training, Infrastruktur für Model-Serving, Netzwerktechnik, Speicherlösungen, Orchestrierung sowie cloudbasierten KI/ML-Plattformen**.

Sie übersetzen Geschäftsziele, Service-Level-Anforderungen, Sicherheitsstandards und technische Rahmenbedingungen in robuste Infrastrukturarchitekturen. Sie evaluieren alternative Lösungen, treffen fundierte Architekturentscheidungen und stellen sicher, dass die Plattformen auf **Leistung, Skalierbarkeit, Zuverlässigkeit, Sicherheit und Kosteneffizienz** ausgelegt sind.

Als technische Führungskraft übernehmen Sie die architektonische Leitung, etablieren Engineering-Standards und Best Practices, betreuen (mentoren) Ingenieure und Architekten und arbeiten eng mit Kunden und Stakeholdern zusammen, um Infrastrukturstrategien und Roadmaps zu definieren.

## Kernaufgaben

### KI/ML-Infrastrukturarchitektur

* Übernahme der Gesamtverantwortung für Architektur und Design der Infrastruktur für groß angelegte KI/ML-Systeme – vom ersten Konzept bis zur Implementierung und Bereitstellung.

* Entwurf der Infrastruktur für verteiltes KI/ML-Training, Inferenz und Model-Serving-Workloads.

* Architektur und Optimierung des gesamten Rechen-Stacks, einschließlich **Rechenleistung, GPUs/Beschleunigern, Netzwerktechnik, Speicher, Orchestrierung und Model-Serving**.

* Evaluierung von Architekturalternativen und Treffen fundierter Entscheidungen auf der Basis von Leistung, Skalierbarkeit, Zuverlässigkeit, Kosten, Sicherheit und Kundenanforderungen.

* Sicherstellung, dass die Infrastrukturarchitekturen mit vereinbarten geschäftlichen SLAs, technischen Standards und betrieblichen Anforderungen im Einklang stehen.

### GPU- und Distributed Computing

* Entwurf und Optimierung groß angelegter **GPU- und beschleunigerbasierter Cluster** für KI/ML-Workloads.

* Evaluierung und Auswahl geeigneter GPU-/Beschleunigertechnologien basierend auf den Anforderungen der Workloads.

* Entwurf von Hochleistungsnetzwerken und Interconnect-Architekturen für verteiltes Training.

* Architektur von Speicherlösungen, die KI/ML-Workloads mit hohem Durchsatz unterstützen.

* Identifizierung und Behebung von Infrastruktur-Engpässen, die sich auf Training, Inferenz, Durchsatz oder Skalierbarkeit auswirken. * Optimierung der Infrastruktur hinsichtlich Leistung, Energieverbrauch, Auslastung und Kosten.

### Cloud-KI/ML-Architektur

* Fungieren als technischer Experte für mindestens eine der großen Hyperscaler-Plattformen, wie z. B. **AWS, Microsoft Azure oder Google Cloud**.

* Anwendung fundierter Kenntnisse in den Bereichen Cloud-KI/ML-Dienste, Rechenplattformen, Beschleuniger (Accelerators), Netzwerk, Speicher, Orchestrierung und Preismodelle.

* Bewertung von Cloud-Architekturoptionen und Empfehlung von Lösungen, die den Anforderungen an Workload, Sicherheit, Leistung und Kosten entsprechen.

* Entwurf skalierbarer Cloud- und Hybrid-Infrastrukturen für KI/ML-Workloads auf Unternehmens- und Großskalenebene.

* Identifizierung von Möglichkeiten zur Optimierung der Cloud-Auslastung und der Infrastrukturkosten.

### Architekturbewertung und Governance

* Leitung von Bewertungen und Überprüfungen bestehender und geplanter KI/ML-Infrastrukturumgebungen.

* Identifizierung von Architekturlücken, technischen Risiken, Leistungsengpässen, Skalierbarkeitsproblemen und Optimierungspotenzialen.

* Festlegung von Strategien zur Problembehebung und Erarbeitung technischer Empfehlungen.

* Etablierung von Architekturstandards, Mustern (Patterns) und Best Practices für die KI-Infrastruktur.

* Dokumentation von Architekturentscheidungen, Annahmen, Abwägungen (Trade-offs) und technischen Begründungen.

* Sicherstellung der Einhaltung relevanter Sicherheits-, Regulierungs-, Governance- und Kundenstandards.

### Infrastruktur-Roadmap und Kapazitätsplanung

* Definition und Pflege der Technologie-Roadmap für die KI/ML-Infrastruktur.

* Entwicklung von Kapazitätsplänen unter Berücksichtigung der Anforderungen von Geschäftsbereichen, Produkten und KI/ML-Workloads.

* Prognose des Bedarfs an Rechenleistung, Speicher, Netzwerkkapazität und Beschleunigern.

* Entwicklung von Kostenmodellen für die Infrastruktur und Identifizierung von Möglichkeiten zur Kostenoptimierung.

* Planung der technologischen Weiterentwicklung, des Workload-Wachstums und der Plattform-Skalierbarkeit.

### Automatisierung, Bereitstellung und Betrieb

* Entwurf von Bereitstellungs- und Automatisierungsstrategien für eine zuverlässige, reproduzierbare und skalierbare KI/ML-Infrastruktur.

* Etablierung geeigneter **CI/CD- und Infrastructure-as-Code-Ansätze** für KI/ML-Plattformen und -Workloads.

* Unterstützung der automatisierten Bereitstellung von KI-Systemen, Modellen und Datenpipelines in Produktionsumgebungen.

* Definition von Betriebsprozessen zur Gewährleistung von Zuverlässigkeit, Skalierbarkeit und Reproduzierbarkeit.

* Etablierung von Strategien für Monitoring und Observability über Infrastruktur- und MLOps-Umgebungen hinweg.

* Definition und Überwachung von **SLAs**.

From $25, paid onceGet the CV for this job

What happens when you press

One press. We do the rest.

  1. A CV for this posting

    Written against Workable (global search)'s own wording, from every piece of relevant proof in your profile.

  2. 25 readers review it

    Recruiter, hiring manager, skeptic and more read every draft, round after round. You get the best round.

    The review screen in CV Rocket: how each CV was read, round by round.
  3. We apply on Workable (global search)'s form

    Our application engine gets through the hardest forms there are. Where a question needs you, AI suggests the best answer. Don't want us applying from our IP addresses? Use our Chrome extension: we apply straight from your own browser.

    An application in CV Rocket: every answer filled in on the employer's form.
  4. Every reply, sorted

    Workable (global search)'s answer lands in your private mailbox, and we classify it on arrival: interview, question, rejection.

    The CV Rocket inbox: each employer reply classified as an interview, an action or a rejection.
  5. Reply with AI

    AI helps you write the email, checks it and sends it. We show you whether the recruiter read it.

  6. The interview in your calendar

    Full integration with your calendar. The invitation goes straight in.

    An interview invitation in the CV Rocket inbox, added to the candidate's calendar.
Get the CV for this job

From $25 per CV, paid once. No subscription.

Why it works

3×

more interviews than doing it yourself with ChatGPT.

ChatGPT writes a CV and never learns what happened to it. We see every reply. For each CV we know:

  • How it was written, and how the review scored it
  • When we applied, and how long after the posting went up
  • Which posting, which company, which city
  • Who got the interview, and who heard nothing

That is how we know which CVs get called.

Get the CV for this job

From $25 per CV, paid once. No subscription.

The numbers game

More applications. More interviews.

Every application goes out with its own CV, written for that posting and paid once. Send enough of them and the law of large numbers finds you the job.

By hand5–10
With CV Rocket100
applications a day

Nearby

Live postings like this one

Same employer first, then the same role elsewhere.

Before you press

Straight answers

Get the CV for this job

From $25 per CV, paid once. No subscription.

What if my background isn't good enough?

We make the most of the background you have. The CV uses every piece of relevant proof your profile holds, and one of the 25 readers reads your whole profile and flags what the CV left out.

Do you really apply for me?

Yes, on the employer's own form, the hardest ones included. Where a question needs you, you answer it right there and AI suggests the best answer. Don't want us applying from our IP addresses? Use our Chrome extension: we apply straight from your own browser.

Is it a subscription?

No. You pay once per CV, from $25. Every application goes out with its own CV, written for that posting.

One job. One CV.
Paid once.

Pick the posting you want. We write for it, apply for you and catch the reply.

Get the CV for this job

From $25 per CV, paid once. No subscription.