Power für unterversorgte GPUs zur Ausführung von KI-Workloads

Im Wettlauf um die Einführung von KI investieren Unternehmen häufig massiv in Rechenleistung und übersehen dabei die entscheidende Storage-Infrastruktur, die für KI/ML-Projekte erforderlich ist. Proact IT, Europas führender unabhängiger Anbieter von Rechenzentrums- und Cloud-Services, hat sich mit NetApp zusammengetan, um das Problem des GPU-Verhungerns (unterversorgte GPU; „Starving GPU“), für Kunden aus verschiedenen Branchen zu lösen. Durch die Implementierung eines ausgewogenen Stacks von NetApp^® Lösungen vernetzte Proact IT Data Scientists, Entwickler und IT-Betriebsteams und schuf leistungsstarke, sichere und skalierbare Umgebungen für geschäftskritische Workloads.

Seit 1994 steht Proact IT an der Spitze der digitalen Innovation in Europa und hilft Organisationen, ihre schnell wachsenden Datenanforderungen zu managen. Heute sehen wir eine sich ändernde Landschaft. Von Software für autonomes Fahren bis hin zu umfangreichen medizinischen Bildgebungsprojekten explodiert die Nachfrage nach leistungsstarker KI-Infrastruktur.

Der Kauf von Hardware ist vergleichsweise unkompliziert. Die eigentliche Herausforderung liegt in der Implementierung und Kommunikation. Charles Morrall, AI Architect bei Proact IT, merkt an, dass erfolgreiche KI-Projekte mehr als nur leistungsstarke Prozessoren erfordern; sie benötigen eine einheitliche Strategie, die die Data-Science- und IT-Teams miteinander verbindet. Ohne diese Verbindung riskieren Unternehmen, teure Silos zu errichten, die keinen ROI erzielen.

Für viele Proact IT-Kunden besteht die größte Herausforderung nicht in einem Mangel an Ambitionen oder Budget, sondern in der Entkopplung von Compute- und Storage-Bedarf.

„Manche Kunden rüsten zwar mit NVIDIA-GPU-Maschinen auf, vergessen dabei aber den Storage“, erklärt Morrall. Dies führt zum Phänomen der „ausgehungerten GPU“: Unternehmen investieren in teure Rechenressourcen, die dann ungenutzt bleiben, weil die Storage-Schicht nicht schnell genug Daten bereitstellen kann.

Organisatorische Silos verschärfen dieses Problem. In großen öffentlichen Einrichtungen wie Finanzbehörden kann das KI-Team fünf Hierarchieebenen vom Team für die Storage-Infrastruktur entfernt sein. Eine Storage-Anfrage wird zu einem allgemeinen IT-Ticket, statt zu einem strategischen Gespräch über Performance-Anforderungen.

Bestimmte Branchen sahen sich auch mit einzigartigen Hürden konfrontiert:

• Automobilindustrie: Unternehmen, die in autonomes Fahren investieren, mussten riesige Konstruktions- und Telemetriedateien mit geringer Latenz verarbeiten, was eine reine Public-Cloud-Strategie unpraktisch machte.
• Gesundheitswesen: Medizinische Leistungserbringer verwalteten Petabytes an Pathologie- und Röntgenbildern, was Lösungen erforderte, die sowohl massiv im Umfang als auch kosteneffizient waren.
• Stark regulierte Sektoren: Energieunternehmen und Rüstungsunternehmen benötigten absolute Zusicherungen hinsichtlich Datenschutz, Ransomware-Abwehr und Compliance-Dokumentation.

Proact IT begegnete diesen Herausforderungen durch den Einsatz intelligenter Dateninfrastruktur, um einen ausgewogenen Stack zu schaffen. Anstatt Storage als bloßes Wirtschaftsgut zu betrachten, nutzten Morrall und sein Team NetApp Lösungen, um Architekturen zu entwickeln, die speziell auf KI-Workloads zugeschnitten sind. 

Die menschliche Kluft überbrücken

Bevor Proact IT auch nur ein einziges Kabel verlegte, konzentrierte sich Proact IT darauf, Silos aufzubrechen. „Wenn ich die IT- und KI-Teams in denselben Raum bekomme“, sagt Morrall, „ist das keine schwierige oder langwierige Diskussion.“ Durch die Förderung dieser Gespräche stellte Proact IT sicher, dass die Infrastruktur für den tatsächlichen Workload und nicht nur für ein generisches Datenblatt ausgelegt war.

Optimierung des Tech-Stacks

Um die technischen Anforderungen zu erfüllen, setzte Proact IT eine Suite von Technologien ein:

• Leistungsstarker Storage für KI: Für Kunden aus der Automobilindustrie setzten sie hochleistungsfähige All-Flash NetApp AFF A-Series Storage-Systeme ein, um die latenzkritische Entwicklung autonomer Fahrsysteme und große Designdateien zu unterstützen.
• Skalierbarkeit im Gesundheitswesen: Um Petabytes an medizinischen Bilddaten zu verwalten, implementierte Proact IT NetApp StorageGRID^® Objektspeicher. Dies ermöglichte eine Speicherung in Tiers, wodurch kritische Patientendaten jederzeit verfügbar blieben, während weniger häufig benötigte Daten kostengünstig gespeichert wurden.
• Integrierte Sicherheit: Für den Energiesektor, einschließlich der Kernkraftwerksverwaltung, setzte Proact IT NetApp Autonomous Ransomware Protection (ARP/AI) und manipulationssichere Snapshots ein. Für einen Kunden integrierte Proact IT Sicherheit in gemischten Windows- und Linux-Umgebungen und schuf eine zentrale Quelle für die Zugriffskontrolle mithilfe von Active Directory und Kerberos-Netzwerk-Authentifizierungs-Protokollen.
• Umgang mit VMware-Lizenzänderungen: Proact IT unterstützte Universitäten und andere Organisationen bei der Einführung kostengünstiger, Open-Source-Virtualisierungsplattformen, die hohe Performance und Flexibilität gewährleisten.

Durch die Verlagerung des Fokus von der einfachen Beschaffung hin zu einer ganzheitlichen Architektur half Proact IT seinen Kunden, greifbare operative Erfolge zu erzielen.

Massive Skalierbarkeit und Stabilität

Für seinen Kunden im Gesundheitswesen hat die Implementierung von StorageGRID erfolgreich eine Explosion des Datenvolumens unterstützt, die durch hochauflösende medizinische Kameras verursacht wurde. Das System verwaltet nun über zehn Petabyte an Daten an drei Krankenhausstandorten und gewährleistet dabei Redundanz und hohe Verfügbarkeit für die kritische Patientendiagnostik.

KI-Potenzial freisetzen 

Im Automobilsektor ermöglichte der Wechsel zu einem Hybridmodell den Kunden, rechenintensive Design-Workloads weiterhin lokal zu unterstützen, um die Geschwindigkeit zu erhöhen, während die Flexibilität der Cloud dort beibehalten wurde, wo es sinnvoll war. Dadurch wurden die Latenzengpässe beseitigt, die zuvor die Produktivität beeinträchtigten. Letztendlich profitieren die Fahrer von besseren Sicherheitsfunktionen und reaktionsschnelleren Fahrzeugsystemen.

Kultureller Wandel

Das wohl bedeutendste Ergebnis ist der Wandel in der Sichtweise dieser Organisationen auf die IT. „Es ist auf der menschlichen Ebene, wo echter Fortschritt passiert“, sagt Morrall. Durch die Vernetzung von Infrastrukturmitarbeitern mit Datenwissenschaftlern hat Proact IT den ticketbasierten Betrieb in partnerschaftliche Zusammenarbeit umgewandelt. Kunden, die zuvor nicht wussten, was möglich ist, nutzen nun die Datenmanagementfunktionen von NetApp ONTAP^®, um ihre Entwicklungszyklen zu beschleunigen.

Die Kunden von Proact IT beweisen, dass erfolgreiche KI-Einführung nicht nur vom Kauf der schnellsten Chips abhängt, sondern vom Aufbau einer Datenbasis, die mit ihnen Schritt halten kann. Indem sie auf NetApp setzen, um sichere, skalierbare und leistungsstarke Storage-Umgebungen zu schaffen, stellt Proact IT sicher, dass die GPUs ihrer Kunden niemals unterversorgt sind.

Während Proact IT zukünftige Vorhaben im Blick hat, darunter ein groß angelegtes Life-Science-Projekt, das Hunderte von GPUs und ultra-hochleistungsfähigen Storage erfordert, bleibt die Partnerschaft mit NetApp ein zentraler Bestandteil ihrer Strategie.