Alimentare le GPU affamate per potenziare i carichi di lavoro AI

Mentre le organizzazioni si affrettano ad adottare l'IA, spesso investono massicciamente nella potenza di calcolo trascurando l'infrastruttura di storage fondamentale necessaria per alimentare i progetti di IA/ML. Proact IT, Europe’s leading independent data center and cloud services provider, ha collaborato con NetApp per risolvere questo problema di “scarsa disponibilità di GPU” per clienti di diversi settori. Implementando uno stack bilanciato di NetApp^® soluzioni, Proact IT ha collegato data scientist, sviluppatori e team IT, fornendo ambienti dalle performance elevate, sicuri e scalabili per carichi di lavoro mission-critical.

Dal 1994, Proact IT è all'avanguardia dell'innovazione digitale in Europa, aiutando le organizzazioni a gestire le loro esigenze di dati in rapida crescita. Oggi, il panorama sta cambiando. Dai software per la guida autonoma ai progetti di imaging medicale su larga scala, la domanda di infrastrutture AI dalle performance elevate è in forte espansione.

Acquistare hardware è relativamente semplice. La vera sfida risiede nell'implementazione e nella comunicazione. Charles Morrall, AI Architect at Proact IT, osserva che i progetti di AI di successo richiedono più che semplici processori potenti; richiedono una strategia unificata che colleghi i team di data science e IT. Senza questa connessione, le organizzazioni rischiano di costruire costosi silos che non riescono a fornire ROI.

Per molti clienti Proact IT, la sfida principale non è la mancanza di ambizione o budget; è una disconnessione tra le esigenze di elaborazione e di archiviazione.

“Alcuni clienti preferiscono potenziare le proprie macchine con GPU NVIDIA, ma si dimenticano della parte relativa allo storage,” spiega Morrall. Questo porta al fenomeno della “starving GPU”: le organizzazioni investono in costose risorse di calcolo, solo per vederle rimanere inattive perché il livello di storage non riesce a fornire i dati abbastanza velocemente.

La compartimentazione organizzativa aggrava ulteriormente il problema. Nelle grandi entità del settore pubblico, come le autorità fiscali, il team di AI potrebbe trovarsi a cinque livelli di distanza dal team dell'infrastruttura di archiviazione. Una richiesta di archiviazione diventa un generico ticket IT, invece di una conversazione strategica sui requisiti di prestazioni.

Anche settori specifici hanno affrontato ostacoli unici:

• Settore automobilistico: Le aziende che investono nella guida autonoma devono elaborare enormi file di progettazione e telemetria con bassa latenza, rendendo una strategia cloud puramente pubblica impraticabile.
• Assistenza sanitaria: I fornitori di servizi medici gestivano petabyte di immagini di patologia e radiografie, richiedendo soluzioni che fossero sia di vasta scala che convenienti in termini di costi.
• Settori altamente regolamentati: Le aziende energetiche e i fornitori del settore della difesa necessitavano di garanzie assolute in materia di protezione dei dati, difesa contro i ransomware e documentazione di conformità.

Proact IT ha affrontato queste sfide implementando un'infrastruttura dati intelligente per creare uno stack bilanciato. Invece di considerare lo storage come una semplice risorsa, Morrall e il suo team hanno utilizzato NetApp solutions per costruire architetture adatte ai carichi di lavoro di intelligenza artificiale. 

Colmare il divario umano

Prima ancora di installare un singolo cavo, Proact IT si è concentrata sull'abbattimento dei compartimenti stagni. “Se riesco a riunire i team IT e AI nella stessa stanza,” afferma Morrall, “la discussione non è difficile né lunga.” Facilitando queste conversazioni, Proact IT ha garantito che l'infrastruttura fosse progettata per il carico di lavoro effettivo, non solo in base a una scheda tecnica generica.

Ottimizzazione dello stack tecnologico

Per soddisfare i requisiti tecnici, Proact IT ha utilizzato una suite di tecnologie:

• Storage dalle performance elevate per l'AI: Per i clienti del settore automobilistico, hanno implementato sistemi di storage all-flash ad alte prestazioni NetApp AFF A-Series per gestire lo sviluppo di guida autonoma sensibile alla latenza e i file di progettazione di grandi dimensioni.
• Scalabilità per il settore sanitario: Per gestire petabyte di dati di imaging medico, Proact IT ha implementato NetApp StorageGRID^® storage a oggetti. Ciò ha consentito uno storage a livelli, mantenendo i dati dei pazienti prontamente disponibili, mentre i dati meno utilizzati sono stati archiviati in modo economicamente vantaggioso.
• Sicurezza integrata: per il settore energetico, compresa la gestione dell'energia nucleare, Proact IT ha utilizzato NetApp Autonomous Ransomware Protection (ARP/AI) e snapshot a prova di manomissione. Per un cliente, Proact IT ha integrato la sicurezza in ambienti misti Windows e Linux, creando un'unica fonte di verità per il controllo degli accessi tramite Active Directory e i protocolli di autenticazione di rete Kerberos.
• Gestione dei cambiamenti nelle licenze VMware: Proact IT ha aiutato università e altre organizzazioni ad adottare piattaforme di virtualizzazione open-source a prezzi accessibili, che mantengono elevate prestazioni e flessibilità.

Spostando l'attenzione dal semplice approvvigionamento a un'architettura olistica, Proact IT ha aiutato i suoi clienti a raggiungere un successo operativo tangibile.

Scala e stabilità massicce

Per il suo cliente del settore sanitario, l'implementazione di StorageGRID ha supportato con successo un'esplosione nel volume di dati causata dalle telecamere mediche ad alta risoluzione. Il sistema ora gestisce oltre dieci petabyte di dati in tre sedi ospedaliere, mantenendo ridondanza e alta disponibilità per le diagnosi critiche dei pazienti.

Sbloccare il potenziale dell'intelligenza artificiale 

Nel settore automobilistico, il passaggio a un modello ibrido ha permesso ai clienti di mantenere i carichi di lavoro di progettazione più impegnativi in locale per garantire velocità, conservando al contempo la flessibilità del cloud laddove opportuno. Ciò ha eliminato i colli di bottiglia dovuti alla latenza che in precedenza ostacolavano la produttività. In definitiva, i conducenti beneficiano di migliori funzionalità di sicurezza e di sistemi di bordo più reattivi.

Trasformazione culturale

Forse il risultato più significativo è il cambiamento nel modo in cui queste organizzazioni percepiscono l'IT. "È a questo livello umano che avvengono i veri progressi", afferma Morrall. Collegando il personale dell'infrastruttura agli data scientist, Proact IT ha trasformato le operazioni basate su ticket in partnership collaborative. I clienti che prima non sapevano cosa fosse possibile ora utilizzano le funzionalità di gestione dei dati di NetApp ONTAP^® per accelerare i loro cicli di sviluppo.

I clienti di Proact IT dimostrano che l'adozione di successo dell'IA non riguarda solo l'acquisto dei chip più veloci; si tratta di costruire una base dati in grado di tenere il passo con essi. Affidandosi a NetApp per creare ambienti di storage sicuri, scalabili e dalle performance elevate, Proact IT garantisce che i loro clienti non lascino mai le loro GPU affamate.

Mentre Proact IT guarda ai progetti futuri, tra cui un progetto su larga scala nel settore delle scienze biologiche che richiede centinaia di GPU e sistemi di archiviazione dalle performance elevate, la partnership con NetApp rimane centrale nella loro strategia.