Domino Data Lab: AI aziendale su larga scala...in un clic

Il progresso umano è alimentato dall'innovazione, con progressi costanti nel corso dei millenni punteggiati da picchi di invenzioni che rimodellano il futuro da un giorno all'altro—grandi idee di grande impatto come la stampa, il motore a vapore, Internet. Molti ritengono che l'industrializzazione dell'intelligenza artificiale (AI) che alimenta la scienza dei dati sia una di queste pietre miliari. Ecco perché molte aziende ora richiedono ai dipendenti di utilizzare prima gli strumenti di AI quando assumono nuovi talenti, cercano risposte chiare a domande complesse, formalizzano strategie di go-to-market e progettano prodotti di prossima generazione.

Ci sono notizie entusiasmanti su questo fronte. Domino Data Lab (Domino) e NetApp hanno visto qualcosa di più profondo, qualcosa con un potenziale più ampio oltre la schiuma di ChatGPT ovunque e l'onnipresente lavaggio dell'intelligenza artificiale. Hanno riconosciuto che una delle sfide più significative per lo spostamento dei carichi di lavoro AI dal prototipo alla produzione era la gestione e l'accesso ai dati in modo efficiente, sicuro e senza interruzioni in ambienti diversi.

Oggi la maggior parte delle aziende opera con dati distribuiti in più ambienti e un accesso efficiente ai dati rimane una sfida costante. La partnership tra Domino e NetApp affronta in modo univoco questo problema critico consentendo ai team AI di accedere senza problemi ai set di dati gestiti, semplificare la gestione dell'infrastruttura e accelerare l'innovazione su larga scala, il tutto senza compromettere la sicurezza o la conformità dal punto di vista dell'IT. Con l'IA a buon punto nel suo ciclo di hype, è in corso una nuova fase di adozione dell'IA, con aziende, governi e industrie alla ricerca di partner che li aiutino a portare i prototipi di IA in produzione su larga scala.

La partnership ha portato alla prima integrazione della piattaforma MLOps leader di Domino con NetApp’s avanzata soluzione sottostante di gestione dei dati. I data scientist ottengono funzionalità self-serve per gestire i carichi di lavoro AI direttamente all'interno di Domino utilizzando Domino Volumes for NetApp^® ONTAP^® (DVNO). Domino utilizza Amazon FSx for NetApp^® ONTAP^® come base per la propria offerta SaaS, ottenendo un miglioramento delle prestazioni di 2 volte rispetto alle alternative, mantenendo la piena tracciabilità dei modelli e degli agenti. Questo approccio semplificato consente ai data scientist e ai ricercatori di concentrarsi sull'innovazione invece che sull'infrastruttura.

Questa pietra miliare nell'AI, nelle operazioni di machine learning (MLOps) e nello storage dei dati rappresenta un progresso significativo. Nasce dal riconoscimento che per sbloccare tutte le potenzialità dell'AI sono necessarie funzionalità perfettamente integrate: robusta potenza di calcolo, gestione efficiente dei dati e workflow ottimizzati che offrono libertà self-service ai data scientist mentre l'IT mantiene l'integrità operativa utilizzando pratiche standard e affidabili, riducendo la crescita incontrollata dei dati e accelerando l'implementazione dell'AI. ​​​

Tutto inizia quando i colleghi di NVIDIA consigliano agli amici sia di Domino che di NetApp di pranzare insieme. In breve tempo, i leader delle aziende si resero conto di condividere una visione per un futuro in cui il calcolo AI e lo storage AI sono, per definizione, ibridi o multi-cloud. La loro visione prometteva un nuovo modo per data scientist e ingegneri dello storage di inaugurare insieme una nuova era della scienza dei dati.

Domino, la piattaforma MLOps aziendale leader, ha l'esperienza nella gestione del ciclo di vita dell'AI e nell'orchestrazione del calcolo. E NetApp, la società di infrastruttura dati intelligente, ha l'esperienza nello storage dei dati. Ma la partnership è più di un incontro di menti, è anche una combinazione di capacità tecniche. Thomas ‘T-Rob’ Robinson, chief operating officer di Domino, descrive la partnership come simile a “un panino con burro di arachidi e gelatina (o, per il pubblico internazionale, Marmite e formaggio).” È semplicemente buono.

Questa visione di una nuova via da seguire significa che i data scientist e le organizzazioni di oggi possono facilmente e con sicurezza passare dai modelli prototipo ad agenti che funzionano in modo autonomo nel mondo reale, dove AI su una piattaforma unificata può fare davvero la differenza.

Thomas Been, chief marketing officer for Domino, afferma: "Una sfida che ostacola l'adozione dell'IA da parte di molte organizzazioni è la fiducia." La fiducia che i risultati dell'IA scoperti a livello pilota saranno scalabili agli stessi risultati a livello di agente, dove la governance normativa e i costi fissi sono considerazioni particolarmente critiche.

Altrettanto impegnativo è il fatto che la maggior parte dei progetti pilota di AI viene eseguita nel cloud, un ambiente collaudato per i data scientist per essere agile, scalabile e conveniente per l'elaborazione e lo storage elastici pay-as-you-need. Il cloud consente inoltre a team diversi di accedere e condividere dati in modi fluidi e altamente collaborativi.

Di conseguenza, le aziende e le organizzazioni spesso intravedono il valore dell’AI quando creano prototipi nel cloud. Ma, gestiti in modo isolato e utilizzando set di dati accuratamente curati, i modelli sono inclini all’addestramento eccessivo e ai pregiudizi appresi, per citare solo due insidie. Sbloccare il valore su larga scala al di fuori dell’ambiente di test rimane più sfuggente, poiché set di dati più grandi introducono variazioni che un modello non riconosce. Allucinazioni dei modelli, previsioni imprecise e ridotta efficacia spiegano perché l’85% degli investimenti in AI rimane bloccato in modalità pilota. Thomas osserva: “La maggior parte delle organizzazioni non prende in considerazione tutte le opzioni portando i propri dati all’AI.” Per abitudine, questo significa verso il cloud. Ma con Amazon FSx for NetApp^® ONTAP^®, le vecchie abitudini stanno cambiando.

Lo stanno facendo in ambienti ibridi e multi-cloud, perché la maggior parte dei dati mondiali più importanti è ancora on-premises. Come osserva Jensen Huang, CEO di NVIDIA, “Quasi la metà dei file nel mondo sono archiviati on-prem su NetApp.” Questo è il motivo per cui i clienti comuni di Domino e NetApp stanno prendendo una strada diversa dopo aver considerato le loro opzioni. Thomas afferma: “Stanno portando l’AI ai loro dati.” Un esempio è il modo in cui la piattaforma di AI e data science di Domino si scala in ambienti ibridi e multi-cloud, dove i carichi di lavoro AI aziendali più intensivi richiedono un throughput elevato, soprattutto quando i data scientist eseguono più modelli su set di dati comuni che si estendono tra on-premises e cloud. Amazon FSx for NetApp^® ONTAP^® consente di alimentare i modelli con la stessa velocità con cui le GPU elaborano i dati, un punto di svolta di per sé, ma c’è ancora di più.

Il costo valutario del calcolo AI varia notevolmente, dalle GPU entry-level alle opzioni high-end, sia per il prezzo effettivo di un chip sia per il tempo necessario per elaborare un set di dati, sia nel cloud che onsite. Ma Thomas solleva un argomento di uguale importanza. Dice: “Devi anche aggiungere il costo del tempo delle persone.”

In passato, i data scientist seguivano un processo estremamente lineare, a partire dal rispetto della governance normativa, della company policy e dei protocolli di sicurezza, e includendo l'accesso gestito a data lake e warehouse tramite strumenti approvati come SQL e Tableau. Questo processo di richiesta, gatekeeping, attesa e download può aggiungere ore, giorni, persino settimane al progetto di ricerca di un data scientist. Questi ostacoli non solo possono spingere i data scientist a cercare shadow IT, ma rallentano anche in modo significativo il time to production. Infine, ogni spostamento di dati da un ambiente a un altro introduce rischi per i dati stessi, dalla perdita e duplicazione dei dati alla corruzione dovuta all'esposizione a sistemi meno sicuri. Si consideri ora che IDC rileva che il tipico data scientist esegue questo processo 7-10 volte nella costruzione di un singolo modello. I numeri, da TB e GPU a giorni e dollari, possono essere significativi, soprattutto se moltiplicati per il numero di data scientist di un'organizzazione e per i loro numerosi esperimenti in corso.

NetApp ha sviluppato lo "snapshotting" come funzionalità principale del sistema operativo ONTAP  anni fa. Cioè, hanno permesso ai data scientist di creare copie istantanee dei propri dati in qualsiasi momento, senza il fastidio di processi "salva con nome" complicati e dispendiosi in termini di tempo. Oggi, il salvataggio di queste copie immutabili è una proposta di valore centrale della soluzione Domino tramite Amazon FSx for NetApp^® ONTAP^®: snapshot a zero footprint di dati e modelli di dati acquisiti al volo con un solo clic. Questo è inestimabile non solo per scopi di audit e riferimento, ma anche per tornare a modelli precedenti e più utili e per condividerli con i colleghi. Ora i data scientist possono fare ricerca e gli storage engineer possono concentrarsi sulla gestione e sulla sicurezza del proprio dominio.

La soluzione FSx for ONTAP^® consente l'AI su larga scala in un ciclo di vita MLOps ripetibile. Sfrutta inoltre la ricchezza della tecnologia di gestione intelligente dei dati disponibile in NetApp senza che gli utenti debbano sapere nulla di storage o di come amministrare i volumi. Un cliente farmaceutico di Domino’s ha detto: “Questo è esattamente ciò di cui abbiamo bisogno!” FSx for ONTAP^® è il risultato di una strategia incentrata sul prodotto per consentire agli utenti di fare di più con meno, ovvero lavorare più velocemente e finire più velocemente, con costi inferiori. È l'opposto di ciò che è venuto prima. Vale a dire, storage hyperscaler generico con prestazioni inferiori, colli di bottiglia della GPU e inefficienze. Il re-platforming con la soluzione Domino e NetApp fa già la differenza per gli early adopter che ora si rendono conto dei vantaggi dei modelli eseguiti su larga scala rispetto al loro dominio ibrido, il tutto con throughput più veloce e senza sprechi di capacità GPU.

E perso nei titoli dei giornali per l'aumento del consumo energetico dell'IA, si scopre che l'IA può essere più ecologica della sua reputazione, perché un throughput più elevato e un'elaborazione più rapida riducono anche l'impronta ambientale di un'organizzazione, non solo le loro spese per GPU e energia. FSx for ONTAP^® può essere un ulteriore passo che un'azienda può compiere nel proprio percorso di sostenibilità.

Thomas Been vede il 2025 come un punto di svolta con un ‘prima’ e un ‘dopo’, quando le organizzazioni superano l’‘era artigianale’ dell’IA e inizia l’IA industriale. Dice: “Siamo entusiasti della nostra partnership con NetApp, perché abbiamo cambiato il gioco, insieme. Domino e NetApp hanno creato processi standardizzati—with the right governance throughout—per consentire alle aziende di adottare l’IA su larga scala.” Ma l’offerta di Domino tramite Amazon FSx per NetApp^® ONTAP^® è solo l’inizio. E ora?

Per prima cosa c'è il lavoro di progettazione del prodotto per integrare le funzionalità di Domino direttamente all'interno di NetApp ONTAP, oltre a una suite di funzionalità NetApp-aware per i professionisti MLOps da utilizzare mentre fanno maturare ulteriormente la loro pipeline AI da pilota ad agente.

Anche se non sarà la Singularity, FSx for ONTAP^® è una soluzione singolare che offre funzionalità uniche e vantaggi preziosi ai data scientist che cercano di aumentare la resa delle colture, progettare farmaci più sicuri e accelerare la produzione di veicoli autonomi. T-Rob riassume le cose, dicendo: “L'immenso valore di uno stack con Domino e NetApp, e partner come AWS e NVIDIA, deriva dal fatto che è una base aziendale con tutta la resilienza, l'efficienza e la sicurezza di cui l'IA ha bisogno.” Burro di arachidi e gelatina, davvero.