Abastecendo GPUs famintas para alimentar cargas de trabalho de IA

À medida que as organizações correm para adotar a IA, muitas vezes investem pesadamente em poder computacional, negligenciando a infraestrutura de storage necessária para alimentar projetos de IA/ML. A Proact IT, provedora líder independente de data center e serviços em nuvem na Europa, firmou parceria com a NetApp para resolver o problema das “GPUs famintas” para clientes em diversos setores. Ao implementar um conjunto equilibrado de soluções da NetApp^®, a Proact IT conectou cientistas de dados, desenvolvedores e operações de TI, fornecendo ambientes de alto desempenho, seguros e escaláveis para cargas de trabalho de missão crítica.

Desde 1994, a Proact IT está na vanguarda da inovação digital na Europa, ajudando organizações a gerenciar suas crescentes necessidades de dados. Hoje, o cenário está mudando. De software para direção autônoma a projetos massivos de imagens médicas, a demanda por infraestrutura de IA de alto desempenho está explodindo.

Comprar hardware é relativamente simples. O verdadeiro desafio reside na implementação e comunicação. Charles Morrall, arquiteto de IA na Proact IT, observa que projetos de IA bem-sucedidos exigem mais do que apenas processadores potentes; exigem uma estratégia unificada que conecte as equipes de ciência de dados e TI. Sem essa conexão, as organizações correm o risco de criar silos dispendiosos que não entregam ROI.

Para muitos clientes da Proact IT, o principal desafio não é a falta de ambição ou orçamento; é uma desconexão entre as necessidades de computação e de storage.

“Alguns clientes gostam de investir em máquinas com GPU NVIDIA, mas se esquecem da parte de storage”, explica Morrall. Isso leva ao fenômeno da “GPU faminta”: organizações investem em recursos computacionais caros, apenas para vê-los ociosos porque a camada de storage não consegue fornecer dados com rapidez suficiente.

Os silos organizacionais agravam esse problema. Em grandes entidades do setor público, como as autoridades fiscais, a equipe de IA pode estar a cinco níveis de distância da equipe de infraestrutura de storage. Uma solicitação de storage se torna um chamado genérico de TI, em vez de uma conversa estratégica sobre requisitos de desempenho.

Setores específicos também enfrentaram obstáculos únicos:

• Automotivo: empresas que investem em direção autônoma precisam processar arquivos massivos de projeto e telemetria com baixa latência, tornando uma estratégia puramente em nuvem pública impraticável.
• Saúde: provedores médicos gerenciavam petabytes de imagens de patologia e raios-X, exigindo soluções que fossem tanto massivas em escala quanto eficientes em custo.
• Setores altamente regulamentados:empresas de energia e provedores de defesa necessitavam de garantias absolutas em relação a proteção de dados, defesa contra ransomware e documentação de conformidade.

A Proact IT enfrentou esses desafios implementando infraestrutura de dados inteligente para criar uma pilha equilibrada. Em vez de tratar o storage como uma commodity, Morrall e sua equipe usaram soluções da NetApp para construir arquiteturas que atendem às cargas de trabalho de IA. 

Superando a lacuna humana

Antes de instalar um único cabo, a Proact IT concentrou-se em eliminar silos. “Se eu conseguir reunir as equipes de TI e IA na mesma sala”, diz Morrall, “não é uma discussão difícil ou demorada.” Ao facilitar essas conversas, a Proact IT garantiu que a infraestrutura fosse projetada para a carga de trabalho real, não apenas para uma folha de especificações genérica.

Otimizando a pilha de tecnologia

Para atender aos requisitos técnicos, a Proact IT utilizou um conjunto de tecnologias:

• Storage de alto desempenho para IA: para clientes do setor automotivo, foram implementados sistemas de storage all-flash NetApp AFF A-Series para lidar com o desenvolvimento de direção autônoma sensível à latência e com grandes arquivos de design.
• Escalabilidade para saúde: para gerenciar petabytes de dados de imagens médicas, a Proact IT implementou o storage de objetos NetApp StorageGRID^®. Isso capacitou o storage em camadas, mantendo dados de pacientes prontamente disponíveis enquanto armazenava dados menos acessados de forma econômica.
• Segurança integrada: para o setor de energia, incluindo a gestão de energia nuclear, a Proact IT utilizou o NetApp Autonomous Ransomware Protection (ARP/AI) e snapshots à prova de adulteração. Para um cliente, a Proact IT integrou segurança em ambientes mistos de Windows e Linux, criando uma única fonte de verdade para controle de acesso usando Active Directory e os protocolos de autenticação de rede Kerberos.
• Navegando pelas mudanças de licenciamento da VMware: a Proact IT ajudou universidades e outras organizações a adotar plataformas de virtualização de código aberto acessíveis, que mantêm alto desempenho e flexibilidade.

Ao mudar o foco da simples aquisição para uma arquitetura holística, a Proact IT ajudou seus clientes a alcançar sucesso operacional tangível.

Escala massiva e estabilidade

Para seu cliente de saúde, a implementação do StorageGRID suportou com sucesso uma explosão no volume de dados causada por câmeras médicas de alta resolução. O sistema agora gerencia mais de dez petabytes de dados em três unidades hospitalares, mantendo redundância e alta disponibilidade para diagnósticos críticos de pacientes.

Revelando o potencial da IA 

No setor automotivo, a transição para um modelo híbrido permitiu que os clientes mantivessem grandes volumes de cargas de trabalho de design em suas instalações para maior agilidade, enquanto preservavam a flexibilidade da nuvem onde isso fizesse sentido. Isso eliminou os gargalos de latência que antes prejudicavam a produtividade. Em última análise, os motoristas se beneficiam de recursos de segurança aprimorados e sistemas veiculares mais responsivos.

Transformação cultural

Talvez o resultado mais significativo seja a mudança na forma como essas organizações enxergam a TI. “É nesse nível humano que o verdadeiro progresso acontece”, afirma Morrall. Ao conectar a equipe de infraestrutura aos cientistas de dados, a Proact IT transformou as operações baseadas em tíquete em parcerias colaborativas. Clientes que antes desconheciam as possibilidades agora utilizam os recursos de gerenciamento de dados do NetApp ONTAP^® para acelerar seus ciclos de desenvolvimento.

Os clientes da Proact IT demonstram que a adoção bem-sucedida da IA não se resume apenas a comprar os chips mais rápidos; trata-se de construir uma base de dados capaz de acompanhá-los. Ao contar com a NetApp para criar ambientes de storage seguros, escaláveis e de alto desempenho, a Proact IT garante que seus clientes nunca deixem suas GPUs famintas.

À medida que a Proact IT vislumbra empreendimentos futuros, incluindo um projeto de ciências biológicas em larga escala que requer centenas de GPUs e storage de altíssimo desempenho, sua parceria com a NetApp permanece central para sua estratégia.