GPU 병목 현상 해결을 통한 최적의 AI 워크로드 구현

기업들이 AI 도입에 박차를 가하면서 컴퓨팅 파워에는 막대한 투자를 하는 반면, AI/ML 프로젝트에 필수적인 스토리지 인프라 구축은 간과하는 경우가 많습니다. 유럽을 선도하는 독립 데이터 센터 및 클라우드 서비스 제공업체인 Proact IT는 다양한 산업 분야의 고객들이 겪고 있는 이 ‘GPU 리소스 부족’ 문제를 해결하기 위해 NetApp과 협력했습니다. NetApp^® 솔루션으로 구성된 균형 잡힌 스택을 구축하여 Proact IT는 데이터 과학자, 개발자, IT 운영팀을 연결하고, 미션 크리티컬 워크로드에 필요한 고성능, 보안 및 확장 가능한 환경을 제공했습니다.

1994년 설립 이후, Proact IT는 유럽 디지털 혁신의 최전선에서 기업들이 급증하는 데이터 요구 사항을 관리할 수 있도록 지원해 왔습니다. 오늘날, 상황은 급변하고 있습니다. 자율 주행 소프트웨어에서 대규모 의료 영상 프로젝트에 이르기까지 고성능 AI 인프라에 대한 수요가 폭발적으로 증가하고 있습니다.

하드웨어 구매는 비교적 간단합니다. 진정한 어려움은 구현과 소통에 있습니다. Proact IT의 AI Architect인 Charles Morrall은 성공적인 AI 프로젝트에는 강력한 프로세서 이상의 것이 필요하며, 데이터 과학 팀과 IT 팀을 연결하는 통합 전략이 필수적이라고 강조합니다. 이러한 연계가 없다면, 조직은 투자 대비 수익(ROI)을 창출하지 못하는 고비용의 사일로 구조를 구축할 위험에 처하게 됩니다.

Proact IT의 많은 고객에게 있어 주요 과제는 야망이나 예산 부족이 아니라 컴퓨팅과 스토리지 요구 사항 간의 단절입니다.

"일부 고객은 NVIDIA GPU 머신으로 확장하려고 하지만 스토리지 부분을 잊어버립니다"라고 Morrall은 설명합니다. 이로 인해 'GPU 리소스 부족' 현상이 발생합니다. 기업들은 고가의 컴퓨팅 리소스에 투자하지만, 스토리지 계층이 데이터를 충분히 빠르게 공급하지 못해 결국 이 리소스들이 유휴 상태로 방치되는 것입니다.

조직 내 부서 간 장벽은 이러한 문제를 더욱 악화시킵니다. 세무 당국과 같은 대규모 공공기관에서는 AI 팀이 스토리지 인프라 팀과 5단계나 떨어져 있을 수 있습니다. 스토리지에 대한 요청은 성능 요구사항에 대한 전략적 논의가 아닌, 일반적인 IT 지원 요청으로 처리됩니다.

특정 산업 분야는 고유한 어려움에 직면했습니다.

• 자동차: 자율 주행에 투자하는 기업은 대규모 설계 및 원격 측정 파일을 낮은 지연 시간으로 처리해야 했으며, 이로 인해 순수 퍼블릭 클라우드 전략은 비현실적이었습니다.
• 의료: 의료 서비스 제공업체는 페타바이트 규모의 병리 및 X선 이미지를 관리해야 했으며, 이를 위해서는 대규모 처리 능력과 비용 효율성을 모두 갖춘 솔루션이 필요했습니다.
• 고도의 규제가 적용되는 분야: 에너지 회사와 방위산업체는 데이터 보호, 랜섬웨어 방어 및 규정 준수 문서에 대한 절대적인 보장이 필요했습니다.

Proact IT는 균형 잡힌 스택을 구축하기 위해 지능형 데이터 인프라를 배포하여 이러한 과제를 해결했습니다. Morrall과 그의 팀은 스토리지를 단순한 상품으로 취급하는 대신 NetApp 솔루션을 사용하여 AI 워크로드에 적합한 아키텍처를 구축했습니다. 

인간 격차 해소

Proact IT는 케이블 하나 설치하기 전에 부서 간 장벽을 허무는 데 집중했습니다. Morrall은 "IT 팀과 AI 팀을 한자리에 모으면 어렵거나 긴 논의가 이루어지지 않습니다."라고 말합니다. Proact IT는 이러한 논의를 주도함으로써, 인프라가 단순한 일반적인 사양서가 아닌 실제 워크로드에 맞춰 설계되도록 보장했습니다.

기술 스택 최적화

기술적 요구사항을 해결하기 위해 Proact IT는 다음과 같은 기술 제품군을 사용했습니다.

• AI용 고성능 스토리지: 자동차 업계 고객사를 위해, 지연 시간에 민감한 자율주행 개발 작업과 대용량 설계 파일을 처리하기 위해 고성능 All-Flash NetApp AFF A-Series 스토리지 시스템을 구축했습니다.
• 의료 서비스를 위한 확장성: 페타바이트 규모의 의료 영상 데이터를 관리하기 위해 Proact IT는 NetApp StorageGRID^® 오브젝트 스토리지를 도입했습니다. 이를 통해 계층형 스토리지가 가능해져 중요한 환자 데이터는 즉시 사용할 수 있도록 유지하고, 사용 빈도가 낮은 데이터는 비용 효율적으로 저장할 수 있었습니다.
• 통합 보안: 원자력 발전 관리를 포함한 에너지 부문에서 Proact IT는 NetApp Autonomous Ransomware Protection(ARP/AI) 및 변조 방지 스냅샷을 활용했습니다. 한 고객사의 경우, Proact IT는 Windows와 Linux 환경이 혼합된 환경에서 보안을 통합하여 Active Directory와 Kerberos 네트워크 인증 프로토콜을 사용하는 액세스 제어를 위한 단일 정보 소스를 구축했습니다.
• VMware 라이선스 변경 탐색: Proact IT는 대학 및 기타 조직이 높은 성능과 유연성을 유지하는 경제적인 오픈 소스 가상화 플랫폼을 채택할 수 있도록 지원했습니다.

Proact IT는 단순한 조달에서 전체적인 아키텍처로 초점을 전환함으로써 고객이 실질적인 운영상의 성공을 거둘 수 있도록 지원했습니다.

대규모 확장성 및 안정성

해당 의료 고객사는 StorageGRID를 성공적으로 도입하여 고해상도 의료용 카메라로 인한 데이터 볼륨의 폭발적인 증가를 지원했습니다. 현재 이 시스템은 세 곳의 병원 사이트에서 10페타바이트 이상의 데이터를 관리하며, 중요한 환자 진단을 위한 이중화 및 고가용성을 유지하고 있습니다.

AI의 잠재력 발휘하기 

자동차 분야에서 하이브리드 모델로의 전환을 통해 고객은 속도를 위해 대규모 설계 워크로드를 온프레미스에 유지하면서도 필요한 경우 클라우드 유연성을 확보할 수 있었습니다. 이를 통해 이전에 생산성을 저해했던 지연 시간 병목 현상이 제거되었습니다. 궁극적으로 운전자는 향상된 안전 기능과 더욱 반응성이 뛰어난 차량 내 시스템의 혜택을 누릴 수 있습니다.

문화적 변혁

아마도 가장 중요한 결과는 이러한 조직들이 IT를 바라보는 방식의 변화일 것입니다. 모럴은 "진정한 발전은 바로 이러한 인간적인 차원에서 이루어집니다."라고 말합니다. Proact IT는 인프라 담당 직원과 데이터 과학자를 연결함으로써 티켓 기반 운영 방식을 협업 파트너십으로 전환했습니다. 이전에는 무엇이 가능한지 알지 못했던 고객들이 이제 NetApp ONTAP^®의 데이터 관리 기능을 사용하여 개발 주기를 단축하고 있습니다.

Proact IT 고객들은 성공적인 AI 도입이 단순히 가장 빠른 칩을 구매하는 것만이 아니라, 그 속도를 따라갈 수 있는 데이터 기반을 구축하는 데 달려 있음을 보여줍니다. NetApp을 활용하여 안전하고 확장 가능하며 고성능의 스토리지 환경을 구축함으로써 Proact IT는 고객들이 GPU 자원 부족으로 어려움을 겪는 일이 없도록 보장합니다.

Proact IT는 수백 개의 GPU와 초고성능 스토리지가 필요한 대규모 생명 과학 프로젝트를 포함한 미래 사업을 추진함에 있어 NetApp과의 파트너십을 전략의 핵심으로 삼고 있습니다.