為資源匱乏的 GPU 提供充足動力，以支持 AI 工作負載

快速概覽

隨著各組織競相採用 AI，他們往往在運算能力方面投入巨資，卻忽略了支撐 AI/ML 專案所需的關鍵儲存基礎設施。歐洲領先的獨立資料中心和雲端服務供應商 Proact IT 與 NetApp 合作，為各行各業的客戶解決了「GPU 資源匱乏」的問題。透過部署均衡的 NetApp^® 解決方案堆疊，Proact IT 將資料科學家、開發人員和 IT 維運人員連接起來，為關鍵任務工作負載提供高效能、安全且可擴展的環境。

自 1994 年以來，Proact IT 一直處於歐洲數位創新的前沿，協助組織管理其快速成長的資料需求。如今，情勢正在轉變。從自動駕駛軟體到大規模醫學影像專案，對高效能 AI 基礎架構的需求正在爆炸式成長。

硬體採購相對簡單。真正的挑戰在於實施和溝通。Proact IT 的人工智慧架構師 Charles Morrall 指出，成功的 AI 專案需要的不僅僅是強大的處理器，還需要一個能夠連接資料科學團隊和 IT 團隊的統一策略。如果缺乏這種連接，企業就有可能建構出昂貴的資訊孤島，最終無法實現投資回報。

識別挑戰

對於許多 Proact IT 客戶來說，主要的挑戰不是缺乏雄心或預算，而是運算與儲存需求之間的脫節。

「有些客戶喜歡大量購買 NVIDIA GPU 機器，卻忘了儲存部分，」Morrall 解釋。這導致了「GPU 飢餓」現象：組織投資昂貴的運算資源，卻因為儲存層無法快速提供資料而導致這些資源閒置。

組織孤島加劇了這個問題。在大型公共部門機構（例如稅務機關）中，AI 團隊可能與儲存基礎設施團隊相隔五個層級。儲存需求最終只會變成一個普通的 IT 工單，而不是圍繞著效能需求的策略性討論。

特定產業也面臨獨特的挑戰：

• 汽車產業：投資自動駕駛技術的公司需要以低延遲處理大量的設計和遙測檔案，這使得純粹的公有雲策略變得不切實際。
• 醫療保健：醫療服務提供者管理 PB 級的病理和 X 光影像，需要大規模且具成本效益的解決方案。
• 嚴格監管的產業：能源公司和國防承包商需要對資料保護、勒索軟體防禦和合規文件有絕對的保證。

找到合適的平衡點

Proact IT 透過部署智慧資料基礎架構來應對這些挑戰，從而建立均衡的架構。Morrall 和他的團隊並沒有將儲存視為一種通用資源，而是利用 NetApp 各種解決方案來建立能夠滿足 AI 工作負載需求的架構。

彌合人力差距

在安裝任何線纜之前，Proact IT 就致力於打破資訊孤島。「如果我能讓 IT 團隊和 AI 團隊坐在一起，」Morrall 說，「討論就不會那麼困難或冗長。」透過促進這些對話，Proact IT 確保了基礎設施的設計能夠滿足實際工作負載的需求，而不僅僅是遵循通用的規格表。

最佳化技術堆疊

為了滿足技術要求、Proact IT 使用了一系列技術：

• AI 高效能儲存設備：針對汽車客戶、他們部署了高效能的全快閃記憶體 NetApp AFF A 系列儲存系統、以處理對延遲敏感的自動駕駛開發作業和大型設計檔案。
• 醫療保健領域的可擴充性：為了管理 PB 級的醫學影像資料、Proact IT 實作了 NetApp StorageGRID^® 物件儲存設備。這可實現分層儲存、讓關鍵病患資料隨時可用、同時以具成本效益的方式儲存較冷的資料。
• 整合安全：針對能源產業（包括核電管理），Proact IT 採用了 NetApp Autonomous Ransomware Protection (ARP/AI) 和防篡改快照技術。Proact IT 還為一家客戶實現了跨 Windows 和 Linux 混合環境的安全整合，利用 Active Directory 和 Kerberos 網路身份驗證協定創建了單一的存取控制資料來源。
• 應對 VMware 授權變更：Proact IT 可協助大學和其他組織採用價格實惠、開源的虛擬化平台，這些平台能夠保持高效能和靈活性。

結果

Proact IT 將重點從簡單的採購轉移到整體架構，從而幫助其客戶取得了實際的營運成功。

大規模且穩定

對於其醫療保健客戶，StorageGRID 的實施成功支援了由高解析度醫療攝影機所造成的資料量激增。該系統目前管理著分佈在三個醫院站點的超過 10 PB 資料，為關鍵的患者診斷維持備援和高可用性。

釋放 AI 潛力 

在汽車領域，向混合模式的轉變使客戶能夠將繁重的設計工作負載保留在本地以提高速度，同時在適當的情況下保持雲端的靈活性。這消除了先前阻礙生產力的延遲瓶頸。最終，駕駛者將受益於更完善的安全功能和更靈敏的車載系統。

文化轉型

或許最重要的成果是這些組織對 IT 的看法有了轉變。「真正的進步正是在這種人性化的層面上發生的，」Morrall 說。透過將基礎設施人員與資料科學家連結起來，Proact IT 將基於工單的維運模式轉變為協作夥伴關係。以前不了解這些功能的客戶現在正在使用 NetApp ONTAP® 的資料管理功能來加速他們的開發週期。

Proact IT 的未來發展前景如何？

Proact IT 的客戶證明，成功應用人工智慧不僅僅是購買速度最快的晶片，更重要的是建立一個能夠跟上人工智慧發展步伐的資料基礎架構。Proact IT 透過 NetApp 建構安全、可擴展且高效能的儲存環境，確保客戶的 GPU 始終得到充分的資源支援。

隨著 Proact IT 展望未來，包括一項需要數百個 GPU 和超高效能儲存的大規模生命科學項目，其與 NetApp 的合作夥伴關係仍然是其策略的核心。