加速AI開發與部署、管理邊緣AI應用，英偉達企業型AI服務雙料升級

機器之心報道

作者：杜偉

當今時代，AI 無處不在，對於企業來說更是如此。企業有時想要在混合雲業務中加入 AI 功能，有時又想要發揮邊緣計算的效用，但自身 AI 基礎設施無法提供支援怎麼辦呢？英偉達新推出的面向企業的即時 AI 基礎設施 AI LaunchPad 以及 20 年提出、現已全面上市的託管型邊緣 AI 服務平臺 Fleet Command 將加速其他企業的 AI 開發和部署，擴展他們的邊緣 AI 服務。

隨著從資訊時代邁入智慧時代，人工智慧（AI）在這一過程中發揮著無可比擬的重要作用，成為當前和未來企業發展中最關鍵的技術之一。但應看到，在企業的生產與運營過程中，AI 依然面臨著「被誤解」和「管理不善」的困境。此前，全球分析軟體公司 FICO 和市場情報公司 Corinium 聯合釋出的一份報告顯示：近 65% 的受訪企業無法解釋它們使用的 AI 如何做出決策或預測。因此，相關知識的缺失導致這些企業很容易誤用或濫用 AI。

在這種情況下，企業在部署自身 AI 基礎設施和啟動 AI 開發時將不可避免地遇到困難，並且有可能耗費大量資源也無法很好地達到預期目標。這時，如果企業可以通過其他方提供的 AI 基礎設施和軟體來快速實現自身擴展 AI 部署的目標，這樣既省時又省力。

晶片巨頭英偉達一直致力於為客戶提供端到端的 AI 基礎設施軟體棧，並希望成為其他企業 AI 平臺的供應商。

近日，英偉達推出了 NVIDIA AI LaunchPad，這是一個通過混合雲供應商提供的綜合計劃，企業能夠即時訪問由英偉達提供的基礎設施和軟體。AI LaunchPad 將率先部署在全球資料中心「領頭羊」Equinix 上，客戶可以訪問託管在 Equinix 上的安全、分散式和混合雲優化的私有基礎設施。

此外，客戶還可以通過 AI LaunchPad 利用頂級 IT 解決方案供應商提供的加速軟體和硬體，進而能夠輕鬆地擴展和管理從開發到部署的整個 AI 生命週期。Equinix 預計於今年夏天首次提供 AI LaunchPad。

英偉達企業計算負責人 Manuvir Das 表示：「當今企業正在尋找一種既簡單又全面的解決方案，讓他們可以即時訪問所需的資源，從而輕鬆構建和部署 AI。NVIDIA AI LaunchPad 使全球各地的企業都能夠輕鬆駕馭 AI，為 AI 生命週期的每個階段提供全自動混合雲基礎設施和軟體。」

Manuvir Das

與此同時，英偉達宣佈此前推出的管理型邊緣人工智慧平臺 Fleet Command 全面上市，進入開放使用階段。該平臺可以幫助企業解決在成千上萬個地點的 NVIDIA 認證系統上安全部署和管理 AI 應用的難題。

據介紹，Fleet Command 混合雲託管服務由英偉達直接提供，可用於配合帶有 NVIDIA 認證系統的邊緣 AI 部署。該平臺的早期採用者包括世界領先的零售、醫療和物流公司以及與它們合作的專業軟體公司。

英偉達 AI LaunchPad：加速企業 AI 開發和部署，簡化 AI 生命週期

NVIDIA AI LaunchPad 計劃包含端到端 NVIDIA 硬體和軟體棧，能夠從混合雲到邊緣加速 AI。數字基礎設施領導者 Equinix 將首先加入 AI LaunchPad 計劃，其將通過 Platform Equinix 平臺向全球提供由 NVIDIA 支援的混合雲解決方案。

就其效果而言，Equinix 基礎設施在幾分鐘內就能部署完畢，使企業能夠訪問所有 NVIDIA 為 AI 的幾乎每一個方面提供的支援資源，從資料中心訓練、推理到邊緣上的全面部署。

那麼，操作上有沒有難度呢？據介紹，通過 AI LaunchPad，Equinix 客戶不僅可以在一個類似 AI 開發中心的 NVIDIA Base Command Platform 平臺管理的 NVIDIA DGX SuperPOD 上開發先進的 AI 工作負載，還能通過 Base Command Platform 對戴爾和聯想等領先製造商的 NVIDIA 認證系統上的主流 AI 工作負載進行管理和部署。這些行業標準伺服器建立在 NVIDIA EGX 平臺之上，非常適合用於在 VMware vSphere 上運行 NVIDIA AI Enterprise 軟體套件，進而部署一個可以在混合雲中擴展 AI 的 AI-Ready Enterprise Platform 平臺。

NVIDIA AI LaunchPad 的重要元件和運行流程示意圖。

客戶還可以通過 NVIDIA Fleet Command 託管式雲服務在 Equinix 的分散式邊緣基礎設施上安全地部署和管理 AI 應用。該服務今天已與 NVIDIA 認證系統連線並進入供應階段。

加速主流伺服器上的 AI

AI LaunchPad 的關鍵組成部分是 NVIDIA AI Enterprise。這是一套端到端雲原生 AI 和資料分析軟體，由 NVIDIA 提供優化、支援和獨家認證，可在 VMware vSphere 上運行並帶有 NVIDIA 認證系統。

圖左為 VMware vSphere + NVIDIA AI-READY 平臺；圖右為 NVIDIA AI Enterprise 軟體套件，涵蓋 AI 研究者、資料科學家和開發者使用的 AI 應用、框架和工具。

通過在 NVIDIA 認證系統上運行 AI Enterprise 和 VMware vSphere，企業可以輕鬆地在 Equinix 資料中心部署 AI，在多個節點上實現近乎裸金屬的效能，為大型、複雜的訓練和機器學習工作負載提供支援。

VMware 雲端計算平臺業務高階副總裁兼總經理 Krish Prasad 表示：「企業正在尋求能夠將 AI 與其現有基礎設施輕鬆整合的解決方案。VMware vSphere 是使 AI 成為企業主流技術的關鍵。現在，NVIDIA AI LaunchPad 將把我們的 AI-Ready Enterprise Platform 作為一站式解決方案提供給企業，以實現快速部署、管理和擴展 AI 工作負載。」

混合雲 AI 全球生態系統

為了建立精確的 AI 模型，應用對分佈在公有云和企業私有資料中心的多個外部資料來源的訪問需求越來越多。在這種主流趨勢下，使用 Equinix 等互聯樞紐上的 AI LaunchPad，企業可以通過 Equinix Fabric 安全、高速地接入一個由在 Equinix 運營其數字基礎設施的企業所組成的生態系統。Platform Equinix 在五大洲 60 多座城市戰略性地建立了 220 多個數據中心，這一全球覆蓋範圍也有助於滿足數字企業的實時效能需求。

Platform Equinix 的視覺化示意圖。

對此，Equinix 業務拓展副總裁 Steve Stienhilber 表示：「出於效能、資料隱私、所有權和主權原因，許多行業使用私有云來保有計算資源和資料來降低成本。隨著 NVIDIA AI LaunchPad 通過 Equinix 向全球開放提供，企業將能夠在一個綜合全面的混合雲解決方案中即時訪問 NVIDIA 軟體和 NVIDIA 認證基礎設施。」

為各行業提供混合雲一站式解決方案

汽車行業是 Equinix 所服務的重要行業之一。全球最大的汽車科技公司之一—大陸集團（Continental）使用託管在 Equinix 資料中心的 NVIDIA DGX 系統為製造商開發自動駕駛汽車技術。

大陸集團高階駕駛輔助系統業務研發高階副總裁 Ismail Dagli 表示：「開發先進的 AI 技術需要大量加速計算基礎設施。在 Equinix 資料中心上提供全球可用的 NVIDIA 系統確保了我們的團隊始終能夠訪問他們所需要的資源。在 Equinix 資料中心增加 NVIDIA 支援的 AI 推理和邊緣選項是非常有意義的，因為這能夠使 AI 從開發階段進入到生產階段。」

最後，AI LaunchPad 使用 NVIDIA GPU 和 DPU 提高企業安全性和速度，通過運用由 NVIDIA Ampere 架構 GPU 和 NVIDIA BlueField DPU 驅動的系統，為企業提供加速 AI 工作負載的能力，同時獲得 DPU 提供的安全性、隔離性和提升效能的優勢。

英偉達 Fleet Command：為企業擴展邊緣 AI 服務

近年來，物聯網裝置連線數呈現出線性增長趨勢。人工智慧與物聯網在實際應用中的落地與融合推動人類社會進入萬物智慧互聯時代，隨之產生的資料也將呈井噴式爆發。雲端計算成功地緩解了日益增長的資料所帶來的儲存、管理等問題，但云計算面臨著頻寬不足等問題。這時，邊緣計算的出現成為雲端計算的一種補充和優化。

邊緣計算可以理解為邊緣側、靠近終端（例如手機、智慧語音互動裝置等）的大資料處理，是持續迭代更新的概念。AI 和神經網路等技術的應用和融合使得邊緣計算的核心不斷創新，賦能了邊緣 AI 的落地。隨著機器學習、神經網路訓練等網路架構和工具不斷適配、相容到嵌入式系統上，越來越多的 AI 應用也可以直接在邊緣裝置運行，邊緣 AI 成為了當下討論的熱點。

在 2020 年 10 月的 GTC 技術大會上，英偉達創始人兼 CEO 黃仁勳宣佈了邊緣 AI 方面的重大舉措：推出一項用於簡化伺服器 AI 應用部署和管理的 NVIDIA Fleet Command 新服務早期訪問計劃，通過一個統一的控制平面集中管理分佈在廣大地區的伺服器。

在推出 NVIDIA AI LaunchPad 計劃的同時，英偉達也宣佈託管型邊緣 AI 服務平臺 Fleet Command 全面上市，旨在幫助企業解決在成千上萬個地點的 NVIDIA 認證系統上安全部署和管理 AI 應用的難題。該平臺的遠端管理軟體讓企業在不犧牲邊緣計算的實時處理能力的前提下，能夠安全釋出和管理其 AI 應用。Fleet Command 專為減輕企業 IT 負擔而設計，通過讓使用者能夠從中央位置快速安裝、更新和管理軟體，幫助各處實現 AI 大眾化。

NVIDIA Fleet Command 只需幾分鐘就能完成安裝，管理員可使用它新增或刪除應用、通過無線網路更新系統軟體並監測分佈在遠距離的裝置的健康狀況。

NVIDIA Fleet Command 運行流程示意圖。

NVIDIA 證系統將 NVIDIA Ampere 架構 GPU 和 NVIDIA 網路整合到領先的 NVIDIA 合作伙伴的伺服器中。經過 NVIDIA 認證的系統已配置好能夠為邊緣 AI 工作負載提供出色的效能，並且針對 Fleet Command 進行優化。

此外，企業從 NVIDIA 訂閱的 AI 部署和管理工具可以與作為雲託管開發中心的 NVIDIA Base Command 結合使用。這可以使企業能夠快速將其 AI 項目從原型推向生產。這些平臺使得企業能夠快速構思、部署和管理邊緣和工業 AI。

NVIDIA 企業計算負責人 Manuvir Das 表示：「在邁向物聯網時代的過程中，企業所面臨的最複雜的問題之一便是在邊緣部署和管理 AI 應用，包括智慧工廠、智慧零售和智慧城市。NVIDIA Fleet Command 推動整個企業的效率，幫助它們以前所未有的速度擴展邊緣 AI。」

應用案例

排名前十的零售物流公司 Bollore Logistics 在全球擁有 700 多個配送中心。該公司正在使用 AI 提高其配送中心的訂單執行準確性和速度。同時，該公司也在通過 NVIDIA 合作伙伴 Dematic 和 Osaro 的解決方案，這些解決方案將使用 Fleet Command 來部署及管理其眾多地點的 AI 應用。

AI 諮詢公司 Data Monsters 是使用 Fleet Command 的十多家早期體驗合作伙伴之一。這家 AI 諮詢公司正在與全球最大的飲料公司之一合作，為其眾多生產設施部署和管理軟體，通過計算機視覺捕捉飲料罐的凹痕和褶皺並在出現問題時通知工作人員。

對於 Fleet Command 的體驗效果，Data Monsters 工業 AI 負責人 German Suvorov 表示：「Fleet Command 提供統一的大規模計算資源安全部署和管理方法，包括硬體資源配置、部署自動化和監控。它還提供與 NGC (NVIDIA GPU CLOUD) 的整合，NGC 是一個用於應用容器和 DNN 模型的一站式全球私有註冊中心。所有這些功能使我們的邊緣 AI 應用能夠在全球製造基地網路上進行無縫擴展。」