AMD釋出全新架構計算卡Instinct MI100：AI效能暴漲7倍

在遊戲領域，基於RDNA 2架構的Radeon RX 6000系列顯示卡已經開始閃亮登場。在高效能運算領域，基於CDNA全新架構的新一代計算卡Instinct MI100也終於登臺了！

AMD Radeon Instinct系列計算卡已經發展了多款型號，但是在此之前，AMD GPU一直都是一套架構打天下，遊戲、計算不分家，自然不利於不同方向的深度優化。

今年3月份，AMD宣佈了首個專門針對資料中心高效能運算而設計的CDNA架構，從此與RDNA遊戲架構分道揚鑣。二者雖然還有一些共通點，但在設計、優化上已經涇渭分明，在各自領域的效能、能效也更高。

而在產品命名方面，AMD計算卡也放棄了Radeon字樣，不再稱呼Radeon Instinct，而是簡單地叫做Instinct。

AMD Instinct可以說是專為HPC高效能運算而生的，志在推動超級計算機進入百億億次計算時代(ExaScale)。

回顧歷史，21世紀的前10個年頭屬於萬億次計算時代(TeraScale)，完全依賴CPU運算；最近10個年頭屬於千萬億次計算時代(PetaScale)，GPU加速運算展露鋒芒。

不過近兩年，傳統的GPU加速計算也已經初顯疲態，效能增強曲線也緩了下來，必須實現全新的突破。

CDNA架構和MI100加速卡就是這樣的突破性產品，也是AMD開拓新未來的新旗艦。

AMD Instinct MI100是其迄今為止效能最高的HPC GPU，FP64雙精度浮點效能首次突破10TFlops(也就是每秒1億億次)，並在架構設計上專門加入了Matrix Core(矩陣核心)，用於加速HPC、AI運算，號稱在混合精度和FP16半精度的AI負載上，效能提升接近7倍。

另外，新卡的外觀設計也令人眼前一亮，更有質感的拉絲外殼，深灰色調，非常沉穩大氣。

它整合多達120個計算單元、7680個流處理器，搭配32GB HBM2，頻寬高達1.23TB/s，同時支援PCIe 4.0，整合Infinity Fabric x16高速互聯通道，峰值頻寬達276GB/s(相當於PCIe 4.0 x16的大約4倍)，而整卡功耗控制在300W。

計算效能方面，FMA64/FP64雙精度為11.5TFlops(每秒1.15億億次)，FMA32/FP32單精度為23.1TFlops(每秒2.31億億次)，FP32 Matrix單精度矩陣計算為46.1TFlops(每秒4.61億億次)，FP16 Matrix半精度矩陣計算為184.6TFlops(每秒18.46億億次)，Bfloat16浮點為92.3TFlops(每秒9.23億億次)。

這些數位是什麼概念呢？

就拿11.5TFlops的雙精度效能來說，2000年排名世界第一的超級計算機ASCI White，這個指標也不過12.3TFlops，但卻是付出了600萬瓦的功耗、106噸的身材才獲得的，Instinct MI100卻只要300瓦、1.16千克。

換言之，如今的一塊卡，就相當於20年前的一個大規模計算叢集！

AMD上代計算卡Instinct MI50採用的還是Vega 20核心，60個計算單元，3840個流處理器，32GB HBM2視訊記憶體頻寬1TB/s，Infinity Fabric匯流排頻寬92GB/s，功耗300W。

Instinct MI100的核心規模翻了一番，視訊記憶體頻寬提升了超過20％，Infinity Fabric頻寬提升了整整2倍，但是功耗卻完全沒變(工藝應當也還是7nm)，新架構的能效可見一斑。

新卡的效能更是不可同日而語，FP64雙精度、FP32單精度效能均提升74％，FP32矩陣效能提升接近2.5倍，AI負載效能更是幾乎7倍的飛躍。

在美國能源部旗下的橡樹嶺國家實驗室，AMD MI100計算卡已經在支撐多項百億億次科研專案，涉及NAMD分子動力學模擬、CHOLLA星系形成研究、PIConGPU鐳射放射癌症療法、GESTS流體動力學等等諸多前沿科技。

AMD Instinct MI100計算卡還有一個絕佳搭檔，那就是AMD自家的霄龍資料中心處理器，慧與、戴爾、超威、技嘉等多家行業巨頭都有提供這種雙A方案。

當然了，只有硬體，是做不成高效能運算的，AMD同時一直在推進一站式軟體解決方案ROCm。

從2016年初入江湖的1.x版本，2018年奠定基礎的2.0版本，到2019年專注於機器學習的3.0版本，再到如今最新的4.0版本，AMD ROCm已經打造成了一整套針對機器學習、高效能運算的百億億次級開發方案，規劃中的各項功能特性也基本都已經實現。

軟體優化的力量無疑是巨大的，可以充分釋放硬體潛力，比如說上代MI50，搭配ROCm 3.0的話效能相比於搭配ROCm 2.0可以提升3-4倍，而最新的MI100、ROCm 4.0聯合，更是可以輕鬆帶來5-8倍的效能提升。

AMD ROCm生態的進步速度非常快，已經有眾多領域的頭部廠商採納和支援，而且它沿襲了AMD一貫的原則，那就是完全開源開放，非常方便程式碼遷移，比如說HACC(宇宙學)只用了一個下午，SPECFEM3D(地震學)半天就搞定，CHOLLA(天體物理學)花了幾天，QUDA(量子物理學)也不過21天。