與NVIDIA等企業(yè)深度合作,Arm Neoverse在AI時代大放異彩
數(shù)字經(jīng)濟浪潮下,以 ChatGPT 為代表的生成式 AI 應用的爆發(fā),正在引發(fā)新一輪服務器的算力需求。
Arm 高級副總裁兼基礎設施事業(yè)部總經(jīng)理 Mohamed Awad
AI的發(fā)展對服務器的架構提出了新的需求
不過,目前市場上的服務器大部分采用的都是傳統(tǒng)的系統(tǒng)架構,不僅無法達到內(nèi)存的一致性,而且也直接限制了產(chǎn)品最終的性能水平。
基礎設施領域的傳統(tǒng)系統(tǒng)架構
“為了更好的支持生成式 AI對于服務器的需求,新的現(xiàn)代化系統(tǒng)架構在基礎設施領域應運而生。以其中一種新型架構來看,和傳統(tǒng)服務器的架構相比,新型架構中的每一個CPU都可以單獨和一個加速器相連,由于此架構中的CPU是根據(jù)用戶的實際場景需求所進行定制化設計,會帶來更優(yōu)異的內(nèi)存一致性,讓加速器的使用更加高效,體現(xiàn)出產(chǎn)品的最佳性能,如此一來,才能更好地滿足包括生成式 AI在內(nèi)的未來基礎設施的市場需求。”Arm 高級副總裁兼基礎設施事業(yè)部總經(jīng)理Mohamed Awad在11月27日在深圳舉辦的Arm Tech Symposia 年度技術大會上說道。
面向新的技術需求,基礎設施領域出現(xiàn)了新的現(xiàn)代化系統(tǒng)架構
Arm Neoverse已被 NVIDIA等眾多客戶采用
基于這樣的技術發(fā)展趨勢,目前在服務器等基礎設施領域, Arm已經(jīng)針對于人工智能 (AI) 正在發(fā)生的一些變化推出了一系列的創(chuàng)新解決方案。
“以NVIDIA GH200 Grace Hopper 超級芯片為例”,Mohamed Awad介紹道,“該芯片所使用的架構中采用了72 顆 Arm Neoverse 核心,借助 Arm 技術帶來的靈活性進一步實現(xiàn)了系統(tǒng)的優(yōu)化。此外,該芯片還能充分利用Arm強大的軟件生態(tài)系統(tǒng),加上來自 NVIDIA 的 GPU的組合,其AI 性能較基于x86架構的系統(tǒng)可提升 10 倍?!?/span>
NVIDIA GH200 Grace Hopper 超級芯片采用 Arm Neoverse 搭配 NVIDIA GPU,滿足 AI 性能的需求
除了英偉達之外,目前阿里巴巴等超大規(guī)模云服務商也都選擇了和 Arm 合作。比如,阿里巴巴的倚天 710 就是基于 Arm Neoverse 平臺打造的 CPU;另外,像鴻鈞微電子以及遇賢微電子等初創(chuàng)企業(yè),也都基于 Arm Neoverse平臺打造了服務器 SoC 的解決方案;而中國本土的公司云豹智能,也借助 Neoverse 來引領DPU的創(chuàng)新發(fā)展;聯(lián)想則更多地是將基于Arm架構的解決方案部署到 5G 領域。通過與上述中國本土公司強有力的合作,不僅為這些企業(yè)打造了最適合自己需求的解決方案,而且也促進了Arm Neoverse平臺業(yè)務在中國的進一步發(fā)展。
從超大規(guī)模云服務商到初創(chuàng)企業(yè),在 Arm 平臺上賦能創(chuàng)新
Arm Neoverse CSS將進一步為客戶提質(zhì)增效
基于Arm Neoverse平臺良好的客戶基礎與市場需求,現(xiàn)在Arm又推出了Arm Neoverse 計算子系統(tǒng) (CSS),合作伙伴可以直接采用也可按需選用,以進一步幫助客戶加速產(chǎn)品的上市進程。
Arm Neoverse 計算子系統(tǒng) (CSS)
Mohamed Awad指出:“通過 Neoverse CSS 能夠幫助我們的合作伙伴進一步降低投資,加速整個生態(tài)系統(tǒng)對我們解決方案的可訪問性,同時也加速合作伙伴產(chǎn)品的上市時間。目前,我們已經(jīng)得到了很多合作伙伴的反饋。其中,一個合作伙伴反饋說,通過使用 Neoverse CSS,節(jié)省了長達80人/年的工程師時間。與此同時,根據(jù)另外一個客戶的反饋,通過使用我們的 Neoverse CSS,助力他們的項目從概念到流片僅耗時13個月。”
值得一提的是,近期微軟發(fā)布的Cobalt 100 CPU,采用了128 個Arm Neoverse核心,也是基于Arm的 Neoverse CSS所設計的方案。此外,也有中國的合作伙伴正在基于 CSS 進行開發(fā),未來類似的案例還將不斷增多。
微軟 Azure Cobalt 100
為了進一步結合生態(tài)系統(tǒng)的力量、簡化定制芯片的開發(fā)流程,并且讓交付變得更加容便捷,在 Neoverse CSS的基礎之上,Arm也推出了Arm全面設計 (Arm Total Design) 生態(tài)計劃,這個生態(tài)計劃結合了專用集成電路 (ASIC) 設計公司、IP 供應商、EDA 工具提供商、代工廠和固件開發(fā)廠商等芯片設計全鏈路所需的生態(tài)支持,幫助計劃采用 Arm Neoverse CSS 的客戶奠定生態(tài)支持的基礎,加速他們的產(chǎn)品開發(fā)進程。
Arm 全面設計 (Arm Total Design) 生態(tài)系統(tǒng)助力合作伙伴加速基于 Neoverse CSS 的芯片開發(fā)
“近年來,Arm在致力于IP 授權業(yè)務發(fā)展的同時,也在不斷為合作伙伴提供完整的解決方案,以幫助他們快速地將產(chǎn)品推向市場,形成差異化的競爭優(yōu)勢。Arm 全面計算解決方案 (Arm Total Compute Solutions)、Arm Neoverse平臺、Arm Corstone 以及 SOAFEE 等,都是 Arm 的計算平臺在市場當中得以廣泛應用的例證,這些平臺可以幫助我們向生態(tài)伙伴提供一個完整、集成的解決方案,可助力客戶快速采用并推出他們的產(chǎn)品及服務?!盡ohamed Awad說。
Arm 為移動、基礎設施、物聯(lián)網(wǎng),以及汽車領域推出對應的計算平臺,可以加速合作伙伴產(chǎn)品上市進程
最后,在談及對于中國市場的看法時,Mohamed Awad表示:“中國是 Arm 非常重要的市場之一,來自中國市場的創(chuàng)新也是 Arm 不斷發(fā)展,并在業(yè)務上取得成功的原因之一。如今,中國合作伙伴基于 Arm 架構芯片的總出貨量已累計達300億顆,這個數(shù)字確實驚人。目前我們在中國有近 400 家技術授權客戶,這個數(shù)字每個月都在不斷攀升。未來,我們也將持續(xù)通過與安謀科技的合作,以進一步助力中國本土合作伙伴的發(fā)展。”
