突破內(nèi)存瓶頸,英特爾攜華為打通智能計算任督二脈

2020-07-09 11:01:52來源:威易網(wǎng)作者:

作為全球唯一一家擁有CPU、GPU、FPGA、ASIC全場景芯片的公司,近年英特爾加速推進智能化平臺的布局,不僅實現(xiàn)了異構算力整合,還實現(xiàn)了從云到端、從訓練到推理的全業(yè)務AI場景覆蓋。

經(jīng)常有人問,為什么京東物流比菜鳥物流快?上午訂貨,下午送達?怎么做到的?

很簡單,因為京東是自建物流,全國各大城市都建有京東的大型物流倉庫,通過區(qū)域需求分析提前備貨,接到訂單就近發(fā)貨,同城送達。菜鳥物流通過與各大快遞公司建立合作關系,貨物寄送依賴賣家和快遞公司處理,大多是跨地區(qū)、點對點寄送,由買家到當?shù)匚锪髡绢I取,物流較慢。

這就好比內(nèi)存和硬盤的區(qū)別,內(nèi)存讀寫速度快,離CPU較近,能以最快的速度處理指令。而硬盤讀寫速度較慢,數(shù)據(jù)需先調(diào)入內(nèi)存,再由CPU讀取。倘若要保持計算過程的高速運轉,就必須保證內(nèi)存容量足夠大,但實際情況是,服務器往往受限于插槽數(shù)量以及單根內(nèi)存容量,內(nèi)存空間擴展往往受到極大限制。

隨著企業(yè)數(shù)據(jù)呈現(xiàn)出爆炸式增長態(tài)勢,如何化解不斷增加的數(shù)據(jù)處理需求與捉襟見肘的內(nèi)存性能需求之間的矛盾,已成為企業(yè)推進數(shù)字化和智能化轉型面臨的主要挑戰(zhàn)之一。值得慶幸的是,隨著英特爾傲騰持久內(nèi)存的推出,問題正在迎刃而解。

何謂傲騰持久內(nèi)存?

傲騰持久內(nèi)存全稱為Optane Persistent Memory,基于3D XPoint持久化內(nèi)存,是英特爾智能計算平臺構建的重要組成部分。自2019年發(fā)布以來,已更新到第二代,傲騰持久內(nèi)存的推出并非取代傳統(tǒng)DRAM、NAND,而是與之共存,填補二者之間在容量、性能上的空檔,構成一個完整的存儲體系。

相比DRAM,傲騰持久內(nèi)存容量和價格均占優(yōu);相比NAND SSD,傲騰持久內(nèi)存性能占優(yōu)。最大的不同在于傲騰持久內(nèi)存提供兩種運行模式,即App Direct模式與內(nèi)存模式。

\

App Direct模式是一個持久應用模式,只有在操作系統(tǒng)和應用已經(jīng)被開發(fā)出來時,才可以充當新一層的內(nèi)存,并加以使用。通過APP Direct模式,傲騰持久內(nèi)存與DRAM可以進一步優(yōu)化應用,確定數(shù)據(jù)存放的最佳位置,以提升整體性能。

內(nèi)存模式是易失性存儲,可理解為系統(tǒng)額外擴展內(nèi)存,可以與系統(tǒng)原有DRAM一起,在無需重寫軟件情況下,解決用戶內(nèi)存容量不足問題。由于是與內(nèi)存捆綁在一起,傲騰持久內(nèi)存能夠幫助用戶建立更多的VEM、容器及應用密度。對于內(nèi)存擴容能力有限的服務器,可通過傲騰持久內(nèi)存來提升服務器整體性能,而不用更換任何部件。

企業(yè)智能化轉型,傲騰持久內(nèi)存價值如何體現(xiàn)?

2020年,新冠肺炎疫情的暴發(fā)以及新基建的推出,深刻的影響著企業(yè)對數(shù)字化轉型的態(tài)度。一方面,物聯(lián)網(wǎng)、5G、大數(shù)據(jù)以及人工智能等新興技術在抗擊新冠肺炎疫情以及推動企業(yè)復工復產(chǎn)中的成熟表現(xiàn),讓企業(yè)堅定推進數(shù)字化轉型的決心和信心。另一方面,“新基建”的推出進一步強化了數(shù)字轉型、智能升級、融合創(chuàng)新等基礎設施服務體系建設,不斷釋放推動企業(yè)數(shù)字化轉型的新動能。

雙重因素疊加雖然為企業(yè)轉型提供了良好發(fā)展條件和時代環(huán)境,但轉型過程依然任重道遠。

首先,基于安全性和可靠性等多重因素考慮,企業(yè)都不敢冒然將研發(fā)、生產(chǎn)等核心業(yè)務托管到云端。對于這類業(yè)務,企業(yè)大多選擇在本地數(shù)據(jù)中心部署,而隨著數(shù)字化應用和工業(yè)智能化場景日趨增多,企業(yè)每天需要處理的數(shù)據(jù)也在急劇飆升,不斷對平臺性能提出了更高的要求,對數(shù)據(jù)的存儲管理能力也提出了更大的挑戰(zhàn)。

其次,隨著物聯(lián)網(wǎng)、邊緣計算以及人工智能等技術融入到工業(yè)場景,企業(yè)的工業(yè)智能化水平也在逐步提升,工業(yè)智能化不僅會產(chǎn)生海量過程工業(yè)數(shù)據(jù),而且大多是低延時、高實時性的邊緣計算應用場景,對服務器性能、可靠性和穩(wěn)定性都有極高要求。

近年,針對企業(yè)關鍵業(yè)務數(shù)據(jù)的急劇增長,以及工業(yè)智能化場景應用的大量落地,為支撐海量數(shù)據(jù)存儲以及智能計算需求,英特爾通過智能計算能力革新,為華為新一代FusionServer Pro智能服務器搭配AI加速的至強可擴展處理器以及傲騰持久內(nèi)存,不僅突破傳統(tǒng)服務器廣泛存在的存儲性能瓶頸,更讓服務器具備AI加速能力。在面對海量密集型智能計算時,能極大提升數(shù)據(jù)處理分析效率。

在制造業(yè),目前華為FusionServer Pro智能服務器在諸多場景得到了應用。

\

在產(chǎn)品研發(fā)應用領域,隨著企業(yè)開啟數(shù)字化工廠建設工作,為縮短建設周期并降低建廠成本,越來越多的企業(yè)依賴工業(yè)仿真軟件對從產(chǎn)品設計、工藝、裝配、生產(chǎn)線及工廠布局進行全三維虛擬化仿真,以驗證設計過程。由于仿真過程涉及大量復雜的靜動態(tài)結構性分析,不僅對平臺的整體性能有這極高要求,過程中更會產(chǎn)生海量的數(shù)據(jù)。

為支撐復雜的虛擬仿真計算過程,企業(yè)主要采用服務器、工作站等高性能平臺,這需要配置更快的CPU、GPU以及更大的內(nèi)存。然而受限于服務器和工作站有限的內(nèi)存擴展能力,往往會出現(xiàn)內(nèi)存已用盡,而CPU利用率卻很低的情況,使得整體性能無法充分發(fā)揮,英特爾傲騰持久內(nèi)存恰好可以解決這一問題。

\

在最新的存儲性能測試中,傲騰持久內(nèi)存的延遲低至350納秒,接近普通DRAM性能,單根容量最高可達512G,TB級的內(nèi)容容量擴展能極大地滿足虛擬仿真過程海量數(shù)據(jù)計算對內(nèi)存容量及性能的需求。

華為為德國幾大領先車企提供 FusionServer Pro X系列高密服務器,搭配的就是英特爾至強可擴展處理器和傲騰持久內(nèi)存。以碰撞測試為例,這些德國大型車廠每年要做幾萬次碰撞模擬,只有幾百次是用真實的原型車碰撞模擬,其他都是通過軟件實現(xiàn)的,每年所產(chǎn)生的仿真數(shù)據(jù)高達幾十EB,雖然經(jīng)過數(shù)據(jù)過濾選出關鍵數(shù)據(jù),但是數(shù)據(jù)量還是高達幾百TB。而利用傲騰持久內(nèi)存的TB級內(nèi)存級擴充能力,不僅幫助車企提高汽車設計效率、縮短設計周期,還幫助節(jié)省了能耗和物理空間,簡化了使用和維護,并大幅降低了總體成本。

在業(yè)務運營領域,以ERP、MES為核心的業(yè)務資源運營對內(nèi)存及緩存的容量和性能延時極為敏感。內(nèi)存越大意味著可支撐的用戶并發(fā)數(shù)越多,內(nèi)存延時越低則代表I/O性能更好,單位時間內(nèi)數(shù)據(jù)處理效率越高。

ERP處理特點是每到月底做報表統(tǒng)計時,各部門業(yè)務數(shù)據(jù)都要匯總進來處理,數(shù)據(jù)計算量特別高,基本好多天都處于峰值,這時候內(nèi)存容量就捉襟見肘。

在生產(chǎn)過程中每分鐘都有大量的工廠基礎數(shù)據(jù)被收集到MES系統(tǒng)中,長期運行MES系統(tǒng),必然需要超大容量的存儲才可以保證數(shù)據(jù)完整性,所以在MES系統(tǒng)硬件采購中,要保證系統(tǒng)具有良好的擴展能力。而傲騰持久內(nèi)存單根512GB的超大容量以及接近DRAM的讀寫性能,讓其在應對ERP、MES這類高并發(fā)業(yè)務應用是擁有得天獨厚的優(yōu)勢。

在生產(chǎn)制造領域,隨著物聯(lián)網(wǎng)、5G、邊緣計算以及人工智能等技術融入到工業(yè),越來越多的企業(yè)智能化場景得以落地,如VR/AR培訓、產(chǎn)品預測維護、機器視覺檢測等,由于這些智能化場景依賴于AI推理運算,需要高性能的邊緣服務器做支撐,不但內(nèi)存容量需求大,對計算性能要求也很高。

美的與英特爾合作打造的工業(yè)視覺檢測云平臺,就是以Analytics Zoo數(shù)據(jù)分析 + AI平臺,利用 Spark的各種流水線、內(nèi)置模型、特征操作等,構建基于大數(shù)據(jù)的深度學習端到端應用。整個視覺檢測過程一個重要的性能瓶頸節(jié)點是,從磁盤中讀取輸入數(shù)據(jù)并進行預處理,構建模型并進行訓練和推理分析,這個過程對邊緣計算服務器的AI計算能力以及內(nèi)存性能有著很高的要求。

目前,第二代英特爾至強可擴展處理器以及傲騰持久內(nèi)存已經(jīng)發(fā)布,針對工業(yè)邊緣計算場景,兩大產(chǎn)品組合能從智能計算和內(nèi)存擴展兩個方面進一步優(yōu)化服務器性能,無需更換現(xiàn)有硬件。

針對日趨復雜的異構算力融合以及跨平臺架構的AI開發(fā)需求,英特爾還于2019年發(fā)布了oneAPI統(tǒng)一編程平臺以及端到端大數(shù)據(jù)處理+分析平臺,實現(xiàn)了跨CPU、GPU、FPGA、ASIC的異構算力整合,并提供跨架構、跨平臺的AI應用開發(fā)支持,解決了開發(fā)者在不同架構開發(fā)需要使用不同的語言、庫和軟件工具進行編程的局限,真正意義上放大了AI開發(fā)的價值。

隨著企業(yè)上云以及工業(yè)智能化成為企業(yè)轉型的主要方向,其對IT性能也有更高的要求:

第一,企業(yè)需要性能更強的處理器以及容量更大、性能更好的內(nèi)存。第二,面對日漸增多的訓練推理場景,企業(yè)需要服務器的計算過程更加智能;第三,對于多元化應用發(fā)展,企業(yè)對跨架構的異構算力整合有著急迫需求。

作為全球唯一一家擁有CPU、GPU、FPGA、ASIC全場景芯片的公司,近年英特爾加速推進智能化平臺的布局,不僅實現(xiàn)了異構算力整合,還實現(xiàn)了從云到端、從訓練到推理的全業(yè)務AI場景覆蓋。為加速智能應用落地步伐,為中國工業(yè)智能化轉型賦能,英特爾正在不斷深化與華為在服務器領域的合作,通過FusionServer Pro智能服務器為企業(yè)數(shù)字化和工業(yè)智能化賦能,讓智能計算在云、邊緣到端的自由流動。



 

關鍵詞:英特爾華為