伺服器記憶體也將出現分層儲存架構了！戴爾伺服器全球總裁揭露2018年伺服器新方向

對於企業資料中心來說，新一代伺服器的功用，不只是要能夠處理各種複雜運算任務，同時也要滿足更多新興應用的需求，包括人工智慧、機器學習等，對於伺服器設計的挑戰也就更高。一手主導Dell伺服器產品戰略的戴爾全球伺服器解決方案部門總裁Ashley Gorakhpurwalla近日來臺時，揭露了明年伺服器技術新布局，Dell不只是要發展分層儲存（multi-tier）記憶體資料存取架構，取代傳統3層式資料存取架構，在散熱機制更要結合深度學習，讓伺服器散熱可以變得更有智慧。

今年9月，Dell合併EMC正式滿1周年，這樁被稱為科技史上最大的併購案，不只併購金額嚇人，收購完後，如何完成兩家公司部門、眾多產品線整併更是另一項艱困考驗。在Dell已待了超過17年的Ashley Gorakhpurwalla感受最深。他表示，整併過程是一項非常耗大的工程，需要投入許多人力和資源才得以完成。「新成立Dell科技花了相當長時間，才將兩家公司整合成為一家能提供完整服務的科技公司，」他表示，以目前整併來說，伺服器和網通產品線，還是來自原來的Dell，儲存產品則來自Dell和EMC。「整合後，才可以全力來發展技術」他說。

隨著高速儲存應用需求的崛起，Ashley Gorakhpurwalla觀察到，近來，伺服器I/O技術發展也開始出現不一樣的改變，在高速I/O介面上，目前伺服器市場上，有越來越多伺服器廠商的新款伺服器，都已開始支援新一代高速傳輸介面NVMe。Dell也是其中之一，從第13代PowerEdge伺服器產品開始支援NVMe，到了今年第14代PowerEdge伺服器推出時，在大部分新推出的伺服器產品中皆已開始支援NVMe，提供更高速儲存應用的使用，而對於高密度儲存應用的伺服器產品，更擴大支援NVMe，若以其中一款以儲存應用為主的R740xd機種為例，最多可以支援擴充到24個NVMe。

Ashley Gorakhpurwalla表示，目前針對主流1U和2U的PowerEdge伺服器產品，都已支援NVMe，甚至針對2U的伺服器產品支援NVMe數量更多，是前一代6倍，未來將可提供企業用戶，用於HPC高效能運算、加速資料庫處理，及串流資料分析等應用。

他認為，NVMe成為伺服器儲存介面主流，「是一個自然演變過程，」他表示，隨著高速儲存邁向主流應用，NVMe將適合用在需要HPC高效能運算，或應用在即時資料儲存上，至於同樣PCIe為基礎的SATA介面，他認為，雖然不會消失，但在應用上將不如以往重要，例如將以非關鍵性系統的資料存取為主。

在伺服器I/O介面全面往NVMe靠攏之際，高速儲存裝置同樣有了新變化，採用不同新記憶體技術的高速儲存裝置開始出現，如Intel Optane等，可以被當成是儲存等級記憶體（Storage Class Memory）來使用，有別於傳統的NAND Flash和DRAM，存取速度比傳統固態硬碟快，更貼近DRAM，同時又具有NAND Flash資料保存的優勢。

Dell這一代PowerEdge伺服器產品，也開始正式支援新主流的混用式記憶體NVDIMM-N，同樣當作儲存等級記憶體（速度接近DRAM但資料可持續存在）來使用，不過目前只有在少部分的新款伺服器機型上才有提供，如R640、R740、R740xd及R940等。他表示，目前也正與其他合作夥伴共同合作，明年也將持續發展NVDIMM，幫助這個新技術可以在伺服器市場獲得更廣泛採用。

不過，Ashley Gorakhpurwalla更看好非揮發性記憶體NVM技術的明年發展，甚至他認為，這將會影響伺服器未來設計架構的發展，不只是x86系統本身會受影響，甚至更將延伸到作業系統層，也包含用來建立虛擬機器的Hypervisor軟體層，他也觀察到，有越來越多記憶體和儲存廠商，開始投入研發新的NVM軟體技術，例如NVDIMM等，這也將成為影響明年伺服器技術發展的關鍵。

分層儲存的記憶體架構即將出現，不只傳統3層，還會有不同用途的分層

甚至，Ashley Gorakhpurwalla更認為，這些儲存等級的記憶體技術出現後，對於傳統設計伺服器資料存取的3層式架構，將帶來重大改變，他進一步說明，以後伺服器資料存取時，將不再只分三層（第一層：CPU快取、第二層：DRAM、第三層：SSD固態硬碟或傳統硬碟）來存取資料，而是可以將第2層和第3層之間的資料存取，再切分出很多個存資料用的儲存記憶體層，來存放不同用途的資料。 「就像是儲存系統常見的自動分層概念一樣，可以視資料本身的重要性或存取頻率，動態地讓資料在不同層級儲存裝置上，來滿足企業不同應用的需求。」他說。

為何伺服器需要建立更多層的儲存用記憶體，而不是越少層越好？Ashley Gorakhpurwalla解釋，原因在於，未來企業對於不同用途的資料，在存取延遲上會有各式不同的需求。他也同意存取延遲的重要性，「所以才會有企業不惜花大把的鈔票，為的就是讓資料存取可以更靠近CPU些」，但他認為，這樣的作法代價實在太高，而當改採用分層架構來存取資料時，資料離開了CPU的快取之後，進到的下一層，以後可以是非常快速存取的記憶體，可用來存取使用頻率較高的重要資料（或稱為Hot Data），再下到一層，記憶體取得的容量加大，但速度就沒上一層快，資料更下一層，記憶體可以配置的容量變更大，但存取速度也變得更慢，可用來存取較無迫切使用需求的資料，「但基本上，速度還是會比傳統SSD快。」所以，資料就不一定全部都要離CPU越近越好，而是能按存取的資料性質，移動到不同層的儲存等級記憶體來存放，同時兼顧成本和存取效能，這些新式的儲存記憶體都具備體積小且高速存取的特性。

Ashley Gorakhpurwalla補充，目前有許多儲存等級記憶體技術，都持續在發展當中，這些高速儲存用記憶體可能是一種快閃記憶體（Flash Memory），或是插在DIMM插槽上的Flash儲存裝置。當有了分層架構以後，也能透過軟體儲存服務，來管理這些不同記憶體層資料間的傳遞，包括資料如何加以重覆存取使用，或利用儲存快照（snapshot）方式來進行資料備份，甚至還可以將不同伺服器內多層儲存記憶體，建構成共享式記憶體資源池（Resource Pool），可以依照使用者的需求，快速靈活的調度記憶體資源，做為企業不同應用系統資料存取的使用。

不過，Ashley Gorakhpurwalla也坦言，目前硬體分層技術雖然已經成熟，要讓伺服器的資料存取，可以經過不同層級儲存裝置來存放資料，並不困難，「未來真正的挑戰在於軟體，」他直言，現在還沒有一套真正的記憶體分層管理軟體，可以同時管控不同層記憶體間的資料轉移，或是提供其他軟體儲存服務，甚至在不同伺服器之間的儲存記憶體的連接技術也還不夠成熟，如Fabric等。「這也是我們公司的強項，同時擁有記憶體和儲存能力技術，能夠幫助企業將儲存服務帶到記憶體，這將是明年Dell伺服器產品發展的一大重要布局。」他說。

Ashley Gorakhpurwalla還提到今年伺服器另一個重要改變，就是伺服器處理器改用Skylake新架構，大幅增加核心數量，甚至最多上看28核心，可以獲得比前代高出6成的運算效能，可以用在HPC及AI應用。不過隨著伺服器配置的處理器核心數越多，運算效能越高，可以用來執行越複雜的運算工作，衍生而來的就是功耗也跟著變大的問題，所以他也表示，伺服器散熱機制上也必須要有新的作法，甚至也要滿足部分採用高密度設計的伺服器產品的要求。

以Dell的作法為例，Ashley Gorakhpurwalla就提到，他們在新推出的伺服器產品中，不只採用了更先進的氣流散熱和排熱設計，還在一款採用高密度設計的機架式伺服器產品C6420上，開始結合液冷散熱的新技術，來幫助處理器散熱，能做到比傳統空氣冷卻更直接的冷卻效果，甚至用電效率能比起前一代C6320提高達6成，藉此提供更高密度的儲存或運算能力，「將來在其他的Dell伺服器產品也會跟進採用。」他說。

除此之外，為了因應企業AI應用需求的增長，他還表示，在設計伺服器時，另外還針對了PCIe介面卡新增散熱控制功能，他們利用深度學習技術，將散熱感測器蒐集到的氣流等資料，持續餵給機器訓練，建立散熱控制預測模型，能依據周圍環境溫度即時變化，來預先針對個別的介面卡進行散熱氣流的調校，以提升GPU或FPGA加速器的使用效率。未來伺服器散熱也將變得更聰明。