儲存月報第42期：儲存I/O加速的另類思路——快取演算法的AI優化

現今儲存陣列效能的進步，一大半都得歸功於儲存媒體的進步，藉由非揮發性的固態儲存記憶體技術，填補了硬碟與DRAM之間的效能落差，從而為儲存陣列提供更高的存取速度。

因而固態儲存也成為推動儲存裝置效能進步的主要驅動力，應用範圍也不斷地擴展。不過，在固態儲存應用的熱潮下，也有一些廠商反其道而行，認為只需結合改進的快取技術，基於傳統機械硬碟的儲存架構，也能發揮足以比擬快閃儲存架構的效能，同時還能避免快閃儲存的高價與耐用性問題。

固態儲存發展的隱憂

固態儲存技術正持續往高效能與低成本等兩個方面發展，前者如PCM、MRAM、FeRAM與3D Xpoint等儲存級記憶體（Storage Class Memory，SCM）技術，可以提供介於DRAM與NAND Flash記憶體之間的低延遲效能；後者則如QLC與PLC等，可以提供更高的儲存密度與更低的單位儲存成本，以作為傳統機械硬碟的替代。

不過在這一片固態儲存發展榮景下，卻也潛藏了問題——效能、成本與可靠性/壽命無法並存。SCM等高效能的固態儲存媒體，成本十分高昂；至於TLC與QLC等低成本的快閃儲存媒體，又存在效能較低，且耐用性低落的問題。

考慮到成本，SCM的應用目前僅限於少數高階或高效能應用取向的產品上，而在NAND Flash方面，SLC與MLC等Flash記憶體也因較高的成本，已陸續退出固態儲存應用主流，為TLC與QLC所取代。但TLC與QLC雖然成本較低，效能與耐用性卻是每況愈下，至於新近推出的PLC記憶體，成本雖然較QLC更低，但耐用性與效能也更等而下之——PLC需要控制32組電壓狀態，雖然能提供更高的儲存密度，但可靠性卻也更低。

固態儲存難以兼固效能、耐用性與成本

固態儲存正往更低成本與更高效能兩個方向發展，但也面對難以兼顧效能、耐用性與成本的問題。以NAND Flash記憶體來說，發展路線從SLC、MLC、TLC、QLC，以至剛推出的PLC，朝著更高儲存密度、更低單位成本，但耐用性也更低的方向走。

資料來源：WD

兼顧儲存效能與成本的新思路——快取演算法的優化

也就是說，固態儲存雖然正往著更高速，以及更低的單位成本兩個方向發展，但高速與低成本是不可兼得的，既快、又便宜、而且耐用的固態儲存技術，目前尚不存在，高速的固態儲存媒體必須付出高成本的代價，而低成本的固態儲存媒體則帶有低效能與低耐用性的隱憂。

僅管如此，為了降低儲存陣列的整體成本，儲存廠商仍持續引進更低成本的Flash記憶體，目前全快閃儲存陣列使用的Flash記憶體主流已經是TLC，QLC也已被應用在消費端SSD產品上，並開使進入企業級儲存陣列應用。另一方面，這些儲存廠商也透過控制器損耗均衡機制的優化，與更高比例的過量空間配置（over provisioning），以求克服QLC記憶體的耐用性問題。

不過，一些廠商並不認同這種透過低成本Flash記憶體來取代硬碟的做法，反對一味地依賴Flash儲存，而認為傳統的機械硬碟結合更有效的快取演算法，要比QLC等低價Flash記憶體，更能達到兼顧效能、成本與可靠性的目的。

在低成本應用領域，7200轉機械式硬碟相對於QLC SSD，在效能方面固然瞠乎其後，但成本仍具備優勢。所以只要透過快取演算法的優化，讓快取命中率達到90～100%，I/O負載便不會直接落在硬碟上，藉此將能避開機械式硬碟的低效能問題，而由DRAM快取記憶體來回應I/O存取需求。如此一來，由快取記憶體搭配機械硬碟的混合儲存陣列，也能提供足以比擬全快閃儲存陣列的高效能。

Infinidat的神經快取演算法

在這些訴求快取演算法優化、而不藉助快閃儲存媒體的廠商中，Infinidat是最具代表性的一家。

Infinidat是總部位於以色列的新創儲存廠商，旗下主力產品Infinibox，是高階儲存領域的傳奇人物Moshe Yanai，繼EMC Symmetrix與IBM XIV之後，領導開發的第三款高階儲存產品。

與其他廠商相比，Infinidat一大特點是堅持混合式架構，宣稱透過大容量的DRAM與Flash快取記憶體配置，再結合專屬的神經快取演算法（neural caching），無須全快閃組態，就能提供比擬全快閃陣列的效能。

Infinibox的架構分為DRAM、Flash與硬碟等3層，DRAM是主要快取記憶體，Flash作為輔助快取記憶體，SAS硬碟則是永久儲存層。每一套Infinibox都搭載了1～3TB的DRAM，以及92TB到最高368TB的Flash快取記憶體，快取容量相當於底層硬碟總容量的2～9%。而其專屬的神經快取演算法則使用人工智能和機器學習技術，來不斷學習和適應每個系統的獨特數據使用模式，因此可以隨著系統運行時間的累積，持續提高快取效能。

Infinibox宣稱，藉由neural caching神經快取演算法，Infinibox擁有當前市場上最高的快取命中率，寫入快取通常為100％，讀取快取也能達到93％至99％，存取I/O負載幾乎都是由快取記憶體來承擔，因此無需全快閃架構，就能提供足以比擬、甚至更勝全快閃架構的效能。

DRAM快取提供優於SCM與Flash的效能

依循Infinidat的思路，只要快取命中率能達到90～100%的層次，那麼I/O負載將由作為快取記憶體的DRAM來承擔，從而提供比SCM或NAND Flash記憶體更低的存取延遲。

資料來源：Infinidat

HPE Nimble的CASL存取技術

除了Infinibox外，已併入HPE的Nimble Storage，是另一家強調快取優化，而不需依賴全快閃硬體的廠商。

Nimble Storage是以混合儲存陣列起家，起家之初便宣稱，他們無須使用全快閃架構，便能透過專屬的快取加速循序布局（Cache Accelerated Sequential Layout

，CASL）技術，讓基於硬碟的系統擁有全快閃等級的效能。

CASL存取技術包含了SSD讀取快取，以及將隨機I/O累加轉為循序I/O、再以Stripe寫入磁碟群組的「寫入循序化」兩種機制。在CASL架構下，是透過NVRAM與SSD來承載前端主機的存取負載。寫入負載由NVRAM承擔，讀取負載則由SSD讀取快取承擔。也就是說，底層的硬碟幾乎不會直接承載到前端主機的存取負載，前端主機得到的I/O存取回應，其實是NVRAM或SSD提供的。

原廠宣稱，CASL的快取演算法只需4%的快取容量比率，就能實現90%的快取命中率，8%的快取容量比率就能達到近100%的快取命中，而且快取資料的抓取是從NVRAM到SSD，不經由底層硬碟，因此即使是混合陣列架構，也能向前端主機提供全快閃等級的效能。

Nimble Storage與HPE整併後，雖然也推出了全快閃架構的儲存陣列，但CASL技術也仍然能發揮作用，利用NVRAM的寫入快取與讀取快取，無須使用NVMe SSD，他們的全快閃儲存陣列產品，便能提供相當於NVMe儲存陣列的低延遲效能。

優化快取，實現非全快閃的高效能儲存架構

Infinidat與HPE Nimble等廠商主張，只需優化快取演算法，將快取命中率提高到90%以上，如此一來，絕大多數的存取I/O負載將落入到快取記憶體，因而儲存陣列無需依靠全快閃架構，透過傳統的機械硬碟組態搭配大容量快取記憶體，就能提供等同於全快閃儲存陣列的效能。