電腦主要元件的封裝幾十年來相對穩定,但現在正經歷一場革命。例如,在記憶體和中央處理器(CPU)之間已經達到散熱和頻寬極限的情況下,業界正在尋求新的方案來提高性能並降低功耗。

最近兩年,引領這一追求的是混合記憶體立方體(HMC)構想(圖1)。這是美光科技(Micron)提出的概念,業已被龐大的產業領導者聯盟——混合記憶體立方體聯盟(Hybrid Memory Cube Consortium)所採用。

20180117NT01P1 圖1 混合記憶體立方體。

這一概念基於用一組高速串列連接取代傳統的DRAM匯流排,同時使記憶體和運算晶片在物理上非常接近,以便去掉驅動DRAM匯流排的功率電晶體。由此產生的模組可將記憶體的功耗降低70%~90%,目前性能可達160GB/s水準,這是兩項令人矚目的進展。未來的配置目標是超過上述指標的兩倍,最終是使用多個記憶體模組實現1TB/s的吞吐率。

矽穿孔(TSV)是使能技術(enabling technology)。透過在邏輯模組上堆疊記憶體裸片並使用TSV將頂層連接到邏輯電路,使用大量的並行鏈路,可實現很小的面積佔用。今天的產品通常有四個堆疊裸片,所以每個模組的容量限制在16GB。

邏輯層可以是CPU、繪圖處理器(GPU)、現場可編程閘陣列(FPGA)或只是控制邏輯,似乎所有這些選項都開始出現。來看一些應用,CPU選項看來顯而易見,在CPU之上構建DRAM得到的稍厚的混合晶片,應用在智慧型手機和平板電腦上令人關注,這是一種節省寶貴空間的方式,但更重要的是節省稀少且缺乏的電能。使用16GB容量的方案,已經是個可行的建議,而更高密度的封裝將擴大到整個市場。

在伺服器中,更高的頻寬是吸引力所在。目前尚不清楚市場是否會跟進CPU/記憶體堆疊路徑,或是選擇多個記憶體晶片的緊密並列封裝,後者可將頻寬提升到500+GB/s範圍並增加HMC容量。舉例來說,英特爾(Intel)的Knights Landing Phi晶片旨在使用堆疊記憶體結構(圖2)。

20180117NT01P2 圖2 英特爾Knights Landing代號Xeon Phi處理器。(圖片來源:英特爾)

AMD和Nvidia這兩家GPU製造商選擇了採用多通道平行匯流排不同的模組化方法(高頻寬記憶體,HBM)。HMB比RAM匯流排寬得多,可提供更高頻寬。DRAM裸片堆疊和與GPU緊密耦合旨在解決性能和功耗問題,將模組方法應用到GPU引發了與伺服器相同的封裝問題,因此解決方案的採用可能取決於GPU產品是針對消費類還是針對人工智慧(AI)市場。

在伺服器系統中用作加速器的FPGA,其本身的故事仍在不斷演繹,儘管像Altera/Intel和賽靈思(Xilinx)這樣的公司已經為HMC提供了原型開發板。

這種模組化方法透露出主要的管道含義。然主導力的天平明顯地倒向記憶體晶片製造商(如美光),而對沒代工廠的DIMM組裝廠商不利,但這並非一蹴可幾,因為系統結構和晶片生態系統還沒有發展到可正確使用模組化方案。可能的情況是,智慧型手機的封閉性將使其成為更容易滲透的市場。

伺服器市場轉向模組化方法,很可能會因伺服器核心中以結構為中心架構的興起而變得複雜。諸如Gen-Z之類的方法使得串列記憶體連接成為將CPU、GPU、FPGA和外部通訊連接在一起的RDMA結構的焦點,它使所有伺服器單元之間直接使用公共記憶體,以及共用記憶體和介面的跨集群成為可能。未來AMD和Nvidia的計畫將致力於記憶體與GPU之間更緊密的耦合,以使當前架構將大量資料從CPU記憶體傳輸到GPU記憶體的問題不再困難。

主導力的天平倒向晶片製造商不僅傷及DIMM製造商,還同樣殃及插卡製造商。伺服器主機板將可能具有針對適配驅動器或LAN的SoC方案的ZIF插槽,以及用於記憶體和計算元件的更多插槽。

但供應商陣營也並非一團和氣。英特爾在談論與業內其他家不同的途徑。業內有討論可更好填補Optane NVDIMM和L3快取記憶體之間性能差距的高頻寬、低延遲(HBLL)DIMM方案,而不是用於伺服器的HMC。

最後的難題是,雖然這些新的記憶體速度非常快,但容量有限,目前為16GB或更小。雖然這與DIMM類似,但其架構將當今的許多模組排除在外。隨著對TB容量記憶體的需求, 該問題尚沒有得體的對策。英特爾在NVDIMM中內置傲騰(Optane)的HBLL方法很可能是條解決之道。

儘管英特爾明顯的離經叛道(沒有任何東西正式宣佈為產品),但很明顯,系統將變得更快、更模組化。為實現這種模組化,乙太網路NVMe作為一種共用主儲存的方式在市場上備受矚目——這種架構可使驅動器與伺服器分開,儘管它們可能仍然共用封裝。所有這些都將在2018年上半年成為整個產業的發展藍圖,並導致系統性能真正大幅度地提升,從而推動整個系統和儲存市場的發展。

(參考原文:Hybrid Modules Create Next Chip Packaging Revolution,by Jim O'Reilly)