中國高通量計算機的自主研發之路
|
|
什么是高通量計算機
高性能計算在傳統的科學與工程計算類應用中的特點包括：任務單一，負載變化不頻繁，單個任務計算量大，以及計算局部性好。而高通量計算在數據中心的應用則主要面向互聯網、物聯網等新興場景，其特點是：任務多樣，單個任務往往具有流式計算特征；計算量相對不大，但任務的并發數量及數據規模巨大；以及處理要求具有實時性。
傳統高性能計算機的研制目標是提高速度，即縮短單個并行計算任務的運行時間；而數據中心類應用系統的目標是高通量，即提高單位時間內任務或數據處理的吞吐量。這種以“算得多”為性能指標的高性能計算機被稱為高通量計算機。如果給高通量計算機一個定義，那么可以這么描述：高通量計算機是適用于互聯網大數據等新興應用負載特征的、在強時間約束下能夠全局可控地處理高并發請求的新型高性能計算機。其核心特點是對并發性、實時性和確定性的保障。
高通量計算機和傳統的高性能計算機在目標應用、計算特征和設計目標等方面都存在明確的區別（表?1）。然而，由于高性能計算由來已久，目前主流的通用計算機和高端計算系統的發展都深受其影響，這也使得當前數據中心主流的計算系統在針對網絡服務這種高并發、強實時的高通量應用時表現出諸多不足。為了進一步理解高通量應用對計算機體系結構的需求，我們基于當前主流的高性能服務器（采用Intel Xeon CPU）對典型高通量應用進行了測試，并且發現了以下一些問題。
緩存資源浪費。CPU上的共享緩存（cache）缺失率很高，這說明高通量應用與傳統高性能計算應用的數據訪問特征有明顯區別，傳統的多級緩存設計并不適合。從面積和功耗的角度來衡量的話，共享緩存作用不大，但卻占用了大量的片上面積（在?Intel?的主流服務器芯片中，片上存儲所占面積通常高達?30％?以上），產生了大量的功耗。
內存帶寬利用率低。CPU?在?70％?以上使用率時的壓力測試下，內存帶寬的有效使用率通常也不到?10％。這說明，在高通量應用負載下，傳統計算機體系結構設計下的內存帶寬并沒有得到有效利用。
服務質量難以保障。當增加任務的并發負載，使得?CPU?利用率維持在較高水平時，我們發現應用的完成時間迅速拉長，也即系統的尾延遲明顯增大，從而導致延遲敏感應用大量失效。因此，在傳統服務器系統上，要想獲得好的用戶體驗，必須把硬件利用率維持在較低水平。
通過上述實驗結果我們可以看到，現有的高性能計算機系統的設計并不能很好地滿足高通量應用的新特性。因此，需要開展新型的高通量計算體系結構的研究。