如何管理大規(guī)模集群的軟硬件資源

申請免費試用、咨詢電話：400-8352-114

全球超級計算機Top500榜單讓人們重新對Linpack值、對最快計算機等話題燃起熱度，中石油東方地球物理公司研究院處理中心總工程師賴能和在2009英特爾高性能計算研討會上從用戶的角度告訴我們，除了超級計算機的運行速度和規(guī)模，系統(tǒng)的軟硬件資源管理也是擺在面前的一個困難的問題?！　?/P>

問題的提出

賴能和在研討會上的演講中介紹說，東方公司的集群軟硬件資源已形成規(guī)?；?，需要科學的管理辦法，過去幾百顆CPU很好管理，現(xiàn)在幾千顆、幾萬顆CPU的話再用原來的方法就不適用了；同時應用效率低下，運營成本快速增長以及生產(chǎn)與設備的安全問題也在困擾著他們。

目前東方公司有將近1.5萬顆CPU、大概28014個核的大型集群，占據(jù)了整個中石油所有核數(shù)的46.2%，因此遇到了很多困難：

1、 機柜很多，節(jié)點也很多，壞了也不清楚，使用情況無法及時掌握;

2、 存儲陣列很多，無法做預防性維護;交換機也很多，出現(xiàn)網(wǎng)絡問題后很難判斷在哪里出現(xiàn)問題;

3、 數(shù)據(jù)交換機很多，出現(xiàn)問題后很難判斷出問題出現(xiàn)在哪里;

4、 沒有科學、合理的調(diào)度和管理手段

賴能和表示，PC集群計算理論峰值和實際應用效率和性能差距很大，各家公司都在大規(guī)模投資。東方公司從2004年的將近一個億，一路飆升至2008年的1.47億，不僅投入龐大，折舊也很嚴重，BGP每年從2006年開始折舊達4000萬，2007年八千萬，2008年就突破一億了。

不僅如此，運營成本也居高不下。2005年，BGP的電費在330萬左右，這一數(shù)字到了2008年升至1101萬。同時，生產(chǎn)與設備的安全問題也開始逐漸顯現(xiàn)出來。

如何解決問題

為此，BGP引入了數(shù)字化管理技術(shù)，著重在以下四個方面加強資源的管理：

1、開發(fā)數(shù)字化管理軟件平臺，實現(xiàn)所有運行項目的數(shù)字化管理;

2、開發(fā)CPU資源管理平臺;

3、開發(fā)從存儲和網(wǎng)絡管理軟件，實現(xiàn)所有存儲資源的遠程集中監(jiān)控;

4、開發(fā)UPS、空調(diào)實時監(jiān)控軟硬件，確保設備安全：這幾天北京溫度很高，數(shù)據(jù)中心也出現(xiàn)了報警，機房溫度出現(xiàn)了問題;

對機房的安全，賴能和稱，每個機房的關(guān)鍵位置都有攝像頭保持一個月的監(jiān)控。

對HPC需求的展望

賴能和在會上從BGP的實際應用中向大家闡述了高性能計算的發(fā)展趨勢：

1、 多核CPU技術(shù)的刀片已成為HPC的發(fā)展趨勢;

2、 GPU技術(shù)為地球物理高密度運算和可視化處理帶來新的機會：隨著地震軟件商的支持，有可能會使可視化處理、解釋系統(tǒng)、疊前偏移、速度建模等變得更有效率;GPU將加快計算、數(shù)據(jù)、信息可視化，實現(xiàn)圖像分析、模式識別等的完美結(jié)合，問題出在沒有軟件支持;

3、 高密度多路服務器技術(shù)將成為地震綜合解釋研究新的應用平臺

4、 萬兆以太網(wǎng)將給HPC的發(fā)展帶來新的生機：2011年和2018年會出現(xiàn)大的技術(shù)變革

5、 高效能綠色數(shù)據(jù)中心建設成為新的熱點：開發(fā)和應用自適應節(jié)能降耗管理軟件，動態(tài)調(diào)整服務器運行狀態(tài)，一年可節(jié)約電費幾百萬;應用虛擬化技術(shù)提供集中管理和移動辦公

6、 復雜地震成像等技術(shù)的發(fā)展與應用將需要更多的GPU。

賴能和表示，未來三年在BGP用于地震數(shù)據(jù)處理CPU核數(shù)至少需要增加1.5倍，也就是說，2012年底CPU總核數(shù)將達到5W，這將給高性能計算帶來更大的挑戰(zhàn)。(chinabyte)