從2023年的ChatGPT，到2024年的Sora，AI和大模型正以不可思議的發(fā)展速度顛覆著業(yè)界的認知，但大模型的火熱登場，也進一步引爆了智能算力的需求。傳統(tǒng)算力時代，算力需求每18-20個月翻一倍，在深度學習出現(xiàn)之后，算力需求每6個月翻一倍，而到了大模型時代，對智能算力的需求幾乎是每年數(shù)百倍的增長。
根據(jù)中國信通院發(fā)布的《中國算力發(fā)展指數(shù)白皮書（2023年）》顯示，在目前的算力規(guī)模中，通用算力規(guī)模占比達74%，智能算力規(guī)模占比達25%，同比增加60%，成為當前算力快速增長的驅(qū)動力，而預計未來幾年，智能算力的需求將比當前呈現(xiàn)上百倍的增長。
但新的難題也由此產(chǎn)生，在智能算力的1.0時代，主要是采用垂直一體式的方案，針對性地滿足高性能計算、人工智能、大數(shù)據(jù)計算等不同的應用負載，通用性和兼容性比較低；而在智能算力的2.0時代，則出現(xiàn)了異構(gòu)智算融合的趨勢，即將不同架構(gòu)的芯片平臺、不同的算法模型以及數(shù)據(jù)集最大化融合，讓用戶可以根據(jù)業(yè)務場景和計算任務選擇最適合的算力方案。在這樣的背景下，如何把智能算力的效率發(fā)揮到極致，如何提升數(shù)據(jù)中心的整體能效，讓智能算力的價值得到最大化體現(xiàn)呢？
在日前舉辦的聯(lián)想創(chuàng)新科技大會（2024 Lenovo Tech World）上，聯(lián)想正式發(fā)布聯(lián)想萬全異構(gòu)智算平臺，該平臺集成了聯(lián)想為滿足AI應用大潮所打造的五大創(chuàng)新技術，可以說為AI時代大模型訓練和推理構(gòu)建出了穩(wěn)定高效的基礎設施算力底座，也讓智能算力能夠真正“用得上”、“用得好”、“用得精”。
與此同時，聯(lián)想還與中國智能計算產(chǎn)業(yè)聯(lián)盟共同宣布，發(fā)起成立異構(gòu)智算產(chǎn)業(yè)生態(tài)聯(lián)盟，聯(lián)合產(chǎn)業(yè)頭部生態(tài)伙伴共建聯(lián)想萬全生態(tài)，助力中國智算生態(tài)繁榮發(fā)展與創(chuàng)新。
毫無疑問，站在AI產(chǎn)業(yè)大變革的今天，聯(lián)想基于自身在數(shù)據(jù)中心基礎設施的持續(xù)的創(chuàng)新和投入，以及最佳實踐和經(jīng)驗，推出聯(lián)想萬全異構(gòu)智算平臺，并發(fā)起成立異構(gòu)智算產(chǎn)業(yè)生態(tài)聯(lián)盟，相信這將會進一步釋放出異構(gòu)智算的“乘數(shù)效應”，為千行百業(yè)創(chuàng)造出更多具有想象空間的新業(yè)態(tài)、新服務和新模式，激發(fā)更大的新質(zhì)生產(chǎn)力。
跨越智能算力“四座大山”
隨著大模型時代的到來，可以發(fā)現(xiàn)智能算力與產(chǎn)業(yè)的融合正變得越來越緊密，從智慧醫(yī)療，智慧金融，智慧城市再到無人駕駛等等，智能算力已經(jīng)開始滲透到千行百業(yè)的方方面面，推動著“算力基建化”的步伐。
也正因此，去年底國家六部門聯(lián)合印發(fā)的《算力基礎設施高質(zhì)量發(fā)展行動計劃》中，就提出到2025年，計算力方面，算力規(guī)模超過300 EFLOPS，其中智能算力占比要達到35%，這也代表著我國的算力產(chǎn)業(yè)步入了高速發(fā)展的新階段，智能算力更成為了數(shù)字經(jīng)濟“主航道”中最為核心的驅(qū)動力。
聯(lián)想集團副總裁、中國基礎設施業(yè)務群總經(jīng)理陳振寬
在聯(lián)想集團副總裁、中國基礎設施業(yè)務群總經(jīng)理陳振寬看來，智能算力的火爆背后，同樣也為數(shù)據(jù)中心基礎設施帶來了諸多的挑戰(zhàn)，主要體現(xiàn)在以下幾個方面：
挑戰(zhàn)一，場景日益豐富，算力復雜多元，如何選擇和匹配合適的算力？目前已經(jīng)有五種以上主流算法框架和十種以上算子庫來支持不同的應用場景。同時，不同類型的GPU、服務器、存儲和網(wǎng)絡組成了上百種不同的集群配置，特別是場景、算法和集群之間的選擇和驗證，不但技術繁雜而且周期長，這都給用戶帶來了極大的壓力。
挑戰(zhàn)二，從千卡到萬卡，如何減少故障恢復時間，提升集群的可用性？以千卡訓練集群為例，目前千卡集群每月至少有15次的故障斷點，在常規(guī)的斷點續(xù)訓手段下，每次恢復訓練需要幾個小時，產(chǎn)生的額外費用超過百萬元，而隨著AI集群規(guī)模從千卡到萬卡，故障中斷次數(shù)及恢復所需時間呈指數(shù)級增長。
挑戰(zhàn)三，智能算力基礎設施的建設成本極高，如何改善和最大化AI算力利用率？AI對算力的需求是無窮盡的，然而隨著集群集成的芯片越來越多，我們不得不應對算法效率不高、計算資源不足、互聯(lián)帶寬受限等眾多技術挑戰(zhàn)。數(shù)據(jù)顯示，當前業(yè)內(nèi)MFU（模型算力利用率）普遍在30%左右，頂尖的集群利用率也只能做到50%，因此這就需要行業(yè)突破和解決GPU卡利用率、集群通訊效率、AI故障恢復、算法匹配度等系統(tǒng)性問題。
挑戰(zhàn)四，在“雙碳”政策的驅(qū)動下，如何最大化提升數(shù)據(jù)中心的整體能效？一直以來，數(shù)據(jù)中心作為“能耗大戶”，其建設和發(fā)展過程中也帶來了巨大的能耗挑戰(zhàn)。特別是在當前算力升級帶來的能耗“飆升”的情況下，如何通過先進的散熱技術，突破芯片在系統(tǒng)中的散熱瓶頸，同時提升能效，降低數(shù)據(jù)中心PUE將“刻不容緩”。
由此可見，由大模型興起所產(chǎn)生的巨量算力需求讓本就供需不平的算力產(chǎn)業(yè)結(jié)構(gòu)進一步“承壓”，特別是如何跨越智能算力面臨的“四座大山”已成為整個業(yè)界的新挑戰(zhàn)和新課題。
夯實大模型時代“算力底座”
也正是洞察到這種變化和痛點，聯(lián)想正式發(fā)布集五大技術創(chuàng)新為一體的聯(lián)想萬全異構(gòu)智算平臺，該平臺可幫助行業(yè)用戶跨越智能算力面臨的重重挑戰(zhàn)，真正讓千行百業(yè)在智能算力時代“用得上”、“用得好”、“用得精”，具體來看：
針對算力匹配方面，當下異構(gòu)智算融合已是大勢所趨，一是CPU，GPU，DPU，NPU等處理器的異構(gòu)；二是AI算力集群，科學計算集群和通用計算集群的異構(gòu)，唯有做好異構(gòu)算力協(xié)同工作，才能有效支持復雜計算任務所需要的綜合計算。
而聯(lián)想萬全異構(gòu)智算平臺搭載的“多維智能算力匹配魔方”技術，構(gòu)建了AI場景與算法與集群硬件三者匹配關系的算力魔方知識庫，可標識AI場景、算法、集群配置這三者的匹配關系。更重要的是，“算力匹配魔方”可針對不同場景，可以全自動規(guī)劃和調(diào)度最佳算法和集群配置，用戶只需輸入場景和數(shù)據(jù)，即可自動加載最優(yōu)算法和調(diào)度最佳集群配置，由此為用戶跳過繁雜的算力選擇和驗證。
提升算力利用率和可用性方面，在AI基礎設施中，要提高計算效率有兩大關鍵要素： 一是提升算力的利用率，二是讓算力持續(xù)可用。因此，在聯(lián)想萬全異構(gòu)智算平臺五大創(chuàng)新技術中，有四項都是聚焦在了提升算力利用率和可用性的算法創(chuàng)新上。
其中，GPU內(nèi)核態(tài)虛擬化算法技術，由聯(lián)想研究院開發(fā)的GPU驅(qū)動層的內(nèi)核態(tài)虛擬化算法，可最大化挖掘處理器潛力，讓vGPU利用率從80%提升到95%；此外，聯(lián)想集合通信算法庫技術，能夠自動感知集群網(wǎng)絡拓撲，并選擇和采用經(jīng)聯(lián)想增強的集合通信算法使數(shù)據(jù)傳輸在最佳路徑。以千卡規(guī)模集群為例，采用集成了聯(lián)想集合通信庫的聯(lián)想萬全異構(gòu)智算平臺做管理調(diào)度，可使網(wǎng)絡通信效率提升超10%，并且集群規(guī)模越大，效果越顯著；而AI高效斷點續(xù)訓技術，其核心能力是“以AI預測AI”訓練故障，在斷點前針對故障特征做優(yōu)化備份，在斷點后可極速恢復。以千卡訓練集群為例，目前聯(lián)想能將斷點續(xù)訓恢復時間縮減到分鐘級，不僅能夠大幅提升訓練效率，還可以幫助用戶節(jié)省額外支出百萬元/月。
針對集群的調(diào)度管理，聯(lián)想萬全異構(gòu)智算平臺內(nèi)置了AI與HPC異構(gòu)集群超級調(diào)度器，這是破局算力孤島，打開集群共享之門的“關鍵鑰匙”，該“調(diào)度器”最為精髓之處就是做出能指揮雙類型調(diào)度的最精簡架構(gòu)，在AI的K8S調(diào)度和HPC的Slurm調(diào)度之上，通過切換“語言”的方式分別指揮AI和HPC調(diào)度器，1小時內(nèi)自動完成跨集群的資源調(diào)度和共享，使得用戶可以充分利用基礎設施的每一分算力。
而面向未來，聯(lián)想也將挑戰(zhàn)超過萬卡規(guī)模集群的通訊算法優(yōu)化，挑戰(zhàn)秒級的斷點續(xù)訓，深入研究相變式液冷技術，布局模塊化液冷數(shù)據(jù)中心，而這些核心技術創(chuàng)新，也將助力AI算力朝著更強大、更穩(wěn)定、更高效和更綠色的方向高質(zhì)量發(fā)展。
客觀地說，當前業(yè)界各種智算平臺已經(jīng)對異構(gòu)算力的管理和調(diào)度開展了不同技術方向的探索，市場上有些不同的異構(gòu)智算管理平臺，但聯(lián)想萬全異構(gòu)智算平臺仍有三個獨特的優(yōu)勢：
得益于聯(lián)想在智算和超算領域的長期耕耘，其AI與HPC異構(gòu)集群超級調(diào)度器屬于業(yè)內(nèi)首創(chuàng)，是聯(lián)想在異構(gòu)智算領域打造的“獨門秘籍”； 同時，聯(lián)想分鐘級斷點續(xù)訓的故障預測機制，同樣也是歷經(jīng)多年研發(fā)的，是分鐘級斷點續(xù)訓能夠?qū)崿F(xiàn)的關鍵技術，同樣在業(yè)界是“獨一無二”的；不僅如此，相比市場上的其他異構(gòu)管理平臺，聯(lián)想萬全異構(gòu)智算平臺納管豐富的多的異構(gòu)生態(tài)，和提供更深入全面的集群管理，這些關鍵技術的創(chuàng)新都為夯實大模型時代的“算力底座”提供了堅實的基礎，背后也體現(xiàn)出了三重全新的價值。
一是，用得上，指的是聯(lián)想萬全異構(gòu)智算平臺將算力管理與調(diào)度，數(shù)據(jù)治理與模型優(yōu)化、訓練精調(diào)和推理應用開發(fā)等多層次的能力實現(xiàn)了全面集成，能夠向下納管豐富的算力生態(tài)，向上對接為各類場景優(yōu)化的模型及AI工具集，因此可為用戶提供更簡單、更高效、更穩(wěn)定的算力體驗。
二是，用得好，如果我們從用戶視角出發(fā)來看，不論是模型開發(fā)，推理服務開發(fā)，還是AI應用開發(fā)，計算效率就是業(yè)務的根基，高效計算才能讓AI應用的迭代部署跟上市場需求，才能控制業(yè)務TCO成本使AI創(chuàng)作的投入產(chǎn)出合理化。為此，聯(lián)想萬全異構(gòu)智算平臺始終將突破計算效率的瓶頸作為平臺持續(xù)追求的差異化價值。無論是GPU內(nèi)核態(tài)虛擬化算法技術、聯(lián)想集合通信算法庫技術還是異構(gòu)集群超級調(diào)度器等，核心都是最大化提升用戶的算力利用率和可用性，讓用戶“用得好”AI算力。
三是，用得精，則是聯(lián)想萬全異構(gòu)智算平臺不但打造了一個能夠高度自動化完成AI全流程開發(fā)的平臺，同時也是可輸出高可用算力并不斷突破計算效率瓶頸的利器，借助這個平臺，行業(yè)用戶可自動完成AI計算并發(fā)布模型或發(fā)布推理服務。同時，平臺也為專業(yè)的AI開發(fā)用戶留有手動深入調(diào)整計算過程的空間，包括工具和模型的選擇，算力配置的調(diào)整，對任務的定制化監(jiān)控等，這樣就能使得每種資源都能在最適合的任務上發(fā)揮最大效能，真正讓用戶可以更加“精細化”管理AI算力資源，進一步實現(xiàn)“降本增效”的價值。
釋放異構(gòu)智算“乘數(shù)效應”
值得一提的是，在本次聯(lián)想創(chuàng)新科技大會2024上，聯(lián)想還與中國智能計算產(chǎn)業(yè)聯(lián)盟共同宣布，發(fā)起成立異構(gòu)智算產(chǎn)業(yè)生態(tài)聯(lián)盟。據(jù)了解，異構(gòu)智算產(chǎn)業(yè)生態(tài)聯(lián)盟框架由AI芯片層、AI設備與系統(tǒng)層和AI平臺與應用層，能夠?qū)崿F(xiàn)從IaaS平臺、AI訓練與推理到行業(yè)場景解決方案的全覆蓋。
