/朝聞通/北京睿思智聯科技有限公司(簡稱“睿思智聯”),Rise VAST AI 算力管理平台與 Rise CAMP AI 算力調度平台(統稱"Rise 平台")已于近日完成對華為新一代昇騰 950DT 的适配,并率先通過昇騰 950DTAscend Native 認證及昇騰應用開發技術認證。進一步完善了對昇騰多個版本算力卡的兼容适配矩陣,實現從底層算力管理到上層模型服務的完整支持。覆蓋算力納管、切分超分、拓撲調度和故障監控等場景。

昇騰950DT采用自研HiZQ 2.0 HBM技術,内存容量達144GB,内存訪問帶寬4TB/s,互聯帶寬提升至2TB/s,支持FP8/MXFP8/MXFP4/HiF8等多數據格式,其FP4算力達16E FLOPS,更側重推理解碼和訓練場景。在Atlas 950超節點中,最多可支持8192張昇騰950DT卡通過“靈衢”(UnifiedBus)全光互聯協議進行互聯。相比上一代昇騰384超節點,訓練性能提升17倍,推理性能提升26.5倍。
但參數隻是起點。950DT 從發布會走進數據中心之後,決定算力投資回報的是另外四個工程問題。144GB HBM 如何被持續喂滿?多卡協同如何跑滿靈衢 UB 的互聯帶寬?單卡故障如何不演變為業務中斷?新舊幾代昇騰卡如何在同一套體系下統一調度?
拿到認證隻說明"能用"。Rise 平台要交付的是"好用"。
一:統一納管:不同型号昇騰卡,一管到底
要讓 950DT 進入生産,第一步是把它接入統一的異構算力管理體系。Rise 平台對昇騰全系(310P、910A、910B、910C等)已實現池化支持,950DT 納入同一套納管與調度方式:既可以與 910 系列放在同一個集群、甚至同一個異構資源池中混合管理,資源池可按節點和卡兩個維度靈活劃分;也支持 Host-Member 管控分離的多集群架構,統一申請、分配和監控。
軟切分所需的運行庫由企業版預先集成并統一管理,CANN 8.5.0 / 9.0.0 / 9.1.0 / 9.2.0 等多個版本集中維護、持續更新,各業務運行環境一緻、可控。
二:軟切分:主角用整卡,配角按需分配
950DT 的主角戲是大模型訓練和大模型 Decode 推理,這類任務需要整卡甚至多卡協作,我們不建議對其切分。
但真實的 AI 業務不隻有主角。一個智能體應用背後往往是"大小模型協同":大模型負責複雜推理,意圖識别、請求路由、Embedding、Rerank、内容審核、工具調用這類高頻、輕量任務交給小模型,既快又省。這些小模型數量多、單個占用小,如果各占一張整卡,主角反而沒有資源可用。
Rise 平台在已有多種算力切分能力的基礎上,此次針對 950DT 提供更靈活的軟切分:相比固定模闆,業務可按算力需要自定義算力規格(如 40%、70%等),并且無須提前切分。支持靈活、動态設置算力比例與顯存大小,供多個小模型共享。vNPU 可同時用于分布式推理和分布式訓練任務。主角用整卡或多卡,配角按需共享單卡,在同一個 950DT 集群中協同、高效地運行。
客戶收益:周邊小模型不再各占整卡,整卡留給訓練和 Decode。同樣規模的集群,能承載更完整的智能體業務。
三:超分:讓低頻"冷模型"不再霸占顯存
顯存像書桌,取用快但桌面小;服務器内存像書架,容量大得多。超分的做法是:正在用的模型攤在書桌上,暫時不用的收回書架,要用時再拿回來。Rise 的顯存超分能力已支持 NVIDIA、昇騰、昆侖芯等多廠商,并可按硬件類型設置超配比例,在允許更多任務共享算力的同時,避免所有任務同時到達峰值導緻資源耗盡。
虛拟顯存池:物理顯存與系統内存融合成統一的虛拟顯存池,容量遠大于物理顯存,對上層應用完全透明,業務零改動。
冷熱數據調度:系統實時掌握模型狀态,活躍模型留在顯存,低頻模型自動換至系統内存。
客戶收益:長期在線、很少被調用的模型,不再一個模型獨占一塊顯存。同一張卡挂更多模型,先把現有的卡用足,再考慮加卡。
四:拓撲調度:多卡任務,就近安排
訓練和大模型推理常常要多卡協同,卡與卡之間要不停"對話"。950DT 采用靈衢 UB 互聯,卡間通信鍊路的質量直接決定多卡任務的效率。Rise 平台針對昇騰等芯片的互聯結構提供拓撲感知調度:智能識别硬件之間的物理連接結構,為任務匹配最合理的通信路徑。
Rise 平台感知設備的互聯拓撲,調度多卡任務時優先落在互聯更緊密的卡上。就像安排需要密切配合的同事坐在同一層,而不是分兩棟樓。
客戶收益:多卡任務不被"遠距離"通信拖累,直接服務于 950DT 的主角場景,也就是訓練與大模型 Decode。
五:故障感知:新任務,自動繞開壞卡
平台持續采集每張昇騰卡的利用率、顯存、溫度、功耗等關鍵指标,并讀取解析卡上報的故障碼:支持 Ascend 詳細故障碼的分級告警(嚴重、高、中、低四級),逐條列出故障代碼、錯誤信息與錯誤詳情,翻譯成"哪張卡、什麼故障、還能不能用"。達到阈值的故障觸發 P0 級告警并自動隔離故障卡,新任務調度時自動繞開。告警按級别路由後通過郵件、短信推送至值班隊列,形成"發現—處置—複盤"的完整閉環。
客戶收益:新任務不會被分到壞卡上,不用等人工排查再重來。故障原因一目了然,不再面對一串故障碼。集群規模越大,這點越省心。
寫在最後
作為開源項目HAMi的核心貢獻者之一,睿思智聯也将陸續提交相關的适配代碼,以支持社區用戶共享昇騰 950DT 的新特性。
睿思智聯已獲得昇騰 910B、910C、950DT 認證。無論客戶用哪一代昇騰卡,都可以在 Rise平台上統一管理、按需切分,任務調度和運行穩定性也由平台保障;模型服務側,平台支持vLLM、SGLang、MindIE 等主流推理引擎的一鍵部署與 Token 計量,從底層算力到上層模型服務一站完成。
如果你正在規劃昇騰 950DT 集群,或想把現有昇騰算力用得更充分,歡迎聯系試用Rise 平台企業版。
關于睿思智聯
北京睿思智聯科技有限公司(RiseUnion)專注于AI 算力管理與調度,已完成 10+ 國産芯片兼容認證,是 CNCF 開源項目 HAMi 的核心貢獻者之一。公司是國家高新技術企業、北京市專精特新中小企業、AIIC 算力池化工作組組長單位,在金融、政企軍工、交通、醫療等行業實現大規模生産級落地。
睿思智聯緻力于讓算力像水電一樣随取随用,為企業 AI 轉型構建智能、可控、高效的算力底座。