央廣網(wǎng)韶關4月5日消息(記者張順鵬)4月3日,由中國電信廣東公司聯(lián)合阿里云共同建設的粵港澳大灣區(qū)首個基于“真武”芯片的萬卡智算集群,在韶關數(shù)據(jù)中心集群正式上線。作為國家“超大規(guī)模智算集群”新基建在大灣區(qū)的首個落地項目,該集群實現(xiàn)了從芯片、云平臺到模型應用的全鏈路自主研發(fā),標志著自研先進算力正從高端性能突破加速邁向產(chǎn)業(yè)應用與算力普惠。韶關市委書記陳少榮,市委副書記、市長吳慶華,阿里云智能集團資深副總裁李津,中國電信廣東公司總經(jīng)理張濤、副總經(jīng)理王湘江出席活動。

粵港澳大灣區(qū)首個“真武”萬卡智算集群上線(央廣網(wǎng)發(fā) 主辦方供圖)

該集群在技術層面實現(xiàn)了多項關鍵突破。通過卡間RoCE高性能組網(wǎng)、雙平面多軌通信等技術創(chuàng)新,集群端到端網(wǎng)絡時延低至4微秒,網(wǎng)絡峰值利用率超過95%,能夠高效滿足大模型訓練過程中AllReduce、AlltoAll等超大流量通信需求,穩(wěn)定承載千億參數(shù)級大模型的預訓練與推理任務。真武芯片整機提供1.5T大顯存,卡間互聯(lián)帶寬超過700GB/s,為國產(chǎn)算力底座提供了堅實支撐。

在行業(yè)應用方面,集群已面向政務治理、醫(yī)療民生、新興產(chǎn)業(yè)等領域提供算力及應用解決方案。在城市治理領域,集群為城市管理與公共安全等場景提供算力底座及“超級搜圖”應用,顯著提升海量圖片與視頻數(shù)據(jù)的檢索效率。

“全診通”應用(央廣網(wǎng)發(fā) 主辦方供圖)

在醫(yī)療民生領域,上線“全診通”應用,面向基層醫(yī)療機構提供診療智能化服務,已在中山大學腫瘤防治中心等醫(yī)院開展國產(chǎn)化遷移與應用試點。

在產(chǎn)業(yè)創(chuàng)新領域,集群為電子信息、先進材料、生物醫(yī)藥、裝備制造、低空經(jīng)濟等新興產(chǎn)業(yè)提供模型訓練、推理與調優(yōu)服務,助力企業(yè)加速研發(fā)迭代與智能化升級,有效縮短創(chuàng)新周期。

算力普惠是此次集群上線的核心亮點。憑借集群規(guī)模優(yōu)勢,與芯片-算力云平臺-模型架構的全棧自研和深度協(xié)同的技術優(yōu)勢,相較傳統(tǒng)單機部署模式,“真武”智算集群的單卡吞吐性能提升達9.3倍, 每秒Token生成總量提升近10倍,每百萬Token的算力成本同比大幅下降。同時,支持DeepSeek-V3.2滿血版、Qwen3.5-397A-A17b等業(yè)內領先開源模型可實現(xiàn)單機快速部署。在生態(tài)兼容方面,“真武”芯片全面適配主流AI生態(tài),自研軟件棧高效適配各類主流模型、框架、算子庫及操作系統(tǒng),具備統(tǒng)一的編程接口,可端到端支持用戶自主業(yè)務落地與擴展,大幅降低客戶遷移成本。此外,集群提供IaaS、PaaS、MaaS全棧AI智算云化產(chǎn)品服務,支持多機訓練、單機與多機推理、基礎模型一體機等多種交付形態(tài),并基于真武芯片提供訓練推理深度優(yōu)化套件,支持秒級鏡像加載與小時級模型調優(yōu),訓練與推理效率提升超過30%,開發(fā)者無需自建底座與反復調參,可實現(xiàn)開箱即用、快速上線。

領導嘉賓了解粵港澳大灣區(qū)首個“真武”萬卡智算集群(央廣網(wǎng)發(fā) 主辦方供圖)

為進一步推動算力普惠,該集群資源同步在“廣東電信算力超市”上線,通過集約運營,面向中小企業(yè)提供按卡、按小時計費的算力零售服務。同時,集群未來預計持續(xù)擴容至十萬卡規(guī)模,致力于打造面向各關鍵行業(yè)領域的國家級智能算力服務平臺,惠及大灣區(qū)更多科研機構、企業(yè)和政府單位以更低成本、更高效率使用算力資源。

作為粵港澳大灣區(qū)樞紐核心引擎,韶關數(shù)據(jù)中心集群目前已建成可承載15萬標準機架及22萬P算力的能力,同步建成400G低時延全光運力網(wǎng)絡,全域覆蓋粵港澳大灣區(qū),精準構筑1-3-5-10毫秒分級時延圈——城市內1ms、大灣區(qū)3ms、省內5ms、華南區(qū)域10ms,全面實現(xiàn)算力跨域高速智能互聯(lián),筑牢區(qū)域一體化算力調度傳輸根基。此次萬卡集群的投入使用,進一步強化了韶關作為粵港澳大灣區(qū)樞紐核心引擎的算力底座能力。作為粵港澳大灣區(qū)最大算力集群,韶關智算集群下一步將通過實戰(zhàn)檢驗的工程化、本地化、合規(guī)化能力,幫助客戶完成從算力選型、上線到持續(xù)優(yōu)化的全過程,加快大模型能力與算力普惠向千行百業(yè)滲透。

編輯:徐鋇兒
更多精彩資訊請在應用市場下載“央廣網(wǎng)”客戶端。歡迎提供新聞線索,24小時報料熱線400-800-0088;消費者也可通過央廣網(wǎng)“啄木鳥消費者投訴平臺”線上投訴。版權聲明:本文章版權歸屬央廣網(wǎng)所有,未經(jīng)授權不得轉載。轉載請聯(lián)系:cnrbanquan@cnr.cn,不尊重原創(chuàng)的行為我們將追究責任。
長按二維碼
關注精彩內容