通信網(wǎng)banner.jpg)
4 月 26 日下午，全球首個(gè)商用智算 N 騰超節(jié)點(diǎn)在中國(guó)電信粵港澳大灣區(qū)（韶關(guān)）算力集群正式發(fā)布，現(xiàn)已商用上線。這一事件標(biāo)志著新一代智能算力注入粵港澳大灣區(qū)國(guó)家級(jí)算力樞紐節(jié)點(diǎn)，也意味著中國(guó)電信在 AI 算力基礎(chǔ)設(shè)施領(lǐng)域取得了重大進(jìn)展，為人工智能產(chǎn)業(yè)的高質(zhì)量發(fā)展注入了新動(dòng)能。
廣東省委常委、副省長(zhǎng)張國(guó)智，中國(guó)電信董事長(zhǎng)柯瑞文，韶關(guān)市委書(shū)記陳少榮，華為公司董事陶景文等出席了發(fā)布儀式并致辭。
隨著大模型的 Scaling Law 仍然生效，國(guó)內(nèi)外主流基礎(chǔ)大模型參數(shù)量持續(xù)增加，算力需求也在不斷增長(zhǎng)。同時(shí)，大模型正在從稠密架構(gòu)向混合專家模型（MoE）稀疏架構(gòu)演進(jìn)�；谶@些特點(diǎn)，業(yè)界主流智算服務(wù)器在提升單卡算力的同時(shí)，也正在從單節(jié)點(diǎn)向超節(jié)點(diǎn)架構(gòu)演進(jìn)。
智算 N 騰超節(jié)點(diǎn)采用了新型高速總線架構(gòu)，天然適配混合專家模型（MoE）架構(gòu)，使得大模型訓(xùn)練效率和推理性能大幅提升。中國(guó)電信此前在京津冀、長(zhǎng)三角建成的國(guó)內(nèi)首批全液冷萬(wàn)卡池，保障了智能算力的供給量。此次在粵港澳大灣區(qū)樞紐節(jié)點(diǎn)建設(shè)首個(gè)超節(jié)點(diǎn)形態(tài)集群，標(biāo)志著中國(guó)電信智能算力供給實(shí)現(xiàn)了質(zhì)與量的雙重跨越。
智算 N 騰超節(jié)點(diǎn)具有四大核心優(yōu)勢(shì)，引領(lǐng)了智算的新潮流。首先，通過(guò)架構(gòu)升級(jí)和軟件優(yōu)化，大幅提升了訓(xùn)練和推理性能。相比 910B，NPU（神經(jīng)網(wǎng)絡(luò)處理器）間高速互聯(lián)帶寬提升了 14 倍，模型切分并行域提升了 48 倍，訓(xùn)練場(chǎng)景效率提升了 2.7 倍，推理場(chǎng)景單卡吞吐提升了 20 倍以上（疊加大規(guī)模專家并行和 PD 分離技術(shù)）。其次，云網(wǎng)融合帶來(lái)了運(yùn)力優(yōu)勢(shì)。中國(guó)電信提供了超低時(shí)延、超高安全、超快傳輸?shù)倪\(yùn)力保障，通過(guò)全光 400G 運(yùn)力網(wǎng)絡(luò)打造了華南地區(qū) 10 毫秒、廣東地區(qū) 5 毫秒、大灣區(qū) 3 毫秒的超低時(shí)延運(yùn)力底座，實(shí)現(xiàn)了智能算力的高速互聯(lián)。此外，通過(guò)量子技術(shù)，保障了數(shù)據(jù)安全傳輸。同時(shí)，利用超算快線打造了高達(dá)百 G 的敏捷彈性、任務(wù)式服務(wù)的算力傳輸能力。最后，依托“息壤”一體化智算服務(wù)平臺(tái)的能力優(yōu)勢(shì)，中國(guó)電信將智算 N 騰超節(jié)點(diǎn)納入全國(guó)算力體系，為全國(guó)提供服務(wù)。同時(shí)，結(jié)合大灣區(qū)通算、智算、超算層次化布局，面向用戶提供訓(xùn)推一體、云智一體、超智一體能力，服務(wù)于千行百業(yè)。
此外，作為粵港澳大灣區(qū)首個(gè)大規(guī)模全液冷智能算力數(shù)據(jù)中心，中國(guó)電信全面應(yīng)用了綠色低碳技術(shù)，100%使用綠電，PUE 小于 1.15。同時(shí)，采用了數(shù)字孿生、AI 等先進(jìn)技術(shù)，打造了全程數(shù)字化智慧運(yùn)營(yíng)管理能力，
