中國電信中部智算中心在武漢投運,支持部署萬億參數大模型

2024年2月5日 23点热度 0人点赞
IT之傢 1 月 27 日消息,中國電信中部智算中心在武漢東湖新技術開發區(光谷)舉行正式投入運營。中國電信專傢介紹,該智算中心的算力、安全、環保及擴展性均達到一流水平,目前在中部地區屬於最高等級
IT之傢註意到,中國電信中部智算中心建設先進自主液冷智算集群,首次采用基於國產 AI 基礎軟硬件平臺的方案架構,實現算、存、網、電、熱整體設計。通過獨特的嵌入式液冷單元,盲插總線架構,實現液冷到芯片,液冷到服務器,液冷到機櫃,全場景 PUE≤1.15,在達到業內一流綠色節能環保水平的同時,可支持部署萬億參數大模型
中國電信在全國構建了多點智算中心,提供 5000PFLOPS 的智算算力,中部智算中心依托天翼雲驍一體化算力平臺,提供高性能、高顯存、高兼容性的主流大模型訓練、訓推一體算力和國產自研架構的液冷高性能算力,可滿足多場景算力需求。
中部智算中心可提供千卡規模的訓練推理能力,並支持主流框架及芯片,基於訓練推理的混合調度能力,資源利用率可以提升 20%。基於高性能的基礎設施和一系列的優化技術,在千卡模型下並行計算效率可以達到 80%