深圳國際電子展新品解析：燧原科技發布邃思2.0 AI訓練芯片

燧原科技近日發布第二代人工智能訓練產品——“邃思2.0”芯片、基于邃思2.0的“云燧T20”訓練加速卡和“云燧T21”訓練OAM模組，全面升級的“馭算TopsRider”軟件平臺以及全新的“云燧集群”，成為國內發布第二代人工智能訓練產品組合的公司。深圳國際電子展專注于全面展示電子產品設計生產所需的各類電子元器件及物料產品，這篇文章深圳國際電子展小編為大家分析邃思2.0 AI訓練芯片。

 

這是繼2019年12年發布初代訓練芯片，邃思1.0及云燧T10/T11，2020年12月發布推理產品云燧i10之后，燧原科技的又一力作。

 

燧原產品的商業落地場景包括，液冷超大規模集群，加速視頻內容生產；強化學習使能游戲AI，改變數字娛樂的方式；強大的視覺能力，保駕護航金融安全；邊緣部署融合多數據，構建新型智能化交通；高效推理算力集群，建設園區AI視頻云。

 

隨著第二代產品的發布，將加速這些場景的商業化落地。

 

云燧智算集群

 

隨著自然語言處理、強化學習、無監督學習、多模態和認知模型等的發展，在知識圖譜、智慧大腦、游戲引擎、融合媒體和通用人工智能的應用上，綠色一體化的超級智算集群是關鍵趨勢。

 

燧原發布CloudBlazer Matrix云燧智算集群，它代表世界水平，8192Enflame CloudBlazer訓練卡和DTU芯片，高1.3E（130000T）單精度智能算力集群。液冷/每一體化PUE降到1.15以下。高160T單精度張量訓練卡以及80%的線性度。

 

這是為智能計算和新基建算力而推出的集群化產品。CloudBlazer Matrix 2.0將包括邃思DTU2.0，云燧CloudBlazer T20/T21板卡，和馭算軟件Topsrider2.0。

 

打造中國計算芯片，邃思DTU2.0性能強悍

 

邃思DTU2.0突破封裝的上限。DTU2.0采用2.5D高級封裝，整合9顆芯片，其中1顆DTU芯片、4顆三星HBM2E等構成先進封裝。封裝尺寸為57.5mm*57.5mm。

 

燧原科技第二代通用人工智能訓練芯片“邃思2.0”

 

DTU2.0的計算能力，單精度FP32達40FLOPS，支持單精度張量TF32，達160T FLOPS。TF32格式被認為是在數據中心先進的數據模式。

 

此外，DTU2.0植入完全可編程的數據流，軟件指令驅動的傳輸和數據計算，標量、向量和張量的高效數據處理，和多地址廣播等。

 

存儲方面，邃思2.0共搭載了4顆HBM2E片上存儲芯片，高配支持64GB內存，帶寬達1.8TB/s，是中國支持世界先進存儲HBM2E和單芯片64 GB內存的產品。

 

6個LARE卡間互聯端口，每一個端口雙向50GB/s，總集群互聯帶寬300GB/s。

 

云燧T21\T20訓練產品，分別為OAM標準模組和全高全長PCIE板卡。

 

以Benchmark數據來看，云燧T20與友商次旗艦相比，在圖像識別/分類、NLP、目標檢測、圖像分割、推薦等均有明顯優勢。

 

馭算Topsrider2.0架構

 

馭算TopsRider是燧原科技自主知識產權的計算及編程平臺，通過軟硬件協同架構設計，充分發揮邃思2.0的性能；基于算子泛化技術及圖優化策略，支持主流深度學習框架下的各類模型訓練；利用Horovod分布式訓練框架與GCU-LARE互聯技術相互配合，為超大規模集群的高效運行提供解決方案。開放升級的編程模型和可擴展的算子接口，為客戶模型的優化提供了自定義的開發能力。

 

訓練產品方面，燧原計劃第三代T30/T31產品將于2023年發布，每瓦的能效將提升14倍。同時升級到Matrix3.0。

 

推理計算方面，2021年下半年將發布i20推理芯片，以及2023年將發布i30。其每瓦能效將分別提升4倍和16倍。

 

另外，在Topsrider2.x的基礎上，還將進一步升級至Topsrider3.x，致力于泛AI生態。

 

生態建設

 

AI生態也是跨行業的、復雜的生態競爭。燧原推出的異構計算生態燎原計劃，將聚集生態的三大特征：原始創新、標準化和生態共建。

 

燎原計劃將建立繁榮開放的開發者生態，健康互利的產業生態，持續創新的科研生態。打造以人工智能為起點構建通用異構計算生態，構建標準化的技術體系，共建完整生態服務數字中國。將涵蓋深度學習計算，通用異構計算以及視覺計算。

 

未來行業的發展趨勢表明，以芯片為核心的算力，是工業4.0兵家必爭之地。工業4.0時代，人工智能是關鍵動力。摩爾定律放緩，異構計算加速，基于小芯片、封裝技術，人工智能落地將改變互聯網重塑傳統行業。算力需示爆炸，算力成為人工智能技術發展的基礎。燧原科技要建立世界水平的本土化研發和工程化團隊，開發國產自主創新的核心技術，布局云端AI+高端芯片雙賽道。我們為數據中心打造云端AI產品，形成訓練推理完整的閉環解決方案。

 

更多信息請關注深圳電子元器件及物料采購展覽會，深圳電子元器件及物料采購展覽會（ES SHOW）是專注于全面展示電子產品設計生產所需的各類電子元器件及物料產品的商業展覽，是為來自各類電子產品生產加工企業的專業采購人員所打造的元器件及物料采購平臺。今年將于2021年10月20-22日在深圳國際會展中心（寶安新館）舉辦。

深圳電子展火熱籌備中，本周有優惠名額2個，名額有限，先到先得