近日,中科馭數(北京)科技有限公司(以下簡稱“中科馭數”)基于全國產化CPU、GPU、DPU三U一體設備本地化部署了DeepSeek模型。
中科馭數通過國產CPU系統實現整體業務調度與主要服務進程運行,采用國產GPU完成模型推理運算,由中科馭數DPU進行設備裸金屬業務管理以及云化網絡/存儲能力卸載提速。該系統底層采用全國產化的3U一體服務器搭建,在兼顧安全性與低成本的同時,可以高效運行DeepSeek-V3與DeepSeek-R1等多個AI推理模型系統。
隨著深度學習技術的快速發展,大模型(如DeepSeek、GPT等)在自然語言處理、計算機視覺等領域取得了顯著成果,計算需求越來越大。
目前,中科馭數通過這一創新方案,完成多個AI模型適配,打通全國產化三U一體算力底層支撐,幫助AI應用在落地過程中實現更好的數據隱私性保護與抵御外部風險的能力,同時也積極推動產業鏈協同與資源優化整合。
中科馭數作為DPU芯片和產品供應商,憑借自主研發的K2-Pro芯片,在公司自建的全國產化推理集群中,承擔了高通量網絡傳輸、云化流表卸載與分布式資源快速加載的任務。
同時,在AI模型訓練方向,中科馭數自主研發的RDMA網卡助力數據中心實現高速網絡連接,能夠確保大規模模型的數據傳輸效率,減少通信延遲,提升整體計算性能。
作為一家專注于專用處理器研發的國家專精特新“小巨人”企業,中科馭數始終致力于推動技術創新與產業鏈協同發展。自主研發的DPU芯片及相關系列產品已廣泛應用于超低時延網絡、云和數據中心、金融計算、大數據處理、5G邊緣計算、高性能計算等多個領域,為各行各業的數字化轉型提供了堅實的技術保障。(來源:湖報資本 通訊員黃亞瓊)
鄂ICP備2020021375號-2
網絡傳播視聽節目許可證(0107190)
備案號:42010602003527
今日湖北網版權所有
技術支持:湖北報網新聞傳媒有限公司
舉報電話:027-88568010
運維監督:13307199555