9月15日,2023全球AI芯片峰會(GACS 2023)在深圳舉行,聚集了全球AI芯片產(chǎn)業(yè)的領軍者和中堅力量,共探AI芯片的求新、求變、求索之徑。中科馭數(shù)高級副總裁張宇應邀在智算中心算力與網(wǎng)絡高峰論壇發(fā)表題為《基于DPU的高效AI大模型算力底座》的重要演講。
▲中科馭數(shù)高級副總裁張宇受邀發(fā)表重要演講
隨著人工智能從高端科研領域向人們日常工作生活推進,傳統(tǒng)數(shù)據(jù)中心都在向智算中心演進。DPU提供智算中心所必須的大帶寬和低時延能力,使更多的CPU/GPU算力真正服務于業(yè)務,從而為新型的智算中心提供了更高效的算力底座,成為智算中心必備的核心組件。張宇在演講中介紹,在處理大規(guī)模數(shù)據(jù)和復雜任務時,傳統(tǒng)算力集群往往面臨性能限制,受到單節(jié)點算力瓶頸和集群效率瓶頸的雙重挑戰(zhàn)。中科馭數(shù)基于DPU的AI算力底座,充分利用了DPU異構計算加速能力,并結合自研DOE的算子卸載技術,以及基于RDMA實現(xiàn)數(shù)據(jù)處理集群的算網(wǎng)融合加速,有效破解了分布式環(huán)境下數(shù)據(jù)處理集群難題,DPU算子性能提升15倍,數(shù)據(jù)集群整體性能提升2-5倍,計算性能顯著提升,實現(xiàn)降本增效。

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權轉載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規(guī)問題,請聯(lián)系本站處理。
舉報投訴
-
中科馭數(shù)
+關注
關注
0文章
141瀏覽量
4519
原文標題:加速AI應用“遍地開花”,中科馭數(shù)基于DPU的算力底座方案亮相2023全球AI芯片峰會
文章出處:【微信號:yusurtech,微信公眾號:馭數(shù)科技】歡迎添加關注!文章轉載請注明出處。
發(fā)布評論請先 登錄
相關推薦
熱點推薦
愛芯元智亮相2025全球AI芯片峰會
2025全球AI芯片峰會(GACS 2025)近日在上海召開,愛芯元智聯(lián)合創(chuàng)始人、副總裁劉建偉出席活動,并于“大模型AI
中科創(chuàng)達亮相2025高通驍龍峰會
2025年9月24日-25日,以 “靈光閃爍 有龍則靈” 為主題的2025高通驍龍峰會?中國在北京舉辦。作為高通戰(zhàn)略合作伙伴,中科創(chuàng)達攜滴水AI座艙及TurboX AI兩大
Achronix亮相2025全球AI芯片峰會
在近日舉行的2025全球AI芯片峰會上,Achronix Speedster7t FPGA的大模型推理平臺展示獲得眾多業(yè)界人士的積極反響。
中科馭數(shù)亮相2025 CCF全國高性能計算學術大會
在昨日開幕的中國計算機學會全國高性能計算學術大會(CCF HPC China 2025)上,中科馭數(shù)作為高通量以太網(wǎng)聯(lián)盟成員參與聯(lián)盟成果發(fā)布。同期舉辦的世界算
睿海光電領航AI光模塊:超快交付與全場景兼容賦能智算時代——以創(chuàng)新實力助力全球客戶構建高效算力底座
到全場景兼容,從800G量產(chǎn)突破到1.6T前瞻布局,睿海光電始終以客戶需求為導向,以技術創(chuàng)新為引擎,為全球AI基礎設施建設提供堅實底座。憑借智能制造實力與開放生態(tài)策略,睿海光電正攜手合作伙伴,共同推動智能時代的
發(fā)表于 08-13 19:03
華為AI UBB解決方案加速網(wǎng)絡邁向高階智能
解決方案,包括AI FAN、AI OTN、AI WAN和ADN四大部分,端到端覆蓋家庭網(wǎng)絡、承載網(wǎng)絡和UBB智能管控系統(tǒng)。AI UBB解決
中科馭數(shù)攜DPU全棧產(chǎn)品亮相福州數(shù)博會,賦能智算時代算力基建
會”)也拉開帷幕。共有150多家企業(yè)參展,展會吸引了八萬多名觀眾參觀。作為國內DPU領域領軍企業(yè),中科馭數(shù)攜三大產(chǎn)品線亮相展會,其創(chuàng)新的
中科馭數(shù)受邀參與華泰證券春季投資峰會 分享DPU在AI領域的應用
華泰證券2025年春季投資峰會以“破局、重構、裂變”為主題,探討全球變局下的新趨勢。中科馭數(shù)高級副總裁張宇受邀參與,分享
鄭州市領導蒞臨中科馭數(shù)調研
鄭州市工業(yè)和信息化局黨組成員、副局長曹永濤一行人來訪中科馭數(shù),雙方共同探討在算力產(chǎn)業(yè)方向的合作。
中科馭數(shù)K2-Pro芯片助力智算中心創(chuàng)新
中科馭數(shù),作為國內DPU芯片與產(chǎn)品供應的領軍者,憑借在DPU領域的深厚積累,不斷推出創(chuàng)新產(chǎn)品。近
中科馭數(shù)受邀出席華泰證券金融科技峰會
近日中科馭數(shù)作為創(chuàng)新生態(tài)伙伴,受邀參與華泰證券在香港舉辦的2024年度金融科技峰會。中科馭
算力大模型持續(xù)火熱誰來為智算中心降降溫
瓦時,相當于同期三峽電站累計發(fā)電量的兩倍以上?!半p碳”目標下,數(shù)據(jù)中心的“高算效、低能耗”發(fā)展已是大勢所趨。 遍地開花 AI計算正“熱辣滾燙” 生成式AI的爆發(fā)推動了基于
中科奇馭獲AI落地嘉年華峰會認證
近日,在工業(yè)和信息化部工業(yè)文化發(fā)展中心舉辦的AI落地嘉年華峰會上,中科奇馭榮獲了主辦方頒發(fā)的權威證書。這一榮譽標志著中科奇

加速AI應用“遍地開花”,中科馭數(shù)基于DPU的算力底座方案亮相2023全球AI芯片峰會
評論