在過去的五年中,人工智能(AI)的使用激增,引發(fā)了有關(guān)該主題的幾次新會議。但是,最重要的活動已成為Nvidia的GPU技術(shù)會議(GTC),最近的一次活動是在上周在加利福尼亞州圣何塞舉行的。出席人數(shù)高達(dá)8,500人,比GTC17多出2,000人。(注:Nvidia是ZK Research的客戶。)
雖然該展會由Nvidia主持,但它已成為行業(yè)展會,正在討論和解決擴(kuò)展AI方面的一些最大挑戰(zhàn)。
按照GTC的慣例,Nvidia宣布了許多公告。以下是我認(rèn)為最引人注意的內(nèi)容,以及CIO應(yīng)該關(guān)心的原因。
GPU計算面臨的挑戰(zhàn)之一是將足夠的數(shù)據(jù)推入GPU中,以使其保持繁忙,尤其是對于多GPU系統(tǒng)而言。通常,在高數(shù)據(jù)負(fù)載下,PCI總線速度太慢,因此Nvidia開發(fā)了一種專有互連,將兩個GPU(稱為NVLink)橋接在一起,從而繞過了PCI總線。在GTC18上,Nvidia首次推出了一項(xiàng)名為NVSwitch的創(chuàng)新技術(shù),該技術(shù)可使16個GPU通過高速結(jié)構(gòu)連接在一起。
在其主題演講中,首席執(zhí)行官黃仁勛展示了16種GPU系統(tǒng)之一,并開玩笑說它是世界上最大的GPU,因?yàn)樗行У貏?chuàng)建了一個大型GPU。網(wǎng)絡(luò)專業(yè)人員會熟悉該架構(gòu),因?yàn)檫@種縱橫制交換矩陣被用作當(dāng)今大多數(shù)高速交換機(jī)的互連,因此被稱為NVSwtich。
CIO為什么要關(guān)心:企業(yè)必須分析的數(shù)據(jù)量只會增加。實(shí)際上,使用通用對抗網(wǎng)絡(luò)(GAN)可使機(jī)器生成自己的綜合數(shù)據(jù)。NVSwitch幫助組織將更多的GPU互連在一起,以便數(shù)據(jù)科學(xué)家可以處理更大,更復(fù)雜的數(shù)據(jù)集。
大約一年前,Nvidia推出了Tesla V100 GPU,它配備了16GB的HBM2內(nèi)存。該公司在GTC18大會上宣布將立即將總內(nèi)存增加一倍至32 GB。升級意味著Nvidia現(xiàn)在與其主要競爭對手AMD處于內(nèi)存平價。V100的性能始終為同類AMD產(chǎn)品吹牛。但是,總內(nèi)存是它滯后的地方-現(xiàn)在它已經(jīng)縮小了差距。
-
NVIDIA
+關(guān)注
關(guān)注
14文章
5465瀏覽量
108786 -
gpu
+關(guān)注
關(guān)注
28文章
5068瀏覽量
134152 -
人工智能
+關(guān)注
關(guān)注
1813文章
49596瀏覽量
260105
發(fā)布評論請先 登錄
NVIDIA新聞:英偉達(dá)10億美元入股諾基亞 英偉達(dá)推出全新量子設(shè)備
英偉達(dá)發(fā)布 NVQLink 開放系統(tǒng)架構(gòu);國內(nèi)首個汽車芯片標(biāo)準(zhǔn)驗(yàn)證平臺投入使用
傳英偉達(dá)自研HBM基礎(chǔ)裸片
aicube的n卡gpu索引該如何添加?
英偉達(dá)擬再推中國特供GPU,今年6月量產(chǎn)!
GPU 維修干貨 | 英偉達(dá) GPU H100 常見故障有哪些?
自然語言提示原型在英特爾Vision大會上首次亮相
英偉達(dá)GTC2025大會關(guān)鍵信息點(diǎn)總結(jié) Blackwell Ultra 量子計算與機(jī)器人
新思科技亮相英偉達(dá)GTC 2025大會
羅德與施瓦茨與英偉達(dá)合作展示基于AI/ML的神經(jīng)接收器
英偉達(dá)帶來Reflex 2低延遲技術(shù)
英偉達(dá)GB300 AI服務(wù)器訂單配置初定
英偉達(dá)GB300訂單配置初步敲定

英偉達(dá)GPU技術(shù)大會上最有趣的事情
評論