亚洲精品久久久久久久久久久,亚洲国产精品一区二区制服,亚洲精品午夜精品,国产成人精品综合在线观看,最近2019中文字幕一页二页

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

大算力芯片里的HBM,你了解多少?

貞光科技 ? 2023-12-05 16:14 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

最近,隨著人工智能行業(yè)的高速崛起,大算力芯片業(yè)成為半導體行業(yè)為數(shù)不多的熱門領域

HBM (高寬帶內存:High-bandwidth memory)作為大算力芯片里不可或缺的組成部分,也因此走入了行業(yè)內外人士的視野

wKgaomVu29qAc42KAAT5uH-zMbE687.jpg

和傳統(tǒng)的GDDR相比,HBM不僅僅提供了更大的位數(shù)寬度,而且通過TSV和Interposer的連接方式,大幅降低了數(shù)據(jù)通訊上的能量損耗。這對于大算力芯片的性能效率提升是起到?jīng)Q定性作用的

如果GPU通過PCB板和傳統(tǒng)GDDR內存交換數(shù)據(jù),那在高速運算時其大多數(shù)的能耗都會消耗在數(shù)據(jù)通訊本身而非計算上。這對于能耗成本高企的AI模型訓練來說是幾乎不可接受的

而采用HBM以后,通訊相關的能耗可以成倍降低,甚至有可能把能耗占比降到20%,甚至更低。所以目前AI相關的算力芯片都幾乎采用了HBM的技術方案。HBM的市場也隨之爆發(fā)(見下圖)

wKgZomVu29mAMxEIAAVMovWcDV8129.jpg

我趁這個熱度,也收集了不少資料好好學習了一下HBM相關的知識

HBM到目前為止基本發(fā)展了四代:

第一代和第二代的技術規(guī)范標準被定義在了JEDEC的JESD235里,后更新為JESD235A。HBM2相對于HBM1的區(qū)別是通道模式由原來的Legacy變成了Pseudo Channel:用兩個虛擬的64位通道等效成一個128位通道

后來在JESD235C和JESD235D里定義了HBM2E,較大幅度地提升了數(shù)據(jù)通訊能力等參數(shù)。行業(yè)里習慣把這個稱為第三代HBM

而JESD238開始定義的HBM3則被順延地稱為了第四代HBM。需要注意的是,這次JEDEC標準文檔的編號也從235改成了238

wKgaomVu29mAWxFzAAFhEZSBp8I183.jpg

和之前的版本相比,HBM3的最大變化是每個Stack的通道(Channel)數(shù)量從2個增加到了4個,從而使得數(shù)據(jù)容量翻倍

后來在JEDEC的標準上,Micron、Hynix等制造商也分別推出了自己的增強型版本至于第五代的HBM4,目前JEDEC的標準還沒有正式推出。我在網(wǎng)上也只能找到一些簡單的指標數(shù)據(jù)作為參考

為了整理各個版本HBM的具體指標參數(shù)和相關信息,我不僅下載了JEDEC的各個版本文檔,也參考不少其它的資料,然后收集整理了下面這個表格供大家參考歡迎大家?guī)兔Υ_認,如果發(fā)現(xiàn)任何問題,請和我溝通或者在公眾號給我留言,謝謝了

wKgaomVu29qAFf0aAAft7E7AVtY562.jpg

注:轉載至 半導體綜研 文中觀點僅供分享交流,不代表貞光科技立場,如涉及版權等問題,請您告知,我們將及時處理!

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權轉載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 芯片
    +關注

    關注

    462

    文章

    53355

    瀏覽量

    456494
  • 半導體
    +關注

    關注

    336

    文章

    29749

    瀏覽量

    255252
  • HBM
    HBM
    +關注

    關注

    2

    文章

    426

    瀏覽量

    15671
  • 算力芯片
    +關注

    關注

    0

    文章

    56

    瀏覽量

    5025
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關推薦
    熱點推薦

    “四合一”平臺,芯片國產化率超九成,兼容8種國產AI芯片

    電子發(fā)燒友網(wǎng)報道(文/李彎彎)4月11日消息,由中國移動承建的全國首個“四合一”網(wǎng)絡調度平臺正式投入使用。四合一是指將通用
    的頭像 發(fā)表于 04-13 00:03 ?3359次閱讀

    國產AI芯片真能扛住“內卷”?海思昇騰的這波操作藏了多少細節(jié)?

    最近行業(yè)都在說“是AI的命門”,但國產芯片真的能接住這波需求嗎? 前陣子接觸到海思昇騰910B,實測下來有點超出預期——7nm工藝下
    發(fā)表于 10-27 13:12

    不夠、交付太慢?捷智裸金屬租賃對標物理機性能,讓立馬用上高!

    2025年國產大模型升級帶動租賃需求爆發(fā),高性能服務器“一機難求”。中研普華預測,今年我國
    的頭像 發(fā)表于 09-12 20:06 ?919次閱讀
    <b class='flag-5'>算</b><b class='flag-5'>力</b>不夠、交付太慢?捷智<b class='flag-5'>算</b>裸金屬租賃對標物理機性能,讓<b class='flag-5'>你</b>立馬用上高<b class='flag-5'>算</b><b class='flag-5'>力</b>!

    搭建中心,從了解的GPU 特性開始

    ABSTRACT摘要本文介紹如何搭建,并介紹A100、H100、H200和B200這些GPU的特性。JAEALOT2025年4月23日隨著人工智能、大數(shù)據(jù)和高性能計算(HPC)的快速發(fā)展,市場上
    的頭像 發(fā)表于 04-24 11:08 ?2715次閱讀
    搭建<b class='flag-5'>算</b><b class='flag-5'>力</b>中心,從<b class='flag-5'>了解</b>的GPU 特性開始

    芯片的生態(tài)突圍與革命

    電子發(fā)燒友網(wǎng)報道(文 / 李彎彎)大芯片,即具備強大計算能力的集成電路芯片,主要應用于高性能計算(HPC)、人工智能(AI)、數(shù)據(jù)中心、自動駕駛等需要海量數(shù)據(jù)并行計算的場景。隨著
    的頭像 發(fā)表于 04-13 00:02 ?2452次閱讀

    【一文看懂】什么是端側?

    隨著物聯(lián)網(wǎng)(IoT)、人工智能和5G技術的快速發(fā)展,端側正逐漸成為智能設備性能提升和智能化應用實現(xiàn)的關鍵技術。什么是端側,它的應用價值是什么,與云計算、邊緣計算有哪些區(qū)別?本文
    的頭像 發(fā)表于 02-24 12:02 ?2491次閱讀
    【一文看懂】什么是端側<b class='flag-5'>算</b><b class='flag-5'>力</b>?

    DeepSeek對芯片的影響

    DeepSeek模型,尤其是其基于MOE(混合專家)架構的DeepSeek-V3,對芯片的要求產生了深遠影響。為了更好地理解這一影響,我們可以從幾個方面進行分析。一.MOE架構對
    的頭像 發(fā)表于 02-07 10:02 ?1533次閱讀
    DeepSeek對<b class='flag-5'>芯片</b><b class='flag-5'>算</b><b class='flag-5'>力</b>的影響

    中心的如何衡量?

    作為當下科技發(fā)展的重要基礎設施,其的衡量關乎其能否高效支撐人工智能、大數(shù)據(jù)分析等智能應用的運行。以下是對智中心算衡量的詳細闡述:一、
    的頭像 發(fā)表于 01-16 14:03 ?3774次閱讀
    <b class='flag-5'>算</b>智<b class='flag-5'>算</b>中心的<b class='flag-5'>算</b><b class='flag-5'>力</b>如何衡量?

    科技云報到:要更要“利”,“精裝”觸發(fā)大模型產業(yè)新變局?

    科技云報到:要更要“利”,“精裝”觸發(fā)大模型產業(yè)新變局?
    的頭像 發(fā)表于 01-16 10:24 ?705次閱讀

    杰和課堂|帶你認識

    杰和課堂|帶你認識力人工智能浪潮洶涌的今天,一詞頻繁出現(xiàn)在各類科技新聞、產業(yè)發(fā)展報告中。了解過杰和科技產品的讀者們,也會在杰和各產品參數(shù)中發(fā)現(xiàn)
    的頭像 發(fā)表于 12-06 10:24 ?2014次閱讀
    杰和課堂|帶你認識<b class='flag-5'>算</b><b class='flag-5'>力</b>

    調度的基礎知識

    編者按 “調度”的概念,這幾年越來越多的被提及。剛聽到這個概念的時候,我腦海里一直拐不過彎。作為底層芯片出身的我,一直認為:是硬件的
    的頭像 發(fā)表于 11-27 17:13 ?1261次閱讀
    <b class='flag-5'>算</b><b class='flag-5'>力</b>調度的基礎知識

    AI時代核心存HBM(上)

    HBM 等,他們雖然均使用相同的 DRAM 存儲單 元(DRAM Die),但其組成架構功能不同,導致對應的性能不同。手機、汽車、消費類等 對低功耗要求高主要使用 LPDDR,服務器和 PC 端等有高傳輸、高密度要求則使用 DDR,圖 形處理及高
    的頭像 發(fā)表于 11-16 10:30 ?3006次閱讀
    AI時代核心存<b class='flag-5'>力</b><b class='flag-5'>HBM</b>(上)

    基礎篇:從零開始了解

    即計算能力(Computing Power),狹義上指對數(shù)字問題的運算能力,而廣義上指對輸入信息處理后實現(xiàn)結果輸出的一種能力。雖然處理的內容不同,但處理過程的能力都可抽象為。比
    的頭像 發(fā)表于 11-15 14:22 ?3546次閱讀
    <b class='flag-5'>算</b><b class='flag-5'>力</b>基礎篇:從零開始<b class='flag-5'>了解</b><b class='flag-5'>算</b><b class='flag-5'>力</b>

    企業(yè)AI租賃是什么

    企業(yè)AI租賃是指企業(yè)通過互聯(lián)網(wǎng)向專業(yè)的提供商租用所需的計算資源,以滿足其AI應用的需求。以下是對企業(yè)AI
    的頭像 發(fā)表于 11-14 09:30 ?2815次閱讀