亚洲精品久久久久久久久久久,亚洲国产精品一区二区制服,亚洲精品午夜精品,国产成人精品综合在线观看,最近2019中文字幕一页二页

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

Arm為何是擴(kuò)展AI技術(shù)棧的理想之選

Arm社區(qū) ? 來(lái)源:Arm社區(qū) ? 2025-10-18 14:54 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

隨著人工智能 (AI) 在數(shù)據(jù)中心、終端設(shè)備及各類中間場(chǎng)景中迅速普及,當(dāng)前的核心挑戰(zhàn)已不再是打造智能計(jì)算本身,而是構(gòu)建支撐其規(guī)?;瘧?yīng)用所需的基礎(chǔ)設(shè)施。

AI 并非單一維度的問題,而是一個(gè)由全球領(lǐng)先的科技企業(yè)共同塑造的龐大生態(tài)系統(tǒng)。在這場(chǎng)價(jià)值數(shù)萬(wàn)億美元級(jí)別的產(chǎn)業(yè)變革中,Arm 架構(gòu)持續(xù)脫穎而出。

AI 數(shù)據(jù)中心:

由行業(yè)領(lǐng)袖企業(yè)定義,以 Arm 技術(shù)為基石

AI 領(lǐng)域的領(lǐng)軍企業(yè),如 NVIDIA、亞馬遜云科技 (AWS)、微軟、Google、Oracle 和 OpenAI 正與 Arm 攜手,共同推動(dòng)下一代數(shù)據(jù)中心的建設(shè)。據(jù)估計(jì),為了滿足模型訓(xùn)練、推理和具有成本效益的規(guī)?;瘮U(kuò)展需求,AI 基礎(chǔ)設(shè)施領(lǐng)域的投資將突破萬(wàn)億美元級(jí)別。

預(yù)計(jì)到 2025 年,出貨到頭部超大規(guī)模云服務(wù)提供商的算力中,將有近 50% 是基于 Arm 架構(gòu)。目前,AWS (Graviton)、Google Cloud (Axion) 和 Microsoft Azure (Cobalt) 均已在其云基礎(chǔ)設(shè)施中部署了基于 Arm 架構(gòu)的芯片,從而顯著節(jié)省能源和成本,并提升可擴(kuò)展性。NVIDIA 的 Grace CPU 基于 Arm Neoverse 平臺(tái)構(gòu)建,是 NVIDIA Grace Blackwell AI 超級(jí)芯片的核心組件;該超級(jí)芯片廣受市場(chǎng)青睞,僅全球前四大超大規(guī)模云服務(wù)提供商就已訂購(gòu) 360 萬(wàn)顆。事實(shí)上,目前已有超過 10 億顆基于 Arm Neoverse 平臺(tái)的 CPU 部署至數(shù)據(jù)中心,這一數(shù)據(jù)充分凸顯了 Arm 架構(gòu)在全球數(shù)據(jù)中心建設(shè)中的核心地位。

在當(dāng)今先進(jìn)的 AI 數(shù)據(jù)中心技術(shù)棧中,Arm 架構(gòu)作為普遍采用的基礎(chǔ)平臺(tái),提供了傳統(tǒng)架構(gòu)難以企及的可擴(kuò)展性、效率和靈活性,其性價(jià)比和能效優(yōu)勢(shì)包括:

與 x86 系統(tǒng)相比,NVIDIA 的 Grace-Hopper 超級(jí)芯片的模型訓(xùn)練速度提升高達(dá) 8 倍,LLM 推理性能提升高達(dá) 4.5 倍[1]。

與 x86 相比,Google 的 Axion 推薦性能提升高達(dá) 3 倍[2],推理能力提升 2.5 倍,同時(shí)成本降低達(dá) 64%[3]。

截至 2024 年 12 月,AWS EC2 云服務(wù)的算力中,超過 50% 基于 AWS Graviton 所構(gòu)建[4]。

此外,根據(jù)咨詢公司 Signal65 近期的分析報(bào)告顯示,基于 Arm Neoverse 平臺(tái)的 AWS Graviton4 芯片,不僅在性價(jià)比方面領(lǐng)先業(yè)界,更在企業(yè)級(jí)工作負(fù)載的整體性能上遠(yuǎn)超 AMD英特爾推出的同類 x86 芯片。例如,Signal65 的基準(zhǔn)測(cè)試結(jié)果表明,Graviton4 的大語(yǔ)言模型 (LLM) 推理性能比 AMD 同類產(chǎn)品高 168%,性價(jià)比高 220%;同時(shí)網(wǎng)絡(luò)吞吐量比英特爾同類產(chǎn)品高出 53%,機(jī)器學(xué)習(xí) (ML) 訓(xùn)練速度快于 34%。這些數(shù)據(jù)充分印證了 Arm 在 AI 和通用計(jì)算任務(wù)方面的顯著架構(gòu)優(yōu)勢(shì)。

從云端到邊緣側(cè),AI 亟需新型計(jì)算平臺(tái)

AI 正在突破數(shù)據(jù)中心的邊界,向更廣闊的應(yīng)用場(chǎng)景延伸。如今,無(wú)論是智能手機(jī)、個(gè)人電腦 (PC) 還是物聯(lián)網(wǎng)設(shè)備——小至低功耗傳感器,大到高性能工業(yè)應(yīng)用——都需要端側(cè)生成式 AI 來(lái)重塑用戶體驗(yàn)。

在此趨勢(shì)下,Arm 同樣獨(dú)具優(yōu)勢(shì)。面向消費(fèi)電子設(shè)備的全新Arm Lumex 計(jì)算子系統(tǒng) (CSS) 平臺(tái),可支持智能助手、語(yǔ)音翻譯和個(gè)性化服務(wù)等實(shí)時(shí)端側(cè) AI 應(yīng)用場(chǎng)景,而搭載 SME2 技術(shù)的全新 Arm CPU則可實(shí)現(xiàn)高達(dá) 5 倍的 AI 性能提升。同時(shí),全球首個(gè)基于 Armv9 架構(gòu)的邊緣 AI 計(jì)算平臺(tái),專為物聯(lián)網(wǎng)應(yīng)用中的邊緣 AI 工作負(fù)載優(yōu)化,可支持參數(shù)規(guī)模超 10 億的端側(cè) AI 模型運(yùn)行。

Arm 正在驅(qū)動(dòng)一場(chǎng)從云端到邊緣端的變革,憑借其本身的架構(gòu)優(yōu)勢(shì)賦能全場(chǎng)景的規(guī)模化部署。

軟件鑄就差異化優(yōu)勢(shì),Arm 工具為 AI 時(shí)代賦能

在 AI 領(lǐng)域,硬件構(gòu)筑底層基礎(chǔ),而軟件決定用戶體驗(yàn)。隨著 AI 工作負(fù)載日益復(fù)雜、應(yīng)用場(chǎng)景不斷拓展,開發(fā)者亟需一個(gè)能夠緊跟創(chuàng)新步伐的生態(tài)系統(tǒng)。而這正是 Arm 的優(yōu)勢(shì)所在:一套統(tǒng)一的架構(gòu),搭配從云端到邊緣端、強(qiáng)大且經(jīng)過優(yōu)化的軟件生態(tài)系統(tǒng)。

多達(dá) 2,200 萬(wàn)規(guī)模的 Arm 開發(fā)者群體將受益于這一協(xié)同生態(tài)系統(tǒng),無(wú)論是數(shù)據(jù)中心的大規(guī)模模型訓(xùn)練,還是邊緣側(cè)的實(shí)時(shí)推理,相同的代碼、工具與框架均可在不同設(shè)備上無(wú)縫運(yùn)行。這種架構(gòu)一致性顯著加速開發(fā)進(jìn)程,簡(jiǎn)化優(yōu)化路徑,實(shí)現(xiàn)更廣泛的部署落地,避免冗余工程投入。

PyTorch ExecuTorch、TensorFlow Lite 和MediaPipe等主要框架,現(xiàn)已通過 Arm KleidiAI 與基于 Arm 架構(gòu)的系統(tǒng)實(shí)現(xiàn)深度集成和優(yōu)化。Arm KleidiAI 是輕量級(jí)的開源優(yōu)化層,可激活基于 Arm 架構(gòu)進(jìn)行優(yōu)化的底層微內(nèi)核。如此一來(lái),開發(fā)者無(wú)需修改代碼即可自動(dòng)獲取性能增益——從超大規(guī)模云平臺(tái)到智能手機(jī)、嵌入式設(shè)備,全場(chǎng)景適用。

例如,在 Graviton4 上,KleidiAI 的集成使 Llama 3 的詞元 (token) 首次響應(yīng)時(shí)間較基準(zhǔn)提升了 2.5 倍;而在移動(dòng)端,基于 MediaPipe 的方案在 Gemma 2B 等模型上,也實(shí)現(xiàn)了高達(dá) 30% 的性能提升。無(wú)論是管理 AI 工廠,還是在邊緣側(cè)部署聊天機(jī)器人,開發(fā)者均可獲得可預(yù)測(cè)、高性能和高能效的軟件體驗(yàn)。

這種無(wú)縫、具備系統(tǒng)感知能力的軟件賦能方式,正是 Arm 平臺(tái)的核心差異化所在。開發(fā)者無(wú)需應(yīng)對(duì)碎片化技術(shù)棧的困擾,也無(wú)需重復(fù)開展后端重構(gòu)工作;相反,他們能夠直接借助這套軟硬件協(xié)同設(shè)計(jì)的生態(tài)系統(tǒng),實(shí)現(xiàn) AI 的性能和效率優(yōu)勢(shì)。

在“每瓦性能”至關(guān)重要的 AI 時(shí)代,Arm 的軟件生態(tài)系統(tǒng)不僅緊跟行業(yè)需求,更能貼合開發(fā)者的實(shí)際場(chǎng)景,加速其創(chuàng)新進(jìn)程。

AI 規(guī)模化發(fā)展的核心支柱

從萬(wàn)億美元級(jí)的數(shù)據(jù)中心,到下一代智能手機(jī)與智能車載系統(tǒng),AI 正在以前所未有的規(guī)模快速發(fā)展。作為貫通這些場(chǎng)景的橋梁,Arm 架構(gòu)正發(fā)揮著關(guān)鍵作用。

憑借超大規(guī)模云服務(wù)提供商的廣泛部署、靈活的邊緣計(jì)算能力,以及充滿活力、AI 就緒的軟件生態(tài)系統(tǒng),Arm 已成為當(dāng)下和未來(lái) AI 基礎(chǔ)設(shè)施的核心支柱。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • ARM
    ARM
    +關(guān)注

    關(guān)注

    135

    文章

    9478

    瀏覽量

    387497
  • cpu
    cpu
    +關(guān)注

    關(guān)注

    68

    文章

    11201

    瀏覽量

    222180
  • AI
    AI
    +關(guān)注

    關(guān)注

    89

    文章

    37531

    瀏覽量

    293229

原文標(biāo)題:從云端到邊緣,Arm 為何是擴(kuò)展 AI 技術(shù)棧的理想之選

文章出處:【微信號(hào):Arm社區(qū),微信公眾號(hào):Arm社區(qū)】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。

收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評(píng)論

    相關(guān)推薦
    熱點(diǎn)推薦

    AI應(yīng)用創(chuàng)新與全技術(shù)融合分論壇即將召開

    2025開放原子開源生態(tài)大會(huì)即將啟幕,其中 “AI應(yīng)用創(chuàng)新與全技術(shù)融合分論壇”將于 7月24日重磅亮相。論壇聚焦人工智能技術(shù)與開源生態(tài)的深度融合,邀請(qǐng)各領(lǐng)域用戶、
    的頭像 發(fā)表于 07-23 09:54 ?602次閱讀

    NVIDIA全加速代理式AI應(yīng)用落地

    在近期舉辦的 AWS 中國(guó)峰會(huì)上,NVIDIA 聚焦于“NVIDIA 全加速代理式 AI 應(yīng)用落地”,深入探討了代理式 AI (Agentic AI)
    的頭像 發(fā)表于 07-14 11:41 ?911次閱讀

    芯茂微 LP2179B:小家電電源的理想

    能成為行業(yè)理想。一、核心優(yōu)勢(shì):高性能,易設(shè)計(jì)高集成度:內(nèi)置800V功率管、峰值電流控制模塊與啟動(dòng)電路,省掉CS電阻和啟動(dòng)電阻,簡(jiǎn)化電路、降本增效。穩(wěn)壓輸出:恒壓控制
    的頭像 發(fā)表于 07-09 18:11 ?432次閱讀
    芯茂微 LP2179B:小家電電源的<b class='flag-5'>理想</b><b class='flag-5'>之</b><b class='flag-5'>選</b>

    MacBook擴(kuò)展塢怎么

    蕞近經(jīng)常有小伙伴問我:MacBook接口太少了,要怎么擴(kuò)展塢才不會(huì)踩雷? 作為一名用了幾代Mac的老用戶,今天就來(lái)聊聊我擴(kuò)展塢的一點(diǎn)小心得 一、你真的需要
    的頭像 發(fā)表于 04-21 16:01 ?724次閱讀

    愛普生FC1610AN5G手機(jī)中替代傳統(tǒng)晶振的理想

    時(shí)鐘信號(hào)的關(guān)鍵元件,其性能優(yōu)劣直接影響手機(jī)整體表現(xiàn)。愛普生FC1610AN晶振以諸多卓越優(yōu)勢(shì),正逐步成為5G手機(jī)中替代傳統(tǒng)晶振的理想。愛普生晶振FC1610AN在
    的頭像 發(fā)表于 04-11 14:44 ?495次閱讀
    愛普生FC1610AN5G手機(jī)中替代傳統(tǒng)晶振的<b class='flag-5'>理想</b><b class='flag-5'>之</b><b class='flag-5'>選</b>

    Banana Pi 發(fā)布 BPI-AI2N &amp; BPI-AI2N Carrier,助力 AI 計(jì)算與嵌入式開發(fā)

    存儲(chǔ)設(shè)計(jì),輕松應(yīng)對(duì)復(fù)雜AI模型與實(shí)時(shí)推理。其堅(jiān)固耐用的工業(yè)級(jí)品質(zhì)與超低成本,不僅適應(yīng)嚴(yán)苛環(huán)境的應(yīng)用,更為工程師提供了極致靈活的開發(fā)體驗(yàn),堪稱推動(dòng)開源生態(tài)與人工智能未來(lái)的標(biāo)桿。” 瑞薩系統(tǒng)解決方案部
    發(fā)表于 03-19 17:54

    Arm Kleidi擴(kuò)展到汽車市場(chǎng) Arm Kleidi實(shí)現(xiàn)性能自動(dòng)優(yōu)化

    Arm 控股有限公司(納斯達(dá)克股票代碼:ARM,以下簡(jiǎn)稱“Arm”)近日宣布將 Arm Kleidi 技術(shù)
    的頭像 發(fā)表于 03-14 15:36 ?1245次閱讀

    Arm推出GitHub Copilot新擴(kuò)展程序,助力快速遷移至Arm架構(gòu)服務(wù)器

    Arm控股有限公司(納斯達(dá)克股票代碼:ARM,以下簡(jiǎn)稱“Arm”)宣布其已正式推出專為GitHubCopilot設(shè)計(jì)的新擴(kuò)展程序。GitHubCopilot是全球部署最廣泛的人工智能(
    的頭像 發(fā)表于 03-04 16:07 ?805次閱讀
    <b class='flag-5'>Arm</b>推出GitHub Copilot新<b class='flag-5'>擴(kuò)展</b>程序,助力快速遷移至<b class='flag-5'>Arm</b>架構(gòu)服務(wù)器

    Arm推出GitHub Copilot新擴(kuò)展程序

    工智能 (AI) 開發(fā)者工具之一,此次推出的擴(kuò)展程序能讓數(shù)百萬(wàn) Copilot 用戶更容易地訪問 Arm 架構(gòu)的技術(shù),并為開發(fā)者提供更友好的體驗(yàn)。此外,此次發(fā)布亦首次為全球開發(fā)者免費(fèi)提
    的頭像 發(fā)表于 02-24 10:14 ?808次閱讀

    測(cè)試時(shí)擴(kuò)展技術(shù)如何實(shí)現(xiàn)AI推理

    擴(kuò)展定律描述了 AI 系統(tǒng)性能如何隨訓(xùn)練數(shù)據(jù)、模型參數(shù)或計(jì)算資源規(guī)模的增加而提高。
    的頭像 發(fā)表于 02-15 14:06 ?1157次閱讀

    理想汽車申請(qǐng)“理想AI Talk”商標(biāo)

    近日,北京理想汽車有限公司正式向國(guó)家知識(shí)產(chǎn)權(quán)局提交了一枚名為“理想AI Talk”的商標(biāo)注冊(cè)申請(qǐng)。該商標(biāo)被歸類于教育娛樂領(lǐng)域,目前正處于等待實(shí)質(zhì)審查的階段。 據(jù)了解,北京理想汽車有限公
    的頭像 發(fā)表于 01-20 10:30 ?1093次閱讀

    國(guó)產(chǎn)低噪聲全差分放大器SC7516——AD8138的理想替代

    國(guó)產(chǎn)低噪聲全差分放大器SC7516——AD8138的理想替代
    的頭像 發(fā)表于 01-14 10:03 ?1482次閱讀
    國(guó)產(chǎn)低噪聲全差分放大器SC7516——AD8138的<b class='flag-5'>理想</b>替代<b class='flag-5'>之</b><b class='flag-5'>選</b>

    Arm平臺(tái)引領(lǐng)AI云計(jì)算革新

    我們正處于一個(gè)由人工智能 (AI) 定義的計(jì)算時(shí)代,其轉(zhuǎn)型速度空前迅速。Arm 一直致力于通過工程創(chuàng)新和技術(shù)發(fā)展,以可持續(xù)且可擴(kuò)展的方式加速 AI
    的頭像 發(fā)表于 01-03 15:26 ?955次閱讀

    易飛揚(yáng)O-BAND DWDM:卓越性能,理想

    O-BAND DWDM光模塊及系統(tǒng)等。讓我們一起探索為何易飛揚(yáng)O-BAND DWDM解決方案可以成為您的理想選擇。
    的頭像 發(fā)表于 12-23 15:13 ?821次閱讀
    易飛揚(yáng)O-BAND DWDM:卓越性能,<b class='flag-5'>理想</b><b class='flag-5'>之</b><b class='flag-5'>選</b>

    TNC接頭:為什么是射頻連接的穩(wěn)固

    德索工程師說(shuō)道TNC接頭,作為射頻連接領(lǐng)域的穩(wěn)固,憑借其卓越的性能和可靠性,在眾多應(yīng)用場(chǎng)景中扮演著不可或缺的角色。本文將從多個(gè)維度深入剖析TNC接頭為何成為射頻連接的穩(wěn)固
    的頭像 發(fā)表于 12-18 13:45 ?1070次閱讀
    TNC接頭:為什么是射頻連接的穩(wěn)固<b class='flag-5'>之</b><b class='flag-5'>選</b>