亚洲精品久久久久久久久久久,亚洲国产精品一区二区制服,亚洲精品午夜精品,国产成人精品综合在线观看,最近2019中文字幕一页二页

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

甲骨文、微軟再次合作!討論共享AI服務(wù)器,應(yīng)對(duì)算力短缺!

Carol Li ? 來(lái)源:電子發(fā)燒友網(wǎng) ? 作者:李彎彎 ? 2023-05-12 01:23 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

電子發(fā)燒友網(wǎng)報(bào)道(文/李彎彎)日前消息,據(jù)相關(guān)人士透露,甲骨文(Oracle)和微軟(Microsoft)最近討論了一項(xiàng)不同尋常的協(xié)議,如果任何一家公司為使用大規(guī)模AI的云客戶提供的計(jì)算能力不足,雙方將相互租用服務(wù)器。

這筆交易將幫助這兩家互為競(jìng)爭(zhēng)對(duì)手的云服務(wù)提供商滿足市場(chǎng)對(duì)可運(yùn)行AI軟件的服務(wù)器日益增長(zhǎng)的需求,這種需求已導(dǎo)致服務(wù)器短缺。

微軟和甲骨文曾多次合作

微軟和甲骨文雖然互為競(jìng)爭(zhēng)對(duì)手,但卻曾多次攜手合作。2013年6月,微軟與甲骨文宣布達(dá)成合作,將Java、甲骨文數(shù)據(jù)庫(kù)以及其他甲骨文軟件帶到微軟WindowsServerHyper-V和WindowsAzure云平臺(tái),這種合作為開發(fā)人員提供了極大的便利。

消費(fèi)者可以在WindowsServerHyper-V和WindowsAzure上部署甲骨文軟件,包括Java、甲骨文數(shù)據(jù)庫(kù)、甲骨文WebLogicServer,甲骨文將提供完整支持。

作為合作的一部分,甲骨文將認(rèn)證和支持自家軟件在微軟平臺(tái)上的運(yùn)行,并為WindowsAzure用戶提供OracleLinux,微軟也向WindowsAzure用戶提供上述甲骨文軟件。

甲骨文與微軟的強(qiáng)強(qiáng)聯(lián)合,Java開發(fā)人員和企業(yè)用戶獲益最大,甲骨文數(shù)據(jù)庫(kù)與微軟云計(jì)算平臺(tái)的整合,使得他們可以直接將桌面上的傳統(tǒng)軟件遷移至云計(jì)算系統(tǒng)。

2019年6月,微軟和甲骨文又宣布建立一個(gè)新的合作關(guān)系,兩家公司將通過(guò)網(wǎng)絡(luò)直連他們的云服務(wù),以便用戶可以在兩者之間無(wú)縫地遷移其工作負(fù)載和數(shù)據(jù)。

微軟和甲骨文發(fā)布的聯(lián)合聲明顯示,企業(yè)用戶將可以無(wú)縫地使用微軟Azure的分析和人工智能等服務(wù),以及甲骨文自主數(shù)據(jù)庫(kù)等云服務(wù)。整體來(lái)說(shuō),雙方為用戶提供了一站式的服務(wù),為用戶提供經(jīng)營(yíng)整個(gè)企業(yè)的所有云服務(wù)和應(yīng)用程序。

據(jù)分析,微軟和甲骨文攜手合作是為了應(yīng)對(duì)共同的競(jìng)爭(zhēng)壓力。隨著移動(dòng)互聯(lián)網(wǎng)快速發(fā)展,云計(jì)算市場(chǎng)重要性日益凸顯。微軟的AZure始終無(wú)法趕上亞馬遜云服務(wù)AWS的步伐,甲骨文更是由于最初對(duì)云計(jì)算前景的估計(jì)失誤而處境尷尬。

根據(jù)Synergy Research Group數(shù)據(jù)顯示,亞馬遜云服務(wù)以超過(guò)30%的市場(chǎng)占有率,成為全球云計(jì)算市場(chǎng)上的領(lǐng)跑者。微軟Azure以大約15%的市場(chǎng)份額位列第二,緊隨其后的是IBM Cloud以及谷歌Cloud。甲骨文(Oracle)這樣的小型云計(jì)算服務(wù)商,更是在上述四大云計(jì)算巨頭加強(qiáng)市場(chǎng)控制的壓力下,業(yè)務(wù)增速有所放緩。兩者攜手合作對(duì)于雙方來(lái)說(shuō)都很有必要。

AI服務(wù)器需求快速增長(zhǎng)

ChatGPT的出現(xiàn)掀起了全球AI大模型研究熱潮,無(wú)論是訓(xùn)練還是推理,這都需要消耗大量的算力,尤其是訓(xùn)練階段。以ChatGPT為例,根據(jù)OpenAI在2020年發(fā)表的論文,訓(xùn)練階段算力需求與模型參數(shù)數(shù)量、訓(xùn)練數(shù)據(jù)集規(guī)模等有關(guān),且為兩者乘積的6倍:訓(xùn)練階段算力需求=6×模型參數(shù)數(shù)量×訓(xùn)練集規(guī)模。

GPT-3模型參數(shù)約1750億個(gè),預(yù)訓(xùn)練數(shù)據(jù)量為45 TB,折合成訓(xùn)練集約為3000億tokens。即訓(xùn)練階段算力需求=6×1.75×1011×3×1011=3.15×1023 FLOPS=3.15×108 PFLOPS

依據(jù)谷歌論文,OpenAI公司訓(xùn)練GPT-3采用英偉達(dá)V100 GPU,有效算力比率為21.3%。GPT-3的實(shí)際算力需求應(yīng)為1.48×109 PFLOPS(17117 PFLOPS-day)。

假設(shè)應(yīng)用A100 640GB服務(wù)器進(jìn)行訓(xùn)練,該服務(wù)器AI算力性能為5 PFLOPS,最大功率為6.5 kw,則根據(jù)測(cè)算,訓(xùn)練階段需要服務(wù)器數(shù)量=訓(xùn)練階段算力需求÷服務(wù)器AI算力性能=2.96×108臺(tái)(同時(shí)工作1秒),即3423臺(tái)服務(wù)器工作1日。

在ChatGPT及各種AI大模型的推進(jìn)下,AI服務(wù)器市場(chǎng)需求呈現(xiàn)高速增長(zhǎng)趨勢(shì)。美國(guó)服務(wù)器供應(yīng)商超微電腦在5月初的財(cái)報(bào)會(huì)議上表示,AI服務(wù)器業(yè)務(wù)正迎來(lái)創(chuàng)紀(jì)錄暴漲。公司向主要客戶交付新平臺(tái)的速度加快,2023財(cái)年有望迎來(lái)強(qiáng)勁收尾。

不過(guò)也因?yàn)樾枨髲?qiáng)勁,AI服務(wù)器硬件資源也面臨短缺的問(wèn)題,超微電腦就表示,AI服務(wù)器出貨量可能會(huì)受到供應(yīng)鏈瓶頸的限制。

事實(shí)上,今年3月微軟公司就已經(jīng)傳出面臨內(nèi)部AI服務(wù)器硬件短缺的窘境。為此,微軟不得不對(duì)硬件資源采取配額供應(yīng)的方式,限制其他內(nèi)部AI工具開發(fā)團(tuán)隊(duì)的使用量,從而確?;贕PT-4的新版必應(yīng)聊天機(jī)器人和即將發(fā)布的新款Office工具獲得足夠的資源。

小結(jié)

可以看到,隨著AI大模型的研究推進(jìn),算力需求與日俱增,AI服務(wù)器企業(yè)也迎來(lái)大幅增長(zhǎng)。然而由于受到供應(yīng)鏈,比如高算力GPU芯片等限制,AI服務(wù)器硬件資源仍然面臨短缺。微軟和甲骨文的再次攜手合作,正是其應(yīng)對(duì)當(dāng)前困境的方式之一。




聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • 微軟
    +關(guān)注

    關(guān)注

    4

    文章

    6707

    瀏覽量

    107223
  • AI
    AI
    +關(guān)注

    關(guān)注

    89

    文章

    37540

    瀏覽量

    293319
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評(píng)論

    相關(guān)推薦
    熱點(diǎn)推薦

    覺(jué)醒 · AI共生——上海永銘電子2025AI服務(wù)器電容應(yīng)用專題會(huì)議圓滿落幕

    隨著人工智能浪潮席卷全球,AI正以前所未有的速度爆發(fā)式增長(zhǎng)。在這場(chǎng)決定未來(lái)的技術(shù)競(jìng)速中,穩(wěn)定、高效、可靠的電力供應(yīng)是基石的核心。而電
    的頭像 發(fā)表于 11-03 14:00 ?251次閱讀
    <b class='flag-5'>算</b><b class='flag-5'>力</b>覺(jué)醒 · <b class='flag-5'>AI</b>共生——上海永銘電子2025<b class='flag-5'>AI</b><b class='flag-5'>服務(wù)器</b>電容應(yīng)用專題會(huì)議圓滿落幕

    成都匯陽(yáng)投資關(guān)于甲骨文云計(jì)算訂單超預(yù)期,全球投資持續(xù)高景氣

    甲骨文披露 4550 億美元訂單超預(yù)期 全球投資高景氣 , 甲骨文披露4550億美元訂單超預(yù)期 ,微軟與 Nebius 達(dá)成五年 174
    的頭像 發(fā)表于 10-17 10:05 ?226次閱讀

    天波科普:超過(guò)30T的邊緣計(jì)算服務(wù)器可以做什么?

    網(wǎng)關(guān)的能力邊界,也涉及到高低。那么,目前邊緣計(jì)算服務(wù)器到多少算高呢?以廣東天波AI邊緣
    的頭像 發(fā)表于 09-28 11:18 ?341次閱讀
    天波科普:<b class='flag-5'>算</b><b class='flag-5'>力</b>超過(guò)30T的邊緣計(jì)算<b class='flag-5'>服務(wù)器</b>可以做什么?

    多達(dá) 48 個(gè)計(jì)算節(jié)點(diǎn)!Firefly 推出 CSC2-N48 AI 服務(wù)器

    Firefly最新推出CSC2-N48服務(wù)器,內(nèi)置48個(gè)分布式計(jì)算節(jié)點(diǎn),單節(jié)點(diǎn)可提供6TOPS-157TOPS,可選瑞芯微、
    的頭像 發(fā)表于 08-20 16:37 ?1157次閱讀
    多達(dá) 48 個(gè)計(jì)算節(jié)點(diǎn)!Firefly 推出 CSC2-N48 <b class='flag-5'>AI</b> <b class='flag-5'>算</b><b class='flag-5'>力</b><b class='flag-5'>服務(wù)器</b>

    看懂AI集群

    最近這幾年,AI浪潮席卷全球,成為整個(gè)社會(huì)的關(guān)注焦點(diǎn)。大家在討論AI的時(shí)候,經(jīng)常會(huì)提到AI
    的頭像 發(fā)表于 07-23 12:18 ?721次閱讀
    一<b class='flag-5'>文</b>看懂<b class='flag-5'>AI</b><b class='flag-5'>算</b><b class='flag-5'>力</b>集群

    看點(diǎn):曝OpenAI與甲骨文加碼“星際之門” 富士康要求中國(guó)員工從印度撤離 微軟放慢AI芯片開發(fā):專注務(wù)實(shí)設(shè)計(jì)

    OpenAI將從甲骨文額外租用總計(jì)約4.5吉瓦的數(shù)據(jù)中心電力,這相當(dāng)于4.5座核反應(yīng)堆的發(fā)電量。 據(jù)悉,在得州阿比林甲骨文已經(jīng)建立了一個(gè)I大型數(shù)據(jù)中心;計(jì)劃將阿比林?jǐn)?shù)據(jù)中心的電力容量從目前的1.2吉瓦擴(kuò)展至約2吉瓦。 同時(shí)甲骨文
    的頭像 發(fā)表于 07-03 13:56 ?504次閱讀

    服務(wù)器多少錢一臺(tái)??jī)r(jià)格因素與選購(gòu)指南

    入門級(jí)服務(wù)器可能只需幾千元,而高性能計(jì)算(HPC)或AI訓(xùn)練專用服務(wù)器則可能高達(dá)數(shù)十萬(wàn)元。一般來(lái)說(shuō),中小型企業(yè)常用的
    的頭像 發(fā)表于 06-17 09:45 ?1328次閱讀

    RAKsmart服務(wù)器如何賦能AI開發(fā)與部署

    AI開發(fā)與部署的復(fù)雜性不僅體現(xiàn)在算法設(shè)計(jì)層面,更依賴于底層基礎(chǔ)設(shè)施的支撐能力。RAKsmart服務(wù)器憑借其高性能硬件架構(gòu)、靈活的資源調(diào)度能力以及面向AI場(chǎng)景的深度優(yōu)化,正在成為企業(yè)突破
    的頭像 發(fā)表于 04-30 09:22 ?531次閱讀

    AI原生架構(gòu)升級(jí):RAKsmart服務(wù)器在超大規(guī)模模型訓(xùn)練中的突破

    近年來(lái),隨著千億級(jí)參數(shù)模型的崛起,AI訓(xùn)練對(duì)的需求呈現(xiàn)指數(shù)級(jí)增長(zhǎng)。傳統(tǒng)服務(wù)器架構(gòu)在應(yīng)對(duì)分布式訓(xùn)練、高并發(fā)計(jì)算和顯存優(yōu)化等場(chǎng)景時(shí)逐漸顯露瓶
    的頭像 發(fā)表于 04-24 09:27 ?535次閱讀

    智能服務(wù)器應(yīng)用領(lǐng)域

    智能服務(wù)器應(yīng)用領(lǐng)域 一、?金融行業(yè)? 智能風(fēng)控與投顧?:通過(guò)集群支撐AI模型訓(xùn)練,實(shí)現(xiàn)風(fēng)
    的頭像 發(fā)表于 04-21 09:09 ?1083次閱讀
    智能<b class='flag-5'>算</b><b class='flag-5'>力</b><b class='flag-5'>服務(wù)器</b>應(yīng)用領(lǐng)域

    RAKsmart服務(wù)器如何重塑AI高并發(fā)格局

    AI大模型參數(shù)量突破萬(wàn)億級(jí)、實(shí)時(shí)推理需求激增的當(dāng)下,傳統(tǒng)服務(wù)器架構(gòu)的并發(fā)處理能力已逼近物理極限。RAKsmart通過(guò)“硬件重構(gòu)+軟件定義”的雙引擎創(chuàng)新,推出新一代AI服務(wù)器解決方案。
    的頭像 發(fā)表于 04-03 10:37 ?595次閱讀

    Firefly 服務(wù)器系列:覆蓋多個(gè)領(lǐng)域的高解決方案

    ?服務(wù)器覆蓋60~1570TOPS強(qiáng)勁,支持Transformer架構(gòu)下大語(yǔ)言模型的私有化部署,如Gemma-2B、ChatGLM3
    的頭像 發(fā)表于 02-19 16:34 ?1185次閱讀
    Firefly <b class='flag-5'>服務(wù)器</b>系列:覆蓋多個(gè)領(lǐng)域的高<b class='flag-5'>算</b><b class='flag-5'>力</b>解決方案

    TikTok遭下架,甲骨文將關(guān)閉其美國(guó)數(shù)據(jù)服務(wù)器

    ,TikTok美國(guó)業(yè)務(wù)的主要云計(jì)算供應(yīng)商甲骨文公司已向其員工發(fā)出通知,要求于美國(guó)東部時(shí)間1月18日21時(shí)關(guān)閉托管TikTok數(shù)據(jù)的服務(wù)器。這意味著,TikTok在美國(guó)的數(shù)據(jù)存儲(chǔ)和訪問(wèn)將受到嚴(yán)重影響,可能導(dǎo)致該應(yīng)用在短時(shí)間內(nèi)無(wú)法恢復(fù)正常使用。 TikTok作為一款備受歡迎
    的頭像 發(fā)表于 01-20 14:48 ?825次閱讀

    Deno Land 請(qǐng)?jiān)竸儕Z甲骨文 JavaScript 商標(biāo)所有權(quán)

    認(rèn)為,自甲骨文于2009年從 Sun Microsystems 收購(gòu) JavaScript 商標(biāo)以來(lái),并未實(shí)際銷售任何與該商標(biāo)相關(guān)的商品或提供任何相關(guān)服務(wù)?;谶@一理由,Deno Land 主張甲骨文應(yīng)
    的頭像 發(fā)表于 01-15 15:37 ?591次閱讀

    西門子與甲骨文紅牛車隊(duì)二十載創(chuàng)新同行

    。 自2004年結(jié)緣以來(lái),西門子與甲骨文紅牛車隊(duì)便緊密合作,致力于推動(dòng)賽車技術(shù)的不斷革新。西門子X(jué)celerator工業(yè)軟件解決方案成為了甲骨文紅牛車隊(duì)構(gòu)建工程基礎(chǔ)設(shè)施的重要基石。憑借這一強(qiáng)大的技術(shù)支持,車隊(duì)成功
    的頭像 發(fā)表于 12-23 18:02 ?923次閱讀