重庆三峡中心医院、三峡中心医院、中心医院重庆三峡中心医院、三峡中心医院、中心医院

顶的速度越来越快越叫的原因

顶的速度越来越快越叫的原因 新订单12月才能交付!英伟达GPU持续缺货涨价 客户“勒紧裤带”节约使用

  在持(chí)续(xù)已(yǐ)久的“AI热潮(cháo)”中,各家争(zhēng)相推出的大模型、AI应用,都(dōu)进一(yī)步推升了对(duì)算力狂(kuáng)热的需(xū)求。本周(zhōu)已有报道(dào)指出英伟达后(hòu)续(xù)对AI顶级规格芯片需(xū)求明显看增,紧急向台积电(diàn)追加预订先进(jìn)封装产能(néng)。

  需求飙涨下(xià),英(yīng)伟(wěi)达(dá)GPU价格自(zì)然也(yě)是水涨船高(gāo)。据集(jí)微网消(xiāo)息,有(yǒu)代理商透(tòu)露,英伟达A100价格(gé)从去年12月(yuè)开始上涨,截至今(jīn)年(nián)4月上半月,其(qí)5个月价(jià)格累(lèi)计涨幅达到37.5%;同(tóng)期A800价格累(lèi)计涨幅达20.0%。

  同时,英伟(wěi)达GPU交货周期也被拉(lā)长,之前拿货周期大约为一个月,现在基本(běn)都(dōu)需要三个月或更长。甚(shèn)至(zhì),部分新订单(dān)“可能要到12月才能交付”。

  供需(xū)的巨大鸿沟面前,在这(zhè)一情形(xíng)之下(xià),众多客户(hù)也不得不“勒紧腰带”。上述文章指出,国内(nèi)可用于训练(liàn)AI大模型的A100大约(yuē)有(yǒu)4万-5万个,供应相当吃紧,一些(xiē)云服务厂(chǎng)商(shāng)已严(yán)格限制(zhì)内(nèi)部使(shǐ)用这些先进芯(xīn)片,以将(jiāng)其保留(liú)至需(xū)要强力运算的任务。

  值得一提(tí)的是,类似的事情在(zài)微软(ruǎn)内部也早已发生。3月已有外媒报道指出,微软内部(bù)陷入(rù)AI服务器硬件短(duǎn)缺的窘(jiǒng)境,不得不对AI硬件资源采取“配额供给”机(jī)制(zhì),限(xiàn)制公(gōng)司内(nèi)部其他AI工具开发团队的资(zī)源用量。

  拉长时间线来看(kàn),有(yǒu)GPU业内人(rén)士指出,实际上从去年6月(yuè)起,英伟达(dá)就已宣(xuān)布上调A100价格,涨幅20%左(zuǒ)右(yòu),渠(qú)道商在加紧囤货。至于英伟达A800,在ChatGPT火爆之前就已出现涨价,但反映到市场则(zé)有一定的滞后性(xìng),赶上ChatGPT爆火这(zhè)一时间点,更放大了这一(yī)现象。

  “英伟达GPU涨(zhǎng)价与ChatGPT有一(yī)定的关(guān)联性,且交货周(zhōu)期也受到(dào)了(le)连(lián)带的(de)影响,导致市(shì)场上出现(xiàn)了众(zhòng)多炒卡的行为。”

  此外,在(zài)海外电商(shāng)平(píng)台上,英伟(wěi)达新(xīn)旗舰级(jí)GPU H100的价(jià)格在(zài)4月中旬就已(yǐ)炒到了超过4万美(měi)元。

  随着如(rú)今各(gè)家科技巨头争相推(tuī)出自(zì)家大模(mó)型,GPU需求量(liàng)仍(réng)在持续(xù)攀升。OpenAI指出,AI大(dà)模(mó)型要(yào)持续取得突破,所需要(yào)消耗(hào)的计算(suàn)资源每3~4个月就要翻一(yī)倍,资金也(yě)需要通过指数级增长获得匹(pǐ)配。

  据财(cái)通(tōng)证券测算,2023/2024/2025年大模型有望(wàng)为GPU市场贡献(xiàn)69.88/166.2/209.95亿美元增量。

  其中(zhōng)在训(xùn)练(liàn)端(duān顶的速度越来越快越叫的原因),以目前主流(liú)的(de)训(xùn)练(liàn)端(duān)GPU英(yīng)伟达A100测(cè)算,假设ASP为1万美元(yuán),2023/2024/2025年全球训练(liàn)端(duān)GPU需(xū)求市场规模预计分(fēn)别(bié)为0.74/2.00/4.07亿美元;

  在推理端,以目前英伟达用于推理(lǐ)顶的速度越来越快越叫的原因端(duān)计算(suàn)的A10测算,假设ASP为2800美(měi)元,2023/2024/2025年(nián)全(quán)球推理端GPU需求市场(chǎng)规模预计分别为69.14/164.2/205.88亿(yì)美元(yuán)。

  业(yè)内人士也表示,AI大模型训(xùn)练成本之一是基础算力,大概需要384-3000块左右的A100才能基本满足要求,如果价格持续上涨,无论是互联(lián)网(wǎng)、AI大(dà)厂、还是创业新(xīn)贵,要追(zhuī)加的投入都可能远超当初(chū)。

未经允许不得转载:重庆三峡中心医院、三峡中心医院、中心医院 顶的速度越来越快越叫的原因

评论

5+2=