太仓网站建设,太仓网络公司,太仓网站制作,太仓网页设计,网站推广-昆山云度信息科技有限公司太仓网站建设,太仓网络公司,太仓网站制作,太仓网页设计,网站推广-昆山云度信息科技有限公司

戴自动蝴蝶去上班感受,被要求带着玩具上班

戴自动蝴蝶去上班感受,被要求带着玩具上班 新订单12月才能交付!英伟达GPU持续缺货涨价 客户“勒紧裤带”节约使用

  在(zài)持续已久的“AI热潮”中,各家争相(xiāng)推(tuī)出的大模型、AI应用,都进一步(bù)推升了对(duì)算(suàn)力狂热的(de)需求。本周已有(yǒu)报道指(zhǐ)出(chū)英伟达后续(xù)对AI顶级(jí)规格芯片需求明显看增,紧(jǐn)急(jí)向台积电追(zhuī)加预订先进封(fēng)装产能。

  需求(qiú)飙涨下,英伟达GPU价格自然也(yě)是水(shuǐ)涨船高。据(jù)集微(wēi)网消息,有代理(lǐ)商透(tòu)露,英伟(wěi)达A100价格从去年12月(yuè)开始上涨,截至(zhì)今年4月上半月,其5个月价格累计涨幅(fú)达到37.5%;同戴自动蝴蝶去上班感受,被要求带着玩具上班期(qī)A800价格累计(jì)涨幅达20.0%。

  同时,英(yīng)伟达GPU交货周(zhōu)期也被拉(lā)长,之(zhī)前拿货(huò)周期大约为(wèi)一个月,现在基本都需要三个月或更长(zhǎng)。甚至,部(bù)分新订单“可(kě)能要到(dào)12月才(cái)能(néng)交付”。

  供(gōng)需的巨大鸿沟(gōu)面前,在这(zhè)一(yī)情形之(zhī)下,众(zhòng)多客户(hù)也(yě)不得不“勒紧腰带”。上述(shù)文章指出,国内可用于(yú)训练AI大模型的A100大约有4万-5万(wàn)个,供应(yīng)相当吃(chī)紧(jǐn),一些云服务厂商(shāng)已严格限制内部使用(yòng)这些先进芯片,以将其保留至(zhì)需(xū)要强力运算的任务。

  值得一提的是,类似的事情在(zài)微软(ruǎn)内部也早(zǎo)已发生。3月(yuè)已有外媒报道指出,微软内部陷入AI服(fú)务器(qì)硬件短缺的窘境,不得不对(duì)AI硬件资源采取“配额供给”机(jī)制,限制公司(sī)内部(bù)其他(tā)AI工具开(kāi)发团(tuán)队(duì)的资(zī)源(yuán)用量。

  拉长时(shí)间线来看,有GPU业内(nèi)人士指出,实际上(shàng)从去年6月起(qǐ),英(yīng)伟达(dá)就已宣(xuān)布上调A100价格,涨幅20%左右,渠道商在(zài)加紧囤货(huò)。至于英伟(wěi)达A800,在(zài)ChatGPT火爆之前(qián)就已出现涨价,但反映到市场(chǎng)则有一定的滞后性,赶上ChatGPT爆(bào)火(huǒ)这一(yī)时间(jiān)点(diǎn),更放大了这一现象。

  “英伟(wěi)达GPU涨价与ChatGPT有一定的关联性,且交货周(zhōu)期也受到了连带的影响,导致市场上出现了众多(duō)炒卡的行(xíng)为。”

  此外,在(zài)海外电商平(píng)台上,英(yīng)伟达(dá)新旗(qí)舰级GPU H100的价(jià)格在(zài)4月中(zhōng)旬就已炒到了超过4万美元。

  随着如今(jīn)各家科技(jì)巨头争相推出自家大模型,GPU需求量仍在(zài)持续攀升。OpenAI指出,AI大模型要(yào)持续取得突破(pò),所需要消耗的(de)计算(suàn)资(zī)源每3~4个月就要翻一倍,资金也需要(yào)通过(guò)指数级增(zēng)长获得匹配。

  据财(cái)通证券测算,2023/2024/2025年大模型有(yǒu)望为GPU市场贡(gòng)献69.88/166.2/209.95亿美元增(zēng)量。

  其中在训练(liàn)端,以目(mù)前主流的训练端GPU英(yīng)伟(wěi)达A100测算,假设ASP为1万美元(yuán),2023/2024/2025年全球训(xùn)练端GPU需求(qiú)市场规模预计分别为0.74/2.00/4.07亿美元;

  在推理(lǐ)端(duān),以目前英伟(wěi)达用于推理端(duān)计算的(de)A10测算,假设ASP为2800美元(yuán),2023/2024/2025年全球推理端GPU需求市场规模预计(jì)分别(bié)为69.14/164.2/205.88亿(yì)美元。

  业内人(rén)士也(yě)表示,AI大模(mó)型训练成本(běn)之一是基础(chǔ)算(suàn)力,大概需要384-3000块左右的A100才能基本满(mǎn)足(zú)要求,如果价格持续(xù)上涨,无论是(shì)互联网(wǎng)、AI大厂(chǎng)、还(hái)是创(chuàng)业新贵,要追(zhuī)加的投入都可能(néng)远(戴自动蝴蝶去上班感受,被要求带着玩具上班yuǎn)超(chāo)当初。

未经允许不得转载:太仓网站建设,太仓网络公司,太仓网站制作,太仓网页设计,网站推广-昆山云度信息科技有限公司 戴自动蝴蝶去上班感受,被要求带着玩具上班

评论

5+2=