見發生·知(zhī)未見
業界觀點

GPT帶動漲價潮,主力芯片缺口達30萬,英偉達芯片一周漲了(le)7萬元!

業界觀點

ChatGPT爆火帶動AI芯片需求飙升。

截至上(shàng)周五,英偉達最新發布的旗艦AI芯片H100在ebay上(shàng)的售價超過4萬美(měi)元一枚。相比此前零售商3.6萬美(měi)元的報(bào)價,已提價明(míng)顯。

這(zhè)一價格仍在持續上(shàng)漲。4月19日,時(shí)代财經搜索eBay時(shí)發現(xiàn),目前共有5家店(diàn)鋪挂牌銷售H100芯片,售價普遍達到(dào)4.5萬美(měi)元左右,其中标價最高(gāo)的一枚超過5萬美(měi)元。以人民币計(jì),相當于不到(dào)一周時(shí)間漲價近7萬元。

而在國内,AI應用(yòng)的主力芯片——由英偉達2020年發布的A100,其交易價格也(yě)在極短時(shí)間内迅速飙升。從(cóng)事(shì)GPU服務器銷售的文(wén)強(化名)向時(shí)代财經表示,從(cóng)年初開(kāi)始到(dào)現(xiàn)在短短三個月多時(shí)間裏,A100的價格已經從(cóng)原本的6萬元左右一路漲至9萬元,甚至一度超過10萬元,漲幅超過50%。

在文(wén)強看(kàn)來(lái),A100售價還将繼續上(shàng)漲。去年8月,美(měi)國政府發布政策,禁止英偉達A100、H100兩款AI芯片售往中國。目前,國内在售的産品都是此前的存貨。業内預估,國内A100芯片僅有3萬枚存貨,奇貨可居。

爲符合美(měi)國政府出口管制政策,英偉達随後宣布推出在性能(néng)、帶寬上(shàng)有所閹割的“減配版”A800、H800芯片。受限于産能(néng)問題,這(zhè)兩款芯片同樣缺貨,價格也(yě)随之水(shuǐ)漲船(chuán)高(gāo)。

文(wén)強告訴時(shí)代财經,自(zì)己手中A800報(bào)價也(yě)已經高(gāo)達8.7萬元,且僅剩16枚,售完即止。如果需求量大(dà)、需要訂貨,報(bào)價還會(huì)再漲5000元至9.2萬元,直逼A100芯片售價。

“一天一個價,一天比一天貴。”

A100芯片缺口達30萬枚

算(suàn)力、算(suàn)法和(hé)數據構成了(le)AI時(shí)代的三要素,而算(suàn)力又是基礎設施。有多少枚GPU、多少算(suàn)力,被認爲是大(dà)語音(yīn)模型研發和(hé)創業成敗最爲關鍵的因素之一。

正是因此,在海内外(wài)一衆巨頭和(hé)創業者湧入大(dà)語言模型研發訓練的當下(xià),市場對(duì)AI芯片的需求量飙升。

美(měi)女壁紙(zhǐ)|高(gāo)清美(měi)女壁紙(zhǐ)|高(gāo)清壁紙(zhǐ)

據前人工(gōng)智能(néng)NLP企業首席科學家、千芯科技董事(shì)長陳巍測算(suàn),國内如果想要直接訓練出一個GPT-3級别的大(dà)模型,最少需要3000到(dào)5000枚A100級别的AI芯片。

這(zhè)意味着國内市場存在巨大(dà)的供應缺口。目前除了(le)阿裏巴巴、百度等互聯網巨頭之外(wài),商湯科技、昆侖萬維(300418)、毫末智行、360、知(zhī)乎等公司也(yě)官宣了(le)自(zì)己的大(dà)模型,如果再加上(shàng)王小(xiǎo)川、王慧文(wén)、李開(kāi)複等創業者,中國年内即将推出的大(dà)模型數量已經超過10個。光是滿足這(zhè)些(xiē)企業的需求就需要3萬到(dào)5萬枚A100級别的AI芯片。

這(zhè)還隻是研發訓練層面的需求量。陳巍向時(shí)代财經表示,如果想要實際部署,算(suàn)力的需求量隻會(huì)更大(dà)。以保守情況估計(jì),國内A100級别的AI芯片缺口在30萬枚左右。

“我們算(suàn)過,如果百度要在自(zì)己的搜索引擎内接入類似ChatGPT這(zhè)樣的對(duì)話(huà)模型,可能(néng)需要10萬塊A100級别的AI芯片,這(zhè)還隻是假設每個人隻對(duì)話(huà)一次的保守測算(suàn)。”

正是因此,A800、H800芯片遭到(dào)包括服務器、互聯網廠(chǎng)商在内的公司哄搶。

一份流傳的《阿裏AI專家交流紀要》顯示,百度年初緊急下(xià)單3000台8枚芯片的A800服務器,這(zhè)意味着需要2.4萬枚A800,預計(jì)全年百度會(huì)有A800和(hé)H800共5萬枚需求。阿裏雲預計(jì)在今年需要1萬枚左右,其中6000枚是H800。

在海外(wài),巨頭們的搶購也(yě)同樣瘋狂。據媒體報(bào)道(dào),馬斯克爲推進推特内部的新AIGC項目,購買了(le)大(dà)約1萬枚AI芯片。而自(zì)2022年末開(kāi)始,微軟就實行了(le)GPU資源配額供給,但(dàn)今年1月以來(lái)審批時(shí)間越來(lái)越長,如今部分申請(qǐng)需要等待幾天甚至幾周才能(néng)獲批。同時(shí),微軟向英偉達預訂的數萬枚AI芯片,交貨無期。

或拖慢國産大(dà)語言模型發展

對(duì)于大(dà)語言模型訓練來(lái)說,英偉達幾乎成爲唯一的赢家。

去年,國産芯片公司壁仞科技發布的BR100,已經被普遍認爲能(néng)夠在算(suàn)力和(hé)能(néng)效比上(shàng)達到(dào)全球領先水(shuǐ)準。然而,在配套的産品生态上(shàng),幾乎無人能(néng)與英偉達抗衡。

一位AI芯片設計(jì)相關的從(cóng)業者向時(shí)代财經表示,英偉達于2006年發布的CUDA平台早已成爲應用(yòng)最爲廣泛的AI開(kāi)發生态系統,然而CUDA幾乎隻支持英偉達的Tesla架構GPU,這(zhè)導緻開(kāi)發者難以脫離英偉達芯片,進行生成式AI的研發以及訓練。“幾乎沒有芯片公司可以撼動英偉達的統治地位。”

IDC數據顯示,國内GPU服務器在2021年占國内服務器市場規模的比例超過88.4%,英偉達的産品占比超80%。

但(dàn)受限于美(měi)國政府的出口管制政策,中國一衆互聯網大(dà)廠(chǎng)、大(dà)語言模型的創業者都無法及時(shí)獲得最先進的AI芯片。在國内難以産出替代産品的情況下(xià),毫無疑問将會(huì)影響國産大(dà)語言模型的發展進程。

在陳巍看(kàn)來(lái),中國企業如果使用(yòng)“減配版”芯片,綜合帶寬性能(néng)可能(néng)隻有同期旗艦型号的六成。這(zhè)樣需求量更大(dà),跑得卻更慢,綜合成本至少要高(gāo)出20%至30%。“這(zhè)很(hěn)有可能(néng)是賺錢(qián)和(hé)不賺錢(qián)的分水(shuǐ)嶺,活下(xià)去和(hé)活不下(xià)去的分水(shuǐ)嶺。”

網站(zhàn)建設開(kāi)發|APP設計(jì)開(kāi)發|小(xiǎo)程序建設開(kāi)發
下(xià)一篇:蘋果在印度開(kāi)設首家旗艦店(diàn)CEO庫克站(zhàn)台:近7億智能(néng)手機用(yòng)戶僅約4%使用(yòng)iPhone
上(shàng)一篇:流量躺平賺錢(qián)神話(huà)終結,千萬粉絲博主“吃不到(dào)飯”