大模型廠商不僅對云服務(wù)廠商提供算力這個(gè)方式感興趣,還考慮未來與英偉達(dá)直接達(dá)成合作。
當(dāng)?shù)貢r(shí)間12月2日,英偉達(dá)參加了瑞銀全球技術(shù)與AI大會。英偉達(dá)CFO科萊特·克雷斯(Colette Kress)接受了瑞銀分析師提問并談及英偉達(dá)與OpenAI等大模型公司的合作關(guān)系。
9月,英偉達(dá)宣布向OpenAI投資最多1000億美元,英偉達(dá)將幫助OpenAI部署至少10吉瓦的數(shù)據(jù)中心。關(guān)于雙方合作的細(xì)節(jié),科萊特·克雷斯表示,英偉達(dá)與OpenAI的協(xié)議是一種超過十年的合作關(guān)系。今年及明年英偉達(dá)看到Blackwell及Rubin系統(tǒng)的需求約5000億美元,其中包括OpenAI通過云服務(wù)提供商來滿足計(jì)算需要。但這5000億美元不包括英偉達(dá)與OpenAI協(xié)議下一階段進(jìn)行的工作。英偉達(dá)和OpenAI尚未敲定最終的協(xié)議。
宣布投資OpenAI之后,英偉達(dá)又宣布投資大模型廠商Anthropic,合作也涉及Anthropic采購計(jì)算資源。兩個(gè)合作背后,科萊特·克雷斯提到,大模型廠商除了希望通過云廠商采購計(jì)算資源,也希望與英偉達(dá)直接合作。
“未來OpenAI希望專注于直接與英偉達(dá)合作構(gòu)建計(jì)算基礎(chǔ)設(shè)施?!笨迫R特·克雷斯表示,英偉達(dá)與Anthropic的合作目前是通過云服務(wù)廠商來進(jìn)行的,但Anthropic不僅對云服務(wù)廠商提供算力這個(gè)方式感興趣,還考慮未來與英偉達(dá)直接達(dá)成1吉瓦算力的合作。
但科萊特·克雷斯也強(qiáng)調(diào),目前大模型廠商中大多數(shù)仍是英偉達(dá)的間接客戶,通過CSP(大型云廠商)使用英偉達(dá)的產(chǎn)品,在相當(dāng)長的一段時(shí)間里,英偉達(dá)每個(gè)季度的收入中都有50%或以上來自大型CSP。
多數(shù)AI初創(chuàng)企業(yè)尚未盈利,需要籌集大量資金支撐自身發(fā)展,同時(shí)卻有大量的算力采購需求,這種狀況對英偉達(dá)而言是否有風(fēng)險(xiǎn)?
“超大規(guī)模云服務(wù)商為其內(nèi)部使用購買計(jì)算資源,或?yàn)榱讼蚣铀儆?jì)算轉(zhuǎn)型而進(jìn)行這些工作。模型開發(fā)者也確實(shí)需要更多計(jì)算資源,但他們必須回答這些問題:是否獲得了足夠的盈利?能籌集到更多資金嗎?需要多少新的計(jì)算資源?這個(gè)過程還在進(jìn)行中。”科萊特·克雷斯表示,英偉達(dá)的很多工作都著眼當(dāng)下、明年以及后年,以確保有足夠的計(jì)算能力可供這些模型所需。英偉達(dá)在供需方面重點(diǎn)關(guān)注的是自身的競爭力、客戶是否有支付的能力。
近期來自谷歌TPU(張量處理器)的競爭受到外界關(guān)注。摩根士丹利近日將谷歌2027年TPU產(chǎn)量預(yù)測從原先的約300萬塊上調(diào)至500萬塊。
科萊特·克雷斯也回應(yīng)了行業(yè)競爭。她表示,英偉達(dá)產(chǎn)品的獨(dú)特之處是能用于任何工作的負(fù)載、用于任何類型。多年以來,人們一直在討論能否做一些類似英偉達(dá)CUDA的事情,但看起來不太成功。當(dāng)GPU迭代時(shí),CUDA能向前和向后兼容,客戶購買硬件后,英偉達(dá)還會改進(jìn)軟件,使整體性能變得更強(qiáng),這就是為什么硬件被購買后計(jì)算性能還能優(yōu)化。如果說Blackwell相比上一代架構(gòu)性能提升了10~15倍,其中可能就有2倍是來自軟件優(yōu)化,這是一個(gè)很大的提升。
就英偉達(dá)交付產(chǎn)品主要是用于替換數(shù)據(jù)中心中的舊GPU,抑或作為現(xiàn)有計(jì)算設(shè)施的增量,科萊特·克雷斯則表示,大部分以往已安裝的計(jì)算基礎(chǔ)設(shè)施仍在運(yùn)行,一些前代架構(gòu)的芯片仍被使用?!拔覀兛吹降那闆r是,先進(jìn)的新模型希望遷移到最新一代硬件上。他們將模型遷移到新的芯片架構(gòu)上,同時(shí)保留現(xiàn)有的基礎(chǔ)設(shè)施。因此,到目前為止,能看到在美國乃至全球的大部分部署都是新建計(jì)算設(shè)施?!彼硎?。
科萊特·克雷斯也回應(yīng)了客戶購買英偉達(dá)產(chǎn)品后運(yùn)行推理工作負(fù)載的投資回報(bào)情況。她表示,推理模型正在進(jìn)入市場,會看到越來越多基于Blackwell架構(gòu)的模型。當(dāng)更多token(詞元)被生成、用戶越來越多且用戶可能為token付費(fèi),利潤空間正在被創(chuàng)造出來,這反過來又推動了更多的計(jì)算資源投入。
英偉達(dá)10月底成為史上首個(gè)市值突破5萬億美元的公司,但股價(jià)近期有所回調(diào),有投資者質(zhì)疑美國科技公司之間的循環(huán)交易并認(rèn)為真正的算力需求量不高。12月2日,英偉達(dá)漲0.86%,市值4.4萬億美元。