英偉達(dá)CUDA護(hù)城河，到底有多深？

激石Pepperstone(http://xcvvvm.com/)報(bào)道：

從明天開(kāi)始，Nvidia 將舉辦 GTC 開(kāi)發(fā)者大會(huì)。這個(gè)盛會(huì)如今已成為業(yè)界關(guān)注的焦點(diǎn)。隨著英偉達(dá)的崛起，許多人一直在問(wèn)英偉達(dá)的軟件在多大程度上為其硬件提供了持久的競(jìng)爭(zhēng)護(hù)城河。由于我們收到了很多相關(guān)問(wèn)題，因此我們想在此闡述我們的想法。

除了下一代B100 GPU的潛在發(fā)布之外，GTC 并不是真正的芯片盛會(huì)，GTC 是為開(kāi)發(fā)者舉辦的展會(huì)。這是 Nvidia 圍繞 CUDA 及其軟件堆棧其他部分構(gòu)建軟件生態(tài)系統(tǒng)的旗艦活動(dòng)。

值得注意的是，在談?wù)?Nvidia 時(shí)，包括我們自己在內(nèi)的許多人傾向于使用“CUDA”作為 Nvidia 提供的所有軟件的簡(jiǎn)寫。這是一種誤導(dǎo)，因?yàn)?Nvidia 的軟件護(hù)城河不僅僅是 CUDA 開(kāi)發(fā)層，這對(duì)于 Nvidia 捍衛(wèi)其地位至關(guān)重要。

在去年的 GTC 上，該公司發(fā)布了 37 份新聞稿，其中涉及一系列令人眼花繚亂的合作伙伴、軟件庫(kù)和模型。隨著英偉達(dá)加強(qiáng)防御，我們預(yù)計(jì)下周會(huì)出現(xiàn)更多這樣的情況。

這些合作伙伴非常重要，因?yàn)楝F(xiàn)在有數(shù)百家公司和數(shù)百萬(wàn)開(kāi)發(fā)人員在 Nvidia 的產(chǎn)品之上構(gòu)建工具。一旦建成，這些人不太可能重建他們的模型和應(yīng)用程序以在其他公司的芯片上運(yùn)行，至少在短期內(nèi)是這樣。值得注意的是，英偉達(dá)的合作伙伴和客戶遍布數(shù)十個(gè)垂直行業(yè)，雖然并非所有這些都全力支持英偉達(dá)，但它仍然表現(xiàn)出對(duì)英偉達(dá)有利的巨大勢(shì)頭。

簡(jiǎn)而言之，英偉達(dá)目前地位的防御能力取決于軟件生態(tài)系統(tǒng)的固有慣性。公司投資于軟件——編寫代碼、測(cè)試它、優(yōu)化它、對(duì)員工進(jìn)行軟件使用教育等等——一旦進(jìn)行了投資，他們將非常不愿意更換。

我們從過(guò)去十年來(lái) Arm 生態(tài)系統(tǒng)進(jìn)軍數(shù)據(jù)中心的嘗試中看到了這一點(diǎn)。即使基于 Arm 的芯片開(kāi)始展現(xiàn)出相對(duì)于 x86 的真正功耗和性能優(yōu)勢(shì)，軟件公司及其客戶仍然需要數(shù)年時(shí)間才能采取行動(dòng)，這一轉(zhuǎn)變?nèi)栽谶M(jìn)行中。英偉達(dá)似乎正處于建立這種軟件優(yōu)勢(shì)的早期階段。如果他們能夠在廣泛的企業(yè)中實(shí)現(xiàn)這一目標(biāo)，他們很可能會(huì)堅(jiān)持很多年。這最重要的是英偉達(dá)在未來(lái)的發(fā)展中處于最佳位置。

英偉達(dá)在其軟件領(lǐng)域面臨著巨大的進(jìn)入壁壘。CUDA 是其中的重要組成部分，但即使 CUDA 的替代品出現(xiàn)，Nvidia 提供軟件和庫(kù)的方式也有利于他們構(gòu)建一個(gè)非?？煽康纳鷳B(tài)系統(tǒng)。

我們指出這一切是因?yàn)槲覀冮_(kāi)始看到 CUDA 的替代方案出現(xiàn)。AMD 在對(duì) CUDA、ROCm 的回答上取得了很大進(jìn)展。然而，當(dāng)我們說(shuō)進(jìn)步時(shí)，我們的意思是他們現(xiàn)在擁有了一個(gè)良好的、可行的平臺(tái)，但需要數(shù)年時(shí)間才能獲得 CUDA 采用的份額。目前，ROCm 僅適用于少數(shù) AMD 產(chǎn)品，而 CUDA 多年來(lái)一直適用于所有 Nvidia GPU。

其他替代方案，如 UXL 或 PyTorch 和 Triton 的不同組合，也同樣有趣，但還處于早期階段。UXL 看起來(lái)尤其有前途，因?yàn)樗玫搅艘恍I(yè)內(nèi)知名人士的支持。當(dāng)然，這也是其最大的弱點(diǎn)，因?yàn)檫@些成員的利益差異很大。

我們認(rèn)為，如果英偉達(dá)能夠站穩(wěn)腳跟，那么這些都無(wú)關(guān)緊要。這就是我們需要區(qū)分 CUDA 和 Nvidia 軟件生態(tài)系統(tǒng)的地方。業(yè)界將提出 CUDA 的替代方案，但這并不意味著他們可以完全消除 Nvidia 的軟件進(jìn)入壁壘。

話雖如此，英偉達(dá)軟件護(hù)城河面臨的最大威脅是其最大的客戶。超大規(guī)模企業(yè)沒(méi)有興趣以任何方式鎖定英偉達(dá)，而且他們有資源來(lái)構(gòu)建替代方案。公平地說(shuō)，他們也不能幸免于與 Nvidia 保持密切聯(lián)系，它仍然是默認(rèn)解決方案，并且仍然具有許多優(yōu)勢(shì)，但如果有人削弱 Nvidia 的軟件雄心，那么很可能來(lái)自這個(gè)角落。

當(dāng)然，這引發(fā)了一個(gè)問(wèn)題：英偉達(dá)的軟件野心到底是什么。

在過(guò)去的幾年里，隨著 Nvidia 推出其軟件產(chǎn)品，包括其云服務(wù) Omniverse，他們傳達(dá)了一種感覺(jué)，即他們有雄心勃勃地創(chuàng)造其收入流的新組成部分。在最新的財(cái)報(bào)電話會(huì)議上，他們指出他們已經(jīng)創(chuàng)造了 10 億美元的軟件收入。然而，最近，我們感覺(jué)到他們可能正在重新定位或稍微縮減這些雄心，軟件現(xiàn)在被定位為他們向芯片客戶提供的服務(wù)，而不是其本身的成熟收入部門。

畢竟，銷售軟件可能會(huì)讓英偉達(dá)與其所有最大的客戶直接競(jìng)爭(zhēng)。

18年堅(jiān)守，換來(lái)大爆發(fā)

根據(jù)《BBC》報(bào)導(dǎo)，英偉達(dá)的迅猛崛起就是大膽賭上自己的技術(shù)加上有良好的時(shí)機(jī)。

英偉達(dá)創(chuàng)立于1993年，現(xiàn)任英偉達(dá)CEO黃仁勛就是創(chuàng)辦人之一，當(dāng)時(shí)英偉達(dá)還是一家專注為電玩游戲和應(yīng)用程式制作圖像的公司。

1999年，英偉達(dá)研發(fā)出首款繪圖芯片（GPU）GeForce256，來(lái)加強(qiáng)電腦的圖像顯示效果，當(dāng)時(shí)以每股12美元的價(jià)格公開(kāi)上市。

2006年，斯坦福大學(xué)的研究人員發(fā)現(xiàn)GPU有另一個(gè)用途：它可以加快數(shù)學(xué)運(yùn)算，這是一般芯片無(wú)法做到的。同年，黃仁勛做出了AI發(fā)展上重要的決定：他投入英偉達(dá)的資源來(lái)建立一個(gè)讓GPU可以編程的工具，讓GPU不只是制作圖像的工具，也就是CUDA（Compute Unified Device Architecture，統(tǒng)一計(jì)算架構(gòu)）。

什么叫做CUDA？這是一套英偉達(dá)提供給開(kāi)發(fā)人員的編程工具，讓工程師能運(yùn)用CUDA，省下大量撰寫低階語(yǔ)法的時(shí)間，進(jìn)而直接使用高階語(yǔ)法諸如C++或Java等來(lái)編寫應(yīng)用于通用GPU上的演算法，解決平行運(yùn)算中復(fù)雜的問(wèn)題。

對(duì)研究人員來(lái)說(shuō)，這是一種在消費(fèi)類硬件中進(jìn)行高性能計(jì)算的新方法。

當(dāng)18年前黃仁勛投資CUDA時(shí)，受到不少投資人看衰，現(xiàn)在2024年結(jié)果證明，這個(gè)選擇造就了日后的兩萬(wàn)億美元市值。

根據(jù)《福布斯》指出，大多數(shù)的AI新創(chuàng)都奠基于英偉達(dá)的CUDA平臺(tái)，英偉達(dá)的策略就是讓平臺(tái)衍生出龐大的軟件生態(tài)，讓后者難以突破。

2012年，一種可以將圖像進(jìn)行分類的人工智能Alexnet嶄露頭角，它使用了輝達(dá)其中兩個(gè)可編程的GPU進(jìn)行訓(xùn)練。

科學(xué)家們同時(shí)發(fā)現(xiàn)，GPU可以大幅加速神經(jīng)網(wǎng)絡(luò)的處理速度，并開(kāi)始用在工作上。

英偉達(dá)透過(guò)投資更適合AI的GPU，以及讓這項(xiàng)技術(shù)更容易使用的軟件，來(lái)發(fā)揮自身優(yōu)勢(shì)。

然而，目前英偉達(dá)的主導(dǎo)地位看似穩(wěn)固，但長(zhǎng)遠(yuǎn)來(lái)說(shuō)更難預(yù)測(cè)。

顧問(wèn)公司TIRIAS Research的分析師克魯威拉（Kevin Krewell）指出，英偉達(dá)背后有很多對(duì)手正急起直追。

舉例來(lái)說(shuō)，超微（AMD）和英特爾（Intel）都以制造中央處理器（CPU）聞名，但他們近期也投入制作AI專用的GPU，Google則開(kāi)發(fā)出擁有AI運(yùn)算能力的張量處理器（ TPU），不僅可用于搜尋引擎，還可用在一些機(jī)器學(xué)習(xí)的工作上，微軟和Meta也正著手開(kāi)發(fā)中。

英偉達(dá)在加密貨幣的挖礦上也取得了成功，根據(jù)《華爾街日?qǐng)?bào)》報(bào)導(dǎo)，隨著加密貨幣價(jià)格上漲，英偉達(dá)在2020年的市值超越了芯片巨頭英特爾，并在2021年底達(dá)到每股近330美元的紀(jì)錄。

雖然近期加密貨幣寒冬降臨， 分析師指出，AI的興起將為英偉達(dá)帶來(lái)比加密貨幣更繁榮的前景，瑞銀分析師估計(jì)，光ChatGPT就需要約1萬(wàn)個(gè)英偉達(dá)的GPU。

英偉達(dá)設(shè)計(jì)但不制造自己的芯片，他們將生產(chǎn)的工作外包給芯片制造商，其中包括「護(hù)島神山」臺(tái)積電。

黃仁勛在2010年接受《紐約時(shí)報(bào)》的專訪時(shí)指出，英偉達(dá)的核心價(jià)值包含兩項(xiàng)要素，首先是「承擔(dān)風(fēng)險(xiǎn)的容忍度」和「從失敗中學(xué)習(xí)的能力」。他提到，在這個(gè)瞬息萬(wàn)變的世界中，「慶祝失敗」是所有公司的重要元素，而第二個(gè)則是「知識(shí)的誠(chéng)實(shí)」，能夠直言不諱地指出公司或個(gè)人犯下的錯(cuò)誤，并從中汲取教訓(xùn)，迅速調(diào)整。

黃仁勛說(shuō)，英偉達(dá)的企業(yè)性格就是，你有好點(diǎn)子，以前也沒(méi)有人做過(guò)，那就放手去嘗試，如果失敗了，就從中去學(xué)習(xí)和調(diào)整，每一次的失敗都是一點(diǎn)點(diǎn)的進(jìn)步。

黃仁勛就讀高中時(shí)，也在玩電動(dòng)的過(guò)程中學(xué)到不少。「當(dāng)你嘗試某些破關(guān)方式，卻沒(méi)有得到想要的結(jié)果時(shí)，你就重新再試一次，不知不覺(jué)就破關(guān)了！」

黃仁勛認(rèn)為，就是因?yàn)橥骐妱?dòng)，培養(yǎng)了嘗試的能力，這也是日后創(chuàng)新和嘗試新事物的養(yǎng)分之一。

黃仁勛也在專訪中透露加入英偉達(dá)所需具備的特質(zhì)，第一個(gè)是「要能愛(ài)上某樣你感興趣的東西」，他強(qiáng)調(diào)愛(ài)上某樣?xùn)|西的能力對(duì)成功人士來(lái)說(shuō)非常重要。

第二個(gè)則是「冒險(xiǎn)和犯錯(cuò)」的能力，不斷去嘗試，犯錯(cuò)了就從中學(xué)習(xí)，做出調(diào)整迎接下次挑戰(zhàn)。

第三個(gè)則是「像孩子般去看待世界」，「如果我們做到會(huì)怎么樣？」「該如何去做？」所有偉大的想法都肇基于此。?????????