再論輝達:人工智慧,資料中心,和繪圖的絕對領先者

輝達

請讀者務必先讀我的先前的文章《輝達(nVidia) 如何賺錢?輝達改變了產業的遊戲規則 》,《輝達的壟斷原因和面對的挑戰》再回來讀這一篇,這樣對輝達公司才能有基本的認識。

我的書中有關輝達的內容

我在最近的兩本書裡,都討論過輝達(美股代碼:NVDA)這家公司;包括了:

在《超級成長股投資法則》一書中:

  • 3-3節,第190-191頁

在《10倍股法則》一書中:

  • 1-1節,第23-24頁
  • 5-6,第242-246頁,整個小節的專門介紹這家公司
  • 6-2節,第282-285頁
  • 7-1節,第348-285頁

為什麼這家公司很重要?

大部份科技領域的領先者

輝達可以說是當代最火熱的主要的科技領域:人工智慧,資料中心,自駕車,元宇宙,加密貨幣挖礦,和專業電腦繪圖的絕對領先者。輝達若自稱第二,沒其它同業敢說自己是第一。

人工智慧非它不可

Stocktwits的Khanna認為,晶片巨頭輝達是這波人工智慧熱潮的一個受益者。他指出,輝達的專業人工智慧晶片佔據了這一高端人工智慧市場的大部分。

輝達股價今年以來已累計上漲85%,大有創下20多年來最大季度漲幅之勢。因去年居家經濟降溫而失去光彩的輝達股票現已重新成為熱門股,多位分析師大力宣揚這家晶片製造商在人工智慧方面的獨有潛力。

Oppenheimer分析師Timothy Horan在本周給客戶的一份研究報告中寫道:「人工智慧需要一個新的運算平台;在OpenAI的幫助下,微軟和輝達在構建這樣一個計算平台方面是早期領導者,也是優秀的合作夥伴。」Horan表示:「輝達擁有令人羨慕的市場地位,該公司的圖形處理器(GPU)被公認處於行業領先水平,藉助大量人工智慧軟體堆疊,這些CPU將在雲計算領域獲得人工智慧錢包/運算業務的市場份額。」

販賣十字鎬和鏟子

還有很多其他標榜以人工智慧為業務中心的上市公司可供選擇,那麼為什麼選擇輝達呢?因為輝達是一家賣人工智慧領域專用工具十字鎬和鏟子的公司。也就是馬克吐溫的一句名言:「在淘金熱期間,現在是從事鎬和鏟子業務的好時機。」 

在目前人工智慧火熱的這種情況下來說;人工智慧是黃金,而輝達從事的則是十字鎬和鏟子的生意。

市佔率如何?

目前,輝達已經是無可爭議的人工智慧晶片市場領導者。據Omdia估計,截至2020年,它在此類人工智慧處理器中的份額約為80%。超微是GPU行業的第二大玩家,市場份額約為20%,而英特爾的佔比僅有不到1%的市佔。

此外,根據New Street Research的數據,輝達佔了可用於機器學習的圖形處理器市場的 95%!其餘的5%則為字母、亞馬遜、騰訊、阿里巴巴等網路巨擘自研供自家使用的特定應用積體電路(ASIC)。

公司的介紹

關於輝達(美股代碼:INTC),有興趣的讀者可以參考我在《10倍股法則》一書的5-6小節中,242頁-246頁的詳細介紹;以及在我的《超級成長股投資法則》一書中的3-3和3-7小節中的詳細介紹。再加上以下我的幾篇文章的說明:

基本硬體設施

繪圖晶片GPU

輝達近廿年來,在輝達繪圖晶片GPU的市佔率一直穩定保持在80%左右,超微和英特爾根本望塵莫及。不僅在一般的消費型繪圖晶片市場如此,在專業的繪圖晶片市場更是呈現幾乎壟斷的型態。

加密貨幣

輝達執行長黃仁勳說,「我們的GPU 支持著世界上最大規模的分佈式超級計算,這就是它在加密貨幣領域大受歡迎的原因。」此外,輝達還推出了專門面向「挖礦」定製的GTX 1060 3GB 以及P106、P104 專業礦卡。

受益於「挖礦潮」,輝達的2018 財年全年收入創下了97 億美元的新高,其中包括礦卡在內的遊戲晶元收入達到了55 億美元,佔比超過50%。輝達的市值也在狂飆,從2016 年的140 億美元漲到了2018 年高點的1750 億美元,兩年間翻了十倍都不止

不過以2022 年以太坊合併為標誌,挖礦時代終於還是落幕了。等到ChatGPT 大火,輝達的技術長Michael Kagan 也開始蓋棺定論:加密貨幣對社會並無用處,GPU 和算力應該用於開發對社會更有益的人工智慧,比如ChatGPT

繪圖晶片已經不是只用於繪圖和顯示

繪圖晶片GPU被發現在人工智慧系統中可用於加速資料的訓練,這項改變,更是近十年來推升輝達股價的主要原因。

事情的發展還不只於此。輝達把繪圖晶片GPU的技術運用於自動駕駛、虛擬貨幣、元宇宙等多個領域,也大獲成功,而且輝達也都成為這些領域的領先廠商。

更重要的是輝達已成功改變了過去近半個世紀以來由英特爾所統治和定義的硬體計算世界,各位看一下這兩家企業過去十年股價的消長就能說明一切。輝達的執行長黃仁勳更是至今為止,唯一一位敢開說出英特爾所提出的半導體摩爾定律已死的意見領袖。黃仁勳隨之提出了「黃氏定律」,即:GPU每6個月性能提升一倍。相比摩爾定律的每18個月性能提升一倍,快了3倍。

他的確有資格,因為他辦到了。輝達已經成功地把GPU變成在成為通用類型的晶片;這便是尋求加速計算,即用特製的設備來為CPU的運算工作減負提速,具體落地便是堆算力、造顯卡處理圖像,也就是做GPU。

人工智慧系統

亳無疑問的,輝達是人工智慧領域最大的硬體廠商。它在人工智慧領域所必需使用的資料中心系統,GPU晶片,還有軟體的市佔率高達80%左右,其它同業根本無法和它競爭。

如果說輝達是所有想進入人工智慧領域的廠商必需採購的基本武器,其至是已經壟斷全球的資料中心和人工智慧的算力,這樣的說法並不為過;因為企業並沒有太多的選擇可言。

2016年,輝達的創始人兼執行長黃仁勳向OpenAI捐贈了一台人工智慧超級電腦DGX-1,目前紅透半邊天的ChatGPT的最基礎計算資源就是這麼開始的。因為那時候開始,這台DGX-1價值超過百萬,它的算力已經可以把OpenAI一年的訓練時間,壓縮到一個月。

騰訊在2023年4⽉估計,「H800⼤幅縮減人工智慧系統訓練時間⼀半以上,從1 1天減少⾄4天」。⼤陸晶片訓練人工智慧時間是美國的兩倍,這是因為H800是輝達為符合美國半人工智慧半導體出口規定為中國所特製的降階晶片!

資料中心和人工智慧

輝達的A100和H100產品,是目前為人工智慧大模型提供算力的主力。

在目前,幾乎所有人工智慧企業都在求購相關的GPU。甚至企業所擁有的A100、H100數量,已經成為了行業判斷企業大模型能力的重要指標之一。而A100與H100的價格也水漲船高。據中國企業家報導,從2022年年底到現在,A100的單價漲超過了50%!

輝達在2022年5月推出的最新版的Grace Hopper架構的H100 GPU,採台積電4奈米製程,擁有800億個電晶體。20張即可承載全球網際網路流量,讓所有人驚嘆它所具有的效能。

如果Grace Hopper的記憶體和效能還不夠用,輝達已提出更高效能的解決方案——DGX GH200 。先將8個Gr ace Hoppers與3個NVLINK交換機以900 GB傳輸速度連接在一起,再將32個這樣的零件連接在一起,總共連接256個Grace Hopper晶片。GH200 Grace Hopper在2023年5月已全面投產,黃仁勳將其描述為世界上第一個具有巨大記憶體的加速計算處理器:「這是一台計算機,而不是晶片。」 專門為高負載需求的數據中心應用而設計的。

軟體表現亮眼

成功涉入軟體

令人驚訝的是輝達在軟體上的表現,也超出多數人的想像。輝達提供給客戶,用以存取或客製強化其平台硬體功能,最基礎的CUDA程式庫和API,長久以來就是軟體工程師在進行專業圖形處理和輝達高階功能存取的必備開發工具集,更是輝達能擊敗競爭對手,壟斷這個領域的核心護城河,因為對手至今根本沒有相對應的解決方案。

不像同行英特爾(美股代碼:INTC)長期以來在軟體方面的表現乏善可陳,對公司營收幾乎末曾有過任何幫助。輝達軟體的三大機會,包括人工智慧的相關軟體、專為元宇宙,虛擬協作,與即時模擬打造的Omniverse平台,以及為汽車廠量身打造的自駕車軟體。

CUDA

在2006年,輝達推出CUDA開發平台(通用並行計算架構)。搭載GPU的工具集,通過CUDA編程,能夠讓多個GPU並行運算,從而大幅提升計算性能。

在早期,GPU的作用只是為了加速圖形渲染,時常用於遊戲領域。而在CUDA的加持之下,GPU脫離了圖像處理的單一用途,開始真正具備通用計算的能力,並逐步被用到了人工智慧的深度學習之中。

如今,行業早已認識到了CUDA的價值。而擁有CUDA支持的輝達的GPU,也成為了人工智慧訓練的首選。

CUDA算是目前所有高階科技專業人士的福音。無論搞人工智慧,還是流體物理學研究、蛋白質折疊預測、還是粒子模擬,都離不開CUDA。

Omniverse元宇宙平台

黃仁勳曾多次公開表示:「人工智慧和計算機圖形學的結合將為元宇宙提供動力,即網際網路的下一次演變。」

而無論是構建元宇宙的虛實場景,還是通過人工智慧技術維持元宇宙自主運轉,都需要3D圖形處理管線、人工智慧計算等能力的支持。並且,輝達的Omniverse平台,也能夠協助用戶在虛擬世界中進行協同工作,建造數字孿生世界,比如進行汽車、建築的設計製造等。

不同於其他元宇宙的構想,黃仁勳把Omniverse 視為「將3D 世界連接至共享虛擬世界的平台」。最驚為天人的是,後來放出的紀錄片顯示,此前GTC 2021 上演講長達一個半小時的黃仁勳其實是「數字版黃仁勳」,包括廚房也是「數字廚房」,同樣基於Omniverse 和數字孿生技術實現。

元宇宙還有很長的路要走,從基礎設施到終端設備再到內容應用,都處在很早期的階段。但輝達還是為元宇宙打造了一整套技術平台,與HPC(高性能計算)、AI 並列為三大平台,足見其將元宇宙視作一場長期的戰爭。

目前,Omniverse為大約 700 家客戶提供服務,包括亞馬遜、西門子、梅賽德斯-賓士、DB Netze、DNEG、克羅格、勞氏和百事可樂。

人工智慧企業平台

輝達的人工智慧企業平台可以理解為預先訓練的語言模型等工具的集合,以及用於程式開發,和優化基於 GPU 的專有應用程序的工具包和編程環境,包括用於機器學習、深度學習等人工智慧基本功能的程式庫和工具等人工智慧相關的任務。 因此,輝達的企業人工智慧平台可以支援跨行業應用程序和任務的需求,包括人工智慧對話、網路安全、物流、推薦演算法等最熱門的應用領域。

雲端運算平台的服務

輝達在雲端服務的部份,很早就推出了虛擬繪圖晶片vGPU,和GeForce NOW雲端遊戲的平台,目前都處於業界的領先群中。

尤為甚者,輝達更在近期推出了一項新的人工智慧超級計算服務——DGX Cloud雲服務。它可以讓企業快速訪問為生成式人工智慧和其他開創性應用訓練高級模型所需的基礎設施和軟體。

輝達目前的做法是,將數據中心硬體出售。「一種人工智慧超級計算服務,使企業能夠立即訪問為生成式人工智慧和其他突破性應用程序訓練高級模型所需的基礎設施和軟體。」

簡單的理解,就是通過這個雲平台,用戶可以直接調用輝達的超級計算機DGX的AI算力,而不是自己去花大錢購買「堆」A100、H100。輝達租給你!

下一個金雞母

華爾街普遍的看法是:輝達軟體部門2022年的營收約在3.5億至4億美元間,預估2030年前營收可望達到數十億美元規模。

而根據輝達公司自己的估計,到2030年,輝達的軟體業務潛在的市場總值是3000億美元。

其它進階的領域

自動駕駛

早在2015年,輝達便推出了汽車業務,研發並交付了自動駕駛的晶片;甚至於特斯拉也採用過它的自動駕駛晶片。因為在自動駕駛汽車的三個關鍵——傳感器、晶元和演算法中,晶片都需要提供極高的算力。

這也是輝達最擅長的地方。早在2013 年輝達就發布了Geforce GTX Titan 泰坦,隨即成為了全球自動駕駛汽車和高級駕駛輔助系統的算力基礎。在2019年,輝達推出了大算力晶片Orin系列。2022年推出了新一代自動駕駛晶片「Thor」。

2020年,Mobileye驕傲地宣布,憑藉其旗下公司Mobileye在輔助駕駛(ADAS)晶元領域的優勢,Mobileye在2019年,收穫了輔助駕駛領域70%的全球市場份額。Mobileye採用的是在輔助駕駛、車機、底盤等領域存在了很多年的,「黑盒模式」。所謂黑盒模式,指的是供應商不僅提供硬體,還會打包提供軟體等全套方案。並且兩者不可分割,通常不提供只買硬體的選項。車企無法對軟體、演算法自行進行調整。

曾幾何時,目前,Orin晶片也已成了很多主機廠的首選,前三十家新能源車企的二十家、以及越來越多自動駕駛初創公司都已經宣布搭載Orin平台。因為輝達的自駕車系統不僅提供客製化的選項,而且運算能力更是大幅超越Mobileye。

目前輝達的自駕車系統,已經成功打敗Mobileye(美股代碼:MBLY),成為市佔第一。在全球自動駕駛公司和車企中,除了特斯拉等少數選擇轉向自研的廠商,只要有意瞄準L4 級別自動駕駛,都是輝達的客戶。

優化晶片設計

輝達新研究說明可以結合人工智慧技術來找到安排電晶體的更佳方式。輝達聯合台積電(美股代碼:TSM)、艾司摩爾(美股代碼:ASML)和新思科技(美股代碼:SNPS),歷時4年終於完成了計算光刻技術的一項重大突破───NVIDIA cuLitho計算光刻程式庫。輝達「意外」攻入晶元製造領域,與台積電和艾司摩爾合作推進2奈米工藝。

生成式人工智慧

2023年開年以來最火熱的生成式人工智慧和ChatGPT,背後使用的基礎硬體設施,主要的就是輝達的系統。相關的話題,請參考我的文章《生成式人工智慧新星OpenAI和爆紅的ChatGPT》的說明。

輝達相繼發佈了一系列涉及到大型語言類人工智慧、生成式人工智慧、工業元宇宙等當試下最熱門的新技,但在這些熱門科技的背後,輝達的野心似乎不止於此,而且輝達在這波創新和領先所有科技大廠的角色,至今仍然立於最領先的地位,可見的未來,應該還是如此。

資本市場表現

股價表現突出

2023年開年以來,科技界和美股最火熱的話題是,生成式人工智慧和的OpenAI公司的ChatGPT,以及到處搶佔版面的微軟(美股代碼:MSFT)。但多數投資人都錯了,這段期間股價漲最多的不是微軟,而是輝達!可見華爾街的專業投資人的眼睛還是無比雪亮的。

這也是為何2023年開年至3月底為止,輝達的股價大漲近90%,市值激增逾3,000億美元,已是長期對手英特爾的5倍之多,而且公司的市值已超過波克夏(美股代碼:BRK.A和BRK.B),成為美股市值第五大的公司。

無人敢建議賣出

至少就目前為止,華爾街主要的投資銀行,分析師,投資機構,和著名的投資人,沒有任何一位表達應賣出輝達的股票;這在美股上市企業和華爾街是很少見的情形。

中國市場太過重要

中美兩國壟斷人工智慧

據黃仁勳判斷,未來生成式人工智慧將推動萬億美元的數據中心將從通用計算向加速計算轉型。但這一龐大的市場幾乎一半屬於中國,一半屬於美國。目前,中國發布了79個大模型,僅次於美國,兩國相加,佔了全球80%。

中國對輝達太過重要

黃仁勳指出,世界必須承認中國科技業充滿活力 中國會扶植當地GPU業者,與美國同行紛紛自研晶片一樣,一旦中國企業也要自己研發晶片。所以黃仁勳已經開始擔心,「如果中國不能從美國購買GPU晶片,他們就會自己製造。」這表示輝達接連失去了人工智慧時代裡重要的客戶,畢竟大中華市場佔輝達的全公司營收約為公司一半的營收,其中中國大陸約佔四分之一,台灣也約佔四分之一。

不願放棄中國市場

而且2022年十月輝達就被美國限制在華銷售A100和H100高性能GPU,輝達只能緊急推出閹割版的A800和H800。

黃仁勳表示:若丟大陸市場 美晶片法案鼓勵蓋晶圓廠沒意義。而他真正的心聲是:晶片不一定要在台灣做「但大陸市場無可取代」。

結語

前輝達首席科學家戴維·柯克(David Kirk)很早就有一個夢想——將主要服務於「遊戲」、只做3D 繪圖渲染的GPU 算力「通用化」,使之轉變為通用算力中心。

於是在戴維·柯克和黃仁勳領導下,輝達於2007 年推出了革命性的GPU 統一計算平台CUDA,將龐大的算力從遊戲中釋放出來。

回看輝達的歷史,尤其是CUDA 推出之後,輝達和黃仁勳就把「計算」「算力」視為一切的核心。不管是人工智慧,還是自動駕駛、元宇宙、機器人、加密貨幣,輝達都拿著龐大到甚至有些過剩的「算力」到處尋找新的機會。

當然,輝達有更高的遠見,對算力更堅定的信仰。2021 年8 月,美國半導體工業協會(SIA)宣布,輝達創辦人業執行長黃任勳將獲得晶片行業的最高榮譽——羅伯特· 諾伊斯獎。

輝達
credit: nVidia

相關文章

重要聲明

  • 本站內容為作者個人意見,僅供參考,本人不對文章內容、資料之正確性、看法、與即時性負任何責任,讀者請務必自行判斷。
  • 對於讀者直接或間接依賴並參考本站資訊後,採取任何投資行為所導致之直接或間接損失,或因此產生之一切責任,本人均不負任何損害賠償及其他法律上之責任。

在〈再論輝達:人工智慧,資料中心,和繪圖的絕對領先者〉中有 4 則留言

  1. Andy老師好:
    我對nVidia 涉入軟體領域特別感興趣,尤其是他們初期發展,因為可以忍受幾年幾乎無獲利,
    全力發展CUDA這套可編程之套件API,感受到一個公司CEO如此高瞻遠矚,
    nVidia之CUDA發展幾乎很像APPLE一樣是軟硬體整合,只是前者是開放式給所有可以運用軟硬體廠商,他本身GPU透過CUDA展現多領域運算力,看到Microsoft,Adobe等軟體廠商都相繼採用,甚至Autodesk也採用,如此根本就是軟體綁住硬體,讓使用者由於程式編成更離不開nVidia,況且還做租借算力服務提供給不想建置硬體設備廠商,而且也提供自動駕駛晶片客製化給車企公司,就連台積電製程也需要用到,最近看阿凡達(水之道)電影也是用CUDA運算過用的背景處理,在在顯示這一家科技業公司真是無所不包。

    涉足軟體跟服務業,看起來以後的發展已經不能用硬體製造業來對nVidia做估值,雖然目前已經是本益比接近 200,比起去年高峰80, 90還多一倍,即使未來回檔,本益比可能還比一般軟體業還高,樹不可能漲上天,雖然這棵樹似乎很有可能長成未來神木,但此時似乎過熱,冷靜的投資人需要靜下心思考,等待也許是最好的方式。

    1. Peter您好,您的迴文點中了其中的重點——軟體。相較下,有任何人聽過英特爾的任何軟體可以壟斷某個領域或是為人所知嗎?沒有。其實超微也有對應CUDA的ROCm,但是差別是你所提到的持續投入和堅持;而且ROCm一直處於落後追趕,以及相容於CUDA的無限輪迴中。我們可以說輝達的顯示繪圖,專業圖形,資料中心,人工智慧,元宇宙,以及自駕等業務之所以能獨領風騷,沒有敵手,除了晶片外,是因為最底層的CUDA,能讓客戶進行必要的客製化。

  2. Andy老師好:
    有幾個問題想請教您
    1.有人說AI發展目前還在Baby階段,您覺得?
    2.目前除了chatGPT外,其他關於AI殺手級應用並未出現,是否在算力或資料搜集上還有一段時間需要開發,真正爆發期還沒到?
    3.現階段大陸市場佔輝達營收很大份額,基於地緣政治及國家安全考量下,高階顯示卡要出貨給
    大陸看來不可能,會不會輝達也像Amazon提供算力服務給中國大陸來彌補硬體限制買賣?
    4.國家安全看來是凌駕於企業利潤,輝達如真失去大陸市場會不會目前股價估值過高有大幅回檔可能?

    1. Peter您好:
      (1).AI其實起步很早,我們電算系在我大學的年代就有多門課和AI有關,但在約20-30多年AI發展停滯,原因很多,例如當時算力不足,而且連一些人眼一眼可以分辨的簡單AI都難達成.經過近十多年的改善,AI演演算法和算力都有大幅度的改善,而且可用來提升AI辨識率的資料也因為網路和行動裝置的普級成幾何級數的增加.Baby或許是, 因為現在真正”商用而且可靠”的AI技術都還是很初階, 例如車牌辨識,人臉辨識,幾乎是100%;但這種事用人來做,一眼就認得,所以這就是AI和人腦的差別.當然醫學CT或X光片的判讀,是有幫助,但還是沒有人可靠,無法商用.
      (2).ChatGPT或Bard等AIGC的聊天或圖形產生程式,目前最大的問題(谷歌,OpenAI, Google都公開承認過這個問題)是無法保證100%正確,沒有精準度就無法商用,這是關鍵問題. AIGC最大的受益者是輝達和AMD這種GPU的硬體基礎商,因為任何具份量的AIGC的大模型(LLM)都需要至上萬片以上的GPU卡,這不是一般公司能承受的(算力)成本.
      (3).兩岸加起來佔了輝達一半的營收,美國幾星期前已想到要阻止你提的這種解決方案,也就是禁止中國企業使用美國廠商的雲端產品, 包括AWS, Azure, GPC,當然輝達也不行
      (4).一定會,因為全球夠份量在AI領域和美國競爭的國家只有中國,中國需要採購輝達的GPU, 因為它市佔80%以!
      你記不記得在美國禁止A100/H100賣給大陸, A800還沒出來前,美國一宣佈禁令當天,輝達股價一天內跌了5%以上, 兩天跌去7%.黃仁勲說過,大陸市場不可取代, SK Hynix, Samsung今年股價大跌, 都是因為美國對中半導體的禁令, 但大家都沒想到另一個國家可能更慘, 那就是今年預估GDP成長率只有0.5%的台灣.

      其實AI已經影響到很多產業了,只是沒有那麼明顯,例如網路內容的審查,車牌辨識,人臉辨識,手機攝影,谷歌和META的廣告下單,海關行李檢查,數位媒體內容, 詐騙,其至是已能為軟體工程師撰寫大部份(並非完整)的程式碼.特斯拉的FSD和自駕車都算是

發佈留言

發佈留言必須填寫的電子郵件地址不會公開。 必填欄位標示為 *

error: Content is protected !!