資料中心是仍在高速成長的半導體領域

資料中心

簡介

何謂資料中心

資料中心不是一顆晶片,它是一套完整的解決方案。主要就是企業用來處理資料的後台的一群軟硬體的集合,本文只會討論硬體的部份,不會討論關於軟體的部份。詳見下面「資料中心的組成」小節的說明。

所有您我熟知的科技公司,或是大型企業都需要資料中心解決方案的產品,而且市場的需求是逐年在快速的攀升中,到目前還看不到止境。

應用領域何在?

資料中心牽涉到的運用領域實在太過龐大,包括:

  • 雲端運算
  • 大數據
  • 人工智慧
  • 視聽串流
  • 電商
  • 資料庫
  • 任何的網路服務,例如傳統的網站伺服器,電子郵件伺服器

半導體界的明星領域

資料中心是少數仍在高速成長的半導體領域。一個現代完整的資料中心系統包括以下的組成。

資料中心最新的趨勢

由於為了迎合大量資料運算的需要,近年的資料中心產生了很大的變化,這當然也是供了許多商機。這些主要的趨勢有以下幾項。

無伺服器計算

無伺服器計算(Serverless computing),又被稱為功能即服務(Function-as-a-Service,縮寫為 FaaS),是雲端運算的一種模型。以平台即服務(PaaS)為基礎,無伺服器運算提供一個微型的架構,終端客戶不需要部署、組態或管理伺服器服務,程式碼運行所需要的伺服器服務皆由雲端平台來提供。

存算分離架構

之所有會有把資料的「儲存」和「運算」兩大操作完全分離的架構,使資料運算處理在效率上獲得大幅度地提升。主要是因為:

  • 數據保存週期與服務器更新周期不匹配。
  • 性能可靠性與資源利用率難以兼得。
  • 無服務器(Serverless)無伺服器計算應用等新型分佈式應用有共享存儲的訴求。
  • 數據中心稅導致數據密集型應用效率低下。

這就衍生了擴展時資源得不到充分利用,還增加了數據遷移等工作;支撐業務的服務器存儲無論是性能型還是容量型,均無法同時實現高性能、高可靠性與高資源利用率等。

另一方面,以無服務器(serverless)應用為代表的新型分佈式應用的興起,就像一股催化劑,加速了業務數據共享訪問的需求,使得存算分離架構獲得更多用戶關注。例如,分佈式數據庫等應用紛紛轉向容器化部署與應用,存算融合的架構在CPU、記憶體、存儲容量/IOPS/頻寬,網路IO/頻寬等多個面向均很難滿足新型分散式應用的要求。

巴菲特持有的雪花(美股代碼:SNOW)這家企業,主要的競爭力就是著眼在存算分離的架構上。詳情請見我的文章《巴菲特持有的雪花(Snowflake)究竟是家什麼樣的科技公司?它的價值在那裡?

資料高速傳輸的需要

為了支援存算分離、快速攀升的資料量、以及運算速度的要求;製造商競相推出高性能的技術框架、NVMe/CXL新協議、專用數據處理器(如:DPU)、RDMA/NoF新型網路技術等硬體的快速發展,為新型存算分離架構奠定了基礎。與傳統存算分離架構相比,新型存算分離架構具有更多新特徵:例如無磁碟機(Diskless)的服務器、多樣化的網路協議、專用化的數據處理器和極高存力密度的存儲系統等。

產業界出現全新的產品

因為上述的快速改變,目前各家廠商競相推出大量的DPU產品的湧現就是最好證明。DPU主要是將數據存儲、訪問等大量操作卸載到專用數據處理器上,釋放服務器的算力,從整體上提升架構的能效比。

而取代伺服器本地的硬碟則是使用無磁碟架構的存儲系統,近年來威騰電子(美股代碼:WD)的OpenFlex、Vast Data Ceres、華為的OceanStor Micro微存儲都是新型存算分離架構下的存儲系統的代表。

資料中心的組成

伺服器中央處理器

這是一般人容易暸解的部份,也就是超強的伺服器等級的中央處理器。伺服器等級的中央處理器通常必需是多核心,具有超強的運算能力,以及低延遲等特性。

伺服器中央處理器市佔最大的廠商長期以來都是x86架構的處理器,尤以英特爾(美股代碼:INTC)最高曾達近99%的x86架構的伺服器中央處理器的市佔。

但最近幾年的市況已有很大的變化,《英特爾目前艱難的困境》和《英特爾是怎麼賺錢的?以及投資它的好處 》的說明。

另一項重點是近年資料中心整體解決方案的霸主輝達(美股代碼:NVDA)到目前為止,尚沒有伺服器中央處理器的產品。輝達直到2021年才公布首款資料中心處理器Grace,產品預計2023年初才能上市。

獨立繪圖顯示處理器

資料中心的獨立繪圖顯示處理器(GPU)並不是用來進行圖形顯示,主要是用於人工智慧的大量資料的訓練之用,請參見我之前的文章《人工智慧投資的陷井》。這也是輝達的強項,也是為何它能稱霸近年資料中心整體解決方案的主要原因。

超微(美股代碼:AMD)因為多年前併購了ATI,也擁有市佔第二的獨立繪圖顯示處理器業務。英特爾的中央處理器雖然很早就「內建」繪圖顯示處理器,但直到2022年才推出「獨立」繪圖顯示處理器,在這方面只能算是入門者。

可程式化處理器

可程式化處理的代表就是FPGA,現場可程式化邏輯閘陣列(Field Programmable Gate Array:FPGA)。可程式化處理器的進入門檻非常高,運用面很廣,擁有一定的市場需求,而大型的廠商卻很有限,基本上只有兩大廠商,再加上幾家第二級規模較小的廠商。但是FPGA很昂貴,這是它不利的地方。它的好處就是能隨時修改設定,您可以把它視為可陏時修改的處理器晶片。

這個領域最大的廠商有兩家,最大的賽靈思(Xilinx)已在2021年被超微併購,第二大的廠商Altera則早在2015年就被英特爾收購了。

高頻寬的資料處理器

資料中心的各種任務不同的許多處理器間,由於必需在這些數目眾多的處理器和元件間快速地搬移資料,因此衍生出需要另一類的資料處理器負責這項任務。

輝達就為了這樣的需求,在2019年前併購了一家業界知名的以色列晶片設計廠商Mellanox Technologies,補足這一塊拼圖,也讓輝達在這資料中心的領域立即變成領導商;各位由此就可以知道這一部份對資料中心有多重要了。

網路通訊

這部份主要處理的是負責資料中心對外,也就是網際網路的連線和資料傳輸。由於網路和各種行動裝置的成長和普及,運用場景愈來愈廣,產生的資料呈幾何級數的快速成長。可想而知資料中心需處理的資料量是天文數字般的龐大。這一部份很專業,因此長期以來被思科(美股代碼:CSCO),華為,瞻博網路(美股代碼:JNPR),Arista(美股代碼:ANET),以及併購Aruba的慧與(美股代碼:HPE)等幾家廠商所把持。

主要廠商

主要的參與廠商

英特爾,輝達,超微;不論是那一家,除了早已把資料中心列為公司核心的業務外,也都強調會是公司未來發展的重心。主要的原因如下:

  • 利潤很高:一般的處理器出貨量雖然非常大,但是一般的處理器的競爭者眾,導致利潤逐年下降,這也是英特爾股價長期走跌,一再破底的其中一項主要原因。
  • 仍在高速發展,前景看好。
  • 進入門檻高,有能力參與者,而且能有可觀市佔的廠商並不太多,目前全球只有英特爾,輝達,超微這三家。不僅如此,而且這三家是各擅所長的領域,嚴格來說,沒有一家能擁有所有的技術或完整的解決方案。

主要供應商和業務表現

請注意,除了英特爾外,輝達和超微的資料中心業務都已經是該公司的營收最大的部門了。

輝達

部門表現(2022年第三季)金額(十億美金)年成長率
總營收5.93-16.5%
資料中心 (data center)3.833+30.55%
遊戲 (gaming)1.57-51%
專業繪圖顯示0.2-65.34%
汽車0.251+85.93%
其它 (OEM & Other)0.073 -68.8%

超微

超微的資料中心業務包括了以下的資料中心 (data center)和嵌入式系統 (embedded)這兩個部門的業務。

部門表現(2022年第三季)金額(十億美金)年成長率
總營收5.6+29.93%
客戶端 (client )1.02-40%
資料中心 (data center)1.61+45%
遊戲 (gaming)1.6+14%
嵌入式系統 (embedded)1.3+1549%

英特爾

英特爾的資料中心業務,其實包括了以下的智慧中心 (DCAI)和網路及邊緣事業 (NEX)這兩個部門的業務。

部門表現(2022年第三季)金額(十億美金)年成長率
總營收15.3-17.3%
客戶端運算 (CCG)8.1-17%
資料中心和人工智慧 (DCAI)4.2-27%
網路及邊緣事業 (NEX)2.3+14%
加速運算系統及繪圖 (AXG)0.185+8%
自駕車解決方案 (Mobileye)0.45+38%
晶圓代工服務 (IFS)0.171-2%

市場趨勢

除了這三大廠商外,近來最主要的趨勢是客戶都會自行開發晶片以符合自己的特殊需求,因為:

  • 買來的現成的產品很難客製化,客戶也不願意讓廠商知道自己的太多機密(例如資料量的大小,演算法,運用領域等)。
  • 採購的現成產品,由於供應商極少,議價空間很有限,價格非常高(看看輝達近年的股價就知道了)。而大型客戶的採購量很大,成本上很不划算。
  • 網路和科技的變化快速,大型客戶不願讓供應商決定自己的命運和專案的時程。

至於目前有多少大型客戶這麼做,答案是很多。詳情請參見我之前的文章《英特爾目前艱難的困境》的說明。

資料中心
credit: The Verge

本人為原文作者,本文精簡版原刊登在Smart智富月刋

相關文章

重要聲明

  • 本站內容為作者個人意見,僅供參考,本人不對文章內容、資料之正確性、看法、與即時性負任何責任,讀者請務必自行判斷。
  • 對於讀者直接或間接依賴並參考本站資訊後,採取任何投資行為所導致之直接或間接損失,或因此產生之一切責任,本人均不負任何損害賠償及其他法律上之責任。

在〈資料中心是仍在高速成長的半導體領域〉中有 2 則留言

  1. 子揚老師好

    美超微 SMIC(Super Micro Computer, Inc.),自2023年起股價大幅成長,似乎AI的運用,讓伺服器及其領域開始有發展,記得2022年末我經過101捷運站,SMIC好大的一幅廣告在地下街耶,沒想到這幾天看新聞才知道漲翻了,而且這位創辦人竟然出生台灣,讓我對這家公司更感好奇了! (感覺在美華人經營公司或當執行長都很勤奮XD)

    想請教老師數據中心的運作,是不是應該是很需要仰賴英偉達、AMD、Intel等廠商的晶片供應合作呢?還是和上述公司有競爭關係?
    這家公司有沒有等量級的競爭對手呢?

    謝謝老師!

    1. KaiKai您好,
      美超微 SMIC是道地的台商沒錯,這樣的電子商在美國上市的台商還有幾家,有空我會介紹。
      簡單來說,數據中心就是一堆電子下游供應商堆出來的機房,因此,只要是和機房有關的廠商都能受益;範圍很廣,包括通訊,軟體,網路設備,光謙,處理器,供電,儲存設備等。
      英偉達、AMD、Intel是上面所列的處理器商,也是較要的一環,以前主要是Intel,它的伺服器市佔在十年前約98%,但AI運用的需要(英偉達)和Intel自己不爭氣(AMD),讓英偉達、AMD崛起,有興趣的話可參考我書中和部落格中這些公司的介紹。
      現在大家都把焦點放在英偉達,主要是因為英偉達供應80—90%的GPU,幾無替代方案。
      HPE,DELL是美超微的主要競爭對手;但美超微的規模和這者完全不能比,因為美超微只生產伺服器而己,而HPE,DELL還有軟體,專業服務等利潤更好的BU。

發佈留言

發佈留言必須填寫的電子郵件地址不會公開。 必填欄位標示為 *

error: Content is protected !!