生成式人工智慧的成本

前些天我發表了一篇貼文《為何軟體股在人工智慧風潮中表現普遍不佳？》，今天這篇則是為讀者列出一些實際的範例和數字供大家參考，讓讀者對生成式人工智慧的成本有所概念。

Table of Contents

人工智慧的成本主要在龐大的硬體支出

首先，這波人工智慧的風潮是由OpenAI開發的ChatGPT這類的生成式人工智慧所引發的，生成式人工智慧需要龐大的資料中心和伺服器的資本投入，而且比雲端運算還要龐大。相關公司2024年花費了2,000億美元擴建資料中心，比2023年高出50%。

請注意：人工智慧已經發展近半世紀了，一直在默默演進中，只是並沒有獲得較大的突破，廣為眾人接受和採用，或是引發風潮。直到生成式人工智慧的發佈，才改變眾人對生成式人工智慧的實用性的看法。而以往的人工智慧應用所需的硬體建設花費不高，對企業的支本支出而言根本就微不足道。

註：市場上一直都有大大小小的人工智慧廠商，他們己經存在數十年了，只是以往沒有受到如今的高度注目罷了。我在貼文《美股主要的人工智慧上市公司》中，就為讀者列出了一些較為著名的美股人工智慧的上市企業。

生成式人工智慧的核心其實就是人工智慧的大型語言模型(LLM:large language model)，而大模型的能力和規模正好是成正比。也就是在資料中心，伺服器，和基礎設施上的支比支出愈高，建設大模型的成功機率愈高。

正因如此，相關的公司才會花費鉅資購買大量的 GPU，用來開發大型語言模型。但問題來了，對於傳統的軟體公司來說，要以生成式人工智慧打造新應用場景，入門的門檻實在太高。

OpenAI的最大敵手Anthropic執行長在2024年6月時，當他接受“In Good Company”播客採訪時表示：目前AI模型訓練成本是10億美元，未來三年，這個數字可能會上升到100億美元甚至1000億美元。

OpenAI各個版本的ChatGPT大模型的訓練成本如下表所示：

credit: HSBC

市場上較知名的各個版本的人工智慧大模型的訓練成本如下表所示（最新的排最上方）：