2024年諾貝爾物理獎得主辛頓（Geoffrey Hinton）無意中幫助輝達從圖形晶片商突然變成人工智慧的霸主

Table of Contents

諾貝爾基金會

先岔開話題一下，關於負責諾貝爾獎發放的諾貝爾基金會，為什麼錢到現在都還花不完？它的投資策略身為投資人，實在應該好好暸解一下它的資金到底是如何源源不絕的。請各位可以參考我先前的一篇貼文的專門介紹：《諾貝爾基金會的投資策略》。

2024年諾貝爾物理獎

主旨

2024年年度諾貝爾物理學獎得主揭曉，由美國普林斯頓大學學者霍普·菲爾德（John J. Hopfield）、加拿大多倫多大學學者傑佛瑞·辛頓（Geoffrey Hinton）共享，獎金共為1100萬瑞典克朗。表彰兩人基礎性的發現與發明，讓世人能利用類神經網路進行機器學習。兩位得主均為人工智慧（AI）領域先驅。

霍普菲爾德在1982年創造出聯想神經網路，現通稱為「霍普菲爾德網路」，可以儲存並重建圖像等其他資料中的模式。辛頓則發明一種方法，可以自主找尋資料中的性質，執行辨識圖片中特定元素等任務。

貢獻

據諾貝爾獎網站，兩人使用物理學來訓練類神經網路，以物理學工具開發出方法，為當今強大的機器學習奠基。憑藉他們的研究工作，霍普菲爾德（John J. Hopfield）和傑佛瑞·辛頓（Geoffrey Hinton）為 2010 年左右開始的機器學習革命奠定基礎，促使機器學習爆炸性發展。

諾貝爾物理學獎委員會主席穆恩斯說，類神經網路已用於推進粒子物理學、材料科學和天體物理學等多項物理學主題的研究，這類工具亦融入日常生活的臉部辨識、語言翻譯等方面。

人工神經元 vs. 自然神經元

現在電腦界大量用於人工智慧的人工神經元，主要是採用「類神經網路」，由「節點」構成，節點經由編碼，被賦予値。節點彼此連接，而當此網路接受訓練，同時活躍的節點之間連結會增強，未活躍的節點連結則減弱。

人類的自然神經元和現在電腦界大量用於人工智慧的人工神經元有何不同？人類大腦的自然神經網路是由活細胞「神經元」搭配高等的内部機制構成。神經元可藉由「突觸」來彼此發送訊號。人類學習事物時，部分神經元之間的連結會增強，其他神經元之間連結則會減弱。

簡言之，現在電腦界大量運用於人工智慧的深度學習和機器學習就是利用電腦科技，模仿人類的自然神經元運作學習的方式來解決問題。

未來的擔憂

但機器學習日新月異，引發未來擔憂，人類須集體負責以安全、符合道德方式利用這項新科技，為人類謀求最大福祉。

辛頓也抱持同樣的擔憂，非常關注AI未來的巨大不確定性，並強調負責任監管AI的重要性。他在谷歌工作了十年，由於擔心AI的風險而於去年5月離職，辭去谷歌副總裁和工程研究員職務，以便更自由討論機器學習科技的危險。他接到諾獎委員會來電時表示震驚，自稱從未想過會獲獎。他預測AI將對人類文明產生重大影響，在生產力和醫療上帶來進展，堪比工業革命。

但辛頓說，AI將在智能上超越人類，「我們還未經歷過，當有東西比我們還聰明，會是什麼樣子」。這在許多面向上會是美事，但也要擔心多個可能的惡果，「尤其是失控帶來的威脅」。

兩位得主的主要研究方向

霍普·菲爾德

在人工神經網路中，大量類神經元透過類似突觸的聯結進行計算，2024年諾貝爾物理學獎得主霍普·菲爾德便建立一種以物理學自旋系統進行描述的網路，每個節點都可儲存一個單獨的值，透過尋找節點之間的連接值進行訓練以儲存、重建資訊，系統性地透過節點工作並更新值，隨著網路逐步運作，該方法可以找到最相似的儲存模式。

1982年，霍普·菲爾德（John J. Hopfield）發明了聯想記憶，這類似於人們在相似單字中搜尋不常使用單字的過程。他所建構的網路可以基於儲存資訊重新創建模式，當為網路提供的是不完整或略微扭曲的模式時，這個網路可以找到最相似的儲存模式。

當時，霍普·菲爾德（John J. Hopfield）利用了他的物理學背景來探索分子生物學的理論問題，在南加州帕薩迪納加州理工學院，他找到了建立具有許多小組件協同工作系統的靈感。受益於了解磁性材料的物理學原理，他能夠使用描述自旋相互影響時材料的物理學特性，來建立具有節點和連接的範例網路。

他建立的網路具有以不同強度連接在一起的節點，每個節點都可以儲存一個單獨的值，在第一項工作中該值可以是0或1，就像黑白圖片中的像素一樣。這方法很特殊，其網路可以同時保存多張圖片並且進行區分。在此之後，霍普·菲爾德（John J. Hopfield）和其他人繼續開發這個網路如何運作的相關細節，包括可以儲存任何值的節點不僅僅是0或1。

傑佛瑞·辛頓

傑佛瑞·辛頓（Geoffrey Hinton）在美國匹茲堡卡內基美隆大學工作時，就和同事一起利用統計物理學的思想對霍普菲爾德網路進行擴展，並構建新的東西。

1990年代，許多研究人員對人工神經網路失去了興趣，但傑佛瑞·辛頓（Geoffrey Hinton）仍沒有放棄，並開啟了這一研究領域的新一輪爆發式增長。 2006年，他和同事開發了一種預訓練網路的方法，將一系列玻爾茲曼機分層，一個在另一個上面。這種預訓練為網路中的連接提供了一個更好的起點，從而優化了其訓練以識別圖片中的元素。

傑佛瑞·辛頓（Geoffrey Hinton）則使用霍普·菲爾德（John J. Hopfield）網路發明另一種能獨立尋找資料屬性、從而執行識別圖片特定元素等要求的方法：玻爾茲曼機（Boltzmann machine）。該機器透過更新連接中的值進行訓練，可以從給定範例辨識新資訊中的熟悉特徵，比如當見到一對兄弟姊妹立刻看出他們有親屬關係，玻爾茲曼機能以類似方式去識別另一個全新例子。

傑佛瑞·辛頓（Geoffrey Hinton）是反向傳播算法和對比散度算法(Contrastive Divergence)的發明人之一，也是深度學習的積極推動者，被譽為「深度學習教父」。辛頓因在深度學習方面的貢獻與約書亞·班吉歐（Yoshua Bengio）和楊立昆（Yann LeCun）一同被授予了2018年的圖靈獎。

圖靈獎

圖靈獎是電腦協會（ACM）於1966年設立專門獎勵對電腦事業作出重要貢獻的個人的獎項。名稱取自世界電腦科學的先驅艾倫·圖靈（A.M. Turing），目的是紀念這位現代電腦科學的奠基者。獲獎者必須是在電腦領域具有持久而重大的先進性的技術貢獻。大多數獲獎者是電腦科學家。圖靈獎是電腦界最負盛名的獎項，有「電腦界諾貝爾獎」之稱。

DNN-research

傑佛瑞·辛頓（Geoffrey Hinton）與他兩名在多倫多大學的學生Alex Krizhevsky和Ilya Sutskever（後來此人成為OpenAI 前首席科學家）創立了深度神經網路研究公司DNN-research，在ImageNet影像辨識競賽中取得了突破性成績，從而引起了科技巨頭們的注意。2013年，谷歌收購了DNN-research，辛頓隨即加入谷歌，負責Google Brain的部分研究工作。

加速人工智慧的進步

是現代深度學習的基礎

霍普·菲爾德（John J. Hopfield）和傑佛瑞·辛頓（Geoffrey Hinton）開發的開創性方法和概念是有助於塑造人工神經網路領域。此外，霍普·菲爾德（John J. Hopfield）在這項工作中發揮了主導作用將方法擴展到深度和密集的ANN。

當下機器學習的發展是基於大量數據以及計算能力的巨大提高而實現的。 1982年，霍普·菲爾德（John J. Hopfield）發布關於聯想記憶的文章，就為此發展提供了支持。他使用了具有30個節點的網絡，如果所有節點都相互連接，就有435個連接。與今天的大型語言模型進行比較，這些模型被建構為可以包含超過1兆個參數（100 萬萬個）的網路。