解讀:物理諾貝爾獎爲何頒給了HNN之父和深度學習之父?

就在剛剛,瑞典皇家科學院決定將 2024 年諾貝爾物理學獎授予約翰·J·霍普菲爾德 (John J. Hopfield) 和傑弗裡·E·辛頓 (Geoffrey E. Hinton),“表彰他們通過人工神經網絡實現機器學習的基礎性發現和發明”。

Geoffrey Hinton 出生於1947 年12 月 6 日,英裔加拿大籍心理學家、計算機學家。1986年,他曾與 David Rumelhart 和 Ronald J. Williams 共同發表的論文 Learning representations by back-propagating errors ,被引用了 39626 次,該論文推廣了用於訓練多層神經網絡的反向傳播算法。除此之外,他還發明瞭波爾茲曼機(Boltzmann Machine)和受限波爾茲曼機(Restricted Boltzmann Machine),這些模型對深度學習的發展起到了重要的作用。Geoffrey Hinton 也因此被視爲深度學習領域的領軍人物。目前,Hinton在谷歌擔任高級工程師,並參與領導“谷歌大腦”項目。

與他一同獲獎的美國物理學家 John Hopfield 出生於 1933 年 7 月 15 日,是加州理工學院計算與神經系統博士項目的創始人之一。值得一提的是,Hopfield 的研究領域跨度很大,包括物理學、分子生物學和神經科學。1982年,他提出了霍普菲爾德網絡(Hopfield Network),這是一種聯想記憶模型,能夠存儲和重建模式,並且能夠利用能量函數來描述神經網絡的狀態空間,爲後來的深度學習和機器學習奠定了基礎。

Hopfield的學術生涯也是相當精彩,1973年當選爲美國國家科學院院士,1975年當選爲美國藝術與科學院院士,1988年當選爲美國哲學會會員,2001年因在將生物學理解爲物理過程方面做出的跨學科貢獻而被授予 ICTP狄拉克獎章。而他目前的研究和最近的論文則是主要集中在動作電位計時和同步在神經生物學計算中的使用方式。

網友熱議

諾獎官方一條簡短的推文,直接讓推特炸開了鍋。

得獎者Geoffrey Hinton表示,這也太突然了。

劍橋大學火速轉發了官方推文,祝賀校友 Geoffrey Hinton 榮獲諾貝爾物理學獎。

多倫多大學校長梅里克·格特勒 (Meric Gertler)表示:“我代表多倫多大學,非常高興地祝賀大學名譽教授傑弗裡·辛頓 (Geoffrey Hinton) 獲得 2024 年諾貝爾物理學獎。” “多倫多大學社區對他的歷史性成就感到非常自豪。”

推特網友也紛紛發來賀電,恭喜 Geoffrey Hinton 和 John Hopfield 拿下諾貝爾獎。

即使是人工智能的批評者也放下了成見,爲人工智能拿到的這一份特殊榮譽驕傲。

不過拿獎歸拿獎,更多的網友都在祝賀的同時一臉懵,人工智能的成就怎麼拿了物理學獎呢?

諾獎官方是這樣解釋的:

官方還做了一個更簡單易懂的解釋,人工智能神經網絡一開始就是爲了模仿大腦而設計的。

斯坦福的應用物理學教授表示,人工智能的很多重要基礎都依賴於物理學,拿獎理所當然,而且理解和改進人工智能已經成了物理學的新的前沿課題了!

另一位物理學教授也給出了自己的看法,機器學習在粒子物理學的數據分析中可是不可或缺的關鍵技術,能拿諾貝爾獎當之無愧。

另一位量子學副教授也解釋說,Hopefield 網絡、基於能量的模型、RBM 是物理學和機器學習之間最自然的聯繫之一,能看到看到諾貝爾物理學獎高度認可這一點既意外又開心。

也有網友調侃道,別管人工智能要不要解決物理問題了,人工智能現在可是真正的“物理學”了。

還有網友開玩笑,人工智能拿物理獎,我們不會真的活在虛擬現實裡吧?

也有網友吐槽,這不就是圖靈獎的定位嗎?畢竟圖靈獎一直被業界稱爲“計算機界的諾貝爾獎”。

另一位網友表示,要不然乾脆設立一個諾貝爾計算機獎吧?

雷峰網解讀:物理諾貝爾獎爲何頒給了人工神經網絡?

今年的諾貝爾物理獎的評選,可謂“冷門”。因爲通常人們認爲物理學獎應該授予那些在傳統物理學領域做出重大發現的科學家,然而,這一決定恰恰強調了物理學與人工神經網絡之間的緊密聯繫,以及物理學在推動神經網絡研究中所發揮的關鍵作用。

以下則是瑞典皇家科學園新聞稿給出的兩位獲獎者獲獎原因的解釋(原文見:https://www.nobelprize.org/prizes/physics/2024/press-release/):

約翰·霍普菲爾德發明了一種網絡,它使用一種保存和重新創建模式的方法。我們可以將節點想象成像素。霍普菲爾德網絡利用物理學來描述材料由於原子自旋而產生的特性——這種特性使每個原子都成爲一個微小的磁鐵。整個網絡的描述方式相當於物理學中自旋系統的能量,並通過尋找節點之間連接的值來進行訓練,以便保存的圖像具有較低的能量。當霍普菲爾德網絡被輸入扭曲或不完整的圖像時,它會有條不紊地處理節點並更新它們的值,從而降低網絡的能量。因此,網絡逐步找到與輸入的不完美圖像最相似的保存圖像。

傑弗裡·辛頓 (Geoffrey Hinton)以霍普菲爾德網絡爲基礎,創建了一個採用不同方法的新網絡:玻爾茲曼機。它可以學習識別給定類型數據中的特徵元素。辛頓使用了統計物理學的工具,統計物理學是一門由許多相似組件構建的系統科學。通過輸入機器運行時很可能出現的示例來訓練機器。玻爾茲曼機可用於對圖像進行分類,或創建訓練模式類型的新示例。辛頓在此基礎上繼續發展,幫助開啓了機器學習的爆炸式發展。

John Hopfield最初是一位物理學家,他的研究領域包括量子統計力學和凝聚態物理。後來,他將研究興趣擴展到了生物物理學,探索生物系統中的物理過程。Hopfield在1982年提出了著名的Hopfield網絡,這是一種能夠進行聯想記憶的神經網絡模型,這一發現標誌着物理學思想在神經網絡研究中的首次重大突破。此後,物理學家在神經網絡和神經動力學的研究中發揮了重要作用,他們的工作不僅推動了理論的發展,也爲實際應用提供了理論基礎。

2001年,Hopfield因其在生物學作爲物理過程理解方面的跨學科貢獻而獲得了的國際理論物理中心狄拉克獎章。他的工作涵蓋了生物分子合成中的校對過程、神經網絡中吸引子的集體動力學和計算,爲打通物理學和人工神經網絡的基礎研究指明瞭方向。

2021年,諾貝爾物理學獎頒發給了三位在複雜系統領域做出傑出貢獻的科學家,其中包括喬治·帕裡西(George Parisi)。帕裡西在無序系統方面的研究,特別是他提出的複本對稱破缺方法解決自旋玻璃問題,對神經網絡等交叉學科產生了深遠影響。這一事件表明,物理學獎已經開始認可那些在物理學與其他學科交叉領域做出重大貢獻的科學家。

而Geoffrey Hinton也與諾貝爾物理獎頗有淵源,2013年,Hinton的博士同門學長Peter Higgs就獲得了當年的諾貝爾物理學獎。

神經網絡的研究不僅僅侷限於生物學和計算機科學,它還包含了許多物理學的核心思想,如梯度下降、伊辛模型等。這些物理概念不僅爲神經網絡的理論提供了基礎,也爲算法的優化和應用提供了工具。

由此可見,物理學和人工神經網絡之間的聯繫是緊密而深刻的。Hopfield的工作是從0到1的開創性貢獻,而Hinton則在此基礎上進行了發揚光大。兩位學者的共同獲獎,不僅是對他們個人成就的認可,也是對物理學在神經網絡領域所發揮的重要作用的肯定。這一決定強調了跨學科研究的重要性,以及物理學在推動現代科技發展中的核心作用。雷峰網