人工智慧研究界正在熱烈討論一篇名為《分裂糾纏表徵假設》（The Fractured Entangled Representation Hypothesis）的新論文，該論文質疑了關於神經網路如何在內部表徵資訊的基本假設。這項由 MIT 的 Akarsh Kumar 與 Jeff Clune、Joel Lehman 和 Kenneth O. Stanley 共同撰寫的研究，引發了關於更好的效能是否必然意味著神經網路中更好的內部表徵的討論。
比較 SGD 和進化方法
該論文對透過傳統隨機梯度下降（SGD）訓練的神經網路和透過開放式搜尋過程進化的神經網路進行了引人注目的比較。透過專注於生成單一影像這一簡單任務，研究人員能夠將每個隱藏神經元的功能視覺化為影像，揭示了儘管輸出相同，但內部表徵卻存在顯著差異。透過 SGD 訓練的網路表現出作者稱之為分裂糾纏表徵（FER）的特性，而進化網路則趨向於更加統一的因子表徵（UFR）。
這一發現引起了人工智慧研究人員的極大興趣，一些人質疑該研究是否充分解決了神經網路可解釋性的現有工作。一位評論者指出，該論文對線性表徵假設的引用有限，而線性表徵假設表明，儘管單個神經元可能是多義的（攜帶多種含義），但線性探針或稀疏自編碼器可能會揭示線性語義屬性。
關鍵研究概念
- 分散糾纏表示（FER）：在 SGD 訓練的網路中觀察到的一種無序形式
- 統一因子表示（UFR）：在進化訓練的網路中觀察到的更有組織的表示模式
- 研究方法：比較透過 SGD 訓練的網路與透過開放式搜尋進化的網路
- 視覺化方法：將每個隱藏神經元的功能表示為影像
社群討論要點
- 線性表示假設及其與論文發現的關係
- 權重衰減作為誘導結構化表示的方法
- 替代"生物學上合理"的學習方法
- 關於"分散表示"的數學定義問題
- 對人工智慧系統中泛化能力、創造力和持續學習的潛在影響
 |
|---|
| 神經網路特徵圖的視覺化表示，展示了訓練過程中內部表示的差異 |
權重衰減和結構化表徵
研究團隊對權重衰減作為誘導結構化表徵方法的評估，特別受到了社群的好評。一位評論者注意到論文中觀察到的有趣模式，即結構化表徵隨著層深度的函式從稀疏過渡到完整再回到稀疏。他們分享了自己的經驗，即將權重衰減懲罰作為層深度的指數函式應用，比使用全域性權重衰減獲得更好的結果，這表明了研究發現的實際應用。
替代學習方法
討論還擴充套件到考慮替代學習方法是否可能產生不同型別的內部表徵。一位社群成員特別詢問了關於生物學上合理的學習方法，如前向-前向（forward-forward）和反饋對齊（feedback alignment，FA），想知道這些方法是否可能產生更接近統一或分裂端的表徵。這突顯了該研究對理解神經網路訓練的不同方法的更廣泛影響。
批評和反駁
並非所有反饋都是積極的。一些批評者認為，分裂表徵的概念缺乏數學定義，過度依賴美學偏好。一條特別尖銳的評論建議，關注表徵美學而非效能，呼應了過去在經典人工智慧和圖形模型中最終被證明無效的方法。
論文的共同作者 Akarsh Kumar 一直積極與社群互動，回應批評並澄清研究的各個方面。研究人員與更廣泛的人工智慧社群之間的這種直接互動表明，開放的科學討論繼續塑造著神經網路理論和實踐的發展。
隨著神經網路繼續擴充套件並在各個領域取得令人印象深刻的結果，這項研究提出了一個重要問題：我們當前的最佳化方法是否可能建立了限制泛化、創造力和持續學習等能力的內部表徵。理解並可能減輕分裂糾纏表徵對未來開發更強大的人工智慧系統可能至關重要。