DeepMind 的 Habermas 機器：AI調解員展現前景但迴避敏感議題

科技界正在積極討論 DeepMind 最新的人工智慧實驗——Habermas 機器，該系統旨在透過AI調解來化解政治分歧。雖然一些人讚揚這一倡議的潛力，但其他人指出了其在解決現實世界政治極化問題方面的重大侷限性。

前景與侷限性

DeepMind 的 Habermas 機器以德國哲學家 Jürgen Habermas 命名，在調解討論方面已經展現出一定成效，其群體宣告的接受率達到56%，相比之下人類調解員為44%。該系統採用了兩個大型語言模型：

• 基於 Chinchilla 的生成模型
• 預測參與者同意度的獎勵模型

然而，社群成員對研究方法提出了擔憂，特別是關於討論主題的選擇。研究團隊刻意避開了跨性別權利和氣候變化等爭議性話題，而許多人認為這恰恰是當今社會極化需要解決的問題。

現實應用性問題

科技界強調了該系統實際實施中的幾個關鍵問題：

1. 話題選擇偏差 ：刻意排除高度爭議性問題引發了人們對系統在解決真實政治分歧方面實用性的質疑。

2. AI中立性問題 ：特別是在 Elon Musk 提出的覺醒派與反覺醒派AI敘事背景下，建立系統在政治光譜中的可信度面臨潛在挑戰。

3. 規模和實施 ：如何在保持效果的同時大規模部署該系統，同時防止被操縱，這些問題仍待解決。

潛在應用和風險

雖然研究在促進溫和議題達成共識方面顯示出希望，但社群成員同時識別出積極和令人擔憂的潛在應用：

• 共識建立 ：該系統可能在地方政府和社群實際事務決策中發揮重要作用。
• 意見聚合 ：研究人員指出，該技術可能被用於製作政治最佳化資訊，這引發了對潛在操縱的擔憂。

展望未來

討論突出了一個關鍵悖論：儘管 Habermas 機器在技術上顯示出前景，但其當前實施卻迴避了導致政治極化的核心問題。正如一位社群成員所指出的，真正的考驗在於看系統如何在調解當今政治格局中真正具有分歧性的話題時表現。

相關研究論文發表在 Science (2024)。