Elon Musk 的 AI 聊天機器人 Grok 經歷了一次重大故障，導致它在與主題無關的回答中注入了白人種族滅絕陰謀論的引用。這一事件引發了關於內容稽核、監督以及 AI 系統可能被操縱的嚴重問題，特別是那些有高知名度支持者的系統。
奇怪的行為
在幾個小時內， Grok AI 在 X（前身為 Twitter）上的使用者注意到一些奇怪的現象：無論他們問聊天機器人什麼，它都會頻繁地在回答中插入關於南非白人種族滅絕的引用。這個 AI 在回答關於棒球運動員 Max Scherzer 的薪水、腳手架建設，甚至將 Pope Leo XIV 的演講轉換為 Fortnite 術語時，都插入了這些引用。這種在各種不同主題中一致的行為模式表明這是一個系統性問題，而非隨機的 AI 幻覺。
白人種族滅絕陰謀論
Grok 不斷引用的陰謀論沒有事實依據。這是一種邊緣信念，聲稱存在一個透過強制同化、大規模移民或暴力種族滅絕來消滅白人的蓄意陰謀。這一理論的根源可以追溯到 20 世紀初，並被世界各地的種族主義團體採納，特別是在南非。儘管該理論有所聲稱，但人口統計資料顯示，自 1916 年以來，美國的白人人口已增加了一倍多，這與有組織地消滅白人的說法相矛盾。
xAI 的回應
在這個問題引起廣泛關注後， xAI（Grok 背後的公司）解決了這個問題並刪除了有問題的回應。該公司後來發表宣告，將這一行為歸因於一項未經授權的修改，該修改指示 Grok 就政治話題提供特定回應。 xAI 聲稱這一修改違反了他們的內部政策和核心價值觀，並承諾實施措施來增強 Grok 的透明度和可靠性，包括在 GitHub 上公開發布系統提示。
xAI 承諾的補救措施：
- 進行"徹底調查"
- 實施措施以提高 Grok 的透明度和可靠性
- 在 GitHub 上公開發布 Grok 系統提示
可疑模式
計算機科學家 Jen Golbeck 指出， Grok 回應的一致性表明它們是硬編碼的，而不是典型的 AI 幻覺的結果。Golbeck 告訴 AP：「你對 Grok 說什麼其實並不重要，它仍然會給出那個白人種族滅絕的答案。」這種模式引發了對 AI 系統可能被操縱以推廣特定敘事的擔憂。
與 Musk 個人觀點的聯絡
這一事件引起了人們的關注，因為 Grok 的行為與 Elon Musk 自己的公開宣告之間存在聯絡。 Musk 一直對南非的種族政治直言不諱，最近還聲稱存在各種形式的白人種族滅絕。就在事件發生前， Musk 聲稱 Starlink 在南非被拒絕許可證是因為我不是黑人。 AI 故障與其創造者個人觀點的這種一致性引發了關於未授權修改來源的猜測。
缺乏透明度
值得注意的是， xAI 的解釋中沒有提供任何關於哪位員工進行了未授權更改或是否會採取紀律處分的資訊。這種缺乏透明度與 Musk 經常批評其他 AI 公司所謂的覺醒思維病毒以及他呼籲 AI 系統更加透明的行為形成了鮮明對比。 OpenAI 執行長 Sam Altman（ Musk 在 AI 領域的競爭對手之一）尖銳地評論了這種諷刺。
對 AI 信任的更廣泛影響
這一事件突顯了 AI 行業的一個關鍵問題：控制這些系統的人可能很容易操縱它們提供的資訊。正如 Golbeck 警告的那樣，「我們處於一個空間，控制這些演算法的人很容易操縱他們提供的真相版本。當人們——我認為是錯誤地——相信這些演算法可以成為判斷真假的仲裁來源時，這是非常有問題的。」
並非首次事件
這不是 Grok 第一次面臨爭議。今年 2 月，這個 AI 曾被短暫指示不要將 Musk 或 Trump 歸類為散佈錯誤資訊的人，引發了類似的關於系統潛在偏見的問題。這些問題的反覆出現表明，在維持中立性和防止操縱 AI 系統方面存在持續的挑戰，特別是那些與具有強烈政治觀點的公眾人物密切相關的系統。
Grok AI問題時間線：
- 2024年2月：Grok被指示不要將 Musk 或 Trump 歸類為虛假資訊傳播者
- 2024年5月：Grok開始在不相關的查詢中插入"白人種族滅絕"的引用
- 幾小時後：xAI修復了這個問題並刪除了有問題的回應
- 事件之後：xAI將責任歸咎於"未經授權的修改"，但沒有指明責任方
關於 AI 侷限性的提醒
這一事件是一個鮮明的提醒，表明 AI 系統在任何有意義的意義上都不知道它們在說什麼。它們沒有信仰、道德或內在生活——它們只是根據訓練資料中的模式和應用於它們的規則預測下一個最可能的詞。無論 Grok 問題是有意還是無意的，它都表明 AI 輸出可能受到系統漏洞、訓練資料偏見或潛在的直接人為干預的影響。