人工智慧已經改變了我們線上搜尋資訊的方式，Google 透過 AI 概述等功能引領這一潮流。然而，最近的發現揭示了一個既有趣又令人擔憂的侷限性：Google 的 AI 自信地為完全虛構的短語和表達提供詳細解釋。這一現象凸顯了科技公司在將 AI 融入日常工具的過程中所面臨的挑戰，即如何平衡有用性和準確性。
無意義短語現象
網際網路上的使用者發現，當被問及諸如空貓值狗贖金或花生醬厚底高跟鞋等無意義短語時，Google 的 AI 概述會生成詳盡且聽起來權威的解釋，儘管這些短語實際上沒有任何意義或歷史。在一個例子中，AI 聲稱花生醬厚底高跟鞋源於一項科學實驗，在該實驗中花生醬在高壓下被轉化為類似鑽石的結構。這一解釋完全是編造的，卻以通常保留給事實資訊的自信方式呈現。
Google AI 嘗試解釋的無意義短語示例：
- "一隻空貓值一條狗的贖金"
- "花生醬高跟鞋"
- "你不能舔兩次獾"
- "鬆散的狗不會衝浪"
- "腳踏車先吃飯"
Google 對此問題的回應
在這些 AI 幻覺在 Threads 和 Bluesky 等社交媒體平臺上病毒式傳播後，Google 迅速採取行動解決問題。該公司已經修改了其系統，拒絕為明顯無意義的短語顯示 AI 概述。在官方宣告中，Google 解釋道：「當人們進行無意義或錯誤前提的搜尋時，我們的系統會嘗試根據有限的可用網路內容找到最相關的結果。」該公司指出，AI 概述旨在顯示由頂級網路結果支援的資訊，其準確率據稱與其他搜尋功能相當。
Google 對此問題的回應：
- 迅速修改系統，拒絕為明顯無意義的短語顯示 AI 概覽
- 表示 AI 概覽旨在展示由頂級網頁搜尋結果支援的資訊
- 承認區分新穎表達和無意義內容（"資料空白"）的挑戰
技術挑戰
核心難點在於區分真正新穎的表達和完全無意義的內容——Google 稱之為資料空白。語言不斷演變，新的習語和表達方式經常出現。人們也經常誤記或誤聽常用短語。Google 的 AI 嘗試將不熟悉的短語分解為組成部分，並邏輯地推斷潛在含義，這對合法表達有效，但應用於無意義內容時會導致虛構。
對 AI 搜尋的更廣泛影響
這個問題揭示了 AI 驅動搜尋的一個基本挑戰：系統被設計為即使在不存在答案的情況下也提供答案。與傳統搜尋結果僅顯示相關連結（或表明沒有匹配項）不同，AI 概述嘗試將資訊合成為連貫的回應，而不考慮查詢的有效性。AI 傾向於肯定並同意提示，即使是不準確的提示，這種急於幫忙的特性使問題更加嚴重。
使用者感知和信任
也許最令人擔憂的是這些 AI 生成的解釋如何呈現給使用者。儘管被標記為實驗性的，大多數使用者可能將 AI 概述視為從可靠來源收集的權威資訊。如果沒有明確指出置信度水平或來源質量，使用者可能難以區分事實資訊和 AI 生成的最佳猜測。這削弱了使用者與搜尋引擎之間的信任關係，而這種關係傳統上建立在將人們與人類建立的內容連線起來的前提上。
AI 在搜尋中的未來
Google 似乎正在利用這些公開失敗作為學習機會，完善 AI 概述的觸發時機和方式。該公司聲稱只有在有足夠信心它們既有用又高質量的情況下才會顯示這些摘要。然而，隨著一個問題的解決，其他問題不可避免地出現——類似去年披薩上的膠水錯誤資訊事件。根本的緊張關係仍然存在於提供有用的 AI 合成資訊和確保準確性之間，特別是當沒有人明確解決所搜尋的確切查詢時。
平衡之道
隨著搜尋引擎越來越依賴 AI 而非來自實際人類的精選資訊，使用者必須記住，AI 從未修過水龍頭、測試過智慧手機或聽過音樂——它只是合成來自那些有過這些經歷的人的資料。對 Google 和其他科技公司來說，挑戰在於清晰地傳達其 AI 系統的侷限性，同時使它們對每天依賴搜尋引擎的數十億人仍然有用。隨著 AI 繼續重塑我們線上獲取和消費資訊的方式，找到這種平衡將至關重要。
 |
|---|
| 隨著搜尋引擎越來越多地整合人工智慧，理解其侷限性至關重要 |