一個名為 Incant 的新 JavaScript 函式庫承諾透過提供安全的語言模型整合來為程式碼添加魔法咒語，但開發者對其效率聲明和無幻覺保證提出了擔憂。該函式庫提供簡單的函數來使用自然語言提示過濾陣列和選擇項目，目標是那些想要整合 AI 功能而不需要複雜設定的開發者。
Incant 函式庫主要功能：
- createSelector：使用自然語言從陣列中挑選項目的函式
- createFilter：基於文字條件篩選陣列的函式
- 型別安全：保證輸出與輸入陣列型別相符
- 環境整合：自動從環境變數讀取 API 金鑰
效率問題成為討論焦點
最重要的批評集中在 Incant 處理資料的方法上。對於過濾操作，該函式庫為每個陣列項目執行單獨的提示，而不是將它們一起處理。這意味著過濾一個包含100個名稱的清單會觸發100個對語言模型提供商的個別 API 呼叫。開發者指出，這種設計使得該函式庫在生產環境中不實用，特別是在處理較大資料集或對成本敏感的應用程式時。
這種低效的方法也引發了對 API 速率限制和回應時間的質疑，因為多個連續呼叫可能會顯著拖慢應用程式，相比於批次處理的替代方案。
效能限制：
- 針對 N 個項目的篩選需要執行 N 個獨立的提示
- 每個陣列元素都會觸發個別的 API 呼叫
- 缺乏批次處理最佳化
- 大型資料集可能面臨速率限制問題
無幻覺聲明遭受質疑
Incant 宣傳自己能夠透過保證輸出是輸入資料的子集來防止 AI 幻覺。然而，社群分析顯示這種保護相當有限。該函式庫只是驗證所選項目是否存在於原始陣列中，並過濾掉不符合輸入元素的回應。
「AI 幻覺是指任何包含虛假或誤導資訊並以事實形式呈現的回應。因此錯誤答案就是一種幻覺。」
這種驗證並不能防止 AI 在可用選項中做出錯誤選擇。例如，在過濾首都城市時，系統可能錯誤地將 Madrid 識別為 France 的首都而不是 Paris，即使兩個城市都在輸入陣列中。該函式庫防止了虛構的回應，但無法防止錯誤的選擇。
幻覺預防方法：
- 驗證所選項目是否存在於原始輸入陣列中
- 過濾掉與輸入元素不匹配的回應
- 無法防止在有效選項範圍內的錯誤選擇
- 僅限於子集驗證而非準確性檢查
與現有解決方案的比較
開發者也質疑 Incant 與主要 AI 提供商如 Google 的 Gemini 所提供的既有函數呼叫方法有何不同。這些現有解決方案提供了使用列舉和類型定義來約束 AI 回應的結構化方式。雖然 Incant 簡化了整合過程，但它似乎相對於這些經過驗證的替代方案提供的優勢有限，同時還引入了效能缺陷。
該函式庫的主要吸引力似乎在於其基本用例的簡單性，允許開發者快速添加 AI 驅動的過濾和選擇功能，而無需理解複雜的提示工程或函數呼叫協定。
儘管面臨批評，Incant 代表了一種讓開發者更容易進行 AI 整合的有趣方法。然而，社群回饋顯示，在它適合用於嚴肅的生產應用程式之前，需要在效率和準確性驗證方面進行重大改進。
參考資料：incant