人工智慧產業正處於十字路口，企業問責制和廣泛採用人工智慧對認知影響的擔憂日益加劇。最新發展突顯了人工智慧公司與傳統媒體之間日益緊張的關係，同時新研究揭示了人類在使用 ChatGPT 等大型語言模型時對認知能力產生的令人擾憂的影響。
OpenAI 領導層就資料隱私問題與紐約時報對峙
在紐約時報 Hard Fork 播客的現場節目中， OpenAI 執行長 Sam Altman 和營運長 Brad Lightcap 與主持人就兩家公司之間正在進行的訴訟進行了激烈交鋒。 Altman 帶著對抗性的態度到場，立即就紐約時報對 OpenAI 和 Microsoft 的法律行動質疑主持人。該訴訟的核心是指控 OpenAI 未經許可使用紐約時報文章來訓練其大型語言模型。
當 Altman 批評紐約時報要求 OpenAI 保留消費者 ChatGPT 資料和 API 客戶資訊時，緊張局勢升級，即使用戶已要求刪除或正在使用私人模式。 Altman 表示：「紐約時報的立場是，即使用戶在私人模式下聊天，我們也必須保留用戶的日誌記錄」，將 OpenAI 定位為隱私權倡導者。
 |
|---|
| OpenAI 執行長 Sam Altman 在播客節目中就資料隱私和企業責任進行激烈討論 |
尖銳回應突顯產業虛偽
紐約時報主持人 Kevin Roose 發表了引起聽眾共鳴的尖銳回應：「當有人用你的資料做你不希望他們做的事情時，一定很難受。」這句話引起了笑聲，並突顯了一個諷刺：一位高管的公司透過抓取大量內容來建構其技術，現在卻在倡導隱私權。這次交鋒凸顯了人工智慧時代關於資料所有權和同意的更廣泛辯論。
MIT 研究揭示令人擔憂的認知影響
與此同時， MIT Media Lab 的新研究提出了關於定期使用大型語言模型對認知影響的令人擔憂的發現。該研究監測了約60名參與者的大腦活動，分為三組：僅使用大型語言模型、僅使用傳統搜尋引擎，以及不使用外部輔助工具。結果顯示，大型語言模型使用者表現出明顯較弱的神經連接性，表明與其他組別相比，認知努力和參與度降低。
大腦掃描資料顯示神經活動存在顯著差異。使用 Google 搜尋寫作會使大腦連接性減少高達48%，而使用 ChatGPT 則導致神經連接性減少55%。也許最令人擔憂的是，83.3%的大型語言模型使用者甚至無法從自己的寫作中提供一個正確的引用，他們的用詞選擇和論文論證顯示出比僅使用大腦組別少得多的多樣性。
MIT 研究大腦連結性結果：
- Google 搜尋使用：神經連結性減少 48%
- ChatGPT 使用：神經連結性減少 55%
- LLM 使用者引用準確性：83.3% 無法正確引用自己的寫作內容
- 研究參與者：約 60 名研究對象，分為 3 組
- 研究期間：4 個月
專家分析警告長期後果
一直在研究這些認知影響的人工智慧研究員兼記者 Jing Hu 解釋說，透過自然語言輸入使用人工智慧的便利性使其對長期認知健康特別危險。 Hu 指出：「在僅使用人工智慧寫論文時，幾乎沒有機制形成」，強調人工智慧互動的簡單性如何減少複雜任務所需的心理努力。
Hu 的研究表明，頻繁使用人工智慧會主動重塑批判性思維模式。她在自己的經驗中觀察到，被人工智慧的便利性誘惑導致匆忙完成任務並發送未經檢查的工作。其影響不僅限於個人生產力，還涉及人類處理資訊和解決問題方式的根本性變化。
AI 對認知表現的影響：
- AI 使用者顯示出明顯較弱的神經連結性
- 與非 AI 使用者相比，認知努力和參與度降低
- 詞彙選擇和論文論證較缺乏多樣性
- 學生使用 ChatGPT 可在2小時內完成原本需12小時的論文
- 純腦力組顯示出更活躍的腦波活動
教育機構在整合方面面臨困難
隨著人工智慧工具變得無處不在，教育部門面臨特殊挑戰。紐約時報最近的一篇文章強調，學生現在可以使用 ChatGPT 在短短兩小時內完成12小時的論文，一位教授警告說：「大量學生將帶著學位從大學畢業並進入職場，但他們基本上是文盲。」
教育機構發現自己陷入了兩難境地：既要擁抱人工智慧作為強大工具，又要維持其作為知識創造中心的角色。許多學校正在使用生成式人工智慧來開發課程和評估學生表現，同時努力為學生使用人工智慧建立一致的政策。
職場影響和企業壓力
企業界在公司急於實施人工智慧解決方案時也經歷著類似的緊張局勢。一些執行長，如 Shopify 的 Tobi Lütke ，已發布要求普遍採用人工智慧的命令，要求員工在請求額外人員或預算之前證明為什麼任務無法用人工智慧完成。 Hu 警告說，這種做法會創造基於恐懼的環境，阻礙真正的創新和學習。
像 Duolingo 這樣將自己定位為人工智慧優先並用人工智慧系統取代合約員工的公司，可能面臨重大挑戰。 Hu 預測這些組織將需要重新雇用人類員工來解決人工智慧生成的錯誤和安全問題，因為人工智慧生成的程式碼經常包含對不存在資料庫的引用、不安全的連接方法和不充分的錯誤處理。
企業 AI 採用挑戰：
- Duolingo 定位為「AI 優先公司」，取代合約員工
- Shopify 執行長強制要求全面採用 AI 並設定績效標準
- AI 生成的程式碼佔軟體開發工作的 25-75%
- 常見的 AI 編碼問題：不存在的資料表引用、不安全的連接方法、錯誤處理不足
- 初級開發人員往往無法解釋 AI 生成的程式碼
在創新與人類認知健康之間取得平衡
隨著人工智慧革命的持續， 專家強調需要深思熟慮的整合，而不是全面取代人類能力。 Hu 倡導在學生發展獨立批判性思維技能之前延遲在教育中整合人工智慧，將人工智慧用作補充而非替代，並教授對人工智慧認知成本的認知。
前進的道路需要認識到，雖然人工智慧在模式識別和例行任務方面表現出色，但人類在複雜問題解決、策略思維和特定領域專業知識方面仍然至關重要。挑戰在於利用人工智慧的好處，同時保持使我們獨特為人的認知能力。