美國特種作戰司令部（ SOCOM ）正積極尋求承包商開發先進的 AI 系統，能夠在海外進行大規模資訊戰操作。根據洩露的 Pentagon 文件，這項技術將利用代理式 AI 和多個大型語言模型來影響外國受眾，同時壓制異議觀點。
這項揭露在科技社群中引發了激烈辯論，討論政府贊助的 AI 宣傳的影響，以及類似系統是否可能已經在國內運作。
 |
|---|
| Pentagon 正在探索針對大規模資訊戰行動的先進 AI 系統，引發了關於 AI 在軍事宣傳中應用影響的辯論 |
軍事資訊作戰的代理式 AI 系統
Pentagon 的願望清單包括設計為在最少人工監督下運作的機器學習軟體。這些代理式系統將與大型語言模型協同工作，大幅提升軍事資訊支援作戰（ MISO ）的規模。這項技術代表著從傳統宣傳方法的重大飛躍，可能實現跨多個平台同時進行自動化、個人化影響活動。
註：代理式 AI 指的是設計為在最少人工監督下獨立行動的人工智慧系統，能夠做出決策並採取行動以達成指定目標。
Pentagon AI 宣傳系統規格：
- 技術：具備多重大型語言模型代理系統的自主式 AI
- 目的：軍事資訊支援作戰（ MISO ）
- 目標：海外外國受眾
- 時程：部署需 5-7 年
- 運作：需要最少的人工監督
- 規模：設計用於大幅提升影響力作戰能力
社群對國內應用的擔憂
科技業觀察家質疑這項技術是否可能在國內使用，儘管存在法律限制。討論突顯了歷史先例，包括冷戰時期的 Operation Mockingbird 以及近期修改宣傳限制的立法變更。
「人們普遍誤解宣傳就是不實資訊。就像一部好的紀錄片一樣，選擇哪些真實、客觀的事實放入人們的注意力和敘述中，完全可以為某個議程服務。」
數名社群成員指出 2013 年《國防授權法》修正案實際上修改了《 Smith-Mundt Act 》，該法案先前禁止政府對美國公民進行宣傳。這些變更在互聯數位世界中，對於何謂針對外國的內容創造了灰色地帶。
歷史背景 - 美國資訊作戰：
- Operation Mockingbird：冷戰時期的媒體影響計畫
- Smith-Mundt Act (1948)：最初禁止國內宣傳活動
- 2013 NDAA 修正案：修改了政府資訊作戰的限制規定
- Disinformation Governance Board：近期嘗試進行資訊控制的機構（已停止運作）
全球背景與競爭格局
Pentagon 的倡議出現在其他國家已經部署類似能力的時候。中國的五毛黨多年來一直進行協調的線上影響活動，而各國政府都使用人工操作員和自動化系統來塑造公眾輿論。
業界專家指出，私人公司和外國行為者可能已經在使用 AI 進行影響操作，使得政府參與看起來是不可避免的而非令人驚訝。關鍵擔憂不在於這類系統是否會存在，而在於它們將如何被規範和控制。
國際比較 - 政府影響力操作：
- 中國的五毛黨：協調性網路影響力活動
- 蘇聯宣傳：歷史上的國家資訊控制
- 現況：多個國家正在運作影響力系統
- 私人部門： 企業已在使用 AI 進行行銷和影響力操作
技術與倫理影響
提議的系統將代表資訊戰能力的重大升級。與人工操作的活動不同，AI 系統可能以前所未有的規模和速度生成並散布內容。它們能夠根據受眾反應即時調整訊息，並在跨時區和語言中維持一致的操作。
這項技術對數位真實性和線上論述的未來提出了根本性問題。隨著 AI 系統變得更加精密，區分人類生成和機器生成的內容變得越來越困難，可能破壞對所有數位通訊的信任。
Pentagon 的時程表顯示這些能力可能在五到七年內投入運作，與 AI 技術的預期進展以及資訊戰在現代衝突中日益重要的地位相符。
參考資料：PENTAGON DOCUMENT: U.S. WANTS TO SUPPRESS DISSENTING ARGUMENTS USING AI PROPAGANDA