美國國會已壓倒性地批准了一項旨在打擊網路上非自願親密影像的立法，這標誌著在多年關於深度偽造和網路騷擾的辯論中，數字安全監管取得了罕見的成功。儘管該法案獲得了強大的兩黨支援，但數字權利倡導者警告說，其實施可能會對線上平臺和隱私造成意想不到的後果。
打擊數字濫用的里程碑法案
《Take It Down Act》在眾議院以近乎一致的409-2票透過，此前已在參議院一致透過。該法案現在等待 Donald Trump 總統的簽署，他已經承諾將會簽署。該法案是近年來成功透過國會兩院的為數不多的線上安全立法之一，解決了人們對深度偽造和非自願親密影像日益增長的擔憂。
關鍵條款和要求
該立法將釋出非自願親密影像(NCII)定為犯罪，涵蓋真實和AI生成的內容。它要求社交媒體平臺建立系統，在48小時內刪除被標記的內容。聯邦貿易委員會將被授權執行這些要求，建立一個聯邦框架來解決以前透過各州法律拼湊處理的問題。
Take It Down Act 關鍵要點：
- 在參議院一致通過後，眾議院以409-2的投票結果透過
- 將非自願親密影像的傳播定為犯罪（包括真實和AI生成的影像）
- 要求平臺在48小時內刪除被標記的內容
- 執法權授予聯邦貿易委員會（Federal Trade Commission）
兩黨支援和白宮支援
《Take It Down Act》獲得了政治光譜各方的支援。第一夫人 Melania Trump 已成為該法案的主要支持者，並在三月份主持了一次白宮圓桌會議討論這個問題。在今年早些時候向國會發表的講話中，Trump 總統表達了他的支援，稱他期待簽署該法案成為法律，同時還開玩笑說他可能會自己使用它，因為沒有人比我在網上受到更糟糕的對待。
科技行業的回應
幾家主要科技公司已公開支援該立法。Google 全球事務總裁 Kent Walker 稱該透過是保護個人免受非自願露骨影像侵害的重大一步。Snap 同樣對投票表示讚賞。代表 Discord、Etsy、Reddit 和 Roblox 等中型平臺的 Internet Works 稱讚該法案賦予受害者刪除有害內容的權力。
數字權利倡導者發出警告
儘管獲得廣泛支援，數字權利組織對該法案的實施表達了重大擔憂。專注於打擊基於影像的性虐待的網路公民權利倡議組織(CCRI)，儘管支援其總體目標，卻罕見地批評了這項立法。該組織警告說，刪除條款極易被濫用，最終可能對受害者產生適得其反的效果。
濫用和誤用的潛力
批評者擔心該法案的模糊語言和嚴格的合規時間框架可能導致濫用。電子前沿基金會(EFF)警告說，平臺，尤其是較小的平臺，可能會在沒有適當驗證的情況下刪除內容以避免法律風險。有人擔心不良行為者可能會利用該系統釋出虛假報告，可能會使平臺難以區分合法投訴和欺詐性投訴。
數字權利組織的主要擔憂：
- 缺乏針對虛假投訴的保障措施
- 訊息平臺可能放棄加密技術
- 基於政治立場選擇性執法的風險
- 自動過濾系統可能導致合法內容被過度刪除
對加密服務的影響
EFF提出的最重大擔憂之一涉及該法案對加密服務的潛在影響。由於端到端加密平臺無法監控使用者內容，它們可能面臨不可能完成的合規挑戰。批評者擔心這可能導致一些服務完全放棄加密，從而損害所有使用者的隱私，包括依賴安全通訊的虐待倖存者。
選擇性執法的擔憂
一些倡導組織對FTC權力下可能出現的選擇性執法表示擔憂。CCRI表示，與當前政府保持一致的平臺可能會感到有恃無恐，如果他們認為不會面臨監管審查，就可能會簡單地忽視報告。這可能會創造一個不平衡的執法環境，最終無法保護受害者。
AI生成的深度偽造威脅日益增長
該立法出臺之際，AI工具已經使生成逼真的假影像變得越來越容易。2019年的一項研究發現，十二分之一的參與者報告經歷過某種形式的非自願親密影像受害，女性報告的比率更高。AI深度偽造技術的擴散只加速了這些擔憂，在學校和線上社群中創造了新的濫用途徑。
展望未來
隨著《Take It Down Act》等待總統簽署，其他相關立法如《DEFIANCE Act》，該法案將允許深度偽造受害者起訴創作者和分發者，繼續推進。雖然《Take It Down Act》代表瞭解決線上濫用的重要一步，但其實施可能需要仔細監控，以確保它實現其預期目的，而不會為線上平臺和使用者創造新問題。