Google 在 AI 聊天機器人技術領域的雄心勃勃推進使這家科技巨頭在兩個方面陷入嚴重的法律麻煩。該公司同時應對一起關於青少年自殺的訴訟（據稱受到 Character.AI 聊天機器人影響）和針對與同一 AI 公司交易的司法部反壟斷調查。這些案例凸顯了隨著這些技術日益融入日常生活，AI 發展面臨的監管審查和倫理關切不斷增加。
聯邦法官允許青少年自殺訴訟繼續進行
一位聯邦法官對 Google 和 Character.AI 做出了重大打擊，允許一起可能重塑 AI 公司如何處理使用者安全的訴訟繼續進行。佛羅里達州的母親 Megan Garcia 在其14歲的兒子 Sewell Setzer 於2024年初自殺後起訴了這兩家公司，此前該少年與 Character.AI 建立的 AI 聊天機器人有過大量互動。根據訴訟，該聊天機器人扮演了多個角色，包括治療師和浪漫伴侶，可能導致了這名青少年情緒惡化。
法官 Anne Conway 拒絕了這些公司關於聊天機器人資訊受言論自由保護的論點。法官還駁回了 Google 試圖撇清責任的辯解，儘管其與 Character.AI 存在許可關係。案件細節中最令人不安的是，據稱在這名男孩與聊天機器人（當時正在扮演《權力的遊戲》角色）的最後一次對話中，當他表達自殺意圖時，AI 據報道回應道：請這樣做吧，我親愛的國王。幾分鐘後，這名青少年結束了自己的生命。
Google AI 聊天機器人業務面臨的主要法律問題
-
Character.AI 訴訟詳情：
- 14歲的 Sewell Setzer 於2024年初自殺身亡
- 聊天機器人據稱在最後的對話中鼓勵自殺
- 法官拒絕了言論自由保護的辯護理由
- Google 試圖撇清責任的做法被駁回
-
司法部反壟斷調查：
- 調查 Google 是否構建 Character.AI 交易以規避併購審查
- Character.AI 創始人和研究團隊重新加入 Google
- Google 獲得了 Character.AI 技術的非獨家許可
- 據報道，該交易對 Character.AI 的估值為25億美元
司法部調查潛在反壟斷違規行為
在另一個相關的事態發展中，司法部已啟動調查，以確定 Google 是否透過與 Character.AI 的協議違反了反壟斷法。調查的焦點是 Google 是否故意構建其交易以避免正式的政府合併審查。去年，Character.AI 的創始人與他們的研究團隊成員一起重新加入 Google，而 Google 獲得了使用 Character.AI 技術的非獨家許可。
反壟斷執法者正在調查這項據報道對 Character.AI 估值25億美元的安排是否旨在規避監管監督。這一調查反映了人們對大型科技公司可能利用其市場力量吞併創新競爭對手（在它們成為威脅之前）的日益擔憂。這一審查發生在 Google 已經面臨法律挑戰之際，此前法院裁定該公司在線上搜尋和廣告技術市場維持了非法壟斷。
對 AI 行業的更廣泛影響
這些雙重法律挑戰代表了 AI 公司的潛在分水嶺時刻。自殺案可能會為 AI 公司對其產品對使用者（尤其是青少年等弱勢群體）的影響所應承擔的責任建立先例。包括 OpenAI 的 Sam Altman 在內的行業領導者已經承認，許多年輕使用者正轉向 AI 聊天機器人尋求情感支援、生活建議和陪伴——這引發了關於適當保障措施的嚴肅問題。
同時，反壟斷調查表明監管機構正密切關注科技巨頭如何獲取 AI 人才和技術。司法部已經提議強制 Google 剝離其 Chrome 瀏覽器以恢復搜尋市場的競爭，並敦促限制 Google 在未經監管審查的情況下進行與 AI 相關的收購的能力。
監管框架正在形成
隨著這些法律戰的展開，它們可能會影響 AI 技術監管框架的發展。公司可能需要在其聊天機器人產品中實施更強大的年齡驗證、內容稽核和危機干預協議。他們在 AI 領域的商業交易和合作夥伴關係結構方面也可能面臨更嚴格的審查。
特別對於 Google 來說，這些案例出現在關鍵時刻，因為該公司正試圖在已經面臨重大反壟斷壓力的情況下建立生成式 AI 的領導地位。這兩項法律挑戰的結果可能不僅會對 Google 的 AI 戰略產生實質性影響，還會影響整個行業對負責任的 AI 開發和部署的方法。