OpenAI面臨人才流失，關鍵對齊領導加入競爭對手Anthropic
OpenAI遭受重大打擊，公司的對齊負責人John Schulman宣佈離職，加入由Amazon支援的AI研究公司Anthropic。這一舉動標誌著又一位高層離開OpenAI，引發了人們對該公司在競爭激烈的AI行業中保留頂尖人才能力的質疑。
離職模式
Schulman的離開是OpenAI令人擔憂趨勢的一部分：
- 這緊隨AI安全研究員Jan Leike在五月也加入Anthropic的離職。
- 有報導稱OpenAI的總裁Greg Brockman已經開始長期休假。
- 據說產品經理Peter Deng也將離開公司。
這些離職使得OpenAI的創始成員所剩無幾，CEO Sam Altman和語言與程式碼生成負責人Wojciech Zaremba是notable例外。
AI對齊的重要性
Schulman在OpenAI的角色至關重要，負責監督像ChatGPT這樣的AI模型與預定義的價值觀和安全標準的對齊。他的工作包括：
- 調整回應以避免宣揚有害信念
- 限制潛在危險的輸出
- 確保AI生成的內容對人類使用安全
在他在X（前身為Twitter）上的宣告中，Schulman表示他的決定是出於深化對AI對齊的關注並回歸動手技術工作的願望。他強調，他的離開並非因為OpenAI對對齊工作缺乏重視，而是個人選擇。
Anthropic的聯絡
由前OpenAI成員創立的Anthropic一直在吸引其競爭對手的人才。這種共同的歷史背景和最近的一系列招聘凸顯了AI安全和對齊專業知識的激烈競爭。
OpenAI的回應和未來挑戰
OpenAI的CEO Sam Altman公開感謝了Schulman的貢獻，回憶起他們第一次會面和討論人工通用智慧（AGI）的情景。然而，在對齊和安全等關鍵領域失去核心人員對OpenAI構成了重大挑戰，尤其是在公司繼續開發和部署強大AI模型的情況下。
隨著AI競賽的加劇，OpenAI能否在解決安全問題的同時保持其領導地位將受到密切關注。公司現在必須在應對這些人事變動的同時，繼續推進先進AI系統的工作，並維持公眾對其負責任AI開發承諾的信任。