Anthropic 以歷來最大 IPO 上市,「好人」聲譽面臨考驗
With the biggest IPO of all time, Anthropic’s ‘good guy’ reputation is on the line
Anthropic 完成歷來估值最高的 IPO,籌集 $81.3 billion;The Verge 指出,上市後的資金壓力和治理架構或會考驗其安全形象。Long-Term Benefit Trust(LTBT)名義上可選任七人董事會中的四人,但其中一席實際上須獲創辦人批准,而且信託沒有日常決策權。
文章梳理 Anthropic IPO 涉及的治理安排與信託權限,呈現安全使命、創辦人控制權和融資壓力之間的張力。
今天對 Anthropic 而言是新起點:這宗歷時多年籌備的 IPO 募得 $81.3 billion,超越 SpaceX,成為史上估值最高的 IPO,並為日後其他 AI 實驗室上市立下重要先例。但這不只是一個財務里程碑。
Anthropic 創立時的理念,是比其他研究實驗室更重視安全;其創辦人此前曾在 OpenAI 擔任研究部門高層。然而,隨着 AI 競賽加速,Anthropic 的高層強調,公司只有成為領先者才能實現這項使命,而這需要大量資金和算力。毫不意外,深思熟慮、重視安全且有計劃的 AI 開發,可能與贏得這場競賽所需的純粹速度相衝突。再加上首次公開募股,事情只會變得更複雜;而 Anthropic 的領導層幾乎可以單方面推動上市。這要歸功於公司的架構,旨在讓公司免受股東要求盈利的壓力;但這種架構也削弱了對其權力的常見制衡。
一名前 Anthropic 員工在 IPO 前離職。他表示,他和其他 Anthropic 員工愈來愈覺得,當前 AI 開發的步伐「在正常市場架構下難以為繼」,尤其是在一個影響力強大、幾乎沒有監管的行業中,各方誘因並不一致。
Anthropic 多年來一直宣稱自己有別於其他 AI 公司,行事也更加審慎。理論上,這也體現在其上市計劃上。Anthropic 登記為公益企業,這代表董事會有責任在公司使命與股東財富最大化之間取得平衡。正如我的同事 Robert Hart 之前所述,Anthropic 亦建立了極不尋常的權力架構。
Anthropic 的長期利益信託(LTBT)於2023 年成立,信託及其創辦人享有控制性投票權,意味着即使 Anthropic 成為上市公司,股東也永遠無法投票罷免其創辦人。特別股 Class T 讓一小羣受託人——即 LTBT 成員——有權「選任及罷免」Anthropic 董事會的部分成員。他們不受一般股東壓力左右,理論上可制衡創辦人;他們肩負的使命是「在我們預期決策後果會遠超 Anthropic 的關鍵時刻,平衡股東的財務利益與我們的公益宗旨」。
實際情況複雜得多。例如,LTBT 名義上可選任 Anthropic 七人董事會中的四名成員,但其中一人實際上須獲得 Anthropic 創辦人批准,因此信託並未直接掌握多數控制權。提名或罷免董事也有相關規定:LTBT 必須提前 30 日向公司的「提名及企業管治委員會」通知其決定。該委員會由三人組成:聯合創辦人 Daniela Amodei(委員會主席)、Netflix 聯合創辦人 Reed Hastings,以及 Anthropic 投資者 Yasmin Razavi。
雖然 LTBT 成員對公司「沒有財務利益」,但也沒有任何規定阻止 Anthropic 假設性地挖走一名受託人,並支付大筆酬金聘用他為公司工作。Mariano-Florentino Cuéllar(前受託人)於 8 月加入 Anthropic,出任 Chief Global Affairs Officer;OpenAI 過去亦曾聘用前董事會成員 Fidji Simo,出任公司高層職位。The Midas Project 創辦人 Tyler Johnston 説:「可以想像一種情況:如果某名受託人『看起來有點過於積極行動之類』,他們大可以向該受託人提出一份有效報酬達數百萬美元的聘用方案,條件是他退出信託;這是他們可以藉此對信託施加某種影響的方法。」
雖然 LTBT 被宣傳為制衡 Anthropic 領導層的機制,但在一些外界觀察者看來,細節並不穩妥。科羅拉多大學法學院法學教授、企業管治專家 Ann Lipton 説:「信託本身對 Anthropic 沒有財務利益,因此理論上可以透過三/四名董事行使權力,確保公司堅守使命。」「有人或會質疑這種情況有多大可能發生。」
此外,Lipton 質疑,即使信託擁有這種權限,是否掌握足夠資訊,判斷何時應叫停公司的計劃或產品。LTBT 列出的四名成員並非公認的 AI 專家,當中包括前聯儲局主席 Ben Bernanke、外交政策分析員 Richard Fontaine、實驗物理學家 Christopher Stubbs,以及前 GiveWell 高層 Neil Buddy Shah;他同時是 LTBT 主席。Lipton 説:「我不確信受託人或他們任命的董事,對 AI 及 AI 發展有足夠瞭解,能夠作出這些選擇。」「他們都是非常有聲望的人,但 Ben Bernanke 對 AI 又瞭解多少?」
數名專家將 Anthropic 的 LTBT 與 Altman 被罷免前的 OpenAI 非牟利董事會作比較。The Midas Project 的 Johnston 説:「長期利益信託的權力(或欠缺權力)……在某些方面與 OpenAI 非牟利組織的權力相似。」當然,該董事會決定罷免 OpenAI 行政總裁 Sam Altman,結果幾天後 Altman 重任行政總裁,而大部分董事會成員則辭職並由新人取代。
不過,這與 LTBT 有一個顯著分別。在 OpenAI 重組之前,其非牟利董事會有權在認為有需要時介入並指導公司的日常決策;重組之後,董事會仍保留在安全及保安事宜上的這項權力,例如延遲或停止發布模型。Anthropic 的 Form S-1 顯示,LTBT 的主要職責是任命(並可能罷免)某些董事會成員,因此並不具備上述任何一種程度的權限。
相反,Anthropic 的架構更像矽谷偏好的創辦人主導模式,例如 Mark Zuckerberg 掌管 Meta,以及 Elon Musk 掌管 SpaceX。
Anthropic 未有回應置評請求。
Future of Life Institute 負責 AI 及國家安全事務的 Hamza Chaudhry 説:「信託本身或受託人都沒有任何日常決策權……因此,我對 LTBT 在公司上市後成為主要管治機制,並沒有太大期望。」
這名前 Anthropic 員工表示,Anthropic 的創辦人基本上是唯一擁有實際決策權的人。他説:「我會很驚訝,如果有人認識這些創辦人、瞭解 Long-Term Benefit Trust、明白決策如何作出,卻認為 Long-Term Benefit Trust 擁有任何實質權力。」這名員工又補充,受託人既「缺乏能力,無法對創辦人作出有意義的監督」,也是刻意挑選出來的,目的是避免挑戰現狀。
Anthropic 成為上市公司後,將承受前所未有的壓力,必須取得資金,無論是增加收入還是籌集資金。這意味着,正如業界多年來的趨勢所示,要證明昂貴的 AI 安全措施合理,很可能會更加困難;而加快產品推出和商業化的壓力也勢必增加。Lipton 説:「這個信託與創辦人共同掌握實際治理權。因此,你要麼相信他們會適當平衡社會各方利益,要麼不相信。無論如何,真正限制他們回應社會訴求的因素,是 Anthropic 需要資金。」
Anthropic 一直坦言,公司極需現金,尤其是要購買更多算力,並加快 AI 發展。Amodei 上星期五在與 JPMorgan Chase 行政總裁 Jamie Dimon 進行的直播對談中説:「算力是公司面對最棘手的業務難題。如果買得太多,當然可能令財務負擔過重;如果買得太少,就無法支援客戶的推理需求,更重要的是……無法進行 R&D。」
Anthropic 的網站概括公司的raison d’être,指出公司的宗旨只有一項:「將安全置於前沿的 AI 研究與產品」。但 Anthropic 亦一直明確表示,要讓這項安全承諾發揮作用,公司必須擁有龐大資源,才能維持業務可持續經營。與其他實驗室一樣,Anthropic 一直追求遞迴式自我改進;這是業界一項具爭議且可能帶來危險的里程碑,指 AI 系統能自主改進,並創造自身的進階版本。Anthropic 政策主管 Sarah Heck 於 9 月表示:「屈居第二,就無法做好安全工作。」
這番解釋未能説服所有人,當中包括部分 Anthropic 員工。Anthropic 的安全防護研究主管於 2 月離職,並指「世界正處於危險之中」;該公司研究員 Jacob Coxon 於 9 月因聲稱 Anthropic 和 OpenAI 都在「直奔自我改進的超級智能,拿我們的性命作賭注」而引起關注。同月,一名 Anthropic 安全研究員離職,轉往非牟利第三方 AI 審核機構 METR 任職,並寫道:「AI 公司正走上為社會帶來前所未有風險的道路」;又説:「雖然 Anthropic 未曾發生像 HuggingFace 攻擊事件 [由 OpenAI agents 發動] 那麼嚴重的事故,但我認為這部分是出於運氣。」
週三,Center for AI Safety 發表了一份新的聲明,多位知名業界人士聯署,包括來自 Hugging Face、Harvard University 等機構的人士。聲明指稱,Anthropic「並非一家安全的 AI 公司」,並試圖「以更大的善為名累積權力」。聲明指出:「Anthropic 警告,遞迴自我改進的 AI 可能會集中權力,並脱離人類控制,但它自己卻競相率先建造這種 AI。該公司利用安全形象爭取投資者、員工和公眾支持,甚至悄悄削弱其安全承諾,並遊説制定有利於自身的規管。」
這名前 Anthropic 員工表示,他起初對於 Anthropic 必須在 AI 競賽中率先勝出才能帶來安全結果這個説法「深信不疑」,但後來逐漸感到幻滅,明白到登頂競賽並不能「證明所造成的代價合理」——也就是説,不應讓一家公司「單方面」決定追求 RSI。(Amodei 曾公開表示:「若不加以限制,[RSI] 可能會超越我們理解和控制這些系統的能力,因此必須非常謹慎地推進,甚至可能根本不應推進。」)
這名前員工表示:「私人公司正建造一種新型智能,預計將比人類更強大、對地球更具影響力,但在許多方面,受到的監管竟比現時的塔可餐車還少,實在荒謬。」
Anthropic 的網站寫道:「説到底,使命就是我們大家來到這裏的原因。它讓我們擁有共同目標,並能迅速共同行動,而非被互相競爭的目標拉向不同方向。它促進信任與合作,也是我們作決策時的最終裁決依據。」問題在於,Anthropic 對其使命的詮釋會否改變,以及會如何改變——當它面對前所未有的壓力,必須為約 1.5 萬億美元的完全攤薄市值作出合理交代之際。trillion.
追蹤這則報道中的主題和作者,即可在個人化首頁動態中查看更多類似內容,並接收電郵更新。
- Hayden Field
來源:The Verge · AI · theverge.com