Anthropic 完成 IPO,募資 $81.3 billion,收市估值達 $1.76 trillion
Anthropic goes public
Anthropic 週四在 Nasdaq 上市,IPO 募資 $81.3 billion,收市估值達 $1.76 trillion,創 IPO 募資額最高紀錄。Anthropic 在加州 SB 53 通過後提交較弱框架,將較進取的安全承諾改列為自願事項;文章並梳理其安全承諾與投資者回報壓力之間的爭議。
報道將 Anthropic IPO 的募資規模與安全承諾、監管取態及投資者回報壓力並置,呈現公司擴張與風險治理之間的張力。
譯文尚不完整,完整內容請切換到原文。

編輯註:由於我在此事上有利益衝突,我沒有參與這篇文章的撰寫。不過,我有負責編輯。— Casey
而現在,這間曾承諾很快取代我們的公司,帶來了史上最大規模的 IPO。
Anthropic 於週四在納斯達克上市,集資 813 億美元,創下首次公開招股史上最高集資額。收市時,Anthropic 的估值達 1.76 萬億美元,令這間 AI 研究室既成為全球最大的公益公司,亦是全球最大的上市公司之一。
On paper, today should feel like a big win for the AI industry: a darling of the AI boom just successfully went public, affirming the massive demand for frontier-level intelligence while returning hundreds of billions of dollars to the tech ecosystem. Amid ongoing concerns about the AI bubble, from the industry’s circular-financing arrangements to the geopolitical consequences of Jensen Huang’s affairs, investors still proved eager to bet big on Anthropic.
另一方面,Anthropic 的使命是打造比人類更聰明的 AI 系統——其創辦人曾一再警告,這些系統可能會殺死所有人。這令此刻顯得……苦樂參半?令人抓狂?令人憤怒?
這取決於你問誰。
在納斯達克發表演説時,Anthropic 行政總裁 Dario Amodei試圖再次拿捏他那套如今已為人熟悉的説辭,大談 AI 帶來科學突破的潛力,同時警告 AI 可能被濫用。他説:「我和公司的共同創辦人創立 Anthropic,是因為我們相信,我們這個時代最強大的科技,應該為人類福祉而開發。」
並非所有人都信服。在創辦人在華爾街開香檳慶祝之際(我們姑且假設那是合乎道德採購的無酒精香檳),100 多名示威者聚集在這間 AI 公司位於三藩市的總部外,手持寫有「停止 AI 競賽」、「地球正身處危險」和「請停下來」的標語。當中包括 Jacob Coxon;他一則關於辭去 Anthropic 職務的推文迅速走紅,令 AI 安全運動再次受到關注,他亦在示威活動上發言。四人因涉嫌堵塞公司辦公室入口而被捕。
在其他地方,從長期對 AI 持懷疑態度的 Gary Marcus,到狂熱的 AI 加速主義者 Guillaume Verdon(又名 Beff Jezos),一眾背景各異的人士簽署了「反 Anthropic 聲明」。
聲明內容如下:
「Anthropic 警告,遞迴自我改進的 AI 可能集中權力並脱離人類控制,卻又爭相搶先打造這類 AI。公司利用安全品牌形象拉攏投資者、員工和公眾,同時暗中削弱安全承諾,並遊説推動有利於自身的監管規定。Anthropic 並非安全的 AI 公司,我們必須拒絕它以造福大眾之名魯莽聚斂權力的企圖。」
未來學家長期以來一直推演「遞迴式自我改進」的危險:在這種狀態下,能力足夠先進的 AI 會在愈來愈密集的迴圈中建立自身的下一代版本。這個過程有失控的風險,因為當系統行為失常時,人類將愈來愈難以理解或阻止它。
AI 審核機構 METR 最近一份報告得出結論,Anthropic 的 AI 研發進展速度因 AI 的研究能力而大約提升一倍。值得注意的是,研究進展速度加倍,意味着該公司已超越其《Responsible Scaling Policy》中為「自動化研發」訂下的風險門檻。
根據該政策,Anthropic 現在應採取新的安全審核措施、制定保安政策,並作出透明匯報,以履行承諾。但 Anthropic 的 Responsible Scaling Policy 並不具約束力。Anthropic 支持加州法案 SB 53,該法案要求企業公佈安全政策,並依法遵守這些政策。但在法案通過後,Anthropic 根據 SB 53 提交了一套較弱的框架,把其較宏大的安全承諾重新定性為自願承諾。
Amodei 在 Nasdaq 發表演説時承諾,會「調整 AI 系統的訓練及部署步伐,所需時間多久都可以」,以確保系統安全。Amodei 補充説:「我們不會屈從於商業或政治壓力。」
不過,Anthropic 仍會面對商業壓力,必須繼續打造能力最強的 AI 系統,以留住客戶並迎合投資者。(《Financial Times》的 Robert Armstrong 估計,Anthropic 每年需要創造超過 6000 億美元收入,才能取得同業達到的 20% 投入資本回報率;Apple 的收入也只有 4780 億美元。就是這樣!)Amodei 在接受 CNBC 訪問時表示,Anthropic 期望達到「投資級別」——取得高信貸評級——並計劃發行更多債務。
籌集數十億美元資金並增加債務,以取得愈來愈多的運算資源,在一些人看來,並不是實現「掌控前沿發展步伐」的尋常做法。Amodei 認為,公司的做法是促成「向上競賽」所必需的;在這種競賽中,Anthropic 的財務成功及安全承諾會啟發競爭對手採取類似做法,希望藉此迎頭趕上。
Jasmine Sun 在《New York Times》撰文,報道一名匿名離職員工提出了這個願景的一個令人印象深刻的版本:
「一名前 Anthropic 員工在嘗試解釋 Anthropic 的思維模式時,提到了 J.R.R. Tolkien 的寓言:誰率先打造出超級智能,誰就會得到索倫之戒。那個人或公司將掌握世上最危險的網絡武器、所有疾病的療法和配方,以及一支不知疲倦、聽命行事的數碼天才大軍。那麼,最關鍵的問題就是持戒者的道德。」
許多讀者可能記得,《The Lord of the Rings》中的至尊魔戒會腐化所有佩戴者的心智,逐漸使他們走向邪惡。
正如佛羅多·巴金斯最終開始厭惡魔戒,Anthropic 最早期的投資者之一似乎也後悔當初投資 Anthropic(以及更早前投資 OpenAI)。Facebook 共同創辦人 Dustin Moskovitz 向《New York Times》發表聲明,寫道:「Cari 和我投資 Anthropic,是為了促進安全,而不是參與競逐。」(Moskovitz 與妻子 Cari Tuna 一同投資。)聲明又説:「人工智能發展得太快。Anthropic 及所有其他處於前沿的公司都應放慢步伐,停止競逐。」
Moskovitz 和 Tuna 的發言人表示,他們在 2025 年把 Anthropic 股份捐給一間非牟利機構,令這對夫婦無法從中個人獲利。
沒有人能確切預知未來會如何。Amodei 顯然對自己的願景相當有信心—— 公平地説,Anthropic 在競爭對手還在機械人、世界模型及其他花巧玩意上猶豫不決時,全力押注規模定律;事後看來,這個決定極為精明。
與此同時,IPO 或會讓散戶投資者有機會分享 AI 可能帶來的收益,但它亦令外界有必要關注所有前沿實驗室都在作出的魯莽押注:即使它們自身也相信這項技術會令所有人面對風險,卻仍要在政府監管極少的情況下打造愈來愈聰明的系統。
Anthropic 故事有許多方面令人難以置信。一羣來自 OpenAI、看似完全不在乎商業的離隊者,竟然成就史上最大規模的 IPO,這件事在未來很長時間都會受到研究。
不過,對抗議者而言,Anthropic 故事在此刻最令人難以置信的,是各國政府至今幾乎沒有採取行動阻止它。也許 AI 最終真的會開創一個奇蹟時代。但民調顯示,公眾並不相信這一點;而目前 Anthropic 仍未能令世界相信,這些風險值得承受以換取回報。

贊助

兒童性虐待材料(CSAM)可能出現在訓練數據集、AI 生成的輸出內容,或由你的平台託管的內容中。瞭解這些風險可能出現在哪裏,是保護兒童及品牌的第一步。
Thorn 的兒童安全檢查清單,為安全及治理團隊提供實用的防護措施,供他們在 AI 開發、部署及維護各階段考慮。
瞭解篩查訓練數據、偵測有害輸入和輸出、評估託管模型,以及制定通報程序等措施。使用這份清單找出潛在漏洞、排列防護措施的優先次序,並引導與產品、工程及安全主管的討論。
無論你的公司是開發模型、提供 AI 創作工具,還是託管內容,都可用這份清單將兒童安全考量納入產品、政策及持續監督的決策之中。


星期五一集:Kevin 和我會交流三年來報道 Anthropic 的心得。面對投資者的壓力,公司會否堅守安全承諾?接着,又是時候再次打開潘朵拉的盒子了。
YouTube | Apple | Spotify | RSS

那些優質貼文
想每天看到更多優質貼文,請追蹤 Casey 的 Instagram 限時動態。

(連結)

(連結)

(連結)

聯絡我們
歡迎向我們提供線索、意見、問題,以及你對 Anthropic 的看法:casey@platformer.news。在此閲讀我們的道德政策。
來源:Platformer(熱點 RSS) · platformer.news