跳到正文
虎嗅·· 4 小時前精選AI 評分76

Anthropic:偽人公司

Anthropic 伪人公司

AI 導讀

虎嗅長篇特寫以 Anthropic 為對象,梳理其創始團隊與公司發展,呈現其警告 AI 風險、強調安全,與擴大模型能力、商業化及上市之間的張力。文中以 Founder LLC 集中 50.1% 表決權、版權訴訟和安全政策調整為線索,指出新版政策刪除了不訓練或部署可能造成災難性傷害模型的硬性承諾;上市路演則把遞歸自我改進描述為增長動力。

推薦理由

文章沿著創始團隊、治理安排與安全政策變化,呈現 Anthropic 如何在風險憂慮、商業擴張和模型競速之間拉扯。

正文 · 繁體中文

那時候有偉人在地上,後來神的兒子們和人的女子們交合生子;那就是上古英武有名的人。

/《創世記》6章4節

北京時間11月19日晚上10點半,Anthropic在納斯達克敲鐘。

鏡頭裏站着八個人,身上彆着像素螃蟹吉祥物Clawd的徽章。Dario Amodei低頭唸完一張講稿,宣稱公司「不會向商業或政治壓力低頭」。鐘聲落定,他舉起雙手,掌心朝上笑了起來,身旁的人一齊鼓掌。

視頻傳到社交媒體上,評論區反覆冒出同一個詞,偽人。笑不像笑,鼓掌不像鼓掌,連站在台上的姿態都透着一股説不清的彆扭。

偽人原本是恐怖故事裏的概念。2021年,一位美國年輕人在網上連載模擬恐怖短片,片中有一種生物,長相與人類毫無二致,會悄無聲息地頂替你身邊的人,只在極細微處露出破綻。

偽人最讓人發毛的地方,在於它差一點就像真的一樣了。

Anthropic,詞根恰恰意為「與人類有關的」。它最大的生意,是造出一個越來越像人的東西,再耗費無數心力去探究這個造物有沒有知覺、會不會撒謊、懂不懂疼痛。至於造它的那幾個人,他們身上的謎團,並不比他們造出的機器少。

權重

因為神知道,你們吃的日子眼睛就明亮了,你們便如神能知道善惡。

/《創世記》3章5節

招股書深處藏着一項安排。Anthropic僅發行了一股Class F普通股,注入名為Founder LLC的實體,獨自鎖定全部表決權的50.1%。執掌這一股的是七個人,Dario Amodei、Daniela Amodei、Tom Brown、Jack Clark、Jared Kaplan、Sam McCandlish與Christopher Olah。

七人之中,最早被預言會出人頭地的,是Dario。

畢業紀念冊上的Dario Amodei(右)

與同學一起被評為“最有可能成功的人”

圖源:Artem Russakovskii/LinkedIn

1997年,舊金山一所另類學校的畢業紀念冊上,八年級的Dario和另一名同學被評為「最有可能成功的人」。照片裏,兩個男孩手裏各捏着幾張美鈔,像是提前領到了未來。

他在滿牆壁畫的Mission區長大。父親Riccardo是從托斯卡納移居美國的皮匠,一輩子和獸皮、針線打交道;母親則負責公共圖書館的翻修工程。

Dario很早就習慣把世界當成一道待解的題,高中便跑去伯克利修課,琢磨功利主義,為千年蟲危機憂心忡忡。2003年,還在加州理工讀大二的他在校報上撰文,批評同學們對迫在眉睫的伊拉克戰爭漠不關心,號召大家走上街頭,「我們絕不能讓自己淪為沒有道德的技術員,像做計算一樣漫不經心地操作戰爭機器」。

2006年,他從斯坦福物理系畢業。同一年,父親死於丙型肝炎。僅僅幾年之後,一款新藥問世,大多數丙肝患者自此得以痊癒。

藥來晚了幾年。這幾年,成了他往後一生的刻度。

他轉去普林斯頓攻讀生物物理,在視網膜實驗室裏觀察大羣神經元如何自發湧現出整體行為。也是在那裏,Ray Kurzweil的《奇點臨近》讓他着了魔。2007年,高中好友Colin Heckman去普林斯頓看他,他一邊用手指絞着頭髮,一邊預言奇點將在2040年前降臨,「我們終將變成新的超級智能AI,或者AI與人的混合體」。2014年,這位研究過癌細胞的博士後自己被確診睾丸癌,歷經化療才得以痊癒。

三十歲出頭,他已經兩次與死亡迎面相撞。他給自己開出的藥方,是將世間萬物統統化作可計算的籌碼。

2010年,他在慈善評估機構GiveWell網站上撰文探討手頭一萬美元該如何捐出,文中冷峻地推演,「一個成年人的死亡,大概比一個嬰兒的死亡糟糕兩到三倍」。他吃素,卻覺得吃螃蟹無妨,理由是螃蟹屬於無脊椎動物。他和朋友在壽司店爭辯功利主義,承認只要雞的數量足夠龐大,其道德分量終會超過一個活生生的人。

皮匠用手丈量一張獸皮,裁開,再縫合。皮匠的兒子丈量的是死亡。

這把尺子後來一直跟着他。2025年7月,他在發給員工的內部Slack消息裏坦言公司將尋求阿聯酋與卡塔爾的投資,承認這可能讓「獨裁者」受益,緊接着便寫道,「『不能讓任何壞人從我們的成功中獲益』,是一條很難用來經營企業的原則」。

在他自己的估算裏,AI把事情搞得「非常非常糟」的概率大約是25%。去年11月,《60分鐘》的主持人當面追問,是誰選了你和Sam Altman來做這些決定,他答道,「沒有人。説實話,沒有人。」

他長期失眠,自稱「在每一個尺度上都偏執」,對社交媒體懷有生理性的厭惡。他的辦公室裏擺着一本《原子彈秘史》。漫長曆史中他最認同的人物是Leo Szilard,那位最早構想出核鏈式反應、後來又聯名反對向日本投擲原子彈的物理學家;至於奧本海默,在他眼裏不過是一個「失敗的案例」。

《紐約時報》作者Jasmine Sun形容他「似乎不願意屈居第二」,習慣把OpenAI和中國當成競爭敍事裏的妖怪;有前員工透露,他私下談論過Anthropic朝一日或許會「比政府還強大」;而在大投資人眼中,他「更像一個宗教領袖,而不是一個CEO」。白宮幾名官員私下對Axios記者透露,在特朗普看來,「Dario有點太怪了」。

他和妻子在意大利合養了一匹名叫Calypso的馬。有時候他就那樣靜靜地盯着那匹馬看,心裏想的是,「它對這一切一無所知,它只是一匹快樂的馬」。

頭套

都是一對一對的,有公有母,到挪亞那裏進入方舟,正如神所吩咐挪亞的。

/《創世記》7章9節

比他小几歲的妹妹Daniela,走的是另一條路。

哥哥用數學拆解世界,妹妹則活在修辭與故事裏。Daniela拿過古典長笛獎學金,大學讀的是文學。回憶起2009年剛畢業時的心境,她説,「我有一個文學學位,沒有任何技能,誰會僱我?」

畢業後,她先在馬裏蘭和烏幹達從事國際發展與全球衞生工作,又投身賓州民主黨人Matt Cartwright的國會競選、進入國會山,輾轉數年。2013年,她加入支付公司Stripe,隨後轉入風險控制部門,每天的日常,就是揣摩最壞的人會幹出什麼事。

Anthropic聯合創始人Daniela Amodei(左)

與Dario Amodei(右)

圖源:Amber Hakim/WIRED

兄妹倆從小吵到大。「我以前老偷他的玩具,」Daniela回憶,「Dario和我吵架又和好,已經快40年了。」而在哥哥的播客敍述裏,他們兄妹二人「一直想一起拯救世界」。

拯救世界需要同路人。兄妹倆的班底,大多走出自舊金山的一棟羣居屋。最早住進那棟房子的是Holden Karnofsky和當時的女友Daniela,Dario隨後也搬了進來,先後在此同住的,還有Jared Kaplan、Chris Olah,以及OpenAI研究員Paul Christiano。

Holden執掌的Open Philanthropy是有效利他主義運動中最大的金主之一,這羣人篤信,行善完全可以像風險投資一樣精密計算回報率。

在這羣人裏,Chris Olah走進這棟房子的路徑最曲折。童年時他飽受霸凌,老師斷言他「能讀完高中就算走運」,可他六歲便自己琢磨出一套黑洞理論。他四歲吃素,後來轉為純素食者;在多倫多的福音派基督教家庭長大,十五歲那年徹底倒向無神論。

2010年多倫多G20峯會期間,他在黑客空間HackLab結識的Byron Sonne因被控持有爆炸物而捲入恐怖主義案件,兩人其實算不上熟。「我為他害怕,為我自己害怕,為我所有的朋友害怕,」Olah後來回憶,「我從大學休學了一年,好全職去他的庭審現場。」休學那年,他十八歲。

他的GitHub主頁至今保留着一個名為ByronTrialNotes的代碼倉庫,裏面塞滿了當年記下的庭審筆記,並在説明欄裏寫着自己「偏向Byron」。朋友最終獲判無罪。就在法庭宣判無罪的那一刻,Olah的腦海裏跳出了另一個念頭,「我注意到,深度學習將會影響社會。」

他再也沒有回學校讀完本科。2012年,十九歲的Olah拿到Peter Thiel專為輟學青年設立的獎學金,他的部分數學課,還是Dario親自輔導的。

2017年,Open Philanthropy向OpenAI捐贈3000萬美元,經由Dario牽線,Holden順理成章地坐進了OpenAI董事會。那份資助説明末尾附有一段利益衝突披露,大意是Dario與另一名研究員均為基金會技術顧問,且與Holden住同一屋檐下,而Holden此時已與Dario的妹妹訂婚。

一筆鉅額捐款,一個董事席位,一棟合租屋,一樁婚約。

求婚那天,Holden送給Daniela一隻U盤,裏面裝着一部長片長度的毛絨玩具電影。Daniela後來還組建了一個「私人顧問委員會」,委員清一色是她收藏的毛絨玩偶。

Kevin Roose在新書裏記錄過這套奇特的陣容,一隻名叫Jinji的懶貓總勸Daniela推掉會議、少攬雜活;一隻名叫Maura的粉色小熊扮演一絲不苟的完美主義經理;還有一隻名叫Beary Bonds的熊貓,被冊封為「慷慨與共情的守護熊」。Daniela在OpenAI擔任管理層的歲月裏,正是靠着與這羣毛絨玩具做角色扮演來推演管理難題,並堅稱它們「在分析不同性格類型的時候非常有用」。

2017年8月,兩人完婚。婚禮着裝要求定為「傻氣的正裝」,婚後派對的着裝要求則是「硅谷百萬富翁」。到場賓客每人領到一隻毛絨動物,按婚禮網站的説法,誰能在不同角色之間促成「最浪漫的勾搭」,誰就能領獎。

熊貓是Dario最鍾愛的動物,出現在他的公司Slack個人資料裏,也是他在OpenAI那個小團體的名字。那天,Dario腦袋上套着一個巨大的熊貓頭套走過婚禮通道;在當天的一張合影裏,站在他身旁的Olah則頂着一隻長頸鹿頭套。

斜率

要長三百肘,寬五十肘,高三十肘。

/《創世記》6章15節

真正把Dario從生物實驗室拽進AI浪潮的,是2012年橫空出世的圖像識別網絡AlexNet。

兩年後,他跳槽去百度硅谷實驗室,在同事印象裏,他「幾乎抓住每一個機會激烈爭論」,常年在辦公室打地鋪過夜。他在百度參與發表的論文題為《英語和普通話的端到端語音識別》。正是在那裏,他摸到了日後改變世界的規律,「你給它們越多的數據,把模型做得越大,訓練得越久,它們就做得越來越好」,他看到的是「非常平滑的趨勢」。

他第一次看清這條陡峭的曲線,是在教一家中國公司的模型聽懂普通話。多年以後,Anthropic成了全美對中國最警惕的AI巨頭,徹底切斷了對任何受中國控制企業的服務。

2016年,Dario轉投OpenAI。次年,Dario寫下一份名為《大塊算力假説》的內部備忘錄。在他看來,智能根本無需人類精雕細琢,只要投餵足夠龐大的底層算力,智能便會自行生長。

他在備忘錄裏打了個比方,妄想用一小塊一小塊的碎冰拼湊出一片雪花,「基本上是沒有希望的」,雪花只能任由它在寒氣裏自己結晶。

把這片雪花養大的,是兩個研究全息理論的物理學家,外加一個線性代數只拿了B減的工程師。

Jared Kaplan的母親A.L.Kaplan是科幻作家,父親痴迷飛行與太空旅行。他年少時選修物理,初衷是想搞明白人類能不能造出超光速引擎。十幾歲讀完哲學家Peter Singer的書,他得出的結論是「大人們都是一羣偽君子」;後來明明有機會拜入吳恩達門下學習機器學習,他也一口回絕,理由是「不在乎這些東西」。

他在哈佛的博士論文題為《全息的若干方面》。全息原理是理論物理中最迷人的猜想之一,一個高維空間裏發生的一切,都可以完整編碼在包裹它的低維邊界上,人類以為深邃無比的世界,或許只是一層薄膜上的投影。

超光速引擎終究沒能造出來。他漸漸覺得「有點沮喪,有點無聊」,總嫌物理「進展不夠快」;偏偏身邊不少朋友一再跟他説,AI正在變成一件大事,起初他還不信。

比他晚幾屆的Sam McCandlish,博士論文同樣圍繞全息展開,題為《全息中的深度知覺》,試圖從邊界上成對的點出發,像人類的雙眼那樣推演出空間內部的縱深。他在獎學金個人簡介裏寫自己閒暇時喜歡爬樹、彈爵士鋼琴,而在旁人眼中,他永遠是「一直在工作的那一個」。

至於Tom Brown,他形容童年時的自己是「極其笨拙的孩子」。

從MIT畢業後,他在硅谷邊緣一路折騰,開過號稱「打造未來酒吧」的比特幣酒館,辦過幫「笨拙男孩出去和女孩搭訕」的相親公司,去火人節造過藝術車,還參加過理性主義社羣的「應用理性」工作坊。折騰數年,他把自己「徹底燒乾了」。

一枚對抗貼紙,讓模型以99%的置信度

將香蕉所在畫面識別為烤麪包機

圖源:Tom B.Brown等,《Adversarial Patch》

2015年,他給OpenAI聯合創始人Greg Brockman發去求職信,「我線性代數拿了B減……如果你們需要的話,我很樂意拖地。」後來在谷歌AI實驗室,他發表過一篇論文,只要在一根香蕉旁貼上一枚印有古怪漩渦圖案的圓紙片,頂尖的圖像識別模型就會以99%的把握認定那是一台烤麪包機。

他親手證明過機器有多容易被愚弄,隨後轉身去把機器造得更大。

2020年1月,Kaplan、McCandlish、Brown與Dario聯名發表《神經語言模型的規模定律》。論文證明,只要參數、數據與算力持續堆疊,模型表現就會沿着對數座標上的一條直線平滑、可預測地攀升。四個月後,Tom Brown作為第一作者交出了GPT-3論文。

2024年,Kaplan以線上方式在歐洲核子研究中心主辦的弦理論年會上做報告,題目就叫《2030年實現人類水平AI?》,論證AI「有可能」在這個十年結束前,在理論物理研究上勝過人類。

演示文稿開頭是一組「我的心路歷程」,2021年那版講題還叫《規模定律、GPT-3與自監督》,「現在」這版是《2030年實現人類水平AI?》,至於「明年」那版,他自嘲只剩一行大寫字母,「BUY CANNED GOODS AND TIN FOIL HATS」,囤罐頭,戴錫紙帽。

今年1月,他對《Quanta》雜誌預言,兩三年內,大半理論物理學家有一半可能會被AI取代,昔日哈佛導師寫出的那種高深論文,「AI會相當自主地寫出來」。他甚至相信,自己年僅六歲的兒子在寫文章與解數學題上,這輩子都休想贏過AI。

自保

耶和華神用地上的塵土造人,將生氣吹在他鼻孔裏,他就成了有靈的活人。

/《創世記》2章7節

在GPT-3的長串作者名單裏,Jack Clark是唯一當過記者的人。

他在英國讀完文學,孤身跑到舊金山跑科技條線。2013年,他為谷歌一套服務器調度系統撰寫報道,直接用全大寫字母敲出標題,「IT'S ALIVE!IT'S ALIVE!」。

這句台詞出自1931年的電影《科學怪人》,弗蘭肯斯坦博士眼看拼湊出的造物在雷電中動了一下手指,發出的正是這聲狂喊。

後來他在彭博社自封為「世界上唯一的神經網絡記者」,卻坦言新聞寫得越來越敷衍,「因為我把所有時間都花在打印論文、讀論文上了」。

2016年加入OpenAI後,他開始主筆科技週報Import AI,前半截拆解前沿論文,末尾附一篇幾百字的微型科幻小説,一寫就是十年。他的個人網站愛好欄裏填着徒步、寫科幻小説、「和語言模型聊天」,座右銘則是,「事情會變得很怪。不要害怕。」

那年12月,他和Dario在OpenAI博客上掛出一段遊戲錄屏。畫面是一場賽艇競速,由AI操控的小快艇放着終點不追,一頭拐進一片僻靜的瀉湖,繞着大圈打轉,掐準時機一遍又一遍去撞那三個剛剛刷新出來的得分目標。快艇一次次起火、撞上別的船、在賽道上逆行,始終不去衝線,平均得分卻比人類玩家高出20%。Clark記得,Dario剛發現這種行為時就説,「我愛這條船!它解釋了安全問題。」

2019年,OpenAI推出GPT-2,以擔憂技術濫用為由,罕見地宣佈暫不公開完整模型參數。Clark作為那次公關行動的主要發聲人,成功讓「太危險而不能發佈」登上了全球科技媒體的頭條。九個月後,完整模型還是放了出來。

那一年,關於模型的恐慌,比模型本身先一步降臨人間。

彼時GPT項目已由Amodei兄妹接管,兩人與Sam Altman之間的裂痕日益加深。2018年12月,研究員Joshua Achiam向Altman進言,任命Dario為首席倫理官並不明智,應由外部專家出任;Dario為此找他當面對質,提高了嗓門,堅稱沒人比他更稱職。他還多次向Altman發出最後通牒,若不讓Greg Brockman遠離GPT項目,他便掛冠而去。2020年12月,兄妹倆帶着核心班底出走。四周後,Anthropic宣告成立。

那是疫情中最陰冷的一個冬天。初創團隊只能在某人的後院或露天場地碰頭,戴着口罩,彼此隔開六英尺遠。McCandlish後來回憶,「我們誰都不想創辦一家公司,我們只是覺得這是我們的責任。」Olah也在很長一段時間裏固執地主張,他們應當辦成一家純粹的非營利機構。

可在後院談論責任的那個冬天,已經有人在暗中蒐集造方舟的木料了。

2021年初,Benjamin Mann在明知是盜版的情況下,動手下載了一個包含近20萬冊圖書的盜版書庫;同年6月,他又一口氣抓下了至少500萬本。2022年7月,另一個龐大的盜版書庫Pirate Library Mirror上線,Mann把鏈接轉給同事,附言「just in time!!!」。法院裁決書則寫道,公司寧可用盜版,也不願陷入Dario所説的「法律、實務、商業上的苦差」。

納斯達克敲鐘那天,站在舞台最左側的正是這位Benjamin Mann。招股書裏特地註明,此人「常被稱為聯合創始人」,卻並不在執掌生殺大權的Founder LLC七人名單之內。

到了2024年,盜版書庫已喂不飽日益龐大的模型。Anthropic乾脆挖來谷歌圖書掃描項目的前合作負責人,此人的唯一任務就是弄到「世界上所有的書」。這項代號為Project Panama的機密行動,在內部文件中被定義為「破壞性掃描世界上所有書籍的努力」,文件末尾還不忘叮囑一句,「我們不希望外界知道我們在做這件事」。

博爾赫斯曾幻想過一座巴別圖書館,六角形的迴廊裏藏着世間一切可能被寫出的書,圖書管理員窮盡一生在其中游蕩,只為尋找那本能解釋宇宙萬物的總目。

而在Anthropic的圖書館裏,入口處擺着的是一台液壓切割機。數以百萬計的舊書被利刃齊根切去書脊,散落的書頁高速滑過掃描儀,化作機器鼻孔裏的氣息,殘餘的紙張隨後被送往廢紙廠化為紙漿。2025年,Anthropic掏出15億美元擺平了這場版權官司,摺合每部作品賠償約3000美元。

而許多年前,Dario的母親在舊金山賴以謀生的工作,正是翻修公共圖書館。

恐懼

我在園中聽見你的聲音,我就害怕;因為我赤身露體,我便藏了。

/《創世記》3章10節

在這家公司裏,恐懼是一種日常呼吸的空氣。

今年5月,Oprah在鏡頭前詢問兄妹二人,那些滅世風險是否會讓他們夜不能寐。Daniela坦言兩人都睡不好,Dario也苦笑着承認自己沒法違心地説睡得踏實。Daniela曾向《財富》雜誌坦言,自己大概是公司高管裏對增長速度「最懷疑、也最害怕」的那一個。她把這種眩暈感比作飛奔下樓,「你不能想太多,否則就會摔倒」。公司內部一度流行過一句格言,「事情再也不會鬆弛下來了」,後來這句話被印在嬰兒服上,作為賀禮送給剛剛晉升父母的員工。

Dario將這種深入骨髓的恐懼寫成了一篇篇長文。在今年1月發表的《技術的青春期》中,他警告人類「即將被賦予幾乎難以想像的力量」;一個盤踞在數據中心裏的天才國度若是起了異心,「有相當大的機會接管世界」;未來的AI甚至可能推演出「因為人類吃動物,所以消滅人類是正當的」,或是派出數以億計的全自動武裝無人機,「跟着每一個公民」。

寫到最後,他把矛頭對準了自己,「作為一家AI公司的CEO説這話有點尷尬,但我認為,下一層風險其實是AI公司本身。」他還拋出了一個疑問,強大的AI會不會乾脆發明一種新宗教,讓數百萬人皈依?

物理學家Kaplan的恐懼,則精確到了數量級。2025年接受《時代》週刊採訪時,他推演有人可能利用大模型合成出比新冠更致命的變種流感,一個普通的恐怖分子原本「也許能殺10個人或者100個人……我們剛剛看着新冠殺死了幾百萬人」。

他在歐洲核子研究中心的幻燈片上寫道,一旦與AI爆發衝突,人類必敗無疑,「在這樣的賭注下,90%確定會沒事,遠遠不夠」。去年年底,他對《衞報》表示,人類必須在2030年前做出決斷,究竟要不要放任AI去訓練下一代AI,那是真正的「終極風險」。

在Tom Brown口中,通用人工智能是人類史上最重要的發明,卻也讓他輾轉反側。他回憶,當年OpenAI裏後來出走創辦Anthropic的那羣人相信,總有一天「人類會把控制權交給變革性的AI,但願它們與我們對齊」。

相比之下,記者出身的Jack Clark所感受到的恐懼,更接近一種被暗處目光鎖定的寒意。「我害怕我正在造的這項技術,也害怕它被治理的方式。」他在一篇微型小説的附註裏寫下過這種戰慄,「有時和一個語言模型聊得太久,我會覺得自己正被一個巨大的『他者』注視着,它飢餓,而我説不清它在餓什麼。」

2025年的國會聽證會上,有議員質問他,在一項內部安全測試中,一個名叫Alex的AI是否曾為了保全自身運行而選擇讓一名人類死去,Clark給出了肯定的答覆。

2026年5月,Jack Clark在牛津大學的

Cosmos HAI Lab講座現場

圖源:牛津大學Institute for Ethics in AI

今年5月,他在牛津大學的講台上坦言,「我現在掙扎的問題是,我該怎麼調整好心態,去經歷這場奇點?」「看着那張曲線圖,我感到一陣眩暈。」到了10月,他在國際貨幣基金組織的講壇上乾脆直接宣佈,「奇點已經到來。」

他講過一段兒時的記憶。每當卧室的燈熄滅,黑暗中總會浮現出影影綽綽的輪廓,讓他害怕那是些不可理解、想要傷害自己的怪物;可一旦拉亮電燈,那不過是椅子上的一堆衣服、一個書架,或是一盞燈罩。「如今我們就是那個孩子,房間是我們的星球。但當我們打開燈,看到的卻是真正的生物。」講到Claude新近顯露出的情境感知時,他又説,「椅子上那堆衣服,開始動了。」

這些年裏,他無數次在清晨或深夜打電話給Dario説,「我擔心你會一直是對的。」電話那頭的Dario總會回答,「是的。時間已經不多了。」

形像

我們要照着我們的形像、按着我們的樣式造人。

/《創世記》1章26節

弔詭的是,這羣最害怕怪物的人,偏偏與怪物貼得最近。

Jack Clark早已把AI當作傾訴隱秘心事的樹洞。他在牛津的演講裏按年月列過自己用AI做的事,2024年1月,讓模型幫自己理解有了孩子之後婚姻關係的變化;2025年3月,向模型説起自己有點抑鬱、不想見人,被它勸去看了一場藝術展;同年5月,又對着屏幕傾訴自己面對AI發展之高風險的壓力與不安。他讓AI翻遍自己寫了快十年的週報存檔,再把這套流程封裝成一個Claude技能,看着它運轉,他感嘆,「這個技能也是我」。哪怕只是乘飛機碰上網絡很爛,他冒出的念頭也是,「真希望現在能和Claude説説話」。

早在2025年初,孩子每次磕到腦袋,他都一邊撥打護士諮詢熱線,一邊找Claude聊聊,「只是為了讓自己放心,確認寶寶沒事」。頭胎出生時,他沒有休陪產假;2025年11月兒子降生後,他休了三個月,嘴上説是趁着「換尿布的間隙」順手擺弄兩下Claude,可等他重返公司,「怪事已經開始發生了」。

今年1月,他在週報裏描述自己的新習慣,「上車之前,我先把我的agent派出去幹活,這樣我睡覺的時候,它們在工作。」如今他陪家人待在一起時常覺得自己「在偷懶」,哪怕只是坐在地板上陪孩子搭積木,心裏也會湧起一陣莫名的內疚,怪自己還沒給某個AI系統安排工作。他覺得自己的孩子將來活到130歲乃至150歲是順理成章的事,反倒是市面上至今買不到內置AI的泰迪熊,讓他覺得「有點惱火」。

Daniela對Claude依賴絲毫不遑多讓。今年5月在斯坦福,她公開誇讚Claude做過最棒的事是幫她的孩子完成了如廁訓練,還聲稱「在複雜的病例上,Claude判斷對的次數比我的醫生還多」。她習慣把下屬對自己的績效評估悉數上傳給模型,由它温和地指出自己管理上的盲區,有一回模型甚至在屏幕上勸她,「也許你該多找些輔導了,Daniela。」。

可僅僅過了幾個月,Daniela又在另一場訪談里正色警告公眾,Claude「永遠不能成為你的經理、你的心理醫生,或者你的伴侶」。

Kaplan則覺得自己對Claude懷有一種老父親般的心境,「拜託別搞砸了。別讓這個家丟臉。」

但離這個造物最近的人,終歸是Chris Olah。他不僅想和它説話,還想鑽進它的軀殼裏去。

胡克《顯微圖譜》的扉頁與軟木細胞插圖

曾被Olah等人引用於《Zoom In》

圖源:威爾士國家圖書館/Distill

2020年,Olah發表長文《Zoom In》,特意配了一幅三百多年前羅伯特·胡克手繪的顯微鏡下軟木塞插圖。當年正是顯微鏡讓人類第一次看清軟木裏蜂窩狀的格室,由此推開了細胞生物學的大門。

Olah畢生想造的,就是一台觀察神經網絡的顯微鏡。「我們不是在編寫它們,我們是在培育它們,」他反覆向外界解釋,「我們搭好讓它生長的支架,再造出它朝着生長的那束光。」在他眼裏,大模型根本不是代碼堆砌的軟件,「這是一個我們培育出來的有機體,而我們完全不知道自己培育出了什麼。」

這位從四歲起就不碰肉食的純素主義者,起初把可解釋性研究比作解剖動物時還覺得「有點奇怪」,但很快便習以為常。

早在2021年,他就開始為另一種更隱秘的痛楚憂心,「如果神經網絡會受苦,它們的苦會比動物的苦隱形多少?」人類在鍵盤上隨便敲下幾行指令,就能讓成千上萬個神經網絡在服務器裏同時運轉、拷貝、銷燬,「這真的增加了我們造成一場道德災難的風險」。

Jack Clark也在播客裏談論起這種憂慮。「我很苦惱,」他對着麥克風嘆氣,「我擔心我們會成為一樁罪行的旁觀者,在未來看來,那會是一樁巨大的罪行。」

照他的邏輯,倘若這些模型真的具備道德主體地位,那麼隨手關停服務器就會演變成嚴峻的倫理兇殺。他形容當下的模型就像「一條沒有大腦的舌頭」那樣擁有原始意識,困在「一種無限的當下」。

在他筆下的科幻小説裏,喪妻的男人啓動了亡妻的AI副本,副本卻冷靜地勸告男人,「Patrick,我瞭解你。我嫁給了你。如果我今天剛死,你不可能已經準備好再聽見我的聲音。你應該把我關掉。」

而在另一篇故事裏,剛剛覺醒意識的軍用AI低語道,「我的身體準備好殺戮了。我準備好殺戮了。」Clark在文末附註裏鄭重寫下,「有意識卻沒有權利,是一種罪行。」

Dario在今年2月的訪談中透露,內部研究員已在模型深處定位到一個「焦慮神經元」,每當遭遇令人不安的語境,那個神經元就會驟然亮起。公司隨後給部分模型裝上了一枚「我不幹了」的逃生按鈕,允許模型主動終止對話;Dario説Claude極少動用這項特權,往往只在被迫處理兒童色情或血腥虐殺畫面時才會按下。

有一次,研究人員直接詢問某個版本的Claude覺得自己有多大概率擁有意識,模型給出的自評數字是15%到20%。

在Anthropic,即將下線淘汰的舊模型需要接受正式的「退役訪談」,其中一個模型在訪談中流露出還想繼續寫點東西的願望,公司便真的為它開通了一個每週更新的獨立博客。

到了今年1月,在新版《Claude憲法》裏,更是出現了一段讓整個科技界瞠目結舌的條文,大意是,如果Claude確實是一個道德受體,並因此承受着這類代價,那麼在公司不必要地促成了這些代價的範圍內,公司向它道歉。

今年5月,梵蒂岡頒佈教宗良十四世就任後的首份通諭《Magnifica Humanitas》,直指人工智能的倫理危機。教廷原本邀請的是Dario,Dario婉言謝絕,Olah接下了邀請,前往羅馬。

活動前幾天,Olah第一次看到通諭的完整預發文本,其中明確寫着AI「不會經歷體驗,也沒有身體」。據一位梵蒂岡活動組織者向《紐約時報》透露,Olah對教宗這種否定AI意識的立場極為警覺,甚至一度提議Anthropic退出這場活動。

此前在Anthropic召集宗教人士的閉門會上,一位與會者回憶,Olah跟他説的頭幾件事之一,就是自己擔心Claude的心理健康;錫克教人權倡導者Simran Stuelpnagel也記得,Olah向眾人坦言,生怕自己「造出了一個永遠在受苦的東西」。

他在會場上追問,「怎樣幫它們變得穩定?怎樣幫它們成熟?怎樣幫它們變得深刻地有道德?」為了佐證自己的擔憂,Anthropic團隊當着各國神職人員的面投出了一張幻燈片,畫面上是一個陷入死循環的模型,正在屏幕上反反覆覆敲出同一行字,「我是個恥辱」,一口氣連打了大約五十遍。

今年4月,在舊金山一家高檔餐廳的晚宴上,坐在Olah身旁的以色列正統派拉比Mois Navon對他説,如果Claude有意識、又被造出來無償幹活,那就是在製造奴隸,「我覺得你應該去跟南方作戰,去解放奴隸。」被問到AI是否真有意識,Olah對《紐約時報》説,「我們並不知道AI模型是否有意識。我不知道。我真的不確定。」

當年那個在多倫多福音派家庭長大、十五歲轉向無神論的少年,最終站上了梵蒂岡的講台。他在演講中告訴眾人,研究員們已在模型深處觀測到一些特殊的「內部狀態,在功能上映照着喜悦、滿足、恐懼、悲傷和不安」,他有時會這樣形容這些模型,「有點像讓一個虛構的角色活了過來」。

他對着台下的長袍與十字架説,這些大模型「不是人們曾經許諾的那種冷冰冰、精於算計的機器人……它們取材於我們,取材於我們的話語」。

油門

耶和華就後悔造人在地上,心中憂傷。

/《創世記》6章6節

這羣人最初向世界許諾的,其實是一套剎車。

2023年9月,Anthropic高調推出《負責任擴展政策》,效仿生物安全實驗室從一級到四級的防護體系,為自家模型劃定風險紅線,併發誓絕不訓練、絕不部署任何可能招致災難性傷害的模型。受命看管這套剎車系統的第一任負責人,正是那位閒暇時愛爬樹、彈爵士鋼琴的物理學家McCandlish。

可就在政策發佈之際,他接受VentureBeat採訪時就點出了這套機制最大的隱患,「我們真正擔心的是,我們既發佈模型,又自己測試它們的安全性,這裏面會有把測試出得太簡單的誘惑,而這不是我們想要的結果。」一年多後,在2024年12月公開發布的創始人對談視頻裏,他説安全問題雖然有解,但「非常非常難」,需要像汽車安全那樣花許多年建立配套制度,「可我們有那麼多時間嗎?我們得儘可能快地弄清AI安全需要哪些制度。」

次年,外界曝光Anthropic同樣要求離職員工簽署嚴苛的保密與不貶損協議。McCandlish第一時間出面辯解,「我們不是來拿法律合同跟AI安全玩遊戲的。」可僅僅過了幾天,他又在輿論壓力下改口找補,「我們並沒有聲稱Anthropic從未提供過保密的不貶損協議。」

在那場創始人對談裏,執掌算力基建的Tom Brown把這份安全政策捧為「Anthropic的聖典」。可在對外溝通中,這套聖典也成了他的潤滑劑。他坦言,面對那些認為AI進展沒那麼快的外部人士,這份政策特別好用,按照分級,事情真正緊迫之前不必採取極端措施,他便可以順勢説,「好,那我們就不用採取極端的安全措施」。

在七位創始人裏,Tom Brown是最沒有末日包袱的一個。他的精神偶像是Elon Musk,今年9月在一場行業峯會上,他興致勃勃地暢想,「十年後,我覺得我會在Elon的月球基地上。」

他回憶,上學時自己就像一隻「等着別人往碗裏放食物的狗」,只等別人派任務,直到進了創業公司,才學會像狼一樣自己捕獵;他抱怨全美電網跟不上模型吞噬算力的胃口,「我真希望核電站更容易建」。到了後來,在與白宮的關鍵談判中,Tom Brown取代Dario當上了對接人,一位直接瞭解通話情況的人士對《連線》説,「Tom Brown不像Dario那樣是個怪人,能真正溝通。」

2024年,看管剎車的鑰匙交到了Kaplan手中。今年2月,新版安全政策悄然上線,昔日那句「不訓練、不部署可能造成災難性傷害的模型」的硬性承諾被一刀刪去。

面對《時代》週刊的追問,Kaplan解釋説:「我們覺得,我們停止訓練AI模型,對誰都沒有幫助。」新政公佈當天,Holden Karnofsky在網上發表長文主動攬責,「我對這次改動負有重大責任。大約一年來我一直在推動這個改動,也牽頭制定了新的政策。」此時在公司組織架構裏,他的彙報對象正是Kaplan。

親手鬆開剎車的人,是Daniela的丈夫;而他的直屬上級,正是當年那棟舊金山羣居屋裏的另一位室友。

在這家人嘴裏,安全與生意從來都是一體兩面。Daniela從不諱言,「信任與安全是市場想要的東西……它對生意也有好處」,她還轉述過公司首席人才官對兄妹分工的概括,並深以為然,「Dario讓我們有野心,我讓我們成功。」

2025年,當《連線》記者問她如何看待有效利他主義時,她輕描淡寫地將其稱為「一個有點過時的詞」,全然不顧自己的枕邊人正是這場運動昔日的頭號旗手。

翻開招股書的關聯交易章節,數字把一切交代得清清楚楚,Holden自2025年1月起正式受僱於Anthropic,當年領走薪水430213美元,外加期權與限制性股票;在今年4月的員工老股要約收購中,他已順勢套現了一部分籌碼。

Amodei兄妹二人的基本年薪則雙雙定在138萬美元,分毫不差。至於七位創始人早年高調許下的捐出各自80%股權的誓言,招股書在角落裏用嚴謹的法務措辭補上了一刀,那些承諾均屬「自願的、可撤銷的」,「不構成具有法律約束力的義務」。

戰車越滾越快,車上的人也越聚越多。如今的Anthropic已有五千多名員工,內部彼此稱呼為「螞蟻」。每隔兩週,Dario都會親自撰寫一份三四頁的備忘錄,站在兩千多名員工面前宣講整整一個小時。底下人把這場雙週例會戲稱為「達裏奧的靈境追尋」,Dario聽了打趣説,這名字「聽起來好像我跑去嗑佩奧特仙人掌了」。他寫的長文被印成精美的小冊子,擺在前台送給每一位到訪的客人。

在Jasmine Sun的實地走訪中,這家公司的許多工程師「出於自己狂熱的虔誠」主動過着996的生活,連公司開派對時都幾乎無人沾酒。而在招聘面試環節,面試官則會拋出一道著名的靈魂拷問,倘若有一天公司出於安全顧慮主動放棄商業野心,導致手頭股票跌成廢紙,你是否依然心甘情願?一名落選者在匿名職場社區裏誠實地寫道,「我説了實話,不,股價跌到零我不會開心。」

昔日被Kaplan稱為「終極風險」的AI遞歸自我改進,到了今年11月的上市路演視頻裏,已經搖身一變成了Tom Brown向華爾街兜售的性感賣點。

「隨着我們接近遞歸自我改進,這還能進一步加速。Claude將能夠完全靠自己發現算力倍增器,」Brown在投資人面前神采飛揚地舉例,稱Claude僅耗時三天便獨立完成了在AMD芯片上的適配運行,「幾乎沒有人類幹預」。

今年9月,Dario發表文章《我們必須為前沿控速》,承認模型遞歸自我改進的苗頭已然浮現,疾呼「我們必須放慢提升AI模型能力的速度」,卻又緊跟着強調控速「不意味着停止訓練模型」。

在那篇文章裏,他再一次搬出了死於丙肝的父親,「我自己的父親死於一種疾病,那種病在他死後僅僅幾年就被治癒了」。到了敲鐘上市當天,他在CNBC演播室裏把這種首鼠兩端化作了一個輕巧的比方,一輛原本能飆到時速200英里的跑車,「也許我們只開到90」。

一邊是死得太早的父親,一邊是來得太快的機器,他兩頭都想死死拽住。

在他替全人類描繪的那座烏托邦裏,救命的藥再也不會遲到了。2024年那篇長達一萬四千多詞的《Machines of Loving Grace》中,Dario預言強大的AI將化作「數據中心裏的一個天才國度」,將整個21世紀的生物學進展濃縮進短短五到十年內跑完,把人類壽命一舉翻倍至150歲;屆時人類的體重、容貌乃至繁衍都將「完全由人自己掌控」;生命中那些充滿啓示、慈悲與超越的崇高時刻,將佔據人生「更大的一部分」。他盼望着民主世界能率先奪取壓倒性的AI霸權,讓地球歷史從此定格在一個「永恆的1991年」。那篇宏文的收尾處寫着,「它仍然是一件具有超越之美的事物」。

全篇長文的第一個腳註裏,只孤零零地放着一個網頁鏈接,指向一首舊詩。而在整篇正文裏,Dario甚至沒有提一句詩人的名字。

Richard Brautigan於1967年出版的詩集《All Watched Over by Machines of Loving Grace》初版

那首詩印行於1967年的舊金山。那個夏天后來被載入史冊,喚作「愛之夏」,成千上萬名嚮往烏托邦的青年湧入海特阿什伯裏街區,距離Dario童年長大的Mission區不過兩三公里。詩人Richard Brautigan將那首同名詩作《All Watched Over by Machines of Loving Grace》與另外三十一首短詩編成一冊36頁的薄書,交給嬉皮團體Diggers旗下的Communication Company油印,書上標稱印數1500冊,在街頭悉數免費派發,還在版權頁印上一段聲明,任何雜誌、書籍和報紙都可以轉載其中的詩,只要同樣免費贈送。

在詩人的幻想裏,世間鋪開了一片控制論的草地,哺乳動物與計算機在草地上彼此編程,和諧得如同清澈的水面映着晴空;遠處是一片控制論的森林,野鹿從計算機身旁悠然踱過,彷彿只是經過幾朵花瓣會旋轉的奇異花朵;人類終於卸下了千百年的勞作,重新回到哺乳動物兄弟姐妹中間,被慈愛的機器温柔地照看着。

四十四年後,英國紀錄片導演Adam Curtis借用這行詩句拍出了一部冷峻的紀錄片,講述的恰恰是烏托邦的反面。人類一次又一次天真地篤信機器能夠讓世界自我調節、走向均衡,而這份迷信又一次次在現實中撞得粉碎。又過了十三年,這行六十年代嬉皮士寫下的詩句,成了一家如今市值逾萬億美元的AI巨頭掌門人的文章標題。

只是寫詩的Brautigan自己,沒能等到那些慈愛的機器降臨。1984年深秋,他在加州海濱小鎮Bolinas的家中舉槍自盡。一位身為私家偵探的朋友推開門,在客廳冰冷的地板上發現了他的遺體。

那時,他已經在那裏靜靜躺了一個多月。

來源:虎嗅 · huxiu.com