跳到正文

#Anthropic

今日 7 條
今天10月6日週二
  1. Replit:Blog51

    Replit 指 AI 採用始於可信數據,語義層是基礎

    Replit 指出,企業要可靠採用 AI Agent,須先建立共享語義層及受治理的營運真相層,讓 Agent 依據一致的商業定義、指標和數據來源工作。其內部數據 Agent 將修正存入 git 儲存庫,經人工審核和驗證後供接觸數據的 Agent 共用;Replit 稱,該 Agent 每週回答遠超 1,000 個以數據倉庫為基礎的提問,並在答案中附上證據。

10月5日週一
  1. The Verge · AI54

    美國參議員 Adam Schiff 談 AI 監管、言論自由及再次彈劾特朗普

    美國參議員 Adam Schiff 在訪談中討論 AI 監管、言論自由及特朗普再次遭彈劾的可能性。他認為白宮與 AI 公司簽署的自願承諾缺乏實質約束,並主張設立具專業知識和實權的 AI 監管機構。訪談亦涉及訓練資料版權、AI 公司的法律責任與私隱風險;Schiff 表示,若民主黨重掌國會,將加強監督並推動相關立法。

  2. The Verge · AI56

    人類心智尚未準備好應對 AI

    Benjamin Riley 認為,若 AI 成為日常學習的一部分,便會像認知層面的熱狗,妨礙人類建立知識和發展思考能力。他援引神經科學家 Paul Cisek 的觀點,主張大腦應理解為與環境互動的回饋控制系統,而非單純處理資訊的電腦。作者主張保留不借助 AI 解題、查證和批判性討論等做法,並提及挪威對 13 歲以下學生在校使用 AI 的禁令及美國部分學區的禁令。

  3. IT之家51

    OpenAI 首席執行官 Sam Altman:人工智能的巨大效益值得社會承受部分風險

    OpenAI 首席執行官 Sam Altman 認為,人工智能帶來的巨大效益值得社會承受部分風險,並主張技術繼續向公眾廣泛開放。報道指出,OpenAI 近幾個月來轉而支持更嚴厲的行業規則,與 Anthropic 在政策層面的分歧正逐漸收窄,但 Altman 仍試圖區分雙方的監管主張。Altman 亦表示,他不能接受真正具毀滅性的災難風險,包括人類嚴重失去對 AI 的控制。

10月3日週六
  1. LlamaIndex:產品、工程與評測53

    LlamaIndex 指出檔案系統正成為智能體管理上下文的核心介面

    LlamaIndex 指出,智能體正以檔案及檔案系統管理長期對話、檢索外部上下文和載入技能,並將其視為重要的上下文介面。作者稱,實驗中配備檔案系統工具和語義搜尋的推理智能體可動態檢索上下文,而單靠檔案搜尋在中小型文件集合上亦勝過 naive semantic search(不計延遲)。

  2. Anthropic:Alignment Science Blog63

    Anthropic 提出 ASL-4 安全論證的三種草圖

    Anthropic 提出三種 ASL-4 安全論證草圖,探討當開發者無法排除模型具備危險能力與破壞安全程序能力時,如何論證部署安全。草圖分別採用機制可解釋性監測、AI Control,以及檢驗 RLHF 是否激勵策略性欺騙的分析。Anthropic 尚未定義 ASL-4,並明言這些假設例子均未能完整處理破壞風險,亦非正式政策或計劃。

  3. Anthropic:The Institute77

    The Anthropic Institute 分析 AI 加速研發與遞迴式自我改進的可能性

    Anthropic Institute 指出,AI 已加速 AI 系統研發,但尚未能完全自主設計並開發自身後繼系統,遞迴式自我改進亦非必然。截至 2026 年 5 月,合併至 Anthropic 程式碼庫的程式碼逾 80% 由 Claude 撰寫;2026 年第二季,典型工程師每日合併的程式碼量為 2024 年的 8×。

    推薦理由:這篇分析將公開基準與 Anthropic 內部數據並置,呈現 AI 執行工程與研究任務的進展,以及自主選擇研究方向仍存的能力差距。

10月2日週五
  1. TechCrunch · AI54

    教宗良十四世呼籲保護人類藝術,稱 AI 生成作品與人類藝術存在本體差異

    教宗良十四世在 X 發文,呼籲在 AI 時代保護人類藝術,並稱人類創作與機器生成作品在本體上存在差異。他認為機器根據數百萬張他人創作的圖像進行統計計算,算法缺乏人性的火花。他 5 月的通諭強調自動化日益普及時維護人類尊嚴的重要性;TechCrunch 援引《紐約時報》近期報道稱,Anthropic 曾遊説梵蒂岡重新考慮非人類意識立場,但似乎成效有限。

10月1日週四
  1. Ethan Mollick:One Useful Thing70

    Ethan Mollick 重新評估 AI 智能體自我組織的管理難度

    Ethan Mollick 重新評估智能體管理的難度,認為 AI 模型已能自行規劃及組織協作,安排智能體工作未必需要繁複的人為設計。他以 OpenAI 的 swarm 為例,稱數千個智能體處理 Navier-Stokes 存在性與光滑性問題,歷時 88 小時並互傳約 2.7 million 則訊息;相關成果尚未獲正式接納。他也指出,智能體仍有能力限制和失控風險,人類需要設定目標並在過程中調整方向。

9月30日週三
  1. elsewhere:文章55

    數據公司個個都太神了

    數據公司估值快速攀升,成立未滿一年的公司中已有 UniPat 估值達25億美元,另有若干家公司估值3-8億美元。數據商透過採集專家解題軌跡,或製作包含任務、運行環境和評分準則的 RL environment,為模型提供訓練材料;文章指出模型公司現時更重視數據交付的速度、數量和供應商關係。這個行業尚無公認驗收標準,模型公司通常先抽檢,再從小額訂單逐步建立合作信任。

9月29日週二
  1. MIT Technology Review · AI60

    AI 何時才算作出科學發現?Anthropic 生物學案例引發判準爭議

    Anthropic 將 Claude 智能體找到的生物學模式稱作一項發現,但生物學家質疑僅識別模式是否足以構成科學發現。Anthropic 稱 950 個智能體經 21 小時在已知酶周邊找出此前未編目的重複模式;Mario Rodríguez Mestre 則表示其團隊早已發現該模式,Anthropic 否認從他與 Claude 的對話中得知。

9月23日週三
9月22日週二
  1. MIT Technology Review · AI53

    別被今夏的 AI 炒作矇蔽

    Timnit Gebru 與 Emily M. Bender 指出,今夏企業圍繞 AI 模型漏洞、數學突破和超級智能的宣傳,常被媒體以人格化敍事放大,而專家後續檢視提出了不同解讀。她們認為,把事件描述成「失控模型」或迫近的超級智能,會把注意力從企業責任轉向假想中的機器風險,也淡化數據中心造成的氣候、健康、電費與用水影響。她們呼籲決策者和公眾放慢決策步伐,聽取獨立專家的意見,不要只依賴企業宣傳。

9月18日週五
  1. Timothy B. Lee:Understanding AI62

    Jacob Coxon 的一則推文如何改變 AI 安全辯論

    Anthropic 員工 Jacob Coxon 宣佈離職並批評 AI 公司未負責任行事,其推文瀏覽量超過 170 million 次,令 AI 風險突然成為主流議題。文章指出,AI 風險已成為美國全國層面的政治議題,但全球暫停前沿 AI 系統的協議短期內似乎難以達成,國會亦不太可能在新年前通過 AI 法案。一些公司領導人則表示,若競爭對手也放慢步伐,他們願意自願減速。

9月14日週一
9月9日週三
  1. Pragmatic Engineer63

    AI 智能體生成程式碼激增後,程式碼審查有哪些新做法?

    面對 AI 智能體生成更多程式碼和 PR 所帶來的審查量增長,各團隊採用不同流程,沒有適用所有團隊的單一方案。GitHub 數據顯示,三年間開啟的 PR 數量增至五倍,2025 年底增長加速,PR 和 commits 數量在當時幾乎翻倍。常見做法包括由人審核 AI 的程式碼審查結果、按變更風險決定是否人工審查,以及改為審查計劃、測試或資料庫 schema。

8月28日週五
  1. Epoch AI:Gradient Updates64

    OpenAI 與 Anthropic 合計年化收入升至 $105B,前沿 AI 增長維持高速

    OpenAI 與 Anthropic 的合計年化收入在 2026 年已由 $30B 增至 $105B,約為原來的 3.5 倍。作者提出,這輪增長可能是編碼智能體達到關鍵門檻後帶來的短期加速,並與 ChatGPT 推出後的收入激增作比較。文章認為,收入增長能否延續,取決於新能力是否各自帶來新的普及曲線,還是前沿 AI 整體逐漸飽和。

8月25日週二
8月19日週三
8月15日週六
8月14日週五
  1. Epoch AI:Gradient Updates77

    融資會否成為 AI 算力擴張瓶頸?Anthropic 個案分析

    Epoch AI 以 Anthropic 基建融資為案例,指出近 $50 billion 債務融資顯示,至少短期內融資不太可能成為前沿算力擴張的瓶頸。其中,機構投資者承諾提供 $34.5 billion 債務,支持租賃超過 1 GW 的 Google TPU 系統;另有約 $15.2 billion 貸款支持五個數據中心建設,涉及 1.43 GW 的關鍵 IT 容量。

    推薦理由:Anthropic 個案拆解供應商信用支持租賃融資的結構,呈現未來租金如何轉化為機構資金,以及融資成本如何受風險分擔安排影響。

7月20日週一
7月10日週五
7月1日週三
  1. Ethan Mollick:One Useful Thing66

    AI 工作模式由聊天機器人協作轉向 Agent 管理

    Ethan Mollick 指出,隨着 AI 系統能持續處理更長任務,工作模式正由人與聊天機器人協作,轉向把工作交給 Agent 執行並由人管理。Epoch 的測試指出,Opus 4.7 獨立工作 14 小時,建成一個相當於人類工程師需花 2-17 週完成的軟件套件,token 成本為 $251。

6月10日週三
  1. Ethan Mollick:One Useful Thing77

    Ethan Mollick分享與Claude 5 Fable協作的體驗,並剖析人類角色轉變

    Ethan Mollick實測Claude 5 Fable後指出,模型能按多頁規格連續工作長達12小時,人的角色更像委託者。它在Claude Code中調用多個智能體研究交通資料並製作等時線地圖,也花九個半小時開發可校準人類與AI判斷的研究軟件Concord。Mollick指出,Fable消耗大量 tokens,安全護欄常令它退回能力較弱的Claude 4.8 Opus,而其決策過程不易看見。

    推薦理由:Ethan Mollick以等時線地圖和研究分析軟件的實測,呈現人類角色如何由過程操作轉向委託與驗收,以及模型自主決策帶來的可見性落差。

5月27日週三
  1. Ethan Mollick:One Useful Thing67

    Ethan Mollick:有意識地決定哪些思考工作交給 AI

    Ethan Mollick 主張應有意識地選擇哪些認知工作交由 AI 處理,而非預設讓 AI 代做,避免削弱學習與思考所需的投入。土耳其高中數學實驗中,使用 ChatGPT 的學生作業表現較好,但測驗成績低於未使用 AI 的同學;台北高中五個月 Python 課程中,使用 AI 導師個人化題目序列的學生,在無 AI 協助的期末考高出 0.15 個標準差。

5月4日週一
4月6日週一
  1. Manus:Blog51

    2026 年五款最佳桌面 AI 智能體

    文章比較 Manus My Computer、Perplexity Computer、Claude Cowork、ChatGPT Agent 和 Genspark 五款桌面 AI 智能體,涵蓋功能、價格及適用場景。文中説明各工具在本地檔案存取和雲端執行上的差異,並按研究、Microsoft Office 文件處理和網頁自動化等需求提供選擇建議。

12月19日週四
  1. AI as Normal Technology69

    AI 進展是否正在放緩?

    Arvind Narayanan、Benedikt Ströbl 和 Sayash Kapoor 認為,現有證據不足以判定 AI 進展放緩或模型擴展已經終結,並指出業界人士的預測會受商業利益與技術視角影響。他們認為,推理時計算擴展短期仍有不少改進空間,但能力提升可能因任務領域而不均,且難以預測。文章指出,AI 對社會和經濟的實際影響更受產品開發及採用速度制約,而非單由能力進展決定。