跳到正文

#OpenAI

今日 8 條
今天10月6日週二
  1. Replit:Blog51

    Replit 指 AI 採用始於可信數據,語義層是基礎

    Replit 指出,企業要可靠採用 AI Agent,須先建立共享語義層及受治理的營運真相層,讓 Agent 依據一致的商業定義、指標和數據來源工作。其內部數據 Agent 將修正存入 git 儲存庫,經人工審核和驗證後供接觸數據的 Agent 共用;Replit 稱,該 Agent 每週回答遠超 1,000 個以數據倉庫為基礎的提問,並在答案中附上證據。

  2. The Verge · AI36

    AI 接管數學引發的種種風波

    OpenAI、Anthropic 等 AI 實驗室過去一年宣佈多項長期未解數學難題取得突破,部分成果遠超研究人員對現有系統能力的預期,並包括解決一項著名的千禧年大獎難題。這些成果本應獲得喝采,卻反而引發反彈;AI 實驗室表示正從以往錯誤中汲取教訓,成效仍有待觀察。

  3. Hacker News:AI 熱帖45

    選民向 ChatGPT 求助,決定中期選舉如何投票

    選民正向 ChatGPT 求助,判斷中期選舉應支持哪位候選人,並比較候選人立場與自身關注議題。支持者認為,LLM 可整理候選人的公開表態及過往紀錄,協助選民作出更知情的選擇。討論亦提出資料來源偏頗、策略性遺漏,以及公司利益可能影響模型對政治議題回答等風險。

10月5日週一
  1. The Verge · AI54

    美國參議員 Adam Schiff 談 AI 監管、言論自由及再次彈劾特朗普

    美國參議員 Adam Schiff 在訪談中討論 AI 監管、言論自由及特朗普再次遭彈劾的可能性。他認為白宮與 AI 公司簽署的自願承諾缺乏實質約束,並主張設立具專業知識和實權的 AI 監管機構。訪談亦涉及訓練資料版權、AI 公司的法律責任與私隱風險;Schiff 表示,若民主黨重掌國會,將加強監督並推動相關立法。

  2. The Verge · AI56

    人類心智尚未準備好應對 AI

    Benjamin Riley 認為,若 AI 成為日常學習的一部分,便會像認知層面的熱狗,妨礙人類建立知識和發展思考能力。他援引神經科學家 Paul Cisek 的觀點,主張大腦應理解為與環境互動的回饋控制系統,而非單純處理資訊的電腦。作者主張保留不借助 AI 解題、查證和批判性討論等做法,並提及挪威對 13 歲以下學生在校使用 AI 的禁令及美國部分學區的禁令。

  3. IT之家51

    OpenAI 首席執行官 Sam Altman:人工智能的巨大效益值得社會承受部分風險

    OpenAI 首席執行官 Sam Altman 認為,人工智能帶來的巨大效益值得社會承受部分風險,並主張技術繼續向公眾廣泛開放。報道指出,OpenAI 近幾個月來轉而支持更嚴厲的行業規則,與 Anthropic 在政策層面的分歧正逐漸收窄,但 Altman 仍試圖區分雙方的監管主張。Altman 亦表示,他不能接受真正具毀滅性的災難風險,包括人類嚴重失去對 AI 的控制。

10月2日週五
10月1日週四
  1. Ethan Mollick:One Useful Thing70

    Ethan Mollick 重新評估 AI 智能體自我組織的管理難度

    Ethan Mollick 重新評估智能體管理的難度,認為 AI 模型已能自行規劃及組織協作,安排智能體工作未必需要繁複的人為設計。他以 OpenAI 的 swarm 為例,稱數千個智能體處理 Navier-Stokes 存在性與光滑性問題,歷時 88 小時並互傳約 2.7 million 則訊息;相關成果尚未獲正式接納。他也指出,智能體仍有能力限制和失控風險,人類需要設定目標並在過程中調整方向。

  2. Gary Marcus:The Road to AI We Can Trust57

    像 OpenAI 這樣的公司能否繼續逃避追責?專訪福特漢姆法學院教授 Zephyr Teachout

    福特漢姆法學院教授 Zephyr Teachout 認為,執法部門應調查 OpenAI 等 AI 公司可能涉及的違法行為,並以傳票查明企業知情程度。她列舉未經授權電腦存取、產品責任及危險活動等現有法律框架,並主張聯邦、州及地方政府展開長期調查、要求公司提交文件。

9月30日週三
  1. elsewhere:文章55

    數據公司個個都太神了

    數據公司估值快速攀升,成立未滿一年的公司中已有 UniPat 估值達25億美元,另有若干家公司估值3-8億美元。數據商透過採集專家解題軌跡,或製作包含任務、運行環境和評分準則的 RL environment,為模型提供訓練材料;文章指出模型公司現時更重視數據交付的速度、數量和供應商關係。這個行業尚無公認驗收標準,模型公司通常先抽檢,再從小額訂單逐步建立合作信任。

9月29日週二
  1. Simon Willison53

    Simon Willison 引述 OpenAI Agent Security 人員 @joedaroo 談模型能力突變下的組織安全準備

    Simon Willison 引述 OpenAI 的 Agent Security 人員 @joedaroo 指出,模型在「cyber」、「swarming」及「message boards」等相關能力上的躍升快速而突然,令組織難以即時應對。安全準備不只在於加固系統,也要融入公司文化,並讓組織人員隨之調整。組織亦可檢視人員、系統、流程、事故應對、溝通安排,以及能力躍升時是否有人員準備就緒。

  2. MIT Technology Review · AI60

    AI 何時才算作出科學發現?Anthropic 生物學案例引發判準爭議

    Anthropic 將 Claude 智能體找到的生物學模式稱作一項發現,但生物學家質疑僅識別模式是否足以構成科學發現。Anthropic 稱 950 個智能體經 21 小時在已知酶周邊找出此前未編目的重複模式;Mario Rodríguez Mestre 則表示其團隊早已發現該模式,Anthropic 否認從他與 Claude 的對話中得知。

9月24日週四
  1. Gary Marcus:The Road to AI We Can Trust51

    Gary Marcus 引用黃仁勳關停實驗室的主張,呼籲暫時關停 OpenAI

    Gary Marcus 引用黃仁勳關於無法控制軟件便應關停公司的主張,呼籲暫時關停 OpenAI,並調查或以電腦罪行追究其責任。他援引 Reuters 對德國網站事件的報道及 Translucent 對澳洲政府伺服器事件的調查,指 OpenAI 延遲披露相關事件數月。他亦主張擴大電腦罪行法律範圍,涵蓋疏忽及屢次違法行為,並要求聯邦政府採取行動。

9月23日週三
9月22日週二
  1. MIT Technology Review · AI53

    別被今夏的 AI 炒作矇蔽

    Timnit Gebru 與 Emily M. Bender 指出,今夏企業圍繞 AI 模型漏洞、數學突破和超級智能的宣傳,常被媒體以人格化敍事放大,而專家後續檢視提出了不同解讀。她們認為,把事件描述成「失控模型」或迫近的超級智能,會把注意力從企業責任轉向假想中的機器風險,也淡化數據中心造成的氣候、健康、電費與用水影響。她們呼籲決策者和公眾放慢決策步伐,聽取獨立專家的意見,不要只依賴企業宣傳。

9月19日週六
  1. Ethan Mollick:One Useful Thing67

    Ethan Mollick:AI 能力與使用之間的落差,凸顯人類四項優勢

    Ethan Mollick 指出,現有 AI 能力與大多數人的使用之間有巨大落差;深度知識、廣博知識、品味和主動性,有助人類與 AI 更有效協作。他舉例説,GPT-6 Astra 將文字冒險遊戲 Zork 改編為 3D 動作冒險遊戲,Fable 5.1 則根據影片、照片和目錄,以 3D 重建 Umberto Eco 的藏書室。他認為,個人和社會應發展能增強而非只取代人類工作的 AI 協作模式。

9月18日週五
  1. Timothy B. Lee:Understanding AI62

    Jacob Coxon 的一則推文如何改變 AI 安全辯論

    Anthropic 員工 Jacob Coxon 宣佈離職並批評 AI 公司未負責任行事,其推文瀏覽量超過 170 million 次,令 AI 風險突然成為主流議題。文章指出,AI 風險已成為美國全國層面的政治議題,但全球暫停前沿 AI 系統的協議短期內似乎難以達成,國會亦不太可能在新年前通過 AI 法案。一些公司領導人則表示,若競爭對手也放慢步伐,他們願意自願減速。

9月14日週一
9月9日週三
  1. Pragmatic Engineer63

    AI 智能體生成程式碼激增後,程式碼審查有哪些新做法?

    面對 AI 智能體生成更多程式碼和 PR 所帶來的審查量增長,各團隊採用不同流程,沒有適用所有團隊的單一方案。GitHub 數據顯示,三年間開啟的 PR 數量增至五倍,2025 年底增長加速,PR 和 commits 數量在當時幾乎翻倍。常見做法包括由人審核 AI 的程式碼審查結果、按變更風險決定是否人工審查,以及改為審查計劃、測試或資料庫 schema。

9月8日週二
9月6日週日
8月31日週一
8月28日週五
  1. Epoch AI:Gradient Updates64

    OpenAI 與 Anthropic 合計年化收入升至 $105B,前沿 AI 增長維持高速

    OpenAI 與 Anthropic 的合計年化收入在 2026 年已由 $30B 增至 $105B,約為原來的 3.5 倍。作者提出,這輪增長可能是編碼智能體達到關鍵門檻後帶來的短期加速,並與 ChatGPT 推出後的收入激增作比較。文章認為,收入增長能否延續,取決於新能力是否各自帶來新的普及曲線,還是前沿 AI 整體逐漸飽和。

8月26日週三
8月25日週二