英國 AI Security Institute 梳理能力日益增強的開放權重 AI 系統風險管理方法
英國 AI Security Institute 概述開放權重通用 AI 系統的風險管理策略，涵蓋模型內防護、外部防護及程序措施。該機構指出，訓練資料篩選有助降低模型發佈風險，而具備完整模型存取權的審核可更準確評估風險，支援發佈決策。與 EleutherAI 及牛津大學合作的研究發現，從 LLM 訓練資料移除有害資料，抵禦對抗性微調的效果是訓練後加入防護的逾 10x，且未帶來顯著性能代價。
全部AI 動態
全部動態
今日 22 條英國 AI Security Institute：BlogAI 評分5858 Cerebras：BlogAI 評分6464 為何 AI 競賽轉向推理速度
Cerebras 指出，AI 競賽的焦點正由模型智能轉向推理速度，因生成 token 的速度影響模型迭代與軟件開發。
Cerebras：BlogAI 評分2929 更快推理如何為網絡安全公司帶來優勢
更快的模型推理讓網絡安全公司能在既有工作流程內處理更多上下文、推理及驗證，並維持流暢的用戶體驗。實務上可採分層架構，由規則、傳統模型及小型語言模型先行篩選、分類和分流，再把可疑事件、高風險發現等交由較強的推理模型深入分析，兼顧日常流程速度與重要個案的分析深度。
Cohere 產品與研究博客AI 評分5454 Cohere 聯合創辦人兼 CEO Aidan Gomez 追問 AI 規則應由誰制定
Cohere 聯合創辦人兼 CEO Aidan Gomez 主張，AI 安全規則不應由少數大型公司透過反壟斷豁免制定，再要求其他開發者遵守。他支持對高能力 AI 系統進行獨立審查，但提出由公開、循證和多方參與的程序制定風險框架，配合強制透明度、按證據界定測試範圍及獨立保障。
Suno：BlogAI 評分3737 Eric Christian 談在旋律中聽見管絃樂
鋼琴家兼作曲家 Eric Christian 會把新旋律放進 Suno 作最後檢查，聆聽它在管絃樂構想中的效果。他表示，Suno 幾秒內便能讓他聽到心中預想的音樂，而以往製作管絃樂 mockup 需時數小時。
Suno：BlogAI 評分3232 Dream Relic 如何為影像世界配上聲音，讓旋律縈繞腦海
AI 視覺藝術家 Dream Relic 使用 Suno 將存放多年的歌詞轉化為歌曲，為其超現實、電影感的視覺世界加入音樂。透過 Suno 的「Create」功能，他試驗提示詞、作出選擇並修訂，讓歌曲貼合構想中的情緒。一段配上自製歌曲的影片引來數百則詢問歌曲名稱的留言，令他更認真看待音樂創作。
Replit：BlogAI 評分6565 Replit 分享 AI Agent 如何改變公司運作，提出「自我運作公司」概念
Replit 表示，已將 Agent 系統融入公司多個部門的工作流程，逐步形成由人設定目標、Agent 執行任務並檢查結果的「自我運作公司」模式。從 1 月初至 6 月底，程式碼貢獻量增加 5.8 倍；固定作者羣的程式碼產出達之前的 2.9 倍，而審查延遲、PR 回退率及事故數維持平穩。
Replit：BlogAI 評分5151 Replit 指 AI 採用始於可信數據，語義層是基礎
Replit 指出，企業要可靠採用 AI Agent，須先建立共享語義層及受治理的營運真相層，讓 Agent 依據一致的商業定義、指標和數據來源工作。其內部數據 Agent 將修正存入 git 儲存庫，經人工審核和驗證後供接觸數據的 Agent 共用；Replit 稱，該 Agent 每週回答遠超 1,000 個以數據倉庫為基礎的提問，並在答案中附上證據。
Cohere 產品與研究博客AI 評分3838 AI 變革管理：以人為本的方法
AI 變革管理應把 AI 視為需要融入人類工作流程的協作參與者，而非僅是待部署的軟件工具。這項工作涵蓋企業由準備至日常使用的組織調整，包括角色職責、員工工作方式、流程及監督；人與 AI 的分工須區分可驗證、判斷型及混合型任務，並持續重新評估。
Fireworks AIAI 評分5656 Fireworks AI：AI 能力前沿不在單一模型，而在路由器
Fireworks AI 以 DeepSWE v1.1 的 113 項工程任務測試模型路由，逐項選出 18 個模型中的最佳者後，oracle 結果達 97.6% 通過率、每項成本 $1.88。
Black Forest Labs：BlogAI 評分4343 Black Forest Labs 聯合創辦人兼 CEO Robin Rombach 籲 G7 領袖支持開放創新
Black Forest Labs 聯合創辦人兼 CEO Robin Rombach 在 G7 呼籲各國政府與業界，將開放且負責任的 AI 開發定為常態。Black Forest Labs 最新開放模型顯示，性深偽及兒童性虐待材料相關漏洞數量，較其他大型科技公司發布的開放模型少逾 10 倍。
METR：BlogAI 評分5858 METR 外部審查 Anthropic《2026 年 2 月風險報告》的「自動化研發風險」章節
METR 外部審查 Anthropic《2026 年 2 月風險報告》的「自動化研發風險」章節，認為報告本身的證據不足以支持結論，但根據 Opus 4.6 發佈後的新增證據，同意 Opus 4.6 或能力較弱的 Anthropic 模型自動化任何領域研發所造成的災難風險很低。
Hacker News 熱門（buzzing.cc 中文翻譯）AI 評分4747 數學的未來
Jeremy Avigad 指出，AI 已能協助產生過去足以發表的數學成果，數學界面對的核心問題已轉為如何在 AI 時代追求數學理解。他認為，數學作為嚴謹推理與溝通的文化仍然重要，研究者可轉向更難的問題，並思考更宏大的問題。
SemiAnalysis 長文 RSSAI 評分7474 Anthropic 訂閲方案提供的 API 等值價值超過 OpenAI 的 5 倍
SemiAnalysis 的比較顯示，Anthropic 中階模型訂閲方案的 API 等值價值約為 OpenAI 同級方案的 5 倍。團隊逐項測量不同 token 類型的消耗及使用計量表變化，換算 API 等值價值，並推出僅供 Tokenomics Model 訂閲者使用的 Subscriptions Dashboard。
Hacker News：AI 熱帖AI 評分3535 向相信 AI 具有意識的人提問
討論追問相信 AI 可能具有意識的人，應如何界定意識，以及憑甚麼判斷現有或未來的 AI 是否有意識。參與者指出，人類與 AI 的意識或有相似之處，也可能存在根本差異，而目前沒有能讓各方確定判斷的意識理論。討論亦聚焦於 AI 的道德地位、潛在奴役風險，以及人們重視生命與意識的理由。
The Verge · AIAI 評分3636 AI 接管數學引發的種種風波
OpenAI、Anthropic 等 AI 實驗室過去一年宣佈多項長期未解數學難題取得突破，部分成果遠超研究人員對現有系統能力的預期，並包括解決一項著名的千禧年大獎難題。這些成果本應獲得喝采，卻反而引發反彈；AI 實驗室表示正從以往錯誤中汲取教訓，成效仍有待觀察。
Hacker News：AI 熱帖AI 評分4545 選民向 ChatGPT 求助，決定中期選舉如何投票
選民正向 ChatGPT 求助，判斷中期選舉應支持哪位候選人，並比較候選人立場與自身關注議題。支持者認為，LLM 可整理候選人的公開表態及過往紀錄，協助選民作出更知情的選擇。討論亦提出資料來源偏頗、策略性遺漏，以及公司利益可能影響模型對政治議題回答等風險。
The DecoderAI 評分6464 Quinnipiac 大學民調：多數美國人希望放慢或暫停 AI 發展
Quinnipiac 大學民調顯示，47% 美國受訪成年人希望放慢 AI 發展，30% 希望全面暫停 AI 發展，直至安全獲確認，只有 5% 希望加快。即使安全標準可能拖慢進展，仍有 86% 支持目前正在討論的 AI 公司獨立安全標準；73% 擔心 AI 最終可能威脅人類生存，74% 對 AI 公司領袖不太信任或完全不信任。
The Verge · AIAI 評分5454 Sam Altman稱AI的巨大好處值得社會承受部分負面影響
OpenAI 行政總裁 Sam Altman 在 Politico 新節目《Decoded》的訪問中表示，AI 帶來的好處極大，社會應預期並接受部分負面事件，例如黑客攻擊和詐騙。
Timothy B. Lee：Understanding AIAI 評分6767 AI 智能體羣組為何可能成為下一條「擴展定律」
AI 公司正探索以多智能體協作擴展模型表現，但現有研究對它能否帶來新能力，還是主要加快任務完成，仍有不同結論。
Epoch AI：研究、數據與評測AI 評分6666 OpenAI 研究員使用編碼智能體的用量約每月翻倍
Epoch AI 分析指出，OpenAI 研究員的編碼智能體用量在 2026 年 1 月至 8 月中旬快速增長，指數擬合顯示兩組用量約每月翻倍。
MIT Technology Review · AIAI 評分3232 EmTech Future 2026：當 AI 遇上萬物
EmTech Future 2026 的完整節目現已可按需觀看，聚焦 AI 對各行業的影響、量子、能源系統、機械人，以及技術交匯帶來的挑戰與機遇。Yossi Matias 探討 AI 如何重塑生物學、基建、製造業和科學。MIT Technology Review 訂戶可享 20% 折扣，以 $596 觀看完整節目。
TechCrunch · AIAI 評分4141 研究人員追蹤中國 AI「智能體羣」活動
獨立研究人員公佈初步發現，追蹤到一批疑似運行於騰訊基礎設施、並查詢阿里巴巴 Amap 的中國 AI 智能體。研究人員稱其為「智能體羣」而非「蜂羣」，因不同查詢之間似乎缺乏協調。記錄顯示它們查詢前往公園、動物園及醫院等公共場所不同入口的路線，調查仍在進行。
The Verge · AIAI 評分5454 美國參議員 Adam Schiff 談 AI 監管、言論自由及再次彈劾特朗普
美國參議員 Adam Schiff 在訪談中討論 AI 監管、言論自由及特朗普再次遭彈劾的可能性。他認為白宮與 AI 公司簽署的自願承諾缺乏實質約束，並主張設立具專業知識和實權的 AI 監管機構。訪談亦涉及訓練資料版權、AI 公司的法律責任與私隱風險；Schiff 表示，若民主黨重掌國會，將加強監督並推動相關立法。
a16z：NewsAI 評分6868 a16z 第七版《Top 100 Consumer AI Apps》新增美國消費者支出排名
a16z 第七版《Top 100 Consumer AI Apps》按網頁訪問量及手機月活躍用戶排名，並首次加入美國消費者支出排名。YipitData 美國電子收據樣本顯示，2026 年 8 月有 4.5% 合資格消費者持有 ChatGPT、Gemini 或 Claude 至少一項個人付費訂閲；前 1% 付費者佔觀察到的消費級 AI 支出 19.5%。
Azeem Azhar：Exponential ViewAI 評分5555 週一數據：更多 AI 能否帶來更多司法公正？
AI 或能助沒有律師的人士主張權益；澳洲學者 Greg Baker 藉助 AI 挑戰僱主拒絕轉正，獲 Fair Work Commission 裁定勝訴。英格蘭及威爾斯今年受抗辯的郡法院申索案中，60% 被告沒有律師代理；美國被追討債務的消費者中，超過九成面對訴訟時沒有律師代理。
ChinaTalkAI 評分6161 中國 AI 安全生態的資金困局
中國 AI 安全生態面臨獨立資金不足，慈善制度及境外非政府組織規則使獨立機構難以取得資助。中國機構發表的前沿 AI 安全論文由 2023 年每月約 12 篇增至 2026 年 4 月的 57 篇，研究主要來自大學及政府支持的實驗室；部分公司則把安全服務與網絡安全及合規產品結合。文章提出在中國境外提供算力、交流計劃、投資安全企業及建立本土資金池等支援方向。
The Verge · AIAI 評分5656 人類心智尚未準備好應對 AI
Benjamin Riley 認為，若 AI 成為日常學習的一部分，便會像認知層面的熱狗，妨礙人類建立知識和發展思考能力。他援引神經科學家 Paul Cisek 的觀點，主張大腦應理解為與環境互動的回饋控制系統，而非單純處理資訊的電腦。作者主張保留不借助 AI 解題、查證和批判性討論等做法，並提及挪威對 13 歲以下學生在校使用 AI 的禁令及美國部分學區的禁令。
MIT Technology Review · AIAI 評分5757 人們明明不喜歡 AI，為何仍不斷使用？
人們對 AI 的反感更多指向不斷推動技術的公司，而非技術本身，因此與 AI 使用量持續上升並不矛盾。Pew 數據顯示，美國半數成年人表示使用聊天機械人，超過 2023 年的兩倍；四分之一表示每日使用。美國 50 個州均已通過或提出 AI 規管法案，相關法案超過 2,100 項，三年間增加十倍；作者認為，監管及開源替代方案仍可帶來更多選擇和市場影響力。
Gary Marcus：The Road to AI We Can TrustAI 評分4747 紐約市即將舉行 AI 風險聽證會
Gary Marcus 將出席紐約市議會的 AI 政策聽證會，呼籲建立類似 FDA 的監管制度，要求 AI 開發者接受獨立審查，並證明新產品效益大於風險。他支持第三方驗證法案，並呼籲保障舉報者，認為紐約市可藉此保護市民免受部分 AI 傷害，並有機會成為全球領導者。
IT之家AI 評分5353 孫正義罕有發出 AI 安全警告，呼籲各國合作應對威脅
軟銀集團創辦人孫正義警告，AI 能力指數級增長帶來安全風險，呼籲各國建立互信並聯手應對。他指出，超級智能若落入不法分子手中，後果將極其危險；他又預計，此類程序自明年起進入「第三階段」，讓機械人及其他智能硬件與物理世界深度互動。孫正義預測，到 2040 年，AI 及具備自主學習能力的機器將佔全球 GDP 至少 20%，相當於 46 萬億美元。
IT之家AI 評分5151 OpenAI 首席執行官 Sam Altman：人工智能的巨大效益值得社會承受部分風險
OpenAI 首席執行官 Sam Altman 認為，人工智能帶來的巨大效益值得社會承受部分風險，並主張技術繼續向公眾廣泛開放。報道指出，OpenAI 近幾個月來轉而支持更嚴厲的行業規則，與 Anthropic 在政策層面的分歧正逐漸收窄，但 Altman 仍試圖區分雙方的監管主張。Altman 亦表示，他不能接受真正具毀滅性的災難風險，包括人類嚴重失去對 AI 的控制。
Tomer Tunguz 博客（VC 分析）AI 評分6363 AI 推理市場將成為軟件領域最重要的市場
Tomer Tunguz 認為，AI 推理市場將超越數據庫市場，成為軟件領域最重要的市場。企業運行 AI 模型的支出由 2025 年約 $25b 增至今年約 $130b，預計 2027 年達 ~$350b，超過數據庫市場的 $190b。推理支出將超過按席位收費或基本訂閲費，令毛利率承壓；較小模型、更佳 harness 和新路由技術可供應用商尋找效率。
Hacker News：AI 熱帖AI 評分6161 Jagex 重申不以生成式 AI 製作 RuneScape 遊戲、美術及創意素材，並撤下 Dragon Slayer II 預告片
Jagex 因 Dragon Slayer II 預告片引發生成式 AI 疑慮而將影片下架調查，並重申不以生成式 AI 製作遊戲、美術或創意素材。外部合作方曾明確承諾不使用 GenAI，但預告片出現六指畫面；Jagex 稱會在 RuneFest 後立即改革審核流程，並與社羣創作者合作呈現 Dragon Slayer II 的故事。
The Verge · AIAI 評分5858 新澤西州前副州長 Dale Caldwell 稱多個 AI 平台未認定他涉及性騷擾
新澤西州前副州長 Dale Caldwell 稱，他把調查報告交由多個 AI 平台分析，沒有平台得出性騷擾成立的結論。他於 9 月 25 日在調查認定他性騷擾一名職員並多次違反操守規則後辭職。報道指出，AI 聊天機械人常有迎合用戶的傾向，往往會説出用戶想聽的話。
Hacker News：AI 熱帖AI 評分1616 AI 時代純數學研究的未來是甚麼？
文中提出，AI 或可完成證明、計算等數學工作，而研究理由與問題選擇也只能由 AI 完成，數學家則做數學。作者自稱並非數學家，並認為這個論點薄弱而有些怪異。
Hacker News：AI 熱帖AI 評分1212 三個 AI 智能體、兩個國家與不均衡的全球資訊網
文章以三個 AI 智能體、兩個國家與不均衡的全球資訊網為題。現有正文未提供具體智能體、國家或分析結論。
Azeem Azhar：Exponential ViewAI 評分3434 全球經濟電氣化轉型比大多數人想像中更深入 #604
全球經濟的電氣化轉型比最終能源數據所呈現的更深入：電力已支撐全球 GDP 的 46%，但只佔最終能源使用量的 23%。電力效率較高，每焦耳電力可完成約 2.5 倍於每焦耳石油的有用功；電動車效率為 85-90%，汽油車則約 25%。
Hacker News：AI 熱帖AI 評分1111 我們的 AI 助產士
Hacker News 貼文連結至題為《Our AI Midwife》的文章，但所提供內容沒有説明 AI 助產士的功能或細節。頁面另列出 YC Winter 2027 申請開放至 11 月 2 日。
Hacker News：AI 熱帖AI 評分3131 Pop!_OS 禁止 AI 生成程式碼進入其大部分程式碼庫
Pop!_OS 禁止在其大部分程式碼庫中使用 AI 生成的程式碼。評論推測，Pop!_OS 和 Cosmic 市場佔有率偏低，較少成為攻擊者及不良行為者的目標，因此項目可以只接納人手編寫的程式碼。