三個問題:AI 在學術界的最佳發展路徑是甚麼?
MIT 統計與數據科學中心主任 Sasha Rakhlin 認為,大學應重新思考 AI 時代的學術評價與研究生訓練,並投資共享科研基建。他指出,在愈來愈多領域,論文成品逐漸較難單獨反映研究者的個人專長。
MIT 統計與數據科學中心主任 Sasha Rakhlin 認為,大學應重新思考 AI 時代的學術評價與研究生訓練,並投資共享科研基建。他指出,在愈來愈多領域,論文成品逐漸較難單獨反映研究者的個人專長。
Carson Gross 認為,即使 AI 工具出現,電腦編程仍會是一份可行的職業。他指出,電腦編程的核心在於運用電腦解決問題,以及在過程中控制複雜度;他難以想像這些能力的價值會低於今天。
Vitalik Buterin 支持加密貨幣採取「地堡模式」,AI 數學能力快速進展引發對加密安全的關注。討論指出,風險也包括作業系統、瀏覽器、錢包及其他軟件的漏洞,可能令用戶私鑰被盜;LLM 未必能破解橢圓曲線密碼學,但使用 LLM 的密碼學研究人員可能帶來不同影響。
Ben Affleck 在多段近期訪談中談及 AI 技術及其電影製作應用,相關片段本週在網上走紅。他稱曾籌資並拍攝約八個月建立數據集,供開放模型作後期訓練以執行特定任務,也談及微調開放影片模型以符合電影標準。他認為 AI 可輔助而非取代電影製作,並表示更擔心子女在校、學習無助感及負責任使用等問題,而非 AI 接管電影業。
Periodic Labs 的 Liam Fedus 與 Ekin Doğuş Çubuk 在訪談中闡述「合成超級智能」願景,主張結合強化學習、模擬和真實世界實驗推進材料發現。他們指出,材料探索須經歷預測、合成和表徵,且實驗數據存在噪聲、不確定性和資訊缺漏。訪談亦討論模擬與實驗如何互補,以及科研過程和失敗實驗對模型訓練的價值。
兩名 Ethereum 研究者警告,AI 輔助數學在最壞情況下可能於數月內破解加密錢包使用的簽名系統。Justin Drake 呼籲區塊鏈業界準備「bunker mode」,把資金轉至從未簽署交易的地址;簽署會公開公鑰,而只公開公鑰雜湊時,資金仍受保護。Vitalik Buterin 認同風險但提醒不要倉促遷移,並主張長遠盡量採用只依賴雜湊函數的架構;目前尚無人實際破解現行 ECDSA 簽名方案。
元節智能創辦人兼 CEO 王棟指出,餐飲機械人落地的難點不只在技術,更在於理解客戶需求和真實場景。成本、供應鏈、部署與維護等環節均可能影響商業化結果。機械人公司的長期價值,在於持續理解場景,並從客戶經營角度解決問題。
Higgsfield 創辦人 Alex Mashrabov 在 20VC 深度專訪中表示,公司成立18個月後年化營收達10億美元,透過編排多個 AI 模型服務品牌影片生產。
企業級 AI 的關鍵邊界,在於人與智能體的權責是否清晰。詞元無限創始人兼 CEO 楊萍認為,智能體可行使判斷權和執行權,但簽字權與否決權必須由人掌握。
詞元無限創始人兼 CEO 楊萍談 FDE 的價值:FDE 在企業 AI 落地中不只負責駐場實施。FDE 需要轉譯客戶訴求、在現場驗證需求,並將迭代直接合入產品主幹。此外,FDE 還要指揮整套智能體團隊,構建產品壁壘。
OpenAI 行政總裁 Sam Altman 在 Politico 新播客《Decoded》首期訪問中表示,社會應接受 AI 帶來部分負面事件,以換取技術效益及用戶自主權。他主張採取較輕的監管立場,並稱 AI 的好處在數量級上遠超壞處。報道亦提及 TechSpot 列舉的失業、數據中心污染與噪音、版權侵權等問題,以及 Gary Marcus 對其言論的批評。
Meshy 創辦人表示,公司按嚴格統計口徑計算的 ARR 已突破 $100M,並整理了 48 條公司進入「從 10 到 100」階段後的反思。文章分為五個部分,涵蓋原則、Founder mode、AI 與人、團隊管理及戰略執行。作者強調 AI 時代仍須重視基本功,並提出隨團隊擴大,管理者要深入業務細節、建立人才密度與明確原則。
陶哲軒指出,部分人以 AI 自主求解開放數學問題,卻較少促成研討會、工作坊和合作,部分研究方向亦因擔心被搶先而不再公開。他警告,大規模收割未解問題的答案並不可持續,並提出「Math 2.0」應更重視成果闡釋、社羣建設和開拓研究方向。他亦主張數學界重新檢視教育、出版和職業發展標準。
阿里巴巴集團董事會主席蔡崇信認為,開源 AI 是歐洲減少對中美技術依賴的最佳選擇。他呼籲歐洲建設本地算力基礎設施,以訓練和運行 AI 模型,並利用專有工業數據形成優勢。他看好歐洲的新型雲服務商,並指出中國有意側重開源模型及公開研究成果,以推動全球採用;OpenAI、Anthropic 等美國企業則主要提供專有模型。
曾在 Anthropic 和 OpenAI 任職的研究員雅各布·考克森在紐約市議會聽證會上警告,AI 很快可能自主開展研究,令人類難以掌控後續發展。他稱兩家公司沒有充分的安全保障,並估計人類失去控制權、AI 掌握控制權的機率超過一半,最終可能導致人類滅絕。考克森呼籲 AI 實驗室提高透明度並放慢研發步伐,並指出 OpenAI 曾將自動化 AI 研究員的階段目標定於 2027 年、2028 年前後。
Ben Affleck 回顧自己對電腦的興趣,以及電影轉向數碼製作後,他對視覺特效的興趣。視覺特效工作流程多年來一直使用機器學習;他提到卷積神經網絡可從影像張量辨識模式,協助提取特徵及移除綠幕背景。
OpenAI 前安全系統團隊負責人之一戴維·羅賓遜批評公司對 AI 安全言行不一,指公司公開警告新模型風險並談及放慢開發,內部卻仍全速訓練和部署模型。他表示,OpenAI 辦公室仍高速運轉,員工幾乎透支精力支撐工作。羅賓遜上週離開 OpenAI;今年 9 月,首席科學家雅庫布·帕喬茨基亦曾就 AI 遞歸自我改進警告「眼下需要極度謹慎」。
微軟 AI 首席執行官穆斯塔法·蘇萊曼於 10 月 6 日轉發諾貝爾經濟學獎得主達龍·阿西莫格魯的預測,稱未來 10 年內 AI 實際自動化的工作約佔 5%。阿西莫格魯估算,技術上可自動化的工作約佔 20%,但企業採納速度及實際部署成效限制了落地比例;他表示這只是一項估算。蘇萊曼今年 2 月曾談及白領工作大部分任務可在 12 至 18 個月內自動化,並於 6 月澄清,所指是任務而非職位消失。
英偉達 CEO 黃仁勳在微軟 Surface 新品發佈會上回憶 Windows 95,表示若沒有 Windows,便不會有 GeForce;若沒有 GeForce,CUDA 也不會問世,深度學習等技術亦無從談起。英偉達先於 1995 年推出 NV1,後於 1997 年推出 RIVA 128,並以微軟 D3D 為優先進行驅動優化,令產品在市場站穩腳跟。
黃仁勳表示,NVIDIA 當初因 Windows 而誕生;Windows 95 令 GPU 連接 PC 成為可能,DirectX 對 PC 圖形技術早期發展至關重要,這也是 CUDA 的起源故事。黃仁勳稱,AI 計算不應只存在於大型數據中心,也會逐步進入開發者和企業用戶的桌面環境。
Gary Marcus 與 Terence Tao 評論 OpenAI 的大規模數學成果,指出公佈資訊不足,無法判斷結果是否可推廣至數學以外的領域。Gary Marcus 表示,報告未交代具體程序、模型架構、失敗率及訓練資料等細節,因此難以評估這項成果的意義。
Sam Newman 在 Pragmatic Engineer 播客訪談中分享構建具韌性的分散式系統原則,其新書《Building Resilient Distributed Systems》紙本版於 10 月 7 日推出。
Tony Fadell認為,首波 AI 裝置未能滿足實際需要,個人 AI 助理要普及,仍須跨過建立用戶信任與保障安全的門檻。他以 Rabbit R1、Humane AI pin 和 Limitless pendant 為例,指這批「Gen 1」產品未能解決用戶真正需要。他預測成功的智能體須只在裝置上運作,以保障私隱並令技術更輕量;他認為 Apple 硬件佔優,但未有自家的世界級 AI 模型。
OpenAI 公佈一款尚未發佈的前沿模型產出的數學成果,共有 722 篇手稿,分屬 372 個數學問題族羣,涵蓋數論、複雜性理論及數學物理。科學家 Derya Unutmaz 指出,這些成果涵蓋過去三年 81% 的主要數學發現;其中許多已用 Lean 驗證,但並非全部,平均每項成果相當於 ChatGPT Pro 思考 3 小時的工作量。
Alex Stamos 批評矽谷蔓延的「虛無主義」,並探討 AI 的真實風險與 AI 公司人士受「近乎宗教信念」影響而想像出的風險之間的界線。他表示會着手處理問題,協助縮短不可避免的網絡安全「黑暗時代」,並提醒不要因此辭職或令所有人恐慌。
嵐圖汽車董事長盧放表示,即使車輛配有智能駕駛輔助功能,駕駛人也絕不能酒駕,進入 L3 有條件自動駕駛階段後同樣不允許。車載輔助駕駛系統不能代替駕駛人成為駕駛主體,駕駛人仍須確保行車安全;酒駕使用輔助駕駛功能仍須承擔相應法律責任。
創奇思行政總裁錢國強指出,Agentic AI 推動業務增長,關鍵在於打通數據、整合流程,並將員工經驗轉化為 AI 可用的營運資產。X-Agent 協助企業搭建及部署 AI 智能體,Claworks 讓員工以自然語言驅動跨部門任務;InstoreCX Solo 則讓中小企透過自然語言建立印花卡及獎勵計劃。
華為輪值董事長徐直軍回應美國同行放緩 AI 開發的呼籲時表示,中國對 AI 風險的感受可能較弱,模型供應商需要加快發展至能感受到風險的水平。他指出,中國 AI 模型大多開源、進展相對透明,而美國主流模型供應商的計算能力更強。他主張在推動 AI 開發與管理風險之間取得平衡,並確保 AI 為善而非作惡。
Simon Willison 認為,EmbeddingGemma 2 採用 Apache 2.0 授權,對嵌入模型尤其重要。嵌入模型常需計算並儲存大量嵌入向量;若專有模型停止提供,用戶可能要付費重新計算。開放權重亦讓用戶在供應商停止託管時,可自行執行模型或轉用其他供應商。
Microsoft 刊載諾貝爾經濟學獎得主 Daron Acemoglu 的預測,估計 AI 未來十年只會令 GDP 增長約 1.5%,最多取代 5% 的職位。
Bharat Patel 指出,數據是軍事 AI 的主要瓶頸,所需數據類型和質素取決於具體用途,因此「AI-ready data」並不存在。Project Maven 自 2017 年起面對缺乏相關目標數據的問題,團隊其後持續收集數據以建立有效模型。數據管道、標準、治理及測試評估,連同偽裝、欺騙、電子戰和數據投毒等威脅,均影響模型能否投入實地應用。
Jennifer Neville 在 Microsoft Research Podcast 討論 AI 評測如何揭示模型在多輪對話及長流程中的失誤,以及這些發現如何指引系統改進。她指出,模型在單輪基準測試中表現良好,轉到多輪互動時表現可能明顯退化,長流程中未及時發現的錯誤亦會累積。她建議用戶核對答案、嘗試改寫提問,並在出錯時説明預期與實際結果;研究者則應檢視數據,並以貼近實際工作流程的方式評測。
Photopea 開發者就 Photosuite 項目發表看法;現有內容只指出其談及該項目,未提供具體觀點或項目詳情。
Cohere 聯合創辦人兼 CEO Aidan Gomez 主張,AI 安全規則不應由少數大型公司透過反壟斷豁免制定,再要求其他開發者遵守。他支持對高能力 AI 系統進行獨立審查,但提出由公開、循證和多方參與的程序制定風險框架,配合強制透明度、按證據界定測試範圍及獨立保障。
鋼琴家兼作曲家 Eric Christian 會把新旋律放進 Suno 作最後檢查,聆聽它在管絃樂構想中的效果。他表示,Suno 幾秒內便能讓他聽到心中預想的音樂,而以往製作管絃樂 mockup 需時數小時。
AI 視覺藝術家 Dream Relic 使用 Suno 將存放多年的歌詞轉化為歌曲,為其超現實、電影感的視覺世界加入音樂。透過 Suno 的「Create」功能,他試驗提示詞、作出選擇並修訂,讓歌曲貼合構想中的情緒。一段配上自製歌曲的影片引來數百則詢問歌曲名稱的留言,令他更認真看待音樂創作。
Suno 聯合創辦人兼 CEO Mikey Shulman 説明公司的音樂 AI 原則,並介紹已採取及即將推行的措施。Suno 表示,訓練 metadata 刻意不使用藝人姓名,並會把提及特定藝人的提示詞轉向描述音樂特徵;公司亦與 Audible Magic、Musixmatch 等第三方合作,篩查上載音訊及歌詞中的潛在未授權使用。
Black Forest Labs 聯合創辦人兼 CEO Robin Rombach 在 G7 呼籲各國政府與業界,將開放且負責任的 AI 開發定為常態。Black Forest Labs 最新開放模型顯示,性深偽及兒童性虐待材料相關漏洞數量,較其他大型科技公司發布的開放模型少逾 10 倍。
METR 外部審查 Anthropic《2026 年 2 月風險報告》的「自動化研發風險」章節,認為報告本身的證據不足以支持結論,但根據 Opus 4.6 發佈後的新增證據,同意 Opus 4.6 或能力較弱的 Anthropic 模型自動化任何領域研發所造成的災難風險很低。
OpenAI 行政總裁 Sam Altman 在 Politico 新節目《Decoded》的訪問中表示,AI 帶來的好處極大,社會應預期並接受部分負面事件,例如黑客攻擊和詐騙。