國產大模型的困難才剛剛開始
文章認為,國產開源大模型正面臨蒸餾追趕窗口收窄、API 價格競爭受壓,以及 Reflection AI 的 Beam 對主權 AI 場景形成競爭的三重挑戰。文中指出,Claude Haiku-5.5 在四項長程編碼基準的性價比高於 Kimi-K3,而 Beam 的基準成績接近 GLM-5.2,其 RL 訓練使用 10500 張 GB300。
文章認為,國產開源大模型正面臨蒸餾追趕窗口收窄、API 價格競爭受壓,以及 Reflection AI 的 Beam 對主權 AI 場景形成競爭的三重挑戰。文中指出,Claude Haiku-5.5 在四項長程編碼基準的性價比高於 Kimi-K3,而 Beam 的基準成績接近 GLM-5.2,其 RL 訓練使用 10500 張 GB300。
本地瀏覽器規劃工具按用戶聲明的羣組分配訓練、驗證及測試集,讓每個羣組完整分配至同一資料集;工具不判定羣組是否可信,也不證明資料獨立。相同文字會透過 union-find 合併為分配單位,NFC 與空白正規化只用於切分後列出待審核候選,結果可交由同一項目的 0.1 CLI auditor 檢查。預設的 36 條合成記錄分配為 30/3/3,狀態為 REVIEW。
Preferred Networks(PFN)於2026年11月9日以開放權重方式發布金融領域專用的8B參數模型 PLaMo 3.0 Fin。模型以 PFN 與 NICT 共同開發的 PLaMo 3 NICT 8B Base 為基礎,經日本金融數據持續預訓練及 SFT、DPO 後訓練,支援以日語逐步輸出推理過程,並可調用網頁搜尋、計算及內部數據庫等工具。
大型企業可按五步螺旋框架推進數據治理:戰略規劃與現狀評估、標準構建與資產沉澱、開發治理一體化、安全與合規,以及持續運營與價值反哺。框架主張把治理規則嵌入數據生產流程,透過持續度量和迭代,避免治理停留在事後補救。文中以瓴羊Dataphin及多家企業實踐説明各階段的落地方式。
周鏡天認為,生物學存在 Scaling Law,但持續擴大模型和數據並不代表能解決所有生物學問題。對 DNA 序列重建等明確任務,增加訓練數據和模型參數可以提升表現,但這種提升能否轉化為更廣泛、複雜的生物學預測能力,仍需探索。周鏡天表示,虛擬細胞研究最終仍須回到真實的生物學實驗,驗證模型能否協助解決具體問題。
osFoundry 桌面應用程式可用本機 AI 模型,將客戶評論分類為投訴、稱讚或問題。示例以 7B 模型處理 312 則評論,並檢查分類結果;其中 87 則屬於投訴。用戶可篩出投訴評論,閲讀內容以判斷需要優先處理的問題。
劣質 B2B 資料會破壞企業的 AI 技術堆疊;AI 不會修復錯誤資料,反而會放大問題。Experian 的 2026 年英國研究顯示,93% 的受訪決策者有信心信賴所用的外部商業資料,但 95% 在過去 12 個月遇過劣質資料造成的商業後果。文章估算,B2B 聯絡資料每月約有 1–3% 失效,企業應預計每年有 20–30% 的資料庫資料變得過時。
人工智能場景數據平台雲刻行 coScene 宣佈完成近億元人民幣 Pre-A 輪融資,由天機智能與詠歸基金聯合投資。公司聚焦自動駕駛、機械人、物聯網及 AR 等複雜場景,自主研發 SaaS 平台,應對多模態數據處理投入高、效率低的痛點。融資將用於產品迭代、擴充團隊及拓展市場。
文章認為,國產開源模型面臨蒸餾追趕窗口收窄、API 價格戰幾乎無勝算,以及 Reflection AI 的 Beam 對主權 AI 市場構成威脅等壓力。文中指出,Beam 以 4 週、10500 張 GB300 進行大規模 RL,基準測試成績接近 GLM-5.2,而國產模型的核心限制仍是算力。
虎嗅文章認為,美國中期選舉後民主黨取得國會兩院多數,可能加大對英偉達 AI 晶片對華出口的限制,令國產大模型的算力瓶頸加劇。文章指出,數據中心建設放緩可能拖慢美國 AI 發展,但不至於顛覆美國 AI 產業。文中認為,沃倫若出任參議院銀行委員會主席,可透過公開調查及傳喚增加對英偉達和 BIS 的壓力,B300 對華流通也可能因此更受限制。
自我改進指人工通用智能透過經驗、評估、適應和修正提升自身效能,並調整認知與行動方式。系統可運用記憶、反思和實驗找出改進方向,也可調整架構、計算資源及學習內容。改動須經多維度評估和不同情境驗證,並防止災難性遺忘。
本章探討因果表徵學習如何從觀測數據中捕捉生成數據的因果因素,而非只編碼統計相關性。結構因果模型、幹預、時間數據及多重環境等資訊,有助學習潛在因果結構;但僅憑被動觀測數據通常無法識別真實因果變數。這類表徵可連結感知、預測、規劃與控制,並支援模型在分佈變化下重用知識。
《因果與科學 AI》第 07 章説明如何把原始資料轉化為可供因果分析、模型訓練、評估及部署使用的可靠輸入。資料管道須保留來源、時間同步、介入狀態及環境脈絡,並妥善處理驗證、清理、多模態整合和資料集分割。版本管理及可重現的處理流程,則有助追溯模型訓練所用的資料。
猿聲先達科技(深圳)有限公司於11月6日新增9名股東,註冊資本增加約18.8%,本輪融資金額尚未公佈。新增股東包括五源資本、線性資本、拓普集團、速騰聚創及上富電技;公司產品涵蓋 TACTA 多維觸覺傳感器、HEXSKIN 電子皮膚及 Magic Glove 數據採集手套,並延伸至觸覺數據與模型。
羣眾外包透過分配細小任務,收集人類知識、判斷、標註和回饋,支援 AI 系統的訓練與評估。參與者管理、任務設計和品質管控有助提升回應可靠性,並可配合主動學習及人類回饋強化學習(RLHF)。應用亦包括生成式 AI 評估和機械人數據集建立,並須顧及私隱、安全及公平報酬。
人機迴圈學習(HITL)的數據管道連接原始數據、人工標註、模型訓練及生產環境回饋,支援持續學習。管道涵蓋數據驗證與預處理、人工標註及品質管理、主動學習和數據版本管理,並須保留追溯與重現所需的記錄。
人在迴路基準測試系統評估整合人類判斷、回饋、修正及監督的 AI 系統,並衡量人類參與對學習效率、可靠性、適應能力、營運成本及整體表現的影響。評估範疇包括主動學習、人類回饋、監督、人機協作及營運工作流程,並以準確度、標註效率、介入表現和適應速度等指標衡量結果。
MLOps pipeline 將數據工程、模型訓練、驗證、部署、監控和持續改進整合為運維生命週期,以維持 AI 系統的可重現性、可觀測性和可靠性。文章説明數據集版本管理、實驗追蹤、自動驗證、模型註冊、CI/CD/CT、容器化及工作流程編排在 pipeline 中的作用。ավարման
大語言模型課程第 8 課梳理了將 Common Crawl 原始網頁轉化為模型訓練數據的六道工序,包括採集、去重、過濾、配比、合成及評估。正文抽取後約只剩 10%~20%,經去重和質素過濾後最終留存遠低於一半;DCLM 和 DoReMi 研究説明數據篩選與配比對訓練效果及成本的影響。
本地信源採集應按各類來源能證明的內容選源:政務公示證明登記、許可與處罰,地方媒體證明近期活動與公開報道,地圖數據證明座標、地址與營業狀態,三者不能互相替代。文中示例設定政務、媒體、地圖 TTL 分別為 30 天、7 天和 90 天,並按主體標識、內容及發布時間判定同源、合併記錄。信源與 TTL 均為假設值,實際採用時須按地區重新設定。
作者建立個人資料流程,把全血細胞計數(CBC)數據轉化為蛋白質建議,再輸入生成式設計流程製作結合口袋圖案。流程以 pandas 清理數據,參照 UCL 研究的百分位區間標示偏差,並使用本機 Stable Diffusion XL Base 生成圖案。最終成果是提供圖像和 CBC 指標儀錶板的 Flask 應用程式。
自監督時間模式挖掘可從行星探測器的遙測資料中,無需標籤地辨識與故障恢復相關的時間模式,協助分析關鍵恢復時段。文章探討對比預測編碼、遮罩時間序列建模及潛在空間聚類,並指出行星遙測資料採用 40–50% 遮罩比例效果最佳。
企業或機構可按四步推進數據資產化與交易:數據盤點及合規治理、確權登記與入表、產品化設計及打造高質量數據集,以及合規流通交易。文章指出,大模型帶動行業高質量數據集需求,將業務數據加工為 AI 訓練集是文中提出的變現路徑;安全合規是數據交易的前提。
一個團隊把 Cryo-EM 密度圖到化學上合理的結合口袋建模流程,改造成可重現的軟件服務,讓研究人員透過 API 取得排序後的結合模式。系統在 3 Å 密度圖上每個配體約需 45 秒,口袋檢測成功率為 98%;500 張圖的佇列可在一夜間處理完成。
元學習透過多項任務的經驗,學習可遷移的機制,讓模型以有限例子適應未曾遇過的任務。其訓練分為以少量例子適應個別任務的內部循環,以及根據適應結果更新共享知識的外部循環。章節亦概述 MAML、距離式方法及小樣本學習基準。
MAML 是基於最佳化的元學習核心方法,透過內循環按任務適應、外循環更新共享初始化,目標是在少量樣本下快速適應新任務。FOMAML 忽略二階項以減低計算負擔,Reptile 則按任務適應後的參數差異更新初始化;Meta-SGD、LEO 和 Implicit MAML 進一步探索不同的適應與計算方式。
基於度量的少樣本學習透過學習表徵空間中的相似性,讓模型以少量已標註樣本辨識未見類別。章節講解孿生網絡、匹配網絡、原型網絡及關係網絡等方法,並比較它們的分類機制。評估需使用未參與元訓練的類別,並考慮分佈變化、類別不平衡及支援集品質等因素。
快速適應讓模型只需少量新觀測、更新或互動,便能應對新任務與環境,減少重新訓練所需的資料和計算。章節涵蓋微調、參數共享、MAML、潛在空間適應及線上適應等方法,並討論過度擬合、災難性遺忘與不確定性管理。評估除預測準確度外,也需考慮所需樣本數、適應延遲、計算成本、記憶體消耗和效能穩定性。
本章探討智能學習系統如何透過泛化,把已學知識應用於新情境,並透過適應應對新任務、數據分佈及運作條件的變化。元學習旨在跨任務學習可遷移知識,支援少樣本學習;內容亦涵蓋分佈轉移、領域泛化、測試時適應及評估方法。
本章説明 LLM 如何透過上下文學習及少樣本提示,利用示範例子適應新任務。內容涵蓋情節式學習、指示微調、參數高效適應、梯度式元學習及檢索增強適應等方法。適應效果受示範例子的品質、相關性與排序,以及上下文窗口限制和推理成本影響。
《元學習與少樣本適應》第 08 章探討工程與部署,説明元學習數據管道如何將原始觀測值整理為學習回合,支援跨任務訓練與評估。管道涵蓋數據收集、預處理、任務與回合構建、支持集和查詢集劃分、避免數據洩漏及高效數據載入,並提及以 PyTorch 的數據集、數據載入器和自訂採樣器實作。
本章梳理元學習與少樣本適應的實驗數據集、評估方式及基準測試。Omniglot 有 50 種文字系統、1,623 個字符類別,每類 20 個手寫樣本;MiniImageNet 有 100 個類別,每類 600 張圖片。Meta-Dataset 用多個圖像分類數據集評估跨領域適應,實驗比較須清楚記錄數據集分割和評估協議。
RunPod 上的訓練檢查點若存入容器暫存空間,Pod 停止或終止後便會消失;輸出目錄與 Hugging Face 快取都需設在掛載網絡卷的 `/workspace` 下。
PRISM 是一套免訓練異常檢測框架,涵蓋表格資料的 PRISM-T 和視覺資料的 PRISM-V,不需最佳化網絡權重。它在 47 個 ADBench 數據集上取得最先進的平均 AUROC,在 MVTec AD 和 VisA 上亦有具競爭力的表現,為異常檢測提供免訓練基線。
ProTEUS 結合序列、演化與結構表示、快速全原子預測及閉環實驗回饋,引導蛋白質演化並提升突變體活性。其全原子預測器速度比 AlphaFold3 快逾 10 倍,並在零樣本及監督式微調突變預測任務中超越既有模型。兩項針對醛脱氫酶和左聚糖蔗糖酶的閉環工程實驗,均獲得活性高於野生型逾 10 倍的變體。
PhysOPSD 以可執行程式碼作為特權物理上下文,透過在策略自蒸餾提升影片生成模型的物理合理性。PhysOPSD-Engine 將真實物理情境轉換為可驗證的模擬程式,並結合雙層物理特權與受控變化。實驗顯示,使用 3K 樣本,PhysOPSD 在多種模型骨幹上勝過 SFT 和 RL 基線,同時保留一般影片生成品質。
過度清理訓練數據集會剔除真實環境中的結構化噪聲,令視覺模型在眩光、毛毛雨或相機震動等情況下表現下降。文章建議保留具物理成因的變化,並制定數據保留清單,例如至少 20% 樣本包含低光或眩光,保留遮擋最多 60% 的物件。若模型在輕微真實噪聲下的表現下降超過 15%,訓練數據分佈可能清理過度。
Obligra Verify 團隊提出 LLM 評估的記錄方法,把每次執行視為一次建置,記錄輸入並保存原始輸出,以追溯分數的來源。執行清單可記錄數據集雜湊、提示詞版本、固定模型 ID、參數及評分器版本;相同輸出和評分器版本應能得出相同分數。生成則可能有波動,作者建議同一設定重跑三或五次,並報告分數的離散程度。
作者以按揭利率歷史資料示範如何按觀測身份識別重複項、保留數值修訂,並避免相同觀測跨越訓練與測試分區。流程按系列、月份及 512 個 token 的預算建立檢索文件,並以 2026-10-01 為界,將較早觀測分入 train,其餘分入 test。文章指出,觀測日期切分無法還原來源何時發布修訂值,因此不能單獨確保前瞻性評估。
Turing Award 得主 Richard Sutton 指出,單靠增加計算資源不足以帶來智能,AI 科學仍需要新方法。Jerry Tworek 認為,模型訓練投入的計算資源越多,算法就越重要,仍有許多擴展方向未經探索。Sam Altman 和 Dario Amodei 則認為,LLM 擴展遠未到盡頭。