Baidu 發佈 ERNIE-5.5-Flash-Base,開放權重下載供後續訓練
Baidu 於 2026 年 11 月 5 日發佈 ERNIE-5.5-Flash-Base 並開放權重下載,提供尚未進行中期訓練或後訓練的固定模型起點。
Baidu 於 2026 年 11 月 5 日發佈 ERNIE-5.5-Flash-Base 並開放權重下載,提供尚未進行中期訓練或後訓練的固定模型起點。
百度開源基座模型文心5.5 Flash Base(ERNIE 5.5 Flash Base),採用 MoE 架構,總參數量2800億,每個 Token 激活140億參數。
The Dev Signal 的 Signal #128 匯整本週 AI 與開發工具動態,聚焦 Kimi K3 在 Amazon Bedrock 提供印度境內推理、Vitest 5.0 更改預設值,以及 eMudhra 中間 CA 私鑰事故。
百度於11月5日開源基座模型文心5.5 Flash Base(ERNIE 5.5 Flash Base),並稱其在知識、推理、數學、程式碼、多語言及長上下文等多項基準測試中取得同尺寸模型 SOTA。
百度文心發布 ERNIE-5.5-Flash-Base,開放 ERNIE 5.5 Flash 預訓練終點權重。這款稀疏 MoE 語言模型總參數為 280B,每個 token 啟用 14B 參數,並在 33.5T tokens 上從零完成預訓練;最長訓練上下文為 128K,微調與推理支援 1M tokens 上下文。此次權重未經中期訓練與後訓練,可作為領域適配、指令微調和強化學習研究的起點。
百度文心大模型發佈並開放 ERNIE-5.5-Flash-Base 權重,這款稀疏 MoE 語言模型總參數量為 280B、每 token 激活 14B。模型以 33.5T tokens 從零預訓練,最長訓練上下文為 128K,微調與推理支援 1M tokens 上下文。這批權重未經中訓練與後訓練,可作領域適配、指令微調及強化學習研究的共同起點。
易博圖近日連續完成兩輪近4億元融資,聚焦重載工業物理AI,研發面向重載場景的「移動+操作」模型。公司目前營運100多台重卡,覆蓋60條線路,並在新疆、內蒙古等地進行真實道路零接管測試。易博圖計劃先以自營車隊驗證L4無人駕駛方案及營運流程,再向客戶提供包括車輛、軟件系統及營運標準的「AI司機服務」。
Goodfire Research 提出 mechanistic shaping 框架,利用模型內部表徵在訓練中指定模型應依賴或表達哪些概念,以塑造模型的解題方式。
EmoReward提出自我演進訓練機制,從實際訓練的獎勵軌跡提煉不同情感證據的可靠性,據此調整後續訓練的多重獎勵權重,且不更新獎勵模型。HunyuanVideo 1.5 的實驗顯示,這套方法在多種強化學習演算法中帶來改進,並在 SAGE-GRPO 下與其他智能體獎勵方法比較。SD 3.5 和 FLUX 的消融及遷移實驗亦支持自適應獎勵校準。
多輪智能體強化學習對 LLM 智能體的提升取決於互動回合預算;預算收緊時,軌跡層級強化學習的優勢會顯著減弱,且不會普遍提升單步決策品質。其主要優勢在於錯誤恢復及長時程韌性;BudgetMix RL 在訓練期間改變互動預算,實驗顯示其在不同執行設定下表現穩健。
文章按訓練、使用、結構與成本、評測四類,解釋 SFT、LoRA、RAG、Agent 等常見縮寫所處理的問題及適用場景。選型時先分清需求是知識、形式還是能力,例如資料會變或需要追溯來源時用 RAG,穩定任務可考慮 SFT 或 LoRA。
NVIDIA 發佈 CUDA Toolkit 13.5,正式支援 Vera Rubin,並更新 GPU 資源調度、多 GPU 通訊、數學計算庫及效能分析工具。CUDA Tile 支援在計算內核內存取其他 GPU 記憶體;配合多播指標及專用多 GPU 記憶體操作,可在支援 NVLink SHARP 的 NVSwitch 網絡中進行跨 GPU 數據歸約和寫入。
VA-TDM結合速度對抗蒸餾(VAD)與軌跡感知監督,在文字生成圖像和文字生成影片中,於多種模型骨幹上取得四步生成的最先進表現。VAD透過學習到的判別器比較學生與教師的速度場,並統一分數蒸餾、基於Fisher的匹配及矩匹配。VA-TDM可擴展至33B MiniMax-H3;按人類偏好評分,其表現明顯優於少步 Fast-H3,並更接近原始多步 H3。
AMD 預估 2026 財年第四財季營收約 170 億美元,高於英特爾預估的 150~160 億美元,若預期兑現將是 AMD 單季營收首次超越英特爾。AMD 預測該季營收按年約增長 66%、按季約增長 27%;數據中心業務佔比已達 64%,EPYC 伺服器處理器與 Instinct AI 加速器需求按年增長接近一倍。AMD 預計到 2027 年,客戶端和遊戲業務可能面臨兩位數下滑。
研究團隊指出,靜態基序支架評測不足以判斷蛋白質設計的動態穩定性:55 組靜態評測成功的設計與問題配對中,只有 31 組通過分子動力學驗證,僅 8 組通過所有檢查。團隊推出開放研究資源 BILBY,包括 220 項基於 PROSITE 連結實驗結構的 BILBY-PRO 基準,以及評估結構漂移、基序接觸保留和構象系綜保真度的 BILBY-MD 框架。
PyRUA-DataFarm 以編碼智能體在模擬環境重建任務,生成可直接用於訓練並部署於真實機械人的數據。智能體接收數據需求及目標場景的一段校準示範,在模擬中建立場景、專家控制器和成功判定器;影片模型根據真實影像生成同步多視角寫實影片,並標註機械人動作。
AMD 預測其 2026 財年第四財季營收約 170 億美元,有望首次超越英特爾同期預估的 150~160 億美元。AMD 數據中心業務目前佔比達 64%,EPYC 伺服器處理器與 Instinct AI 加速器需求同比增長接近一倍。公司預計,到 2027 年,客戶端和遊戲業務可能下滑兩位數。
Sand.ai 完成 2 億美元 A+ 輪融資,這是公司在 2026 年完成的第三輪,10 個月內累計融資 3 億美元。本輪資金將用於影片基礎模型研發、訓練與推理基礎設施建設、產品迭代及全球市場拓展。新一代、更大參數規模的 MoE 架構影片生成基礎模型 MAGI-2 正式版也將於近期發布。
達能在進博會前啟用上海研發與創新中心,作為其在華第二個研發中心,並設有全球第三個 OneBiome 腸道微生物組實驗室。中心研究涵蓋生命早期營養、成人醫學營養、飲用水及飲料,亦設有中試工廠,以加快研究成果轉化和產品驗證;達能看重中國在數據科學、人工智能及市場規模方面的優勢。
香港大學俞益洲教授團隊提出 RaPO 強化微調演算法,以緩解多模態大語言模型(MLLM)在視覺持續學習中的災難性遺忘;論文獲 NeurIPS 2026 接收。
中國科大發布開源 RNA 序列基礎模型 structRFM,相關研究成果刊於 Nature。模型以約 2100 萬條經計算註釋的序列—二級結構配對數據進行預訓練,僅輸入序列便可提取序列級、核苷酸級及核苷酸對級特徵。模型支援剪接位點預測、內部核糖體進入位點識別及非編碼 RNA 分類;研究團隊已開放配對數據、模型權重和源代碼。
中國科學技術大學團隊推出開源 RNA 序列基礎模型 structRFM,相關研究成果登上《自然》。團隊開放完整配對數據、模型權重和源代碼,全球科研人員均可使用。模型以約2100萬條序列與二級結構配對數據進行預訓練,可支援多種結構及功能推斷任務。
中國科學技術大學團隊發佈開源 RNA 序列基礎模型 structRFM,相關研究於 11 月 5 日凌晨發表於 Nature。團隊以約 2100 萬條經計算註釋的序列—二級結構配對數據進行預訓練,令模型同時學習序列上下文與結構依賴。測試顯示,structRFM 提升二級結構預測表現,並支援剪接位點預測、內部核糖體進入位點識別等功能推斷;研究團隊已開放配對數據、模型權重及源代碼。
在 AWS Spot 上訓練並保留進度,須把檢查點寫入可在中斷後保留的儲存空間,並在重啟後載入;SageMaker managed spot 會處理重啟及 S3 同步,原生 EC2 Spot 則需自行實作。
一項 CNN 訓練測試顯示,學習率預熱對已調校至 1e-3 的 Adam 幾乎沒有影響,卻能挽回過高的 3e-3 設定造成的準確率損失。五組配對種子中,3e-3 加入一個 epoch 的預熱後,準確率由 86.78 升至 89.64,接近 1e-3 基準的 89.71。測試範圍為一個 CNN、一個數據集及 10 個 epoch。
作者在一組 CNN 實驗中發現,梯度裁剪會縮小 loss 梯度,卻不會同步縮小 Adam 的耦合式 weight decay,因而提高正則化相對力度並拉低準確率。
webAI 發佈 TwIL-8B,這款從 IBM Granite 4.2 8B 後訓練而來的 8.79B 參數密集型推理模型,面向數學、編碼及指令遵循。webAI 自報其在 MATH-500 得分 98.2、LiveCodeBench 得分 81.6†;GPQA Diamond 得分 70.2,低於 Qwen3.5-9B 的 81.7。
作者用 30 組英語與烏爾都語同義句比較三種 tokenizer,測得烏爾都語的 token 數比英語高 2.72–5.39 倍。在 128,000-token context 下,GPT-2 約可容納 113,000 個英文詞,烏爾都語則約 21,000 個詞。作者提醒,測試僅有 30 組正式語域句子,5.39× 應視為約五倍,而非精確倍率。
文章為 B.Tech CSE 學生提供專攻 AI Security 的實用路線圖,聚焦紅隊測試及 ML 基礎設施防護,避免流於表面的通用學習。內容拆解對抗攻擊、資料投毒、ML 流程資料外洩、聯邦學習推理攻擊及供應鏈攻擊的機制,並指出所需的工程技能。
LLM 智能體的 RL 訓練需要 GPU 生成動作及更新權重,並為每個同時執行的 episode 配置隔離 CPU sandbox 執行工具操作;GPU 等待工具調用是主要成本來源。
Agent-R^2提出真實來源數據合成框架,從10k個網絡語料候選項提煉4k個任務實例,訓練Agent-R^2-4B處理實際生產力工作。在GDPval和OfficeQA上,Agent-R^2-4B分別取得51.0%和14.8%,超越Qwen3-235B-A22B-Thinking-2507的48.0%和13.8%。
GraphMuon 將 Muon 的矩陣更新適配至圖傳播表示的協方差結構,以減輕圖引致的更新放大。在三個大型 OGB 基準上,GraphMuon 相比 AdamW 將驗證損失達標時間加快 1.32 倍至 2.42 倍。涵蓋 15 組數據集與架構配置的測試中,GraphMuon 在 13 組達到較短的達標時間,同時維持具競爭力或更佳的預測表現。
Dharma-AI 發佈 2-billion-parameter Field Extractor,可從文件影像抽取欄位並輸出結構化 JSON。模型支援開放式抽取,以及按指定 schema 輸出欄位、類型和鍵名;文件中缺少的欄位會返回 null。
朱蘭、陳蓉團隊聯合武漢華大生命科學研究院,揭示治療前腸道及陰道菌羣分型與絕經激素治療應答相關。研究團隊基於14個中心356名女性的隊列,建立機器學習模型,可高精度預測治療4周後能否快速緩解,效果優於傳統臨牀特徵模型。
研究人員提出「Weight-Space Programming」,讓 GPT-6 Astra 直接分析和修改其他 AI 模型的權重,毋須按常規流程重新訓練。在 Qwen3.5-0.8B 上,Astra 只改動 0.016% 權重,MATH-500 準確率由 7.9% 升至 48.1%,指令遵循能力由 21% 升至 62%。不過,仍有三分之一回應達到文字長度上限,低於修改前的 93%。
目前沒有後訓練數據共享庫,因為強化學習消耗的是任務,而預訓練消耗的是文件。SWE-bench 從 12 個 Python 儲存庫逾 90,000 個 PR 中,最終整理出 2,294 項原始任務;SWE-bench Verified 抽查的 1,699 項任務中,逾三分之二被標記移除。作者主張,後訓練共享庫需要有系統地記錄並轉化人類工作流程,否則建構相關能力的資源可能集中於少數公司。
機器學習中的資料洩漏會令模型評分過度樂觀,並削弱模型對未見數據的泛化能力。文章以垃圾郵件分類為例,説明訓練、驗證或測試數據混用,以及時間戳記、發件人 ID 等敏感資料造成的問題。移除敏感特徵、遮蔽資料及謹慎進行特徵工程,有助減低洩漏風險。
愛爾蘭 AI 研發項目 Oghma 在柏林舉行的 Stage Two 泛歐衍生企業競賽中進入決賽,獲得 €500,000 投資。Oghma 的 AI 平台將零散、非結構化數據整理成可用形式,支援科研與開發;平台在控制數據集上的準確率為 99.7pc,BASF 指其生產力提升 330 倍。
Google Cloud 宣佈 AlloyDB for PostgreSQL 預覽直接存取 Apache Iceberg 表,並宣佈 AlloyDB sync 和 Lakehouse federation 正式推出。
Navalny 團隊介紹如何建立阿列克謝·納瓦利內數碼檔案館,並於 2026 年 6 月 4 日上線,當時收錄逾 14,000 份材料。團隊以 Gemini Flash 初步標註主題、人物和地點,並用 GPT-5.4 翻譯,再由編輯核對和修正模型輸出。