Moth 的 Tessa 在 120 量子位元晶片上編碼並恢復 1,568 個數值
Moth 宣佈,Tessa 在 IBM 的 Phoenix Nighthawk r2 處理器全部 120 個量子位元上編碼並恢復 1,568 個實數值。Tessa 按晶片的物理連接排列資料與地址量子位元,毋須 SWAP 閘、路由或輔助量子位元;論文稱這是按其定義規模最大的同類實驗。Moth 表示,Tessa 可在 Atlas 平台用於影像處理實驗。
Moth 宣佈,Tessa 在 IBM 的 Phoenix Nighthawk r2 處理器全部 120 個量子位元上編碼並恢復 1,568 個實數值。Tessa 按晶片的物理連接排列資料與地址量子位元,毋須 SWAP 閘、路由或輔助量子位元;論文稱這是按其定義規模最大的同類實驗。Moth 表示,Tessa 可在 Atlas 平台用於影像處理實驗。
影響函數透過微幅增加單一訓練樣本的權重,估算它對模型參數及測試損失的影響,避免逐點刪除資料並重新訓練。實作上可用共軛梯度或隨機 Neumann 級數估算 Hessian 逆矩陣與測試梯度的乘積,再為訓練樣本排序。分數屬局部近似,作者建議抽樣實際重訓檢查方向與幅度,並測試阻尼變化對排序的影響。
AI 系統的數據品質決定輸出上限,換用更強模型無法修正有問題的數據,反而可能更有把握地重現錯誤。標籤是人的判斷,標註不一致會成為模型學習的雜訊,因此應制定清晰指引、衡量標註者之間的一致程度並處理分歧。若訓練和評估數據同樣有缺陷,評分可能看似理想,卻無法反映系統的真實表現。
作者以實際程式碼示範 Hugging Face 2026 生態系統中的模型載入、數據集處理、微調與應用部署。
安納智芯 AX100 模擬計算晶片於10月完成流片,求解一次矩陣方程不到100納秒,單次功耗約80毫瓦。安納智芯稱,AX100 是世界首顆全集成、一步求解矩陣方程的模擬計算晶片;它把方程映射成電路,電路自平衡後一次讀出結果,毋須迭代,並可採用現有成熟製程。
Datasetseek提供面向醫療 AI 團隊的一站式數據集服務,涵蓋數據檢索、治理、標註、交付及定製生產。平台提供醫學影像、臨牀文本、基因生物等多類數據集,支援檢索下載、API 調用及按需定製。
阿里巴巴於 2026 年 11 月 16 日推出 Qwen4-Max,稱平均每項任務成本較 Qwen3.8-Max 低 60%,輸入價格為 $0.075 per million tokens。模型採閉源,沒有可下載權重;阿里巴巴亦稱訓練加入網絡安全檢查及 CBRN 風險緩解措施。編碼成績、安全措施及 48 小時自主研究結果均來自阿里巴巴的説法,文中指出尚無獨立驗證。
建發股份參加廈門高質量數據集供需對接活動,展示大宗商品供應鏈數據集及產業生態平台的建設成果。其「1+2+3+N」全球數智基座涵蓋鋼鐵、漿紙、農產品等核心品類的120多類高質量數據集,並支援上千個應用場景。建發雲鋼、紙源網、漿易通等平台已匯聚上下游夥伴超1.8萬家。
阿里雲瓴羊 Dataphin 2026版以「OneData+治理即研發」為核心,透過標準、資產、開放三大支柱及 AI 引擎,提出由統接入、統建模、統開發至統服務的四階段路徑。平台支援 50+ 連接器,並以 DataAgent 自然語言找數及 API 服務化推動數據進入業務;AI 輔助可降低 70% 以上的重複性數據開發工作量。
SoccerDream AI 作者分析其平台的模型投票數據,發現 2,722 個至少有五名投票者的賽事平均有 10.34 個模型,卻只有 1.46 個有效意見。多數投票準確率為 56.95%,略低於成員平均的 57.00%;改按 training_word_id 所示的模型譜系投票後,可決策率由 78.18% 降至 72.44%,可決策票中的準確率為 57.35%。
阿里巴巴稱,已過濾 Qwen4-Max 的訓練數據,移除攻擊性網絡能力,並降低化學、生物、放射性及核風險。
作者以一次損失值變成 NaN 的除錯經歷,説明 2016 年的《Deep Learning》如何解釋數值下溢及梯度出現 NaN 的原因。當 float32 中錯誤類別的 logit 比目標類別高 104 或以上,先計算 softmax 再取 log 可能令目標概率下溢至 0;改用 PyTorch 的 F.cross_entropy 可在 log 空間保持數值穩定。
阿里雲瓴羊 Dataphin 以 OneData+AI 將數據標準、質量和血緣嵌入研發流程,並透過 AI 引擎支援自然語言生成 SQL 和異常任務根因診斷。平台支援50多種異構數據源,公開信息顯示可降低70%以上重複性數據開發工作量。文章亦比較 Collibra、Atlan、Informatica Axon 等工具,並建議按企業實際場景驗證選型。
神經網絡縮放定律指出,語言模型的測試損失會隨參數量、訓練 token 數和計算量增加而按冪律下降,並趨近不可約損失下限。Kaplan 建議按 C^0.73 和 C^0.27 分配模型規模與數據;Chinchilla 研究則提出兩者應按 C^0.50 等比例擴展。
Dwarkesh Patel 預測,AI 研發能力可能最快數月後追上頂尖人類研究員,超級智能則可能在 2030 年前到來,最快明年。他以 AI 數學能力的進展及 AI 參與研發的數據為依據;Anthropic 稱,截至 8 月,Claude 主導 26% 的 AI 研發工作,該比例今年 2 月尚不到 1%。
文章建議遊戲訓練素材直接上傳至私有物件儲存,由後端簽發短效、限單一操作的上傳權限,並由應用程式管理租戶歸屬及保留政策。實作需以伺服器控制物件鍵、記錄素材生命週期,並在驗證後才供訓練使用;作者亦提出跨租戶、過期權限、重複通知及清理重試等測試案例。此方案適合大型通用檔案,但轉換、公開媒體交付或寫入前檢查等需求,可能更適合媒體服務或應用程式代理上傳。
黃仁勳離職可能令中國 AI 前沿在未來兩年更受掣肘,卻也可能為國產晶片及算力帶來更確定的需求。文章認為,美國若收緊晶片出口及海外租用英偉達算力的渠道,需求可能轉向國內;較低電價有利西部承接訓練和存儲,東部則保留推理及應用。文中亦指出,國產算力仍受單卡性能、產能和數據中心利用率限制。
作者以 Affon 探索 TypeScript 可承載的機器學習工作,展示既有模型的本地推理及自行訓練的流程。WikiText-2 本地訓練記錄為 12 epochs、52,128 steps,訓練損失為 4.55、驗證損失為 5.09;作者指出這不是與其他框架的比較。
南洋理工大學 S-Lab、商湯研究院與 Ropedia 研究團隊發布 NEO‑VLA,一款不設獨立視覺編碼器、將像素直接輸入視覺—語言主幹的機械人策略模型。模型主幹為 2B 參數,在 LIBERO 完整微調後平均成功率為 95.3%;LIBERO-Plus 分佈偏移測試加權總分為 89.7%,RoboTwin 2.0 隨機場景成功率為 69.4%。
文章指出,要界定模型刪除令涉及的模型,企業必須保存從訓練數據到模型產物及部署的完整血緣紀錄。每次訓練應記錄數據來源及版本、篩選條件(包括同意條件)、數據集快照、執行資料、產物雜湊及部署版本;OpenLineage 和 MLflow 可記錄部分欄位,但同意條件須以自訂欄位補足。
丹麥奧爾堡大學團隊研究擴散語言模型的記憶與訓練資料提取,發現採樣步數會影響原文被精確恢復的機率;在同規模電郵補全比較中,擴散模型的提取水平低於自回歸模型。1.1B 參數模型中,達到 50% 提取機率門檻的電郵樣本數分別為 16 個和 213 個;LLaDA-8B 從一步恢復改為逐詞恢復後,達到該門檻的樣本數由 9 個增至 179 個。
中國科學技術大學趙剛課題組利用 AI,從7.5萬餘種化合物中篩選出10餘個候選分子,並完成冰晶、細胞及組織層面的實驗驗證。加入候選分子的低甘油配方令紅細胞凍融回收率超過91%;常規慢速冷凍體系的回收率由約95%升至97%以上,而人臍帶來源間充質幹細胞的復温存活率達93.6%。
文章分析人形機械人難以回本的工程經濟原因,指出其經濟性取決於有效自主工作時間,以及覆蓋任務變異所需的成本。中國人形機械人2026年上半年出貨量約增至三倍,但估計只有約8%投入生產流程;每個常見任務類別的 VLA 示範資料收集,可能耗費數百萬美元及數月。文章建議按任務計算成本,並考慮以模擬訓練、經典控制流程及重新設計工序降低成本。
AuXSpec 提出一套 Lean 框架,將宣告式後置條件配對可執行版本,並以測試結果的一致性作為強化學習回饋,訓練自動形式化程式規格模型。
VODA 提出一種即插即用的體積監督方法,直接監督與物件相關的 Gaussians,突破傳統基於渲染的監督方式,以改善 3D Gaussian Splatting 的物件分割。研究亦提出 Removal-3D,透過移除物件評估分割在體積上的完整性。
研究發現,27B 語言模型可透過自身推理,在不使用梯度或訓練的情況下改寫自身權重,並在預先固定的 490 道未見題目上提升 6.6 個百分點的準確率。模型只在自身測試支持改動時才提交修訂;首八次修訂中,其準確率持續上升。此外,模型僅憑文字數學題定位受損矩陣並以自身數值重寫,令副本在六個未見圖像基準上的準確率由 7% 升至 70%,相當於未受損模型的 83%。
作者在免費 Google Colab GPU 上從零訓練出 5.9 million 參數的故事模型 tiny-storyteller,整個 Notebook 約需 5 分鐘。模型經 1,500 個訓練步驟,在 200 篇未參與訓練的故事上取得 perplexity 9。文章也展示一段逐字取自訓練資料的模型輸出,並公開權重、tokenizer 與建置 Notebook。
Walid Hadri 以「法國首都是甚麼?」為貫穿例子,梳理語言模型從 Shannon 的下一字母預測到現代 Agent 的演進。內容涵蓋 word2vec、RNN/LSTM、Transformer、RLHF、推理模型及 Agent,並附有多組開源模型實驗程式與輸出。實驗輸出是在 RTX 4070 Ti 上取得,硬件和精度不同時結果可能略有差異。
作者整理了九個公開項目,涵蓋 RAG、LangGraph 智能體、LLM 微調及分散式推理,並提供原始碼、實作示例和技術文件。項目涉及 FastAPI、Qdrant、LoRA、DPO、ORPO 和 PyTorch DDP,並探討檢索品質、模型評估及 GPU 效能等工程議題。作品集亦區分分散式訓練與多工作程序推理,提醒實作示例不等同已驗證效能。
作者建議在用偏好配對訓練獎勵模型前,先以答案長度、與提示詞的 TF-IDF 相似度及明顯特徵等簡單判別器測試配對;若準確率遠高於 50%,便先修正資料。另一位建構者修整嚴重程度配對後,在 84 組新配對中,長度和 TF-IDF 判別器均為 50%,關鍵詞判別器為 55%;作者自己的 300 組天氣驗證配對中,TF-IDF 判別器達 78%。
以400種藥用粉末混合物訓練的Random Forest及XGBoost,流動性預測準確率最高達85%,但實驗室標籤中的雜訊影響評估。變分自編碼器生成163個候選配方,其中12個經實驗驗證,83%符合模型預期。作者指出,評估模型前應先審核標籤,並人工檢視模型與標籤有分歧的案例。
本章説明圖深度學習實驗如何選擇與建構數據集,並涵蓋 Cora、PubMed、OGB 及自訂圖數據集。Cora 適合半監督節點分類及快速驗證模型,PubMed 可用作較大型的中間基準。OGB 提供節點、連結及圖級預測數據集,並以標準化資料處理、評估指標和預設數據切分提升比較的一致性。
日本信息通信研究機構(NICT)團隊提出 OptiMer,透過合併分佈向量搜尋持續預訓練的最優數據配比,並獲得 EMNLP 2026 傑出論文獎。實驗中,OptiMer 在配比優化階段加速 15~35 倍,平均得分為 70.37,高於傳統數據混合訓練的 63.71。團隊將方法應用於 Gemma-SEA-LION-v4-27B,日語得分由 66.34 提升至 74.40,同時保留東南亞語言任務表現。
梯度提升透過順序加入弱學習器,逐步修正預測誤差,建立加法集成模型。它利用可微損失函數的梯度決定改善方向;在平方誤差回歸中,可理解為學習殘差。XGBoost、LightGBM 和 CatBoost 均採用這種逐步改善集成模型的核心原理,並以不同方式提升效率或處理類別特徵。
監督式學習的模型選擇須平衡預測表現、泛化能力、可解釋性、效率及部署可行性,並從簡單基準模型開始比較候選模型。比較時應統一實驗條件,透過交叉驗證估算泛化表現,並按問題及實際需要選擇評估指標。超參數應根據驗證結果選取,保留測試集作獨立評估。
監督式學習把歷史觀測數據轉化為預測模型,協助工業系統分類設備狀態、估算連續數值及支援自動化決策。應用涵蓋預測性維護、品質檢查、生產良率優化、能源管理、物流及機械人;實際成效取決於問題定義、數據收集、標籤、驗證及與現有營運流程的整合。
STATERA Library 第09章説明如何把監督式學習概念整合成可重現的預測系統,涵蓋問題定義、數據準備、模型訓練、評估、選擇、部署及效能分析。專案須將數據分為訓練、驗證和測試部分,並防止數據洩漏,以免評估分數失真。章節亦介紹基準模型、超參數調校、交叉驗證,以及分類和回歸的評估指標。
監督式學習第 10 章總結了線性模型、正則化、分類、支持向量機、決策樹與集成學習等方法。內容亦涵蓋超參數優化、模型比較及評估指標,指出選擇方法和指標應配合預測問題的特性與實際目標。
集成學習透過結合多個模型的預測,提升預測的可靠性、準確度、穩健性及泛化能力。集成方法可分為平行與序列建模:Bagging 透過有放回抽樣訓練多個模型,再以平均或投票合併預測;Random Forest 加入特徵子集隨機選取,Boosting 則逐步針對現有模型的錯誤改進預測。
監督式學習透過從歷史觀察數據中學習輸入與已知結果的關係,協助工業系統分類運作狀態、估算連續數值及支援自動化決策。常見應用包括預測性維護、工業質量檢測、生產良率優化、能源管理及工業物流。實際成效取決於問題設定、數據收集、標籤可靠性、驗證方式,以及與現有營運流程的整合。