知識表示——第05章:神經符號 AI [KR]
神經符號 AI 整合神經網絡學習與符號知識表示及推理,結合從數據學習模式的能力,以及運用概念、關係、限制和邏輯規則進行推理的能力。常見整合方式包括由神經網絡生成符號事實、把符號知識納入模型訓練,以及結合知識圖譜和圖神經網絡。這類系統仍須處理不確定性、語義對齊、知識一致性及解釋忠實度等挑戰。
神經符號 AI 整合神經網絡學習與符號知識表示及推理,結合從數據學習模式的能力,以及運用概念、關係、限制和邏輯規則進行推理的能力。常見整合方式包括由神經網絡生成符號事實、把符號知識納入模型訓練,以及結合知識圖譜和圖神經網絡。這類系統仍須處理不確定性、語義對齊、知識一致性及解釋忠實度等挑戰。
本章提出構建可重用的邏輯推理引擎,支援命題邏輯及部分一階邏輯,並整合知識表示、規則評估、查詢處理和解釋生成。引擎涵蓋前向及後向推理、單一化與歸結,並透過證明追蹤和真值維護機制支援解釋推理及知識更新。
作者在 Ryzen 5 5625U 筆電上的測試顯示,Laya(421M)平均用 918.82 ms 作出工具路由決策,比 Qwen 3.5-2B 快 26 倍。同一 Hacker News 任務中,Qwen 3.5-2B 的總等待時間為 60.2 秒,其中 46.75 秒(80%)用於讀取提示詞。作者因此建議以本地 Laya 處理快速工具選擇及安全檢查,將重寫作、編碼或複雜推理交由雲端模型處理。
北京大學數據與智能實驗室(PKU-DAIR)團隊提出 MapFlow,透過跨模型復用注意力圖減少重複 prefill 計算。在所測任務生成質素保持的情況下,prefill 延遲降低 15%–20%;多輪對話路由中,在相同 P90 首 token 延遲約束下,吞吐量最高提升 25%。
進博會上,高通、三星、AMD、英特爾、新思科技等廠商展示端側 AI、智能體及雲邊端協同應用,反映 AI 正加速進入行業和實際工作流程。高通與合作伙伴在手機端運行300億參數級混合專家模型,AMD展示可在本地運行大模型、支持多智能體並行的主機。Gartner預測,2026年全球推理支出將達233億美元,超過訓練支出的190億美元。
特斯拉更新 AI 加速器路線圖,SI6 預計算力達 HW4 的 80 倍,Dojo D3 則採多芯粒架構及堆疊式 HBM,並針對太空部署、訓練與擴展能力優化。SI6 算力估算為 17.28~46.08 POPS,記憶體容量預計為 144GB,推出時間預計為 2029 至 2030 年。D3 的具體算力、記憶體容量、製程工藝及研發時間表尚未公佈。
VIDRAFT 公開發佈 Darwin-180B-RSI-R3 的權重;這款 180B 參數 MoE 模型經三輪遞歸自我改進,主打數學與科學推理。據 VIDRAFT 公開模型卡,其在 SuperCLUE 2026 年 11 月評測得分 73.68,排名開放權重模型第一、總排名第二;基礎模型得分為 57.89。其五領域綜合指數為 43.08、總排名第九,材料指出長上下文處理和指令遵循是相對弱項。
GINIGEN AI 公佈三項公開數據:Darwin-180B-RSI-R3 在 SuperCLUE 數學與科學推理測試得分 73.68,ViKernel 拒絕 290/290 個攻擊負載,POCKET 端側版本下載量逾 3.15M 次。
Thinking Machines Lab 於 2026 年 11 月 5 日發佈 Inkling 2 Small,這款 594B 參數模型在 Artificial Analysis Intelligence Index 得分 31。
芝加哥大學數學教授 Frank Calegari 認為,人工智能降低數學研究取得突破的門檻後,招聘研究人員將更看重人際交流及清晰表達研究構想的能力。他表示,30 分鐘面對面交流足以分辨只會批量製造低質研究成果的候選人,以及具備清晰研究願景、善於表達的人才;招聘流程也將更依賴直接交流,而非只審閲書面材料。
作者測試 OpenAI 公開的 AI 生成數學庫後發現,模型以每秒 1,000 個模型 token 生成時,完成速度快於 Lean 首次檢查 162,170 個檔案中的 95%。
越南人工智能及大語言模型動態速覽聚焦具身 AI、機械人新聞主播、學術研究中的 AI 應用,以及超級智能帶動的科技與基建佈局。2026 年上半年,具身 AI 公司透過 322 宗交易集資 935 億人民幣(約 130 億美元),金額按年增長 5 倍。學術 AI 工具可協助整理研究證據及辨別研究結果的立場。
這篇教程以 NVIDIA Dory 1.0 4B 為例,示範如何透過 llama.cpp 設定 1 至 4 次循環,並測量運算量、KV cache、解碼速度及 GSM8K 表現。作者使用固定 commit 的 llama.cpp 分支和 3.7 GB GGUF 執行測試,並指出 GGUF 預設為 4 次循環,需明確設定循環次數。
Castov 示範如何使用 WebGPU 和 Transformers.js,在瀏覽器本機執行量化大語言模型,令提示詞無需經由 HTTP 傳送至伺服器。文中提到 Qwen 2.5、Phi-3.5 和 Llama 3.2 等 4-bit 或 8-bit 量化模型,並稱 1-billion parameter 的 4-bit 模型約需 700MB VRAM。
作者在 vLLM 上以 RTX 3090、RTX 5090、A100 和 H100 測試 Qwen2.5-7B-Instruct,發現每 1M 輸出 token 的最低成本會隨 p95 回答時間門檻改變。
On-policy distillation(OPD)可容忍量化推理及非同步 rollout 帶來的大幅訓練與推理不匹配,但耐受程度因模型和層而異,失配過高則會降低訓練品質。研究提出輕量級准入檢查,並提供特定模型的 FP8 配方;與同步 BF16 訓練相比,結合非同步 rollout 的 FP8 訓練可快 1.62 倍達到相同品質。
Spatial Harness 透過 Perceiver 建立物理引擎中的可執行場景狀態,並由 Reasoner 模擬視點變化,以測量結果和渲染畫面引導視覺語言模型作答。
Vals AI 研究人員分析 Thinking Machines 的 Inkling 2 Small 在 13 項基準測試、2,655 次執行中的思考記錄,發現模型在 50 次執行中爆粗共 316 次。
Dhaula Gani 建立每日自動驗證系統,測試 27 家開發者基礎設施服務,並整理可零成本託管資料庫、API 和 AI 模型推理的方案。測試每 24 小時執行健康檢查、HTTP 握手測試及延遲探測;清單涵蓋雲端運算、資料庫、AI 推理 API、身份驗證和監測服務,並列出免費額度及是否需要信用卡。
研究者在 Qwen 3.5 上針對性修改權重,無需訓練或反向傳播,便減少了模型反覆生成數學練習答案的情況。這個 800 million 參數模型在 MATH-500 的分數由 7.9% 升至 48.1%,Hugging Face 上的公開重新評估則錄得 51%。結果取決於特定實驗流程,減少生成循環不代表模型的數學能力整體提升。
Jax Sinclair 以每步權重與 KV cache 讀取量除以頻寬估算解碼耗時,並推導出 H100 上 Qwen3-32B 的計算受限上下文門檻為 848 tokens。文中附有可代入模型與硬件參數的 Python 程式,並指出把權重量化至 FP8 會令門檻降至 424 tokens,而把 KV cache 量化至 FP8 則會令門檻升至 1,695 tokens。
Thinking Machines Lab 發佈第二代模型 Inkling 2 Small,總參數量為 594B,主打長程自主工作。其訓練後半段採樣包括月之暗面 Kimi K3 在內的模型軌跡,但未公佈 Kimi K3 的佔比;AA 開放權重榜給它 31 分,低於 Kimi K3.1 Pro 的 46 分。
Apple 研究團隊披露人形機械人自主控制系統 HALO,並在 6 個未預先掃描或建圖的真實環境完成 360 次單項任務,平均成功率為 91%。系統採三層架構,任務編排預設使用 Qwen3.6-35B-A3B,動作生成使用 Qwen3.5-2B;研究團隊亦公開數據生成、模型訓練及部署程式碼。
Anthropic 開源研究原型 FlashProve,讓用戶毋須取得模型權重或使用 GPU,即可核驗輸出是否由預先承諾的權重計算得出。以 Llama 4 Maverick 測試時,單張 H100 約以 110 tokens/秒生成證明;每個 1,024-token 請求的證明約 19 MB,24 線程 CPU 驗證約需 17 秒。
Physical Superintelligence(PSI)藉助 Anthropic 一款尚未發布的 AI 模型,在三天內完成阿倫森-安拜尼斯猜想的證明。證明顯示,量子計算要在某些任務取得指數級速度優勢,須依賴問題中的特殊規律或結構;PSI 未透露具體模型。部分任務中,量子計算仍可大幅提升運算性能。
Hugging Face 團隊於 2026 年 11 月 5 日發佈《The Ultimate MoE Training Handbook》,以約 70,000 字、55 張互動圖及可執行程式碼,整理團隊在 Alps 集羣約 800,000 GPU hours 的實驗經驗。
阿里雲百煉的吞吐量預留(原 TPM 預留)可為指定模型鎖定專屬推理吞吐量,減少業務高峯期受公共資源限流影響。建立後會生成專屬模型 Code,API 請求須以該 Code 替換 model 參數;可選自動溢出至按量計費或僅使用預留容量,並提供標準及高速模式,後者 TPS 提升 1.5~2 倍。費用由建立成功時開始按購買量計算,支援按天或 8 小時預付(僅標準模式、9 折),高速模式則按小時後付費。
指南示範以 Strata 在配備 RTX 5090、64 GB RAM 的桌面電腦本地運行 Qwen3.8-Flash-Next,並實測不同量化版本的記憶體佔用及智能體工具呼叫表現。
這套 34 講大模型課程的第 6 講,系統梳理 LLM 的參數規模、訓練流程、推理階段及能力邊界。文中以 Kimi K3 為例,列出 2.78T 總參數及約 104B 每 token 激活參數,並説明 MoE 的激活參數與整體顯存需求不同。內容亦比較開源權重自託管與閉源 API 的選擇條件,並整理模型在幻覺、長上下文、多步推理及現實操作方面的限制。
作者以一套重複執行探測説明,temperature=0 並不保證每次輸出相同,模型名稱也不能保證不同端點的行為一致。文中附有適用於 OpenAI-compatible 聊天端點的 Python 腳本,預設重複請求 8 次,檢查輸出差異、finish_reason、max_tokens 上限及 stop 字串處理;結果只反映單一端點、提示詞與參數,並非基準測試。
PSI 研究系統藉助 Anthropic 未公開模型,第三天給出 Aaronson–Ambainis 猜想的完整證明。證明通過 Lean 檢查,研究系統以新不等式繞過 2023 年方案未能證明的不等式,並用兩套獨立實作的 Lean 內核重新檢查。不過,這份證明尚未經正式同行評審或外部團隊獨立驗證;Lean 檢查不能確認形式化命題是否準確表達原猜想,60 頁論文也未經機器檢查。
Supermicro 聯同 IBM、Nvidia 推出整合 KV cache 的機架及伺服器系統,旨在減輕 GPU 記憶體壓力並加快長上下文 AI 推理。KV cache 儲存模型先前的注意力計算,避免每個 token 重複計算。官方未披露供應日期、價格、每次查詢的速率限制或適用地區。
研究更新指出,on-policy self-distillation(OPSD)或仍適用於某些情境,但繼續研究 OPSD 及相關變體並不值得。知識蒸餾旨在讓學生模型 q 學習教師模型 p 的行為;常見的 off-policy 蒸餾會從教師模型取樣,再訓練學生模型匹配教師在這些軌跡上的分佈。
VIDRAFT 的開放權重 MoE 模型 Darwin-180B-RSI-R3 在 SuperCLUE 2026 年 11 月數學與科學推理評測中,以 73.68 分排名 19 個模型中的第 2。
這篇 2026 年 11 月 7 日 AI 每日摘要彙整七則消息,包括 Google DeepMind 公佈 AI 模型在專家指導下發現舊版 1024-bit RSA 的兩項弱點、Gemini Omni 1.2 Flash 正式推出,以及 Agility Robotics 登陸 Nasdaq。
Jordan Huang 提供一套探測免費模型端點漂移的方法,以固定提示詞記錄端點行為並比較不同執行結果。fingerprint.py 使用 Python 標準程式庫測試 5 條提示詞、儲存輸出雜湊;compare.py 比對各次記錄,連續兩次出現相同變化才視為訊號。這套探測只識別變化,不能衡量品質;需要合規級可重現性的情況不適用。
Nigismo 在配備 AMD EPYC、32 GB RAM 的 CPU-only 伺服器上,使用 Ollama 比較四款模型的生成速度和俄語回答品質。MiniCPM-V 4.7 1B 達 52.63 tok/s,但俄語表現最弱;Gemma3:4b-it-q4_K_M 為 13.29 tok/s,俄語表現最佳;Qwen3.5:9b 為 6.71 tok/s。
VFlash 以並行原語解碼取代逐 token 生成,令機械人的視覺規劃推理提速 5–7 倍,標準機械人基準的準確度損失不超過 1%。在 RTX 4090 上,10 個原語的規劃推理時間由 68 ms 降至 11 ms,KV cache 記憶體用量由 4.2 GB 減至 2.9 GB。ABB 試點的端到端感知至動作延遲由 95 ms 降至 28 ms。
AI 物理初創公司 PSI 表示,一套運行非公開 Anthropic 模型的系統證明瞭 Aaronson-Ambainis 猜想。這項量子計算問題自 2008 年起一直懸而未決。
osFoundry 的 Local Model 在桌面 App 內整合開放權重模型的探索、裝置端推論、量化、微調及評測流程。指南以個人筆電、小團隊共用桌機及營運主管三種情境,示範模型比較、速度基準測試、自訂資料集評測和 LoRA 訓練;本機推論、量化及本機訓練在電腦執行,Providers 和 Cloud GPU 則會使用外部服務。