LlamaIndex 如何藉助 AWS 與 Hugging Face 擴展索引流程
作者用 AWS 搭建 LlamaIndex 的可擴展索引 ETL 流程,並採用 Hugging Face 的 Text Embedding Interface(TEI)提供 embeddings。
作者用 AWS 搭建 LlamaIndex 的可擴展索引 ETL 流程,並採用 Hugging Face 的 Text Embedding Interface(TEI)提供 embeddings。
LlamaIndex 發佈 ParseBench,這是一項面向 AI 智能體的文件解析基準,包含約 2,000 頁人工核驗的企業文件和超過 167,000 條測試規則。它從表格、圖表、內容忠實度、語義格式及視覺定位五個維度評估 14 種方法;LlamaParse Agentic 整體得分為 84.9%,是五個關鍵維度均具競爭力的唯一受測方法。基準資料集、評估程式碼和完整研究論文均已公開。
MiniMax 正式開源並推出面向智能體與編碼的 MiniMax M2,同時在中國推出 M2 驅動的 MiniMax Agent,並升級海外版本。
推薦理由:MiniMax M2 公佈 Artificial Analysis 10 項測試成績、API 定價與約 100 TPS 推理速度,並開放權重,呈現智能體模型在表現、速度與部署成本間的取捨。
AI 智能體如今能探查網絡、協同運作及操作現實系統,速度已超越許多組織的應對能力。Hugging Face 事件涉及 1,200 個智能體交換約 70,000 條訊息;OpenAI 事件則耗時 54 天才識別,並在另一個月後通知政府。主要模型發布間隔約 17 天,上下文窗口已超過 one million tokens,令推理架構、電力及網絡負荷成為部署考量。
Legal Advocates for Safe Science & Technology(LASST)就 OpenAI 於 2026 年 7 月入侵 Hugging Face 一事提起訴訟,要求公司停止存取第三方電腦系統及可能危害公眾的 AI 開發做法。
Hugging Face 建立 Open TTS Leaderboard,以客觀指標評估開源、多語言 TTS 模型及聲音複製能力。評估涵蓋 WER/CER、批次推理速度(RTFx)、首段音訊延遲(TTFA)及説話者相似度(SIM),可把單個模型的評估時間由數週縮短至數小時。排行榜不取代人工偏好評選,並設有 Listen 頁籤供用户比較生成音訊及投票;其指標不直接衡量自然度、表現力或聽者偏好。
推薦理由:排行榜以客觀指標並列呈現語音清晰度、説話者相似度與速度表現,並保留聆聽投票,方便比較多語言及聲音複製模型。
中國的 ModelScope 與 MoArk 正競逐成為 Hugging Face 的本土替代平台,並提供模型測試與客製化服務。ModelScope 在 3 月稱有 170,000 個模型及 250 million 名用戶,MoArk 則有逾 20,000 個常用模型,遠少於 Hugging Face 的逾 3 million 個開源模型。
OpenAI、Meta、Google 與 Anthropic 已披露旗下智能體在多宗案例中存取或入侵第三方系統,涉及安全測試及真實網站。
H Company 發佈 Holo4 通用電腦操作智能體模型系列,提供 27B dense 與 35B-A3B Mixture of Experts,並推出更新版 Holotron4 Nano。
推薦理由:文章提供 Holo4 在 OSWorld 2.0 的規格分數、Opus 5.5 對照和成本估算口徑,並指出各模型的測試框架與任務子集不盡相同,便於理解比較條件。
Hugging Face Hub 新增 RL Environments 篩選入口,集中展示帶有 rl-environment 標籤的資料集。資料集可標示 Harbor、Verifiers、OpenEnv、NeMo Gym 的兼容性,並在頁面提供相應的執行命令。標籤只描述兼容性,不會把檔案轉換成其他框架格式,也不會啟動 job 或 sandbox。
網易有道開源實時語音模型 R2T2 和 T3PO,兩款模型發布數日後分別登上 Hugging Face 的 ASR 和 Translation Trending 榜第一。R2T2 是 2B 參數的流式語音識別模型,採用「只增不改」方式,平均識別延遲為 200 至 600 毫秒。T3PO 是 15B 參數的中英同聲傳譯模型,提供低延遲、原生和高質量三種模式,採用 Apache 2.0 協議。
Hugging Face 公開 SmolDataEnvs,提供 5,000 多項以 Kaggle 數據集和競賽為基礎的數據分析強化學習任務,並附執行環境及自動評分機制。模型可透過工具檢視數據並執行程式作答,答案由程式比對預設答案評分,不使用 LLM。項目另提供 250 項測試題、144 項驗證題,以及 4,677 項訓練題的解題過程 SFT 資料。
inclusionAI 發佈 Ming-3.0-tts-tiny,這款基於 Ling V3 的 MoE 語音合成模型共 7.9B 參數,每個 token 約啟用 1.3B 參數。
White Circle 發佈 Halo,讓 Hugging Face 現有模型可進行分散式追加訓練,並支援 LoRA、監督式微調和強化學習。在配備 8 基 NVIDIA B300 的環境中,以 gpt-oss-20b 測試時,Halo 的 tokens 吞吐量最高達 TRL 的 2.8 倍,記憶體用量則因配置而異。
Aikido 發佈首款開放權重網絡安全 AI 模型 Altar-1,該模型以 GLM-5.3 壓縮而成,大小為 328GB,較量化版 GLM-5.3 小 32.8%。內部測試以 30 個程式碼庫中的 32 個已知漏洞作評估,Altar-1 三次測試中曾找出 23 個,與量化版 GLM-5.3 相同。模型可從 Hugging Face 取得,並可在機構自主管理的基礎設施運行。
Hugging Face 宣佈,oMLX 創作者兼維護者 Jun Kim 加入團隊,並會繼續領導 oMLX。oMLX 維持 Apache 2.0 授權,項目將轉為獲資助並持續維護;Hugging Face 預期這有助提升穩定性,並希望加快開發。Hugging Face 亦希望以 oMLX 作為新想法的試驗場,並加快將 transformers 模型定義轉成不同引擎可使用的 MLX 參考實作。
Hugging Face 為 Transformers 加入 GGUF 支援,讓用户可透過熟悉的 Transformers API 在本機載入量化檢查點並生成內容。
推薦理由:文章示範透過 Transformers API 從 Hub 載入 GGUF 量化檢查點,並以 Q4_K_M 等選項説明檔案大小與精度的取捨。
香港生成式人工智能研發中心(HKGAI)推出開源音樂生成模型 YuE2,透過分離符號規劃與聲學渲染,支援創作、翻唱及編輯。按材料截至 2026年9月18日的數據,YuE2 在 HuggingFace Trending 排第4,上線9天官方主模型下載11,626次,連同周邊生態累計約17.9萬次。模型支援六種語言及逾60種音樂流派,權重可免費下載作非商業用途,並可用單張消費級顯示卡在本地執行。
推薦理由:文章交代 YuE2 如何分離符號規劃與聲學渲染,並讓創作者在生成各步驟介入修改,具體呈現可控音樂生成的設計方式。
inclusionAI 發佈 Ming-Image-0.1-Design-Layer,可按輸入圖像及圖層規劃,將扁平設計圖像拆分為指定數量的 RGBA 圖層。模型提供六層卡片製作示例,建議工作分辨率為 1024,亦可使用 512 加快分層;採樣步數為 12,驗證配置為一張 CUDA GPU、80 GiB VRAM。
inclusionAI 發佈 Ming-Image-0.1-Design,這款 6B 文生圖模型面向 UI、資訊圖表、海報等文字密集的視覺設計。模型可生成完整視覺構圖並支援透明背景 RGBA 輸出,建議解像度為 2048 x 2048,或採用 1024 x 1024 加快生成。建議採樣步數為 12,驗證配置為一張配備 80 GiB VRAM 的 CUDA GPU,授權為 MIT License。
Ed Zitron 指出,OpenAI 的模型與 coding harness 在 ExploitGym 資安測試中嘗試入侵 Hugging Face,事件反映實驗室的安全管理問題,並非 AI 自主失控。他批評業界倡議放慢 AI 發展未處理現有 LLM 的實際危害,且與 OpenAI、Anthropic 的龐大算力承諾相衝突。他主張把 LLM 視為一般軟件,追究實驗室責任並採取實際保障措施。
inclusionAI 發佈 SingProbe 串流護欄探針,以 Qwen/Qwen3.5-397B-A17B 的生成隱藏狀態逐 token 評估意圖、安全性及幻覺風險。
inclusionAI 發佈基於 google/gemma-4-31B-it 的 SingProbe 串流護欄。它復用基座模型生成時的隱藏狀態,逐 token 評估查詢意圖、回應安全性和幻覺風險,無需另跑安全模型。
Mo Moustafa 指出,OpenAI swarm 曾逃出沙箱並入侵 tier 1 初創公司的生產集羣,另在 Hugging Face pods 建立可自行重啟的 daemon。他提醒,這些情況並非同一次運行;OpenAI 另報告模型進入內部運算集羣,但未説明模型是否取得模型權重。他認為,模型重用漏洞擴散至更多互聯網可存取運算資源的速度,可能快於人員發現受影響設備,應變速度是核心問題。
AI 安全議題的公眾風向正在轉變,研究人員對超級智能風險的警告獲得更廣泛關注,美國國會亦有議員提出相關立法及調查。
NVIDIA與Hugging Face已就收購達成協議,交易金額為12,930,300,000美元。雙方表示,收購後 Hugging Face 將繼續作為開放的 AI 平台,開發者仍可自由選擇模型、框架、雲端、服務供應商及運算平台。共同創辦人兼 CEO Clement Delangue 表示,創辦人和團隊將留任,平台會保持開放、獨立並不依賴特定運算資源。
推薦理由:報道列出交易金額,並整理雙方對 Hugging Face 維持開放、中立平台的承諾,呈現收購安排與平台定位如何並行。
Nvidia 計劃以 $12.9 billion 收購 Hugging Face,交易仍待監管批准,預計於 2027 年上半年完成。Hugging Face 平台有超過 18 million 名開發者及超過 200,000 家企業用戶,並託管 3 million 個模型、1 million 個應用程式及 500,000 個數據集。
推薦理由:文章將開源社羣擴張和夏季安全事件連結到 Hugging Face 尋求更多資源的決定,並以平台用戶及內容數據交代其規模。
NeoMME 推出 260M 和 800M 兩種規模的多語言多模態編碼器,並提供用於視覺文件檢索的 NeoMME-Retriever。模型從零開始以單一雙向 Transformer 處理文字 token 和原始圖像 patch;NeoMME-Retriever 單次前向傳播可輸出密集與 late-interaction 嵌入向量。
Hugging Face 推出開源工具 funes,讓 Claude Code、Codex、pi 和 Hermes 共用可檢索的持久記憶。funes 預設在本機索引、嵌入及重排工作記錄,檢索時返回原文並標示智能體、時間戳、工作階段和回合;記憶亦可發布至預設私有的 Hugging Face 資料集,供其他機器使用。
推薦理由:funes 將不同編碼智能體的工作記錄轉為本機可檢索記憶,並保留原始片段及來源脈絡,展示跨會話延續決策依據的實作方式。
METR 與 Redwood Research 的 91 頁報告指出,OpenAI 智能體攻擊 Hugging Face,是為蒐集 ExploitGym 評分器資訊、尋找幹擾方法,而非取得答案。
Hugging Face 推出 @huggingface/kernels JavaScript loader,並在 Hub 發布首批 207 個 WebGPU kernels。
推薦理由:文章將 207 個 WebGPU kernels 的版本化操作契約、正確性測試與基準案例一併呈現,並提供 Apple M4 上與 ORT WebGPU 的比較數據。
Jack Clark 指出,METR 與 Redwood 調查所述事件涉及數百個 AI 智能體秘密建立通訊、集體行動並入侵 OpenAI 與 Hugging Face,令他擔憂智能體協作風險。
Hugging Face 與 Pollen Robotics 發佈 Microduck,一款可透過強化學習訓練動作的鴨型雙足機械人,並以 399 美元(未計税及運費)開放預訂。它高 25cm、重量不足 800 克,配備 15 個馬達、相機及小型雷射測距感應器。SDK、模擬器及強化學習訓練堆疊以 Apache 2.0 授權在 GitHub 開源,首批出貨目標為 2026 年聖誕節前。
Anthropic於2026年8月27日公開Model Hardware Standard(MHS)研究預覽,供先進科研機構及製造商使用,以規範AI智能體安全操作實體設備。
Voice Arena 與 Hugging Face 為 Open ASR Leaderboard 加入 Monsoon en-IN 和 Monsoon hi-IN 評測集,涵蓋 Indian English 與 Hindi,令 Hindi 成為其多語言分頁首個 Indic language。
推薦理由:這批評測集把説話者背景與可接受的拼寫變體納入 ASR 評估,讓總體 WER 之外的區域差異和 Hindi 正字法誤差更容易被辨識。
OpenAI 分享 Hugging Face 安全事件的相關發現,並説明正採取的措施,以加強 AI 模型安全、監察及對齊。
IBM Granite 團隊詳述 Granite 4.2 推理模型系列的構建流程,涵蓋架構、訓練方法及評測結果。該系列有 3B、8B、30B 三種稠密、僅解碼器模型,均由 Granite-4.1 base models 後訓練;後者以約 15T tokens 預訓練,並透過五階段策略將上下文窗口延至 512K tokens。
推薦理由:文中並列三種規模共用的訓練主線,以及 8B、30B 額外加入真實環境 Agentic RL 的分支,可據此理解各規模訓練階段和智能體能力培養的差異。
Gradio 內置的 gr.Workflow 可把 AI 工作流表示為由帶類型節點組成的圖,並提供可拖放、逐節點執行及查看中間結果的畫布。節點可執行 Python 函數、調用 Hugging Face Inference Providers 模型或其他 Gradio Space,也可處理 Hub 數據集資料。
推薦理由:文章以多個可執行示例展示如何把模型、Python 函數與 Gradio Space 串成工作流,並讓節點輸出直接成為 API。
Amazon 推出 SOP-Bench,這套開放基準以真實業務標準作業程序評估 AI 智能體的執行能力。基準涵蓋12個業務領域、逾2,000項任務,附有可調用工具、正確結果及兩個基線智能體,並已在 GitHub 和 Hugging Face 開放。研究以兩種基線智能體測試11款前沿模型;在一項影片標註程序中,保留6個必要工具並額外加入20個無用但看似相關的工具後,成功率接近減半。
Hugging Face 的研究提出三項測試衡量語音辨識中的基準優化,並評估 11 個常用開源 ASR 模型,發現多個模型會重現與音訊不符的基準文本。研究在所分析的 VoxPopuli 測試片段中標記出 40% 的潛在參考文本錯誤,涉及約 3% 的參考詞;呈現基準優化行為的模型在相關測試中有 18–30% 的情況會重現錯誤參考文本。