跳到正文

全部動態

今日 24 條
12月18日週四
  1. Hugging Face Blog65

    Transformers v5 重設分詞器架構,提升透明度與模組化

    Transformers v5 將分詞器架構與訓練所得的詞彙、合併規則分離,並在類別中明確呈現正規化器等組件。相較 v4 每個模型各有 slow/fast 兩套實作,v5 改為每個模型一個檔案,預設採用 Rust-based TokenizersBackend;分詞器類別亦可直接實例化並用自有語料訓練。

    推薦理由:文章對照 v4 與 v5,説明分離分詞器架構和訓練詞彙後,如何更直接檢查組件,並沿用模型架構訓練自訂分詞器。

12月16日週二
12月4日週四
  1. Hugging Face Blog72

    Hugging Face Skills 讓 Claude Code 微調開源大語言模型

    Hugging Face Skills 讓 Claude Code 等編碼智能體透過對話處理模型微調,涵蓋資料集驗證、GPU 選擇、雲端工作提交與進度監控。它亦兼容 Codex 和 Gemini CLI;文中以 Qwen3-0.6B 在 open-r1/codeforces-cots 上進行 SFT 為例,估算使用 t4-small 約需 20 分鐘、成本約 $0.30。

    推薦理由:文章將資料集驗證、GPU 選擇、雲端工作提交與進度監控串成智能體訓練流程,並比較 SFT、DPO、GRPO 的適用場景。

11月20日週四
11月7日週五
10月28日週二
  1. Hugging Face Blog65

    Hugging Face Blog 介紹語音複製「同意閘門」設計,並提供示例 Space 和程式碼

    Hugging Face Blog 提出語音複製「同意閘門」設計並提供示例 Space 和程式碼,系統需先確認説話者已明確同意才會啟動。示例會為每次同意生成一組新句子,分別表達明確同意及補充語音的音素多樣性,並以語音識別確認同意語句。作者指出,仍可能有人用另一個 TTS 系統生成相符語句,並列出音訊來源驗證、説話者嵌入向量相似度及即時錄音 metadata 作為可探索方向。

    推薦理由:把每次生成的同意語句與語音辨識綁定,並以同一段錄音作複製輸入,展示了將知情同意設為工作流程前置條件的實作思路。

10月22日週三
10月21日週二
  1. Hugging Face Blog67

    用開放模型提升 OCR 流程

    Hugging Face 更新開放 OCR 模型指南,加入 Chandra、OlmOCR-2 及模型在 OlmOCR Benchmark 的比較分數。指南對照多款模型的輸出格式、語言支援、功能與成本,並介紹 OmniDocBenchmark、OlmOCR-Bench 和 CC-OCR 等評測基準。

    推薦理由:文章對照模型能力、輸出格式、評測基準與部署成本,並建議以代表性樣本檢驗不同文件和語言下的表現。

10月15日週三
10月8日週三
10月6日週一
10月2日週四
9月29日週一
9月2日週二
8月18日週一
8月14日週四
  1. OpenAI Developers57

    OpenAI API 速率限制指南

    OpenAI 的速率限制指南説明 API 限額依組織、專案及模型而異,並整理常見限額指標與錯誤處理方式。限額指標包括 RPM、RPD、TPM、TPD、IPM,以及部分串流音訊模型的每分鐘音訊分鐘數;API 支出增加後會自動升至更高 usage tier,通常提高大部分模型的速率限制。

8月11日週一
8月7日週四
8月5日週二
  1. OpenAI Developers76

    如何用 Ollama 在本地運行 OpenAI gpt-oss

    OpenAI 介紹用 Ollama 在本地運行兩款 gpt-oss 模型,支援離線聊天、API 調用及接入 Agents SDK。gpt-oss-20b 建議至少 16GB VRAM 或 unified memory,gpt-oss-120b 至少 60GB;模型預設採用 MXFP4 量化,VRAM 不足時可用 CPU,但速度較慢。

    推薦理由:指南比較兩個模型所需的硬件配置,並串起本地聊天、Chat Completions API 與 Agents SDK 接入步驟,便於評估本地部署路徑。

8月3日週日
  1. OpenAI Developers59

    OpenAI 推理模型使用指南涵蓋 Responses API 配置與上下文管理

    OpenAI 的 Reasoning guide 説明如何透過 Responses API 使用推理模型,並設定 reasoning.effort、reasoning.mode 及跨回合上下文。指南提醒各模型支援的設定與預設值不同,推理 tokens 會佔用上下文窗口並按輸出 tokens 計費,初期建議為推理及輸出至少預留 25,000 tokens;另涵蓋函數調用、保存推理狀態與提示詞建議。

8月1日週五
7月31日週四
  1. Hugging Face Blog62

    用 Python 實作 MCP 伺服器:以 Gradio 建立 AI 購物助手

    文章示範如何以 Gradio 在 Python 中實作 MCP 伺服器,並建立可瀏覽服裝網站、呼叫 IDM-VTON 虛擬試穿的 AI 購物助手。Gradio 會把應用程式的 API endpoint 自動轉為具名稱、描述及輸入 schema 的 MCP 工具,並支援即時進度通知和自動檔案上傳。

    推薦理由:示例將 Gradio MCP 伺服器、Playwright 網頁瀏覽與 IDM-VTON 虛擬試穿串成工作流程,並列出 VS Code 設定步驟。

7月30日週三
7月22日週二
  1. OpenAI Developers56

    OpenAI Responses API 的 File search 使用指南

    OpenAI 的 File search 指南説明,Responses API 可透過語義與關鍵詞搜尋,從已上傳檔案的知識庫檢索資訊。指南示範先建立 vector store 並上傳檔案,再將 file_search 加入可用工具;此工具由 OpenAI 託管,模型決定調用時會自動搜尋檔案並返回結果。

7月21日週一