跳到正文
2025年3月27日週四
  1. Hugging Face Blog77

    DeepSeek-V3 0324 登上 Hugging Face Hub,四項基準分數均上升

    DeepSeek-V3 0324 已登上 Hugging Face Hub,沿用原版架構並採用 MIT 授權,重點改善指令遵循、編碼和數學能力。DeepSeek 團隊列出的 MMLU-Pro、GPQA、AIME 和 LiveCodeBench 分數,分別由 75.9、59.1、39.6、39.2 升至 81.2、68.4、59.4、49.2。

    推薦理由:文中提供 MMLU-Pro、GPQA、AIME 和 LiveCodeBench 的更新前後分數,讓讀者可按多項基準逐一比較 DeepSeek-V3 0324 相對原版的提升幅度。

2025年3月24日週一
2025年2月24日週一
2025年2月11日週二
2025年2月10日週一
  1. antirez 原創博客54

    antirez:推理模型只是 LLM

    antirez 主張,推理模型仍是 LLM;以 DeepSeek R1 為例,其核心是 decoder-only 自回歸模型,沒有明確的符號推理或表示。R1 Zero 無需監督式微調,僅透過生成思維鏈並以獎勵函數配合強化學習,便能獲得相近的推理能力;S1 論文則指出,少至 1000 個例子已可讓模型開始進行複雜推理。作者據此認為,預訓練已形成推理所需的表徵,強化學習及少量微調可令這些能力展現。

2025年2月7日週五
  1. 張小珺商業訪談錄38

    朱嘯虎又來了:中國現實主義 AIGC 故事一週年連載

    時隔1年,朱嘯虎對通用人工智能的態度出現逆轉,成為這期中國現實主義 AIGC 故事一週年連載的核心內容。此前,他曾表示不看好大模型,並稱不會投資6家中國大模型創業公司中的任何一家。節目提及 DeepSeek 讓他快要相信 AGI,以及閉源模型是否仍有價值的討論。

2025年2月4日週二
  1. Hugging Face Blog53

    DABstep:面向多步推理的數據智能體基準

    Hugging Face 與 Adyen 聯合推出 DABstep,這項基準以450多項數據分析任務評估 AI 智能體的多步推理能力。任務源自 Adyen 的實際工作負載,但資料與商業背景為人工生成;基準涵蓋結構化資料和非結構化文件,並提供資料集、任務、評測、即時排行榜及基線。

2025年1月27日週一
  1. IT16884

    DeepSeek新模型發布後訪問量激增,官網及 API 再度服務中斷

    DeepSeek新模型發布後用戶訪問量激增,令官網及 API 再度無法使用。DeepSeek R1 在 AIME2024 的成功率達 79.8%,每百萬個 token 查詢成本為 0.14 美元,低於 OpenAI 的 7.50 美元;其程式碼和訓練方法以 MIT 許可開源。市場憂慮 DeepSeek R1 以較低成本訓練,可能削弱對英偉達 AI 晶片需求的預期。

    推薦理由:文章並列 DeepSeek R1 的基準表現、查詢成本與開源方式,並呈現其對模型競爭和 AI 晶片需求預期引發的反應。

2024年12月26日週四
2024年12月10日週二
  1. DeepSeek:API 更新日誌60

    DeepSeek 將 deepseek-chat 升級至 DeepSeek-V2.5-1210

    DeepSeek 將 deepseek-chat 升級至 DeepSeek-V2.5-1210,並改善多項能力。MATH-500 成績由 74.8% 提升至 82.8%,LiveCodebench(08.01 - 12.01)準確率由 29.2% 升至 34.38%;內部測試亦顯示寫作和推理有所改善。新版本亦優化檔案上傳和網頁摘要功能的使用體驗。

2024年12月4日週三
2024年9月5日週四
2024年9月4日週三
2024年8月2日週五
2024年7月25日週四
2024年7月24日週三
2024年6月28日週五
2024年6月14日週五
2024年5月31日週五
2024年5月17日週五
2024年5月11日週六
  1. Beren Millidge 研究博客(RSS)40

    整數 tokenization 現已大幅改善

    GPT2 和 GPT3 的 tokenizer 曾以不一致的方式切分整數,令模型難以學習算術;新一代 tokenizer 的整數表示大致已解決這個問題。Llama、Mistral、Gemma、Deepseek 和 Yi 按十進制逐位切分,GPT4 和 Llama3 則將數字分組切分。分組方式可減少長整數運算所需的連續步驟,但可能較難學習。

2023年1月24日週二
  1. Hugging Face Blog60

    甚麼令對話智能體有用?

    Hugging Face Blog 梳理對話智能體的訓練方法,涵蓋 IFT、SFT、RLHF 和 CoT。文中指出,IFT 所需指令數據僅為數百例量級,SFT 以人工標註改善有用性和安全性,RLHF 則根據人類偏好訓練獎勵模型,再用強化學習訓練對話智能體。

    推薦理由:文章把 IFT、SFT、RLHF 與 CoT 放在對話智能體訓練脈絡中梳理,並比較多個系統的訓練資料和評估方向,呈現各方法的分工。