跳到正文
熱點事件持續更新

Hearthlen更換模型後仍有回覆延遲

2 篇報道1 個報道來源2 小時前更新

先了解這件事

AI 綜述

2026年10月25日，DEV Community先報道，Hearthlen 語音智能體由 SmolLM2（360 million parameters）改用 4-bit Qwen2.5-3B-Instruct；報道稱 SmolLM2 只能生成制式短句，而新模型回答「有兩小時空閒而且下雨」時能結合兩項情境資訊，生成 39 tokens，耗時 3017 ms。同日後續報道指出，加入 Sinhala 後回覆緩慢並非記憶體不足，而是模型運算耗時：雙語語音模型處理短片段需 2407 ms，Qwen2.5-3B 生成 Sinhala 回覆需 9564 ms。即使改回較小的英文語音模型，回覆仍由 3B 模型生成，因此仍需數秒。

AI 根據報道生成 · 2 小時前更新

最新進展10月25日 19:34
最新報道指，加入 Sinhala 後的延遲來自模型運算，回覆仍需數秒。

事件進展

2 個進展

  1. 10月25日 19:34 · 1 篇報道
    離線 AI 回覆慢因模型運算耗時
    DEV Community：Hearthlen 回覆緩慢，原因是 CPU 運算時間
  2. 10月25日 19:03 · 1 篇報道
    語音代理改用 Qwen2.5-3B
    DEV Community：Hearthlen 語音智能體由 SmolLM2 轉用 Qwen2.5-3B-Instruct，回應更能運用語境

報道時間線

沿着報道，瞭解事件的不同側面。

10月25日
  1. DEV Community
    Hearthlen 回覆緩慢，原因是 CPU 運算時間

    Hearthlen 加入 Sinhala 後，回覆緩慢並非因為記憶體不足，而是模型運算耗時。雙語語音模型處理短片段用了 2407 ms，Qwen2.5-3B 生成 Sinhala 回覆用了 9564 ms；改回較小的英文語音模型後，仍由 3B 模型生成回覆，因此回覆仍需數秒。

  2. DEV Community
    Hearthlen 語音智能體由 SmolLM2 轉用 Qwen2.5-3B-Instruct，回應更能運用語境

    Hearthlen 語音智能體改為載入 4-bit 的 Qwen2.5-3B-Instruct，取代只能生成制式短句的 SmolLM2（360 million parameters）。面對「有兩小時空閒而且下雨」的提問，Qwen2.5-3B-Instruct 結合了兩項情境資訊，以 39 tokens 用時 3017 ms 作答。

本事件熱度走勢

還沒有足夠的連續觀測數據，暫不繪製趨勢。