跳到正文
10月17日週六
  1. LiveKit 產品與工程博客65

    LiveKit 指南:如何打造可投入生產環境的 AI 語音智能體

    LiveKit 的指南整理了打造可投入生產環境的 AI 語音智能體的方法,涵蓋對話品質、生產觀測,以及可靠且具成本效益的擴展。指南建議獨立量度首輪回應延遲、妥善處理輪替與打斷,並測試背景噪音、語言及口音等情境。上線前亦應釐清錄音與個人資料要求、訂定可量度的成效指標,並為模型及後端準備備援和容量設定。

10月16日週五
  1. DEV Community36

    如何使用 OpenAI WebSocket API 模式?

    OpenAI 提供兩種 WebSocket API 模式:Responses API 用於工具呼叫密集的智能體工作流程,Realtime API 用於低延遲語音應用。Responses API 在 20+ 次工具呼叫時,端到端速度最高比 HTTP 快 40%。Realtime API 支援音訊串流和用戶打斷,延遲低於 500ms。

  2. IT之家32

    上汽榮威家越 07 宣佈 10 月 23 日上市,預售小訂突破 4 萬台

    上汽榮威家越 07 預售小訂突破 40000 台,並將於 10 月 23 日正式上市。車款共推出三個版本,預售價由 13.78 萬元起,搭載豆包座艙助手,以及由 Momenta R7 世界模型和新芯航圖 XHEART X7 大模型專用芯片組成的軟硬一體方案。其 CLTC 純電續航為 320km,綜合續航為 1480km,並支援 30%-80% 最快 15 分鐘快充。

  3. DEV Community19

    From a Thesis on Stuttering to Companies on Two Continents

    作者先後創辦美國的 RamTech Solutions LLC 和印度的 TenTwo Technologies,從口吃研究延伸至跨國創業。其 FluentLoop 項目把論文研究帶到瀏覽器,讓口吃者練習真實對話、獲取 AI 回饋並追蹤進度,毋須特別硬件。研究成果曾發表於 IEEE SeGAH 並獲最佳海報獎,也曾兩度提交至 ASHA。

  4. DEV Community25

    Shopify 商店如何整合語音 AI

    教學示範如何把語音 AI 整合到 Shopify 商店,串接語音輸入與合成語音播放。流程涵蓋 ElevenLabs API 的文字轉語音(TTS)和聲音複製、語音轉文字(STT),並透過 Shopify API 取得商品資料。教學亦示範把 GPT-4、Claude 或 Rasa 等對話式 AI 平台接入語音聊天機械人。

  5. DEV Community35

    如何處理 TTS 應用程式中的邊緣情況

    TTS 應用程式可透過長篇文字分段、清理特殊字元及處理 ElevenLabs API 的 429 錯誤,應對常見邊緣情況。重試範例最多執行 5 次,每次將等待時間加倍;測試樣本涵蓋多語言、表情符號和複雜標點。語音複製可用 SSML 發音指引、以小型數據集微調,或讓問題片段改用通用語音。

  6. DEV Community40

    GhostRunner: Turning Every Street into a Story

    GhostRunner 是一款開源、以本機運作為先的生成式音訊引擎,會沿真實街道規劃路線、辨認 OpenStreetMap 地標,並預先編寫及配音,讓跑步或步行時的驚悚故事配合所在位置播放。它在運行期間不進行模型推理,並可在配備 4 GB GPU 的手提電腦上運作。作者尚未進行付費試點或驗證定價;目前已儲存的任務只能在作者自己的機器上重播。

  7. Hugging Face Blog60

    Granite Switch 4.1 推出 8B、30B 版本,單一端點整合對話、決策與語音轉文字

    Granite Switch 4.1 發佈 8B 和 30B 模型,讓對話、通用及專項決策與語音轉文字可透過同一個託管端點處理。兩款模型整合 Decision aLoRA、Guardian aLoRA 和 Granite-Speech-5.0-Turbo-CTC,合併後佔用的 GPU VRAM 約與基礎模型單獨運行相若,且可重用基礎模型生成的 KV cache。

    推薦理由:文章呈現以 aLoRA 組合通用及專項決策與語音辨識的方法,並交代共用 KV cache 如何使多項能力維持接近基礎模型的 GPU VRAM 佔用。

  8. Unite.AI65

    IBM 發佈 Granite Switch 4.1 模組化模型,提供 8B 和 30B 版本

    IBM 發佈 Granite Switch 4.1 的 8B 和 30B 模型,把基礎模型、通用決策適配器、安全適配器及嵌入式語音轉文字編碼器整合至單一託管端點。IBM 稱這些組件與基礎模型合用時,GPU 記憶體用量約與單獨使用基礎模型相同。兩款模型採 Apache 2.0 授權,模型卡列出 Hugging Face Transformers 和 vLLM 後端,以及 128K 上下文窗口。

  9. Unite.AI34

    Bland 首席資訊總監 Juan E. Riojas 訪談系列

    Bland 首席資訊總監 Juan E. Riojas 在訪談中解釋,公司選擇自行託管語音 AI 技術堆疊,以控制延遲、資料私隱及可靠性。平台涵蓋 ASR、LLM 推理和 TTS,並透過統一運行環境減少第三方 API 依賴。此方案需投入 GPU 基建,並自行處理模型訓練、評估和維護,以及即時串流同步和高併發 GPU 調度。

10月15日週四
  1. Hacker News:AI 熱帖25

    ICE 擬用 AI 監察被拘留者的通話及行動

    ICE 有意使用 AI 監察被拘留者的通話及行動。一名近期發布 ASR 模型的留言者表示,其自訂授權禁止將模型用於監察在押人士。他認為這項限制未必能改變整體情況,但隨着相關能力發展,仍值得考慮模型的用途。

  2. DEV Community45

    A regex matched my LLM pipeline on clean text. Then synthetic speech broke both.

    SayAgain 的評估顯示,在乾淨文字上,正則表達式已能達到預設標準,無須使用 LLM。89 組測試中,正則表達式標記了全部 41 個預設錯誤,並未對 48 個正確讀回造成誤報;Gemma-4-31B-IT 則有 2 次誤報。改用合成語音後,正則表達式和 Gemma 的誤報分別升至 16/48 和 17/48,兩者均超出誤報預算。