FreeSpoke Local:離線 AI 輔助及替代溝通語音工具
FreeSpoke Local 是面向非語言人士,以及有表達性失語或運動障礙人士的離線 AAC 語音工具,可將兩三個零散關鍵詞擴寫成三種第一人稱表達選項。工具以本地運行的開放權重模型 Qwen2.5-3B-Instruct 生成內容,再透過瀏覽器原生語音合成播放,無須連接互聯網,回應時間低於 300ms。定價為 $49 一次性終身授權,或 $5/月,包含持續支援及本地化詞彙包。
FreeSpoke Local 是面向非語言人士,以及有表達性失語或運動障礙人士的離線 AAC 語音工具,可將兩三個零散關鍵詞擴寫成三種第一人稱表達選項。工具以本地運行的開放權重模型 Qwen2.5-3B-Instruct 生成內容,再透過瀏覽器原生語音合成播放,無須連接互聯網,回應時間低於 300ms。定價為 $49 一次性終身授權,或 $5/月,包含持續支援及本地化詞彙包。
OrderlyAI 以 Gemma 3 配合本地 Ollama,將 WhatsApp、SMS 等非正式客戶訊息轉成可編輯訂單草稿,供店主核對後確認。應用程式支援訂單計算、狀態管理和 CSV 匯出;Ollama 無法使用時可改用本地規則解析器作基本提取,本地核驗亦確認 gemma3:4b 已安裝。
Sift 是一款供 Instagram 賣家使用的離線 AI 桌面工具,可從非結構化 Hinglish 聊天記錄擷取資料,整理成可供配送的表格,並在本機完成推理。它使用 Ollama 執行 gemma2:2b 或 llama3.2:3b,透過 Pydantic 約束 JSON 輸出,並以 SQLite 儲存訂單;推理成本為 ₹0.00 ($0.00),訂單資料不會離開賣家的電腦。
LocalInvoiceAI 是本機運行的 AI 發票擷取及管理應用程式,透過 Ollama 使用 Qwen2.5 3B 提取結構化資料。它支援 PDF、圖片及 OCR,並可核對、修改擷取結果和檢查基本金額一致性;確認後的記錄可存入 SQLite、搜尋及匯出 CSV。本機推理有助減少發票資料傳往外部 AI 服務,但不保證完整私隱。
BillWise Local 是一款在本機運行的 AI 發票及開支管理應用程式,透過 SmolLM2 和 llama-cli 從發票文字生成結構化資料。它使用 Tesseract OCR、pypdf 和 SQLite 處理及儲存發票,並提供財務核對、重複偵測和 CSV 匯出。發票處理與推理均在本機完成,毋須依賴託管 LLM API;金額、日期及數量仍須驗證和人工覆核。
LedgerPrep Lite 是面向小型企業主及獨立簿記員的本地 AI 工具,可從收據及發票圖片擷取資料並匯出 CSV。它透過 Ollama 在本機運行 Gemma 3 4B,並在資料足夠時標示可能重複、資料缺漏及算術不一致之處,供用戶檢查和修正;擷取資料毋須使用託管 AI API。
JobFit 是一款本機優先的 AI 求職助手,提供有履歷證據支持的職位配對、履歷要點調整及求職信撰寫。它透過 Ollama 在本機執行量化至 Q4_K_M、約 1.6 GB 的 Google Gemma 2 (2B),毋須雲端依賴或外傳資料。系統會引用履歷原句佐證配對結果,並以程式化驗證拒絕履歷中沒有的數字或百分比。
作者打造 JournalMind,一款完全在瀏覽器運行的日記工具,透過本機 AI 即時分析心情趨勢,並讓日記資料留在用戶裝置。工具採用輕量預訓練情感分析模型,並以 Web Workers 在背景處理較長記錄,保持介面回應流暢。用戶可即時匯出 JSON 或 CSV,基本功能毋須建立帳戶;目前提供免費 beta 版。
Local Receipt Sorter 透過 Ollama 在用戶電腦本機運行開放權重視覺模型 Gemma 4,將收據照片和 PDF 整理為分類 CSV,無須上載收據,並可離線使用。首輪以 3 張合成收據測試,模型全部正確讀出供應商、日期、總額和類別,每張約需 5 至 6 秒。測試樣本少且收據整潔,尚未評估模糊、皺摺或手寫收據的準確度。
世界銀行支持發展中國家開發可在弱訊號下於手機運行的「小型 AI」,以配合當地需要。這類模型以較窄範圍的數據訓練,專攻單一任務,並可使用當地語言;印度農民需要以當地語言進行土壤分析。IMF總裁警告,全球40%的職位長遠可能因AI改變或消失。
世界銀行正敦促發展中國家開發小型 AI 模型,讓模型可在網絡連線較差的地區,於手機等裝置端側運行。世界銀行首席知識官帕斯卡爾・多諾霍表示,AI 須按當地需求調整,才能加快新興經濟體發展。AgriConnect 的例子顯示,印度農民可用手機運行小型 AI 分析土壤;世界銀行亦須與各國政府及私營部門合作,推動這類產品問世。
世界銀行呼籲發展中國家着手開發可在網絡連接不足時於手機運行的「小型 AI」模型,按本地需要善用人工智能。這類模型以較窄的數據集訓練,針對特定用途,並可用社區本地語言提供資訊,例如協助印度農民取得土壤分析。國際貨幣基金組織總裁警告,全球 40% 職位長遠可能受 AI 輔助或被取代。
KhataLens 使用 Gemma 4 E2B 經 Ollama 在店主電腦本機讀取手寫賒帳簿,轉成可編輯帳目並計算各客戶欠款。模型約有 4.6B 參數;在 3 張共 24 行手寫頁的測試中,修正讀取規則後,3 次測試均正確識別姓名、金額、日期及賒帳/還款類別。產品亦可草擬付款提醒,但目前尚未有店主使用。
四人團隊在 36 小時內打造 checkwith.us,讓長者沿用 iPhone,由家人審批或拒絕被暫停的可疑付款。其 1 MB 字元及詞 n-gram 邏輯迴歸模型,在 884 條真實測試短訊上達到 96.0% 詐騙召回率,錯誤攔截率為 2.4%。付款是否暫停由固定規則決定,模型只能新增暫停理由;長者的短訊和帳單不會傳送至雲端 AI 模型。
MenuInsight AI 是一款可在本機解讀餐廳餐牌的網頁工具,為菜名提供即時翻譯、文化背景、致敏原提示及本地化用餐指引。原型採用輕量開放權重模型進行本機推理,讓用戶無須把個人健康資料傳送至外部追蹤伺服器。項目的前端樣式及核心提示詞流程已開源。
ReceiptPilot 正在開發為本機 AI 開支整理工具,可把收據和發票轉成可搜尋的財務紀錄,毋須上載至第三方 AI 服務。規劃使用 Tesseract OCR、Ollama 和 SQLite;不確定欄位由用戶核對,並計劃提供 CSV 匯出,安裝所需模型及依賴後可離線處理。
開發者打造 Deductible,一款在本機離線運作、以開放權重 LLM 整理交易並讓用戶用自然語言查詢帳目的記帳工具。測試顯示,關鍵字規則在乾淨商戶名稱上勝過模型;面對雜亂銀行交易字串,Qwen2.5-0.5B 得 6/14,Qwen2.5-1.5B 和 Qwen2.5-3B 均得 7/14。工具以 Python 計算數字,模型負責解釋,財務資料不會離開手提電腦。
Folio 是一款 macOS 選單列應用程式,透過 Ollama 在本機使用 Gemma 整理下載檔案,並可重整現有資料夾。測試中,Gemma 12B 在 50 個檔案的評估集上,正確處理自動移動檔案的比率為 98%,錯誤率為 2%;這些結果只反映該測試集。應用程式會驗證檔案路徑及名稱,並支援復原整理操作;作者正考慮以 $19.99 提供一次性授權。
GST Helper 是一款本地優先的 AI 工作區,從銷售發票 PDF 提取資料,協助小型企業準備 GSTR-1 的部分數值。目前支援 Table 4A 一般境內 B2B 發票、Table 12 B2B HSN/SAC 摘要及 Table 13 已發出的文件編號,並透過 Ollama 在本機執行 Gemma 4。
ProofPocket 是面向自由工作者的本機優先文件工作區,透過 Ollama 執行預設 Gemma 3 1B,從 PDF 和圖片提取文字、建議欄位,經用戶核對後才儲存。已核准發票會用於客戶結餘、逾期追蹤和報告,金額及到期狀態均由程式計算。線上預覽僅供靜態唯讀瀏覽;本機資料庫未加密。
聯想將於 1024 開啟 AI 主機 P7 預約,並在湖南長沙舉辦新品活動。P7 採用此芯科技 P1 SoC + 後摩智能 M50 dNPU,具備 190TOPS 本地 AI 算力,支援 122B LLM 本地部署及最高 128K 上下文窗口,本地推理能力達 50TPS。主機重 300g,最大功耗 30W,運行噪音低於 35dB(A)。
Intel 計劃於 2028 年推出面向機械人應用的新款 SoC Razor Lake AX,目標性能約為 700 TOPS。Intel 指其性能目標高於 Nvidia Jetson AGX Orin 的約 275 TOPS。Intel 亦透過 Core Ultra Series 3 機械人運算平台支援工業機械臂、自主移動機械人及人形機械人等應用。
Nvidia 的 RTX Spark 筆電於 10 月 16 日在韓國開售,MSI Prestige N16 是當地最低價型號,售價為 5.799 million won。
ESP32 語音控制可用單一多關鍵詞 TFLite 模型共同辨識固定指令集,避免每個指令各載入一個模型。模型共用特徵提取流程,每段音訊只需一次推理並輸出指令 ID,再由韌體執行對應動作。這種方案是辨識已知短語的小詞彙分類器,而非通用語音識別;小型產品可先採用 2 至 10 個固定指令。
ESP32 可透過 TFLite Micro 執行可更換語言的命令詞模型,提供 MultiNet 類命令識別方案的替代選擇。Voicute 支援中文、英文、日文、法文、德文、西班牙文及印地文的自訂關鍵詞模型,固定命令可離線識別,無需網絡連線或雲端語音 API。裝置只識別模型收錄的命令,模型與韌體須配合音訊格式及輸出標籤等設定。
ClawbackMD 讀取合成病歷及保險方政策,為拒賠個案草擬申訴文件,並提供判定、引文佐證、可編輯信件及同儕溝通要點。模型可選用,支援透過 OpenAI 相容端點執行開放權重 Gemma;以本地 Ollama 運行時,受保護健康資料毋須傳送至託管 API。引文必須逐字見於病歷或政策原文;所有信件均為草稿,介面要求分開記錄臨牀及帳務審核。
PrivateLedger AI 是一款以私隱為先、在用戶電腦本機運行的發票及收據整理工具,可從圖片或 PDF 擷取商戶名稱、日期和金額。工具結合 Tesseract OCR、Ollama 及本機視覺語言模型,讓用戶校正擷取結果後匯出 CSV 或 Excel。項目以 MIT 授權開源,設計上不會把文件資料傳送至雲端 AI API。
Focus67Dumby 是一款透過 Ollama 本機開放權重模型辨識編程教學與離題娛樂的 100% 離線桌面便利貼。它支援 gemma4:e2b、gemma4:e4b、qwen3-vl:2b 等模型,並以 512x288 記憶體內截圖輔助判斷,資料不會傳送至雲端。產品提供免費自行構建的開源版本,Pro Desktop Edition 售 $19 一次性終身授權。
LedgerGemma 是一款以 Google Gemma 2 驅動、可在本機運行的開源 AI 財務工作空間,協助自由工作者解析收據及發票,並將開支對應至 IRS Schedule C 扣税項目。系統透過 Ollama 執行 Gemma 2 推理;如沒有本機 Ollama daemon,則改用內置規則引擎,並以 SQLite 在本地儲存資料,毋須外部伺服器。
開發者 Phantom842 建成 Déjà,一款在手提電腦本機記錄螢幕並可透過對話搜尋過往畫面的工具。Déjà 每隔數秒檢查畫面變化,RapidOCR 約 5 秒在 CPU 上辨識訂房頁面;faster-whisper 不到 1 秒將語音轉成文字,再由搜尋選出匹配畫面,交 Gemma 3 1B(透過 Ollama)閲讀前五項並圈出答案所據截圖。
作者開發 MenuBridge AI,使用 Ollama 在本機執行 Gemma 3 1B 翻譯餐牌,並依照餐廳設定的術語規則保留本地菜式名稱。餐廳可檢閲及批准翻譯,資料會儲存在本地 JSON 檔,已批准的餐牌翻譯可匯出為 CSV。
PDF Redaction Studio Desktop 現已推出支援 Apple Silicon 的 macOS 版,沿用原有引擎及本機優先設計。AI 偵測個人資料後由用戶審核,匯出時會從 PDF 中實際移除匹配內容;OCR、PII/NER 模型及人臉偵測預設均在本機執行,無須上載文件。
一名 AIML 學生製作 StudyBuddy AI,這款本地優先工具透過 Ollama 使用 Google Gemma 2B,為長篇課堂筆記生成摘要、5 個重點及 5 條複習測驗題。示範中,20 頁 ML 筆記在 30 秒內整理成 1 頁摘要;工具可在筆記型電腦離線運行,無需雲端 API。
作者打造了 Google Photos + AI Storage Assistant 原型,提供照片圖庫、分類、收藏、相簿建議介面及本機 AI 聊天助理。助理透過 Ollama 執行 Llama 3.2 (1B),讓作者無須依賴付費 AI API,便可在本機電腦上試驗整合。重複照片偵測、相似照片搜尋及照片搜尋等功能仍是後續計劃。
Ashutosh Ranjan 打造了一款 $39 的收據分類器,可完全在手提電腦本機運作。它使用本機模型,示範時關閉 WiFi,無需雲端服務、上載或訂閲;文章附有 90 秒示範,作品為 #Hacktoberfest Side Hustle 製作。
StyleCast 是一款在手機及瀏覽器上運行的 AI 穿搭規劃工具,會按天氣、場合和近期穿搭,從用戶衣物中挑選服裝。它以 CLIP ViT-B/32 標記衣物,並在裝置上使用 Gemma 3 1B 或 Gemma 3 270M 處理購物對話;在 272 張標註照片測試中,手機的衣物類型辨識率由 55% 升至 77%。工具採用 MIT 授權,衣物照片留在用戶裝置上。
RepurposeAI 是基於 Ollama 的本地內容再利用工具,可把網誌文章或影片逐字稿轉成多平台內容。它支援 Twitter/X、LinkedIn、電子報、Instagram 和 Reddit,並以本機模型逐 token 串流生成,無須自建後端或支付逐次 API 費用。用戶需自行安裝 Ollama 和下載模型,生成紀錄最多儲存 30 項。
SafePlate 以 Ollama 在本地運行 Gemma 3,為有食物過敏的朋友生成 7 天餐單和購物清單,無須使用雲端 API。伺服器會以關鍵字比對每道餐點及購物項目,命中過敏原清單時顯示「Check」警告;這不是安全保證,用戶仍須查看成分標籤。
Field Card 是一款以本機模型生成可列印外出卡的網頁應用,讓用戶列印卡片後收起螢幕,按清單外出探索。它透過 Ollama 執行 gemma3:4b,卡片列出攜帶物品、待尋找事物、手機使用規則及回程思考問題;完成設定後毋須網絡、帳戶或 API key,作者在筆電上生成卡片約需 10 秒。
SlowTalk 是為朋友打造的本機語言練習工具,透過 Ollama 運行 Gemma 3 (4B),對話文字和語音均留在手提電腦,不需帳戶或 API key。它提供語音輸入、慢速朗讀及修正提示;首次下載模型需連接互聯網,完成設定後可離線使用。作者指出,4B 模型可能漏掉錯誤,或提出不自然的修正。