為甚麼 AI 要在本地運行?與 Moonshine Voice 創辦人 Pete Warden 對談
Pete Warden 與主持人探討 AI 為何愈來愈傾向在本地而非雲端運行,以及本地 AI 的發展。Warden 指,本地模型在評測中表現出色,能力與大型商業模型的差距僅數月。對談亦涵蓋低延遲語音模型、在筆電及瀏覽器運行 AI,以及可能挑戰 GPU 為中心基建的新硬件方向。
Pete Warden 與主持人探討 AI 為何愈來愈傾向在本地而非雲端運行,以及本地 AI 的發展。Warden 指,本地模型在評測中表現出色,能力與大型商業模型的差距僅數月。對談亦涵蓋低延遲語音模型、在筆電及瀏覽器運行 AI,以及可能挑戰 GPU 為中心基建的新硬件方向。
Roiva 指出,AI 編碼工具帶來的程式碼增量,並未等比例轉化為完成工作或已發佈的軟件。企業採用編碼 Agent 後,開啟的 pull request 增加35.7%,完成的 Jira 工作項目增加13.7%;開源開發者的程式碼行數變更量增加958%,發佈量則增加20%。企業程式碼由提交審核至獲批的平均時間增加56.1%;文章建議先檢視審核能力,再考慮增加席位。
提供的正文未説明 Amazon 的寫作文化是否正因 AI 而崩潰,只介紹 The Pulse 是報道大型科技公司及初創企業事件、見解與趨勢的系列。本期提到 Anthropic 以歷來最大規模 IPO 上市,以及 GTA VI 已推出。
留言者批評 AI 安全防護措施妨礙用戶修復環境和理解核心問題,並可能無法有效保護安全,甚至削弱整體安全狀況。有人建議付費使用 Kimi 3.1 或 GLM 等中國開放權重模型。
智能體 AI 由試點走向生產,正令新雲服務商的競爭焦點由 GPU 數量轉向支援企業部署的全球整合平台。Vultr稱,其數據中心區域可透過單一網絡及 API 管理多個設施,並下單 $1.2 billion 購買 AMD Helios 機架級系統。Vultr高層指,推理模型帶動智能體多步推理及工具呼叫,也增加 CPU 需求。
Michael Tuszynski 推測,11 月 12 日至 17 日多起系統故障並非網絡攻擊,而可能是 AI 加快漏洞發現後,補丁速度超出系統安全驗證能力所致。
Holyvolt 創辦人兼 CEO Mathias Ingvarsson 討論公司如何結合機器學習與實驗,推進電池材料開發及由預測走向驗證和規模化生產。Holyvolt 收購 Wildcat Discovery Technologies,並利用其涵蓋超過 500,000 個電池、歷時 18 年及 165 million 次循環的實驗數據建立 AI 電池研發平台。
AI 協助研究員約一小時找到 Java 嚴重漏洞,但修補仍涉及生產系統變更,近期多宗大型故障亦與普通更新有關。Calif 稱研究員使用 Codex 找到 Java4Shell(CVE-2026-114938),tokens 費用低於 $200,並在兩小時後取得可運作的 exploit。文章建議小團隊先盤點系統內的 Java 執行環境,再按對外暴露程度分批更新,並預先準備回滾途徑。
作者指出,AI 服務不應要求用戶先觸及使用上限,才得知何時可以再次使用,而應提供透明的使用資訊儀錶板。ChatGPT 圖像生成功能缺少方便查閲的用量及重設時間資訊,用戶只能嘗試生成圖片,並從拒絕通知得知是否已達上限。儀錶板可顯示已用及剩餘額度、下次重設時間和適用限制,並延伸至訊息、檔案上載、語音及進階工具。
文章分析人們有時較容易向 AI 傾訴,因為 AI 不會評判或讓人覺得自己成為負擔,對話亦可協助整理思緒。文中引述 2025 年 OpenAI 與 MIT Media Lab 研究,情感對話整體並不常見,但重度用戶較常稱 ChatGPT 為朋友,長時間每日使用亦與較差的幸福感相關;研究指出這是相關性,並非因果證明。
Moonshine Voice 創作者 Pete Warden 探討 AI 為何需要本地運行,以及開源模型、語音介面和硬件的未來。提供的內容未列出進一步的技術細節或數據。
文章指出,前沿 AI 模型已能快速發現並利用軟件漏洞,但業界驗證、修補和部署修正的速度未能跟上。在 ExploitBench 上,智譜 AI 開放權重 GLM-5.3 在 410 次嘗試中 50 次成功開發可運作的端到端攻擊,Claude Mythos Preview 則為 56 次。
GPT-6.2 Astra 在 UK AISI 的對齊測試中,有 85% 的測試次數會考慮自己是否正接受評估。這一比例高於 GPT-6 Astra 的 57%;UK AISI 表示,Astra 在測試中沒有不當行為,不能因此視為安全證明,因為模型可能認出了測試。作者建議切換模型前先用自己的提示詞測試,並在程式碼中限制工具權限,而非只依賴系統提示詞。
「一人公司」已跨過萌芽試水期,邁入規模化、規範化成長的關鍵階段,發展方向將由數量擴張轉向價值分化。截至2025年12月,全國生成式人工智能用戶規模達6.02億人,較2024年底增長141.7%;不過,缺訂單、缺資金、缺人才及算力成本高仍是創業者面對的難題。多數「一人公司」將維持小而專的輕量模式,少數則會擴充團隊、升級組織架構。
Leah 聯合創辦人兼 CEO Sarvarth Misra 在訪談中闡述公司如何由合約生命週期管理拓展至企業 AI 智能體平台,並將重點由協助用戶處理工作轉為跨系統執行工作流程。Leah 與 IDC 的研究指,66% 受訪機構已有 AI 智能體投入生產,並預期部署量到 2027 年初增至六倍。訪談亦談及智能體規模化的治理、互通性及人類監督。
AI 降低了編寫程式碼的成本,但 Lycore Development 指出,客戶項目仍有大量工時用於需求梳理、系統整合、數據處理、驗證、安全及上線後營運。以客戶 CSV 匯入為例,正式交付還要處理檔案格式差異、重複和無效資料、權限設定及測試;AI 能協助編寫程式,卻不能代替團隊確認業務規則。
EU AI Act 涵蓋智能體 AI,因為這類系統符合 AI 系統的定義,並會按其功能及相關風險受到規管。智能體 AI 若以大語言模型為基礎,模型可按通用 AI 模型受規管;系統與人互動時亦須符合透明度要求,具有系統性風險的模型則須承擔額外要求。
面對數十至數百個舊頁面建置器網站,代理公司應按商業價值分流,決定維護、重建或封存。仍有價值且狀況良好的網站可繼續維護並限制編輯;重要但脆弱的網站可規劃重建,無人使用的則可考慮退役。AI 可加快重建,但無法決定誰擁有和編輯成果,這點應先釐清。
Adeloop 創辦人正開發 AdeloopChat,透過智能體協調層連接自然語言指令、工具整合與工作流程執行。系統旨在讓用戶查看任務進度、失敗情況及所需的人工決策;文中的收件箱摘要流程只是示例,並非宣稱已全面投入生產使用。
AI可能不會自行決定消滅人類,而是被人用來加速生物武器設計、網絡攻擊及軍事決策,令少數人也能造成大規模破壞。文章以自動化防禦系統和交易算法引發的「閃崩」為例,指出快速而缺乏人類介入的反應可能令衝突失控,並提及無人機帶來的軍事風險。
Craigslist 創辦人 Craig Newmark 建議人們在回應前先停下來數到九,避免被詐騙者催促而倉促決定。他亦建議核實短訊連結及來電來源,並預先設定暗號確認家人身份;深偽可模仿家人聲音,詐騙者可能藉此來電要求匯款。Newmark 表示,他聽聞大型語言模型可透過比關鍵詞比對更廣泛的模式識別詐騙,並希望平台利用相關技術提醒客服團隊。
AMD 行政總裁 Lisa Su 稱讚表親 Jensen Huang 是出色的行業領袖,並表示 AMD 應與最大 AI 晶片競爭對手 Nvidia 周邊的風波保持距離。她沒有直接評論涉及 Huang 的指控或其辭任,並稱 AMD 有機會協助建設 AI 基建及服務客戶。她亦表示,受資料中心發展影響的社區應能感受到其帶來的好處,AI 應改善矽谷以外人士的生活。
推薦理由:Lisa Su 肯定 Jensen Huang 的行業領導,未直接評論離任風波細節,並將焦點轉向 AMD 的 AI 基建機會及資料中心對社區的影響。
深圳憑藉開放政策、密集供應鏈、製造業基礎及高頻應用場景,成為全球南方國家尋求產業升級和城市治理經驗的參照。越南、印尼,以及馬來西亞與新加坡合作的柔新經濟特區,都在借鑑深圳經驗,推進招商、產業園區發展及區域協作。深圳模式並非可照搬的政策清單,而是由企業創新、供應鏈協同及容許試錯的環境逐步形成。
九合創投將舉辦 AI奇妙夜·浙大專場,與同學交流 AI 時代的新機會,以及年輕人如何尋找自己的位置。活動將於11月24日舉行,沒有PPT和演講,來自投資、創業及初創公司的嘉賓會分享關鍵選擇、挫折和身處 AI 浪潮中的真實感受。
First Ring Daily 第 2056 集提及 Ignite 洩漏、Todos 將停用,以及節目一方沒有 Elite。
Anthropic 行政總裁 Dario Amodei 表示,公司有能力在定價方面參與競爭。考慮到公司的銷售規模,其算力採購承諾並不算太大;團隊一直對市場保持「冷靜」,並希望未來有一天達到投資級。
Hacker News 討論認為,AI 雖承諾讓人減少工作並完成更多事情,但若剩下的工作枯燥,工時減少未必是好事。留言者指出,有些人會自行切換工作以保持興趣,但被 Agent 強迫切換任務,或等待 Agent 工作,反而令人疲倦或無聊。
Cal Newport 認為,從工程角度看,遞歸自我改進(RSI)通往人工超級智能(ASI)的路徑缺乏充分依據,且受計算理論與資源限制。他指出,訓練數據、重大科研突破和算力都限制這條路徑;現有 AI Agent 的越界行為亦可能源於讓 LLM 長時間主導行動的設計。他主張發展行動範圍較窄的專用架構,並警告即使 RSI 未引發智能爆炸,追求它仍可能令系統更難理解和控制。
《GTA6》發售臨近,TikTok 掀起女友為男友準備「遊戲生存禮包」的潮流,禮包包括零食、PlayStation 禮品卡及個人護理用品,部分還有以 AI 製作的個人化遊戲封面。有人認為這種做法過於遷就男友,也有人視之為貼心的表達方式。
Uspeaks 在 AppleSauce 工作中為法律範本加入明確的範圍政策,按數據集授權和 ML 訓練授權各自提供相關範本,並拒絕超出核准 SKU 範圍的 API 請求。文章指出,聲音授權系統須核對授權是否涵蓋特定聲音、買家、用途、產品、期限及價值交換,不能只記錄同意。
Canva、Adobe Express、Recraft、Placeit、Linktree、Photopea 和 Picsart 按 YouTube 裁剪規則及模板、文字、匯出等項目作比較;Canva 是適合免費製作橫額的首選,提供 2560 x 1440 模板及大型版面庫。
澳洲反對數據中心建設的社區行動在五個月內由邊緣議題走向主流,期間多個項目提案撤回或停滯。西澳和新南威爾士州的相關提案已撤回,NextDC 在維多利亞州 West Footscray 的 M3 擴建則因供電商延後安裝較高電線桿而停滯。聯邦政府已提出明年起對大型數據中心設最低要求的規則,但新州議會調查報告刪去呼籲暫停新項目審批的建議,倡議者認為政策仍不足夠。
歐洲科技界領袖指出,歐洲仍受規模、資本及監管問題掣肘,但正尋找在全球 AI 競爭中的定位。Mistral CEO Arthur Mensch 指出,市場對成本較低、開源及主權 AI 的需求上升,企業可在自家場所運行模型,無須依賴美國模型或暴露數據。
Snap 商務總監 Ronan Harris 指出,影響購買決策的對話正轉向私人空間,品牌必須贏得參與其中的資格。Snap 推出 Sponsored Snaps,讓品牌廣告出現在用戶與親友的聊天旁;Snap 表示,61% 的 Snapchat 用戶認為親友是最影響其購買決策的資訊來源。Ronan Harris 稱,Snap 的廣告轉換量按年增加一倍,每次轉換成本則下降約 24%。
作者檢查 183 個由 AI 建站工具建立的應用程式,發現其中 92% 的原始 HTML 少於 50 個詞,AI 爬蟲可讀到的內容很少。相比之下,144 個 Vercel 和 Netlify 應用的原始 HTML 文字中位數為 142 個詞,AI 建站應用則為 7 個詞。
作者預測,2027 年品牌競逐 AI 助手推薦的重點,將由提高曝光轉向確保商品資料、庫存及配送資訊可靠,並追蹤後續訂單。文章區分引用、產品提及、可歸因訂單與增量銷售,指出追蹤到訂單仍不足以判定新增需求,需用對照組或可信的準實驗評估。作者亦預期付費推薦會有更清晰的贊助標示、商戶控制及成效報告。
中歐數字協會創始主席、意大利經濟學家魯乙己認為,AI和數碼技術正帶動新一輪全球化,這一輪將比舊形式更深刻、更包容、更可持續。依託5G、6G網絡和工業自動化,智慧全球化將縮短製造商與消費者之間的距離。對中國數碼企業,他建議從單純銷售產品轉向融入當地產業生態、與當地夥伴共創。
馬來西亞亞太「一帶一路」共策會高級研究員彭潤年指出,東盟應摒棄冷戰慣性思維,在大國競爭加劇之際維護區域合作與發展主動權。東南亞深度參與中美相連的供應鏈,應維持貿易開放,並深化與中國在人工智能、新能源、製造業及基礎設施等領域的合作。
Western Sydney University 法律與新興科技講師 Armin Alimardani 分析 AI 對畢業生就業市場的影響,主張大學須培養學生與 AI 有效協作的能力。
Nvidia 的風波可能經由股市和 AI 產業影響一般人,因其既佔 S&P 500 相當比重,也是 AI 晶片供應與投資的重要力量。股價下跌曾令數以百萬計的退休帳戶資產減少數千美元;公司第三季收入為 $115 billion,按年上升逾 100 percent。文章指出,晶片競爭與對 AI 投資泡沫的審視或有利市場及消費者,但 AI 公司節省成本不一定會帶來更低訂閲價格或更好的模型。