跳到正文
目前篩選:觀點
今天11月22日週日1 則
  1. Engadget34

    iPad Air 與 iPad Pro:多付 $450 實際買到哪些功能

    iPad Pro 比 iPad Air 多出 OLED 顯示屏、較快的 M5 處理器及多項硬件升級,但一般用戶未必需要為此多付 $450。iPad Air 11 吋版售價 $749,配備 M4 和 128GB 儲存空間;iPad Pro 11 吋版售價 $1,199,配備 M5 和 256GB 儲存空間,執行本機 AI 模型的速度是 M4 的兩倍。

11月21日週六
  1. DEV Community44

    AI 應以邊緣優先作為預設選擇

    AI 產品團隊應以裝置端推理作為預設,只有模型無法在裝置上運行時才升級至雲端。在 iPhone 15 上,五項任務中有四項的裝置端延遲低於雲端,裝置端推理成本則為零。文章建議採用邊緣優先的混合架構,讓 95% 的請求在裝置端處理,5% 升級至雲端,並以裝置端作為離線後備。

11月20日週五
  1. DEV Community50

    更多產品中的 AI,或會在用戶裝置上運行

    越來越多產品的 AI 功能可在用戶的手機或手提電腦上運行,而非把文字或圖片送往數據中心的大型模型。Apple 的 AI 功能使用約 3 billion parameters 的裝置端模型,較難處理的請求才會傳送至伺服器。本機運行可保障私隱、節省成本,並讓功能在沒有訊號時繼續運作;小型模型適合狹窄任務,但不擅長長篇推理或廣泛知識。

  2. Hacker News 熱門(buzzing.cc 中文翻譯)47

    為甚麼 AI 要在本地運行?與 Moonshine Voice 創辦人 Pete Warden 對談

    Pete Warden 與主持人探討 AI 為何愈來愈傾向在本地而非雲端運行,以及本地 AI 的發展。Warden 指,本地模型在評測中表現出色,能力與大型商業模型的差距僅數月。對談亦涵蓋低延遲語音模型、在筆電及瀏覽器運行 AI,以及可能挑戰 GPU 為中心基建的新硬件方向。

11月19日週四
  1. DEV Community43

    從「AI 熱潮」到「雲端 API 後悔」:為何應採用用戶端運算

    面對雲端 API 帶來的架構負擔、成本及私隱風險,文章主張把適合的 AI 任務改在用戶裝置上處理,減少資料傳輸和伺服器開支。SolveMyMedia 的語音轉文字引擎在用戶裝置上處理敏感音訊,模型完成初次下載後,無須連接互聯網即可運作。文章提及 Transformers.js、WebAssembly 和 WebGPU 等技術。

11月18日週三
  1. 新浪科技50

    本地 AI 如何從遊戲與機械人示範走進日常生活

    作者在 NVIDIA 上海辦公室觀看 RTX Spark 本地模型示範後,認為本地 AI 的價值不在取代雲端大模型,而是把 AI 帶進更多日常場景。示範中的開源機械人 Microduck 透過 Wi-Fi 把數據傳至 RTX Spark 筆記型電腦,由本地模型處理和整理,最終讓機械人動起來。作者將雲端大模型比作負責複雜問題與長鏈路推理的大腦,把本地小模型視為處理感知及瑣碎任務的神經末梢。

11月17日週二
  1. 新浪科技49

    別被 TOPS 宣傳誤導:筆記簿電腦 NPU 對大多數用戶日常用途有限

    新款筆記簿電腦普遍搭載 NPU,但 TOPS 多為 INT8 精度下的理論峯值,不能直接代表實際速度;現階段大多數普通用戶的日常應用場景有限。NPU較適合低負載 AI 任務,例如影片會議背景模糊、降噪及即時字幕翻譯,軟件適配不足則限制其應用。Copilot+PC 規範要求 NPU 至少達 40TOPS;本地運行大模型則應優先考慮記憶體容量和頻寬。

11月15日週日
  1. 新浪科技46

    現階段最值得買的「山寨貨」,可能是智能眼鏡

    現階段若只為嘗鮮或外觀需求,數百元的山寨智能眼鏡可能比售價兩三千元的主流產品更值得買。主流智能眼鏡芯片算力或只高出山寨方案2-3倍,遠小於手機旗艦SoC近20倍的差距;兩者拍攝效果也未必有明顯分別。文章提醒,智能眼鏡目前仍受硬件限制,AI功能依賴手機和雲端,山寨產品的功能更新、App兼容性、私隱和售後亦難有保障。

11月13日週五
  1. DEV Community47

    為何開放權重裝置端 AI 模型應成為瀏覽器的標準功能

    Web Models API 提議讓網頁應用程式透過瀏覽器使用開放權重裝置端模型,並由用戶決定是否授權及可隨時撤銷。瀏覽器負責載入、執行模型和管理資源,API 亦支援工具呼叫、結構化輸出及多媒體輸入。此方案讓開發者按應用程式需要選擇特定模型,並在適用時避免雲端推理費用及傳送用戶資料至伺服器。

11月12日週四
  1. 新浪科技34

    李彥宏對話楊元慶:AI無法取代CEO見客戶,革命性技術初期不必過早計較投入產出比

    李彥宏與楊元慶談及AI時代的企業變革,楊元慶表示,AI無法取代CEO見客戶,人與人之間的情感連結仍然重要。聯想正以AI變革智能終端、智能基礎設施、智能解決方案和服務三大業務,並將AI應用於供應鏈管理。楊元慶認為,新技術發展初期應鼓勵員工大膽實踐,不必過早計較投入產出比。

11月11日週三
11月10日週二
11月9日週一
  1. DEV Community10

    軟件工程師談編寫程式碼之外的探索

    一名軟件工程師分享在 DEV Community 的寫作方向,涵蓋 Python、FastAPI、後端架構、Flutter,以及 AI 在軟件和流動應用程式中的實際應用。他指出,編寫程式碼只是打造優質軟件的一部分,架構決策、處理故障和效能優化同樣重要。

  2. DEV Community37

    Meta 150 億美元債券發行與 Amblyotube 在 Quest 上的雙眼分視架構:開發者個人觀點

    Meta 融資發行 $15B 債券,獲得 $58B 認購需求;一名開發者將此視為其視覺復康平台所依賴的運算基礎獲市場肯定。Amblyotube 在 Quest 2/3/Pro/3S 上運行,利用左右眼各自的顯示屏進行雙眼分視訓練。平台以 Unity URP 運行於 72/90Hz,並設有以 30 次 Landolt C 測試進行階梯式評估的 LogMAR 檢查工具。

11月8日週日
11月6日週五
  1. 新浪科技42

    大模型上車就能令汽車更好用嗎?

    大模型接入汽車不一定能改善使用體驗,功能穩定、操作有結果,還取決於車端與雲端的分工、模型調用服務的流程,以及通信和車內控制鏈路的協作。萬演引擎方案的標準適配週期目標為3至5個月;其回應速度指標不代表任務已完成。量產後仍需按實際使用記錄和持續服務成本評估部署效果。

11月5日週四
  1. Unite.AI34

    Andrei Kulik(XENOM 聯合創辦人)訪談系列

    XENOM 聯合創辦人兼 CEO Andrei Kulik 在訪談中談及如何將 edge AI 應用於工業安全,並以智能頭盔和平台提供工地即時資訊。頭盔上的 NPU 負責處理語音及感測器訊號、偵測跌倒和撞擊,平台則整合全場資訊及深入分析;他亦談到工人私隱、人手監督和預測決策支援。

11月4日週三
  1. 新浪科技36

    葛越亮相烏鎮世界互聯網大會:堅持科技以人為本,以端側 AI 守護私隱並賦能開發者與青年創新

    蘋果副總裁葛越在烏鎮世界互聯網大會表示,科技應以人為本,並分享蘋果在 AI 創新、私隱保護、開發者生態及青年人才培養方面的實踐。剛剛開啓測試的中國大陸 Apple 智能採用端側架構,生成式 AI 模型在設備本地完成運算,個人資料和交互信息不會上傳或分享給蘋果及第三方。