DoNews·· 2 天前AI 評分41
谷歌工程師在激光打印機上運行 Gemma 3 AI 模型
谷歌工程师在激光打印机上运行Gemma 3 AI模型
AI 導讀
谷歌 DeepMind 工程師奧馬爾·聖塞維耶羅在未改裝的理光辦公激光打印機上運行 2.7 億參數的 Gemma 3 模型。實驗以打印機內置的 PostScript 解釋器執行量化後的 Transformer 推理,峯值記憶體佔用為 14.1MB,無需外部計算設備或修改固件。整體輸出速度約每個 token 60 秒。
正文
11月17日,谷歌DeepMind工程师奥马尔·圣塞维耶罗成功在未改装的理光办公激光打印机上运行2.7亿参数Gemma 3模型。实验利用打印机内置PostScript解释器执行量化后的Transformer推理,峰值内存占用仅14.1MB。模型采用动态层加载策略,不依赖外部计算设备或固件修改。推理全程在打印机CPU完成:预填充阶段处理提示‘Read the fine’耗时184秒,单词元解码耗时0.1秒,整体输出速度约每词元60秒。该实验展示了边缘AI部署的新可能性。
免责声明:本文内容由开放的智能模型自动生成,仅供参考。
來源:DoNews · donews.com