跳到正文
新浪科技·· 3 小時前AI 評分42

聯想 AI 主機 P7 預覽版亮相,搭載國產雙芯,可本地運行千億級大模型

联想AI主机P7预览版亮相 搭载国产双芯 可本地运行千亿级大模型

AI 導讀

聯想 AI 主機 P7 預覽版亮相,搭載國產雙芯,最高可在本地運行 122B 參數大模型。裝置支援 256K 上下文,斷網推理速度可達每秒50Tokens,滿載功耗不到30W。產品內置本地模型庫及聯想天禧AI,並將透過「先享計劃」邀請首批用戶試用及提供意見。

正文

快科技10月25日消息,联想AI主机P7预览版正式对外亮相,搭载国产双芯,巴掌大小的机身,可在本地跑千亿参数大模型。

这台机器整机重量只有300g,体积很小,可以长期放在桌面7 x 24小时不间断运行。

双芯分工不一样,一颗负责AI算力推理,另一颗承担系统调度、任务执行,两者配合释放整体算力。最高可以本地跑122B参数大模型,支持256K超长上下文,断网状态推理速度可以达到每秒50Tokens。

整机满载功耗不到30W,运行噪音低于35dBA,就算放办公桌旁边,长时间工作也不会吵人。

设备自带本地模型库,里面包含通用大模型、图像生成、文档识别、语音转写等多种模型,不用每次都依赖云端接口。

此外,联想AI主机P7预览版内置联想天禧AI,实现开箱即用,同时支持用户自行配置Agent。Auto模式下,天禧AI会在确保任务效果的前提下,根据任务复杂度在本地与云端模型之间自动选择更合适、更经济的模型,兼顾效果和成本。

很多做开发、写代码的人会碰到几个现实麻烦。频繁调用云端AI,token费用越用越高;重要资料上传云端,会有隐私泄露的顾虑;网络不稳的时候,大任务还容易中途断掉。

本地AI主机就是冲着解决这些痛点而来,数据全部留在本机,不用往外传。

随着软硬件开发完成、产品功能完备,联想AI主机P7预览版不久将正式发售。

联想在产品正式发售前先行启动“先享计划”,邀请首批用户在真实的编程与办公场景中使用、反馈,深度参与产品共创,将产品使用体验优化到最佳状态。

【本文结束】如需转载请务必注明出处:快科技

责任编辑:随心

新浪众测 新浪众测

新浪科技公众号

新浪科技公众号

“掌”握科技鲜闻 (微信搜索techsina或扫描左侧二维码关注)

科学大家

新浪科技

新浪科技为你带来最新鲜的科技资讯

苹果汇

苹果汇为你带来最新鲜的苹果产品新闻

新浪众测

新酷产品第一时间免费试玩

新浪探索

提供最新的科学家新闻,精彩的震撼图片

來源:新浪科技 · finance.sina.com.cn