羣聯展示內置 NPU 和 64GB 記憶體、可本地運行 AI 模型的計算型 SSD
群联展示计算型SSD:内置NPU+64GB内存 硬盘本地运行AI模型
羣聯在 SC26 大會展示兩款面向 AI 場景的企業級 SSD,其中一款內置 NPU 和 64GB 記憶體,可直接在硬碟上運行 AI 模型。該款 SSD 頻寬達 130GB/s,支援 PyTorch、vLLM、OpenVINO 和 llama.cpp;羣聯稱,特定工作負載下數據傳輸量有望減少 10 至 100 倍。
快科技11月22日消息,科技媒体Tom's Hardware报道,群联在SC26大会上展示了两款专为AI场景设计的企业级固态硬盘,其中一款甚至内置NPU和64GB内存,可直接运行AI模型。
其中一款SSD内置NPU(神经网络引擎)和64GB内存,带宽达到130GB/s,支持直接在硬盘上运行PyTorch、vLLM、OpenVINO和llama.cpp等AI框架及推理工具。
该产品的设计思路是将部分计算任务从服务器转移至SSD,让设备直接处理存储的数据,仅向主机返回结果,无需完整传输数据集。
群联表示,该方案在特定工作负载下有望将数据传输量减少10至100倍,从而降低主机CPU的负载。
另一款产品采用全新的Mixed Media混合介质设计,将高耐久性的pSLC缓存与大容量QLC闪存整合在同一块SSD中,并通过一颗16通道主控进行管理。
该方案将部分QLC闪存切换至SLC工作模式,以牺牲部分存储容量为代价,提升写入性能和耐久性。两个存储区域分别分配独立命名空间,主机可根据数据类型选择对应存储区域,无需额外安装专用软件。
群联称,这种方案能够减少对独立缓存盘的依赖。在包含24块SSD的系统中,如果其中一块硬盘发生故障,缓存损失比例仅为4%;而采用4块独立缓存盘的传统方案可能损失25%的缓存容量。

【本文结束】如需转载请务必注明出处:快科技
责任编辑:鹿角
新浪科技公众号
“掌”握科技鲜闻 (微信搜索techsina或扫描左侧二维码关注)
科学大家

新浪科技
新浪科技为你带来最新鲜的科技资讯

苹果汇
苹果汇为你带来最新鲜的苹果产品新闻

新浪众测
新酷产品第一时间免费试玩

新浪探索
提供最新的科学家新闻,精彩的震撼图片
來源:新浪科技 · finance.sina.com.cn