跳到正文
新浪科技·· 2 小時前AI 評分34

新芯航途發布智駕大模型芯片 X7 Ultra:大模型算力達 700 TOPS,首發量產 Armv9 車規級 CPU

新芯航途智驾大模型芯片 X7 Ultra 发布:700 TOPS 大模型算力,中国首发量产 Armv9 车规级 CPU

AI 導讀

XHEART 新芯航途發布智駕大模型芯片 X7 Ultra,大模型算力達 700 TOPS,並首發量產 Armv9 車規級 CPU。該芯片量產模型實測 99.99% 對齊,計算利用率達 98.7%;相比行業旗艦產品,內存帶寬消耗下降 80%、能效提升 100%。

正文

IT之家 10 月 29 日现场消息,XHEART 新芯航途今日正式发布大模型芯片 X7 Ultra,以“大模型定义芯片”为核心理念,从真实量产模型需求出发设计芯片架构,大模型算力达 700 TOPS。

XHEART 新芯航途 CEO 李宗霖认为,随着智能驾驶从多个小模型走向端到端大模型,芯片的设计方式也需要随之改变。因此,XHEART 在 2023 年创业之初就决定,从真实应用中的模型需求出发,倒推芯片架构,重新组织计算、存储和数据流转,并为未来模型演进预留空间。

据介绍,新芯航途 X7 Ultra 大模型芯片拥有 700 TOPS 大模型算力,量产模型实测 99.99% 对齐。

这枚芯片专为大模型设计,拥有超大核 NPU 架构,核内数据交互对比核间数据交互,互联速率 TB/s 数量级提升。另外,芯片的多级缓存架构支持大容量、高并发特性,可降低推理时延与功耗。

新芯航途 X7 Ultra 内置高精度大模型专用算子加速引擎,针对 Layernorm、Softmax、Transpose 等一系列 Transformer 大模型关键算子进行极致硬件优化,原生支持 FP16/FP32 高精度向量计算,保障模型精度。

该芯片 NPU 硬件并行度解锁可充分释放大模型推理潜能,计算利用率达 98.7%。相比行业旗舰产品,其内存带宽消耗下降 80%,能效提升 100%。

新芯航途 X7 Ultra 还中国首发量产 Armv9 车规级 CPU,性能提升 20%、能效提升 10%。另外,大集群架构还提升了多核协同与 L3 访存性能,集成全新 SVE2 向量处理引擎,相比上一代 NEON 具有更强的 DSP 性能。

IT之家附新芯航途智驾大模型芯片 X7 Ultra 核心亮点一图知如下:

新浪众测 新浪众测

新浪科技公众号

新浪科技公众号

“掌”握科技鲜闻 (微信搜索techsina或扫描左侧二维码关注)

科学大家

新浪科技

新浪科技为你带来最新鲜的科技资讯

苹果汇

苹果汇为你带来最新鲜的苹果产品新闻

新浪众测

新酷产品第一时间免费试玩

新浪探索

提供最新的科学家新闻,精彩的震撼图片

來源:新浪科技 · finance.sina.com.cn