跳到正文
新浪科技·· 8 天前AI 評分60

AMD 展示 HRX Loom:三至四天遷移 50 款大模型,長提示詞處理速度最高快 2.1 倍

效率提升2.1倍!AMD展示HRX Loom黑科技:三天移植50个大模型

AI 導讀

AMD 工程師使用 HRX Loom 軟件和智能體 AI 工作流,在三至四天內把 Hugging Face 上 50 款大模型遷移至 AMD 消費級顯示卡,涵蓋 18 種架構。

正文

快科技11月14日消息,AMD工程师近期完成了一项极具突破性的技术实验,利用全新的HRX Loom软件与智能体AI工作流,在短短三天内将50个热门大模型成功迁移至AMD消费级显卡硬件。

这不仅展示了AMD在端侧AI领域的快速适配能力,也预示着大模型在个人PC上的普及效率将大幅提升。

据了解,此次实验由AMD工程师Jeremy Fowers和Ben Vanik主导。他们通过引入智能体AI工作流,让AI能够自主编写和优化适配AMD显卡的模型程序,从而在三到四天内完成了涉及18种不同架构的50款Hugging Face热门模型的迁移。

要知道,知名AI模型托管平台Hugging Face是目前全球最大的开源AI社区,以往将这些模型逐一适配到特定硬件需要耗费数月时间。

在性能测试中,实验团队利用代号为Strix Halo的锐龙AI Max硬件进行了深度验证。

结果显示,在处理32K Token的长提示词时,HRX Loom软件的运行速度比目前主流的Llama.cpp ROCm后端提升了1.5至2.1倍,相比Vulkan后端也有1.9倍的性能优势。

需要说明的是,HRX Loom目前仍是AMD的实验性项目,但上述结果已经显示出可观的潜力。它也不只面向GPU,同样支持CPU和NPU执行。

实验结果已通过GitHub的Loom-Fun页面公开。作为工作的一部分,AMD还提供了名为loom-skills的交付物,可为Claude Code、Codex或Pi等编程智能体配备必要组件,使其能够编写并向AMD客户端GPU部署优化后的模型程序。

目前的测试重点集中在Strix Halo硬件上,例如Ryzen AI Halo和Framework Desktop这类设备。

【本文结束】如需转载请务必注明出处:快科技

责任编辑:青山

新浪众测 新浪众测

新浪科技公众号

新浪科技公众号

“掌”握科技鲜闻 (微信搜索techsina或扫描左侧二维码关注)

科学大家

新浪科技

新浪科技为你带来最新鲜的科技资讯

苹果汇

苹果汇为你带来最新鲜的苹果产品新闻

新浪众测

新酷产品第一时间免费试玩

新浪探索

提供最新的科学家新闻,精彩的震撼图片

來源:新浪科技 · finance.sina.com.cn