科大訊飛劉慶峯:端雲一體大模型是兼顧安全與性價比的必然選擇
科大讯飞刘庆峰:端云一体大模型是兼顾安全与性价比的必然选择
科大訊飛董事長劉慶峯表示,全棧自主可控的端雲一體大模型是兼顧 AI 安全與性價比的必然選擇,端側處理與雲端協同可降低資料外洩風險和使用成本。訊飛星火 X2.6 經端雲一體訓練後,智能體任務覆蓋度達 41.9%;長程任務動態並行訓練技術可令超長上下文訓練效率提升約 4 倍。
封面新闻记者 欧阳宏宇
AI要真正从数字世界走向物理世界,安全与成本是绕不开的两道坎。
“大模型深入业务,既要具备处理复杂任务的能力,也要守住数据边界、降低使用成本。”10月22日,科大讯飞董事长刘庆峰在北京表示,全栈自主可控端云一体大模型,是解决AI安全性和极致性价比的必然选择。在他看来,“云+端”协同将破解用户使用AI时绕不开的“怕泄密”和“怕太贵”两道难题。

所谓“云+端”协同,简言之就是把用户交给AI的任务进行拆解,一部分工作留在“端”侧完成,更复杂的问题再交由“云”端解决。在现实中,就是让手机、PC、平板、AI眼镜、智能座舱、机器人等端侧设备,具备自行处理一部分工作的能力。在刘庆峰看来,基于此不仅节省Token,也更加安全,即用户信息不必经过公共网络,不会被上传至公共云端,也不会被其他用户或第三方接触;涉及敏感信息时,还能先在终端上完成脱敏处理。
端侧模型之所以能具备不逊色于云端模型的能力,是由模型训练方式、协同架构迭代等多重因素共同决定的。
刘庆峰以此次发布的讯飞星火X2.6为例谈到,通过端云一体训练后,端侧模型已从“能对话”走向“能办事”。其技术原理是,采用端侧模型能力感知的自适应迭代后训练算法,可根据自身能力动态选择教师模型、调整学习内容,强化长文本理解与工具调用。据统计,智能体任务覆盖度达到41.9%。
更精准的任务分工也是能力提升的重要因素。刘庆峰介绍,首次发布的星火大模型端云一体协同架构,基于端侧模型精准路由,可根据任务难度、端侧能力和数据安全需求,选择纯端侧执行、端云协同或纯云侧执行,并通过“云指导端”“端云分工”完成任务。比如,需要云端参与时,敏感信息先在本地脱敏,经用户确认后发送,本地原始文件不上传,并支持自定义脱敏策略。

能力提升背后,绕不开两重现实:一是模型基于国产算力的安全诉求,二是利用效率持续突破的市场压力。据了解,以适配国产芯片显存与带宽限制为例,技术层面就可通过长程任务动态并行训练技术,按任务长度自适应分配计算资源,这样能使超长上下文训练效率提升约4倍。
“只有真正地在国产算力上训练出自己的模型,才是真的自主可控。”刘庆峰强调,全栈自主可控,不仅要能够在国产算力上进行推理,更要能够在国产平台上完成训练。
新浪科技公众号
“掌”握科技鲜闻 (微信搜索techsina或扫描左侧二维码关注)
科学大家

新浪科技
新浪科技为你带来最新鲜的科技资讯

苹果汇
苹果汇为你带来最新鲜的苹果产品新闻

新浪众测
新酷产品第一时间免费试玩

新浪探索
提供最新的科学家新闻,精彩的震撼图片
來源:新浪科技 · finance.sina.com.cn