跳到正文
新浪科技·· 2 小時前AI 評分27

360集團參編《前沿人工智能安全與治理2026:風險認知與協同治理》正式發布

360集团参编 《前沿人工智能安全与治理2026:风险认知与协同治理》正式发布

AI 導讀

世界互聯網大會人工智能專業委員會安全與治理推進計劃正式發布《前沿人工智能安全與治理2026:風險認知與協同治理》,360集團是主要貢獻單位。報告聚焦前沿人工智能的能力突破與風險演進,評估24個國家的治理就緒情況,並引用360集團《大模型安全白皮書》作為案例。

正文

11月3日,世界互联网大会人工智能专业委员会安全与治理推进计划正式发布《前沿人工智能安全与治理2026:风险认知与协同治理》(以下简称《报告》)。360集团作为主要贡献单位,围绕大模型与智能体的运行风险与安全治理提供研究成果和产业实践参考,为前沿人工智能风险研判与协同治理贡献经验。

《报告》聚焦2026年前沿人工智能的能力突破与风险演进。指出前沿人工智能正由单项能力突破转向模型、工具与环境协同的系统跃升。相关风险也由单点、局部问题演变为跨场景、跨主体、跨边界的系统性挑战。《报告》同时评估了24个国家的治理就绪情况,并就协同应对提出建议。360集团《大模型安全白皮书》作为大模型风险判断与技术方案案例被《报告》引用。该白皮书系统梳理了AI五类运行风险,并提出了“外筑‘以模治模’动态屏障,内固‘平台原生’安全底座”的防护思路。

作为国内唯一兼具AI与安全能力的企业,360集团依托全球领先的安全大数据积累与安全大模型,以“以模治模”理念构建全栈AI安全治理体系:以图龙锋、仪天阵打造“主动发现+自动防御”网络攻防安全系统,并构筑大模型安全和智能体安全两道防线。在这一体系下,针对智能体的部署与运行安全,360推出智能体安全防护与管理系统,覆盖智能体资产发现、行为管控、威胁检测、事件响应和损失恢复等关键环节,可对智能体、技能插件及模型链路进行识别与管理,并围绕文件访问、网络连接、命令执行等行为实施运行时管控;结合“探针+私有化360安全大模型+安全情报”,发现提示注入、恶意技能等安全风险,同时支持风险事件回溯与文件备份恢复,推动智能体环境从“看得见”走向“管得住、可追溯、能恢复”。 

此次为《报告》贡献研究与实践经验,是360参与人工智能安全治理的一项具体行动。未来,360将持续围绕大模型和智能体运行中的实际风险开展技术研究与产业协作,为人工智能的安全可控发展贡献力量。

(责任编辑:玲华)

新浪众测 新浪众测

新浪科技公众号

新浪科技公众号

“掌”握科技鲜闻 (微信搜索techsina或扫描左侧二维码关注)

科学大家

新浪科技

新浪科技为你带来最新鲜的科技资讯

苹果汇

苹果汇为你带来最新鲜的苹果产品新闻

新浪众测

新酷产品第一时间免费试玩

新浪探索

提供最新的科学家新闻,精彩的震撼图片

來源:新浪科技 · finance.sina.com.cn