IT之家·· 14 小時前AI 評分44
華中科技大學與阿里巴巴成立「智能攻防與前沿安全聯合研究中心」
华中科技大学与阿里巴巴联合成立 AI 前沿安全研究中心,课题覆盖大模型安全攻防等
AI 導讀
華中科技大學與阿里巴巴集團於11月18日簽署合作協議,共建「智能攻防與前沿安全聯合研究中心」,首批啟動9個課題。課題涵蓋大模型安全攻防、智能體與終端安全、智能化系統與軟件安全、數據協同與私隱保護四大方向,並探索圖像對抗樣本識別與防護、密態計算等技術。
正文
IT之家 11 月 21 日消息,华中科技大学与阿里巴巴集团于 11 月 18 日签署合作协议,聚焦 AI 安全共建“智能攻防与前沿安全联合研究中心”,首批启动 9 个课题。

IT之家获悉,联合研究中心首批启动的 9 个课题,覆盖大模型安全攻防、智能体与终端安全、智能化系统与软件安全、数据协同与隐私保护四大方向,以下为官方公开的案例:
当 AI 智能体开始替用户操作手机、完成复杂任务时,屏幕画面可能被伪造,操作过程也可能受到恶意诱导。对此,联合研究中心设立“图像对抗样本与终端威胁研判”课题,探索相关安全风险的识别与防护技术。
当用户在购物、地图、外卖等应用之间切换时,既希望享受数据互通带来的便捷,又担心个人信息在协同过程中泄露。针对这一问题,“隐私保护关系图谱”课题将探索通过密态计算等技术,实现数据“可用不可见、协同不透传”,让便利与隐私保护不再成为单选题。
來源:IT之家 · ithome.com