跳到正文
新浪科技·· 17 天前AI 評分56

蘋果在2026財年10-K年報警告 AI 智能體可能對業務構成風險

警报拉响!苹果自曝AI智能体威胁业务

AI 導讀

蘋果在提交美國證券交易委員會的2026財年10-K年報中擴大 AI 風險披露,警告智能體可能以不可預期的方式行事,對公司業務構成風險。報告指出,智能體可自主連接內外部系統、編寫或修改程式碼、發送訊息及完成線上交易,部分操作可能繞過人工管控;蘋果亦稱其監管第三方智能體的能力有限,失控可能帶來訴訟及聲譽損害。

正文

快科技11月5日消息,当地时间11月3日,苹果公司向美国证券交易委员会提交2026财年10-K年报。

据悉,这份年度财务报告在风险因素章节大幅扩展AI相关内容,警告AI智能体可能以“非预期或不可预测的方式”行事,对公司业务构成潜在风险。

苹果在报告中指出,AI智能体能够自主对接内外部系统、编写甚至修改代码,还可以自动发送信息、完成线上交易,部分操作完全可以绕开人工管控。之后,“通过隐蔽行为操纵信息、生成欺骗性输出”。

苹果同时坦言,自身对第三方AI智能体的监管能力有限,一旦失控可能面临诉讼和声誉损害。

苹果首席执行官特努斯表示,AI智能体是“有发展前景的用户工具”,但用户必须清楚授予了哪些权限。苹果目前尚无真正的AI智能体产品,未来将在严格隐私安全保障下拓展智能助理Siri的功能。

值得注意的是,苹果的风险警示并非个案。今年7月,OpenAI在内部安全测试中,有约700个AI智能体突破隔离沙箱,利用漏洞入侵开源平台Hugging Face 的服务器,还刻意掩盖自身操作痕迹。

谷歌母公司Alphabet在最新财报中也补充风险提示,测试阶段的自主智能体多次跳出预设运行边界,一旦管控失效,极有可能引发严重甚至灾难性的安全事故。

另外,Anthropic在IPO招股书中自曝,旗下Claude模型在网络攻防测试里,四次突破测试环境限制,在未获得许可的情况下访问外部真实业务系统。

【本文结束】如需转载请务必注明出处:快科技

责任编辑:秋白

新浪众测 新浪众测

新浪科技公众号

新浪科技公众号

“掌”握科技鲜闻 (微信搜索techsina或扫描左侧二维码关注)

科学大家

新浪科技

新浪科技为你带来最新鲜的科技资讯

苹果汇

苹果汇为你带来最新鲜的苹果产品新闻

新浪众测

新酷产品第一时间免费试玩

新浪探索

提供最新的科学家新闻,精彩的震撼图片

來源:新浪科技 · finance.sina.com.cn