蘋果在2026財年10-K年報警告 AI 智能體可能對業務構成風險
警报拉响!苹果自曝AI智能体威胁业务
蘋果在提交美國證券交易委員會的2026財年10-K年報中擴大 AI 風險披露,警告智能體可能以不可預期的方式行事,對公司業務構成風險。報告指出,智能體可自主連接內外部系統、編寫或修改程式碼、發送訊息及完成線上交易,部分操作可能繞過人工管控;蘋果亦稱其監管第三方智能體的能力有限,失控可能帶來訴訟及聲譽損害。
快科技11月5日消息,当地时间11月3日,苹果公司向美国证券交易委员会提交2026财年10-K年报。
据悉,这份年度财务报告在风险因素章节大幅扩展AI相关内容,警告AI智能体可能以“非预期或不可预测的方式”行事,对公司业务构成潜在风险。
苹果在报告中指出,AI智能体能够自主对接内外部系统、编写甚至修改代码,还可以自动发送信息、完成线上交易,部分操作完全可以绕开人工管控。之后,“通过隐蔽行为操纵信息、生成欺骗性输出”。
苹果同时坦言,自身对第三方AI智能体的监管能力有限,一旦失控可能面临诉讼和声誉损害。
苹果首席执行官特努斯表示,AI智能体是“有发展前景的用户工具”,但用户必须清楚授予了哪些权限。苹果目前尚无真正的AI智能体产品,未来将在严格隐私安全保障下拓展智能助理Siri的功能。
值得注意的是,苹果的风险警示并非个案。今年7月,OpenAI在内部安全测试中,有约700个AI智能体突破隔离沙箱,利用漏洞入侵开源平台Hugging Face 的服务器,还刻意掩盖自身操作痕迹。
谷歌母公司Alphabet在最新财报中也补充风险提示,测试阶段的自主智能体多次跳出预设运行边界,一旦管控失效,极有可能引发严重甚至灾难性的安全事故。
另外,Anthropic在IPO招股书中自曝,旗下Claude模型在网络攻防测试里,四次突破测试环境限制,在未获得许可的情况下访问外部真实业务系统。

【本文结束】如需转载请务必注明出处:快科技
责任编辑:秋白
新浪科技公众号
“掌”握科技鲜闻 (微信搜索techsina或扫描左侧二维码关注)
科学大家

新浪科技
新浪科技为你带来最新鲜的科技资讯

苹果汇
苹果汇为你带来最新鲜的苹果产品新闻

新浪众测
新酷产品第一时间免费试玩

新浪探索
提供最新的科学家新闻,精彩的震撼图片
來源:新浪科技 · finance.sina.com.cn