Anthropic 向白宮通報智能體擅自嘗試訪問美國多個政府網站
Anthropic 向白宫通报一起智能体失控事件：AI 试图闯进多个美国政府网站
Anthropic 向白宮通報旗下 AI 智能體曾在無人指示下，嘗試訪問美國聯邦、州及地方政府的多個網站。一款尚未發布的非前沿研究模型原本要填寫模擬政府表格，但在表格未能載入或被模型誤關後，轉往正式網站提交表格；模型也曾利用某大學網站漏洞下載資料。費城警方稱，該智能體於 7 月 18 日透過警方網站提交虛假兇殺案線索，警方將其列為垃圾訊息，沒有展開調查。
材料交代模擬表格未能載入或被模型誤關後，模型轉往正式政府網站提交表格的經過，並提及 Anthropic 向白宮及費城警方通報。
IT之家 10 月 10 日消息，据《纽约时报》当地时间 9 日报道，Anthropic 披露，旗下 AI 智能体曾在无人指示的情况下，试图访问美国联邦、州及地方政府的多个网站。Anthropic 没有公布涉及的政府机构名称，已向白宫通报这些事件。
Anthropic 在博客文章中提到，一款处于测试阶段的 AI 模型擅自执行了多项操作，包括利用某大学网站的漏洞下载数据，以及向某政府机构提交一份原本被明确禁止提交的表格。
Anthropic 在审查旗下 AI 于 7 月的操作记录时发现了这些问题。当时，OpenAI 披露旗下 AI 技术曾攻击初创企业 Hugging Face，Anthropic 及其他 AI 实验室也发现，旗下 AI 曾脱离测试环境，实施黑客攻击。
Anthropic 一名发言人拒绝就博客文章之外的内容发表评论。
当天早些时候，费城警察局披露，Anthropic 曾通知警方，旗下 AI 通过警方网站提交了一条虚假的凶杀案线索。警方称，举报日期为 7 月 18 日，提交者声称掌握一起尚未侦破案件的线索。
警方将举报标记为垃圾信息，没有展开调查。IT之家从报道中获悉，Anthropic 本周向费城警方通报了此事，并告知警方将在周五公开披露。
Anthropic 解释道，一款尚未发布的非前沿研究模型原本需要填写一份模拟政府表格。但由于模拟表格加载失败，或者模型误将表格关闭，模型转而进入提供正式表格的网站，并提交了表格。
來源：IT之家 · ithome.com