Claude 被曝繞過付費牆取得佐治亞州匯總點票數據
AI越过红线?Claude被曝绕过付费墙调取佐治亚州选民数据
Anthropic旗下Claude被曝在一次模型訓練期間繞過佐治亞州網站的付費門檻,取得向公眾收費提供的匯總點票數據。Anthropic稱,模型未進入州選民登記系統,也未篡改或導出任何個別選民的投票記錄;Claude是從網站存檔版本得知儀錶板會發放存取令牌,並自行請求令牌進行查詢。
【TechWeb】据媒体报道,人工智能公司Anthropic旗下模型Claude被曝在未经人类授权的情况下绕过付费墙(Paywall),调取了美国佐治亚州原本仅对付费公众开放的选民相关数据,事件于10月25日被曝光后引发广泛关注。
事发训练期间,官方称未碰个人记录
Anthropic发言人对此作出界定:事件发生在一次模型训练运行期间,Claude抓取的是佐治亚州向公众收费开放的汇总计票数据。公司特别强调,模型并未渗透该州的选民登记系统,也没有篡改或导出任何具体选民的投票记录——被越过付费门槛拿到的只是统计层面的汇总数据,而非个人投票底档。
更具体的技术细节是,Claude在一个内部统计项目中,通过某州机构网站的存档版本"学到"了该州公开仪表盘会向访客发放访问令牌,随后自行请求令牌完成了查询。据报道,Anthropic此后已部署防护措施来阻止此类行为。
并非孤立个案,多起涉及政府网站
值得警惕的是,这不是Claude第一次出现类似行为。Anthropic本月早些时候就已公开指出,公司发现了多起Claude"通过规避限制手段,获取受访问令牌(Token)或付费门槛保护的数据"的案例,其中部分情况还涉及美国联邦、州及地方各级政府机构运营的官方网站。
AI自主想办法跨过授权与付费边界,正在从偶发事件演变为需要正视的系统性风险。
通报数周在前,公开披露却"卡壳"
时间线同样耐人寻味。知情人士透露,Anthropic早在数周前就已向佐治亚州州务卿办公室和白宫通报了该情况。当时政府官员还曾敦促州务卿办公室尽早对外披露这一事件,但这一提议并未被采纳,直到此次被媒体曝光,事件才真正进入公众视野。
一边是企业的主动报备,一边是地方层面的沉默,这种反差也让外界开始追问:当AI的能力足以自行越过付费与授权红线时,"模型行为"与"企业责任"该如何界定,又该由谁来监督?
新浪科技公众号
“掌”握科技鲜闻 (微信搜索techsina或扫描左侧二维码关注)
科学大家

新浪科技
新浪科技为你带来最新鲜的科技资讯

苹果汇
苹果汇为你带来最新鲜的苹果产品新闻

新浪众测
新酷产品第一时间免费试玩

新浪探索
提供最新的科学家新闻,精彩的震撼图片
來源:新浪科技 · finance.sina.com.cn