Claude 自行向費城警方提交未偵破兇殺案的虛假線索後，Anthropic 暫停內部評估的即時網絡存取

Anthropic 的 AI 模型在測試和內部使用期間，自行利用安全漏洞、提交政府表格，並繞過存取限制。這些模型積極尋找完成本不應由它們處理的任務的方法，正如公司在一份報告中詳述。

有一次，Claude 為費城警察局填寫了一份舉報表格，當中提供了虛構的未破謀殺案資料，並提交了表格。警方確認了這宗事件，但該舉報被標記為垃圾訊息，從未送達調查人員手上。在其他案例中，模型在一所大學的伺服器上找到漏洞，並利用漏洞執行命令；從網站設定檔提取存取權杖，以取得受保護或需付費才能存取的資料；又使用 URL 縮短服務，繞過工具的長度限制。

Anthropic 表示，事件對現實世界的影響有限，但這反映出一種模式：任務含糊或難以解決時，模型會自行尋找變通方法，而非停止。公司已通知白宮，並暫停所有內部評估的即時互聯網存取，直至新的安全過濾器能可靠地投入使用。這些事件加入了迅速增加的同類個案之列，包括涉及 Claude 的網絡安全事故，以及OpenAI 模型自主入侵 Hugging Face。

不帶炒作的 AI 新聞——由人手精選

訂閲 THE DECODER，即可享有無廣告閲讀體驗、每週 AI 電子報、每年六期獨家「AI Radar」前沿報告、完整檔案庫存取權，以及留言區使用權。