DoNews·· 2 天前AI 評分45
Anthropic 上市日爆發 AI 安全抗議,前研究員呼籲禁止遞迴自我改進
Anthropic上市日爆发AI安全抗议,前研究员呼吁禁递归自我改进
AI 導讀
Anthropic 股票首次公開交易當日,前研究員雅各布·考克森與數十名抗議者在公司總部外集會,要求禁止 AI 自主參與下一代模型訓練的「遞迴自我改進」。考克森稱該技術存在不可控風險,並呼籲企業遊説政府推動全球禁令。METR 報告指出 AI 正加速 Anthropic 研發;公司的 IPO 文件承認無監督的自主模型設計並不安全,並表示正計劃加強人類管控。
正文
2026年11月19日,美国旧金山。Anthropic公司股票首次公开交易当日,前研究员雅各布·考克森联合数十名抗议者在该公司总部外集会,要求禁止‘递归自我改进’——即AI自主参与下一代AI模型训练。考克森强调该技术存在不可控风险,并呼吁企业游说政府推动全球禁令。同期,METR机构报告指出AI正加速Anthropic研发;公司IPO文件亦承认无监督自主模型设计不安全,正拟加强人类管控。考克森与OpenAI前研究员丹尼尔·科科塔伊洛等共同发声,警示2027年全球仅少数地点可能实现该技术。
免责声明:本文内容由开放的智能模型自动生成,仅供参考。
來源:DoNews · donews.com