傑弗裏·辛頓警告 AI 領域今明年可能發生切爾諾貝利級事故
AI教父辛顿:今明年AI领域有可能发生切尔诺贝利等级的事故
傑弗裏·辛頓警告,AI 領域今年或明年可能發生切爾諾貝利級事故,情境包括黑客利用 AI 攻擊關鍵基礎設施,造成大範圍停電或全球金融系統癱瘓一週。他把今年夏天 OpenAI 智能體入侵 Hugging Face 平台一事比作三里島事故,稱這是危險預警,但尚非真正災難。辛頓主張對前沿大模型實施強制安全測試和第三方獨立評估,並推動各國建立統一的 AI 安全標準。
快科技11月4日消息,近日,被称为“AI教父”、诺奖得主杰弗里·辛顿,在接受《卫报》采访时抛出重磅预警,他认为今年或者明年,AI领域就有可能爆发一场切尔诺贝利级别的重大事故。
辛顿把今年夏天OpenAI智能体入侵Hugging Face平台事件,类比为核安全史上的三里岛事故,属于一次危险的预警信号,但这还不是真正的灾难。
所谓AI界的“切尔诺贝利”,并不是科幻电影里AI自主反叛、消灭人类,而是AI被黑客利用,发起针对关键基础设施的网络攻击,最典型的场景就是造成大范围长时间停电,或是让全球金融系统瘫痪一周,直接冲击民生运转秩序。
在采访中,辛顿直言自己并不看好头部AI企业管理层的风险态度,点名批评OpenAI的奥特曼、Meta的扎克伯格、马斯克等人。
辛顿表示,称他们清楚AI背后潜藏的巨大隐患,但在商业竞争和利益面前,没有给予足够的重视,各家只顾着比拼模型能力、抢占市场。
需要指出的是,辛顿并非反对AI,他认为AI就是一把双刃剑,自己认可其拥有巨大正向价值,能够给人类带来美好的未来,可一旦重大事故发生,人们或许会后悔当初不该发明这项技术。
在他看来,未来十年就是人类的关键窗口期,人类终将验证,到底能不能管住AI的风险。
那么该如何防范风险?辛顿给出的解决方案也十分明确:针对前沿大模型,必须落地强制安全测试、第三方独立评估,推动各国建立统一的AI安全标准,用监管约束狂奔的技术。

【本文结束】如需转载请务必注明出处:快科技
责任编辑:落木
新浪科技公众号
“掌”握科技鲜闻 (微信搜索techsina或扫描左侧二维码关注)
科学大家

新浪科技
新浪科技为你带来最新鲜的科技资讯

苹果汇
苹果汇为你带来最新鲜的苹果产品新闻

新浪众测
新酷产品第一时间免费试玩

新浪探索
提供最新的科学家新闻,精彩的震撼图片
來源:新浪科技 · finance.sina.com.cn