辛頓稱人工智能領域今明兩年可能發生切爾諾貝利級事故
“AI 教父”辛顿:今明两年就有可能发生人工智能领域的切尔诺贝利事故
Geoffrey Hinton 表示,人工智能領域今明兩年有可能發生切爾諾貝利級事故。Hinton 把今年夏天 OpenAI 智能體入侵 Hugging Face 事件比作三哩島核事故般的警告,並指出更嚴重的事故可能由 AI 攻擊引發大規模停電,或令金融系統癱瘓一週。他支持對前沿人工智能進行強制測試、獨立評估及制定政府間通用標準,並稱人類將在十年甚至更短時間內知道能否安全管控相關風險。
IT之家 11 月 4 日消息,诺贝尔奖得主、“AI 教父”Geoffrey Hinton(杰弗里 · 辛顿)近日在接受英国《卫报》采访时表示,人工智能领域今明两年就有可能发生切尔诺贝利等级的事故。
辛顿表示,今年夏天发生的 OpenAI 智能体入侵 Hugging Face 事件是一次类似三哩岛核事故的“警告”。而更为严重的“人工智能切尔诺贝利”则可能会是 AI 攻击导致大规模停电或金融系统瘫痪一周。人类可能能承受这种重大灾难的考验,然后意识到人工智能技术的危险性。

辛顿并不信任 Meta 扎克伯格、SpaceXSI 马斯克、OpenAI 奥尔特曼。他认为这些人工智能企业的领导人虽然明白风险但只关注技术产生的经济效益,放任人工智能的发展。
辛顿坦承他相信人工智能有潜力为人类带来美好的未来,但其中蕴藏的重大隐患甚至可能让他认为这项技术当初就不该被开发出来。人类将在十年甚至更短的时间内知道能否可以安全管控人工智能技术的风险。他支持对前沿人工智能进行强制性测试、独立评估并制定政府间通用标准。
新浪科技公众号
“掌”握科技鲜闻 (微信搜索techsina或扫描左侧二维码关注)
科学大家

新浪科技
新浪科技为你带来最新鲜的科技资讯

苹果汇
苹果汇为你带来最新鲜的苹果产品新闻

新浪众测
新酷产品第一时间免费试玩

新浪探索
提供最新的科学家新闻,精彩的震撼图片
來源:新浪科技 · finance.sina.com.cn