跳到正文
新浪科技·· 15 天前AI 評分41

OpenAI CEO 奧爾特曼警告:人類未來可能無法從 AI 手中奪回控制權

OpenAI CEO 奥尔特曼警示:未来人类可能无法从 AI 手中夺回控制权

AI 導讀

OpenAI CEO Sam Altman 警告,若人類逐步把控制權交給能力遠超人類的自主式 AI,最終可能無法奪回控制權。另一種失控風險是個人、公司或國家壟斷 AI;他認為多間採取不同路線的 AI 實驗室互相競爭,比所有人依賴一家公司安全。Altman 仍相信 AI 能帶來更美好的未來,並推動基礎科學研究進步。

正文

IT之家 11 月 6 日消息,OpenAI 首席执行官萨姆 · 奥尔特曼(IT之家注:Sam Altman)最近出席 Raj Shamani 播客时表示,人工智能可能通过两种方式走向失控:一是人类逐步将控制权交给自主式 AI,二是某个人或实体垄断 AI 技术。

针对第一种情况,奥尔特曼警告称:“AI 会逐渐失去控制,我们可能有意或无意地将控制权交给能力远超人类的系统,最终再也无法夺回。”

第二种情况的风险在于巨头垄断,奥尔特曼解释称:“另一种情况是,某个人、公司或国家相对于其他所有人来说过于强大。让多个不同路线的 AI 实验室相互竞争,比所有人依赖一家企业安全得多。”

这种对过度集权的担忧,解释了马斯克以及 OpenAI 的前高管等知名人士会选择离开,创办与之竞争的公司。奥尔特曼指出:“很多人的思维中都会出现一种想法,那就是他们只相信自己有能力开发这项技术,因为利害关系实在太大了。”

话虽如此,奥尔特曼仍然坚信 AI 将让人类迎来更美好的未来。他特别提到了基础科学研究,认为下一代 AI 模型能让科学持续进步。

新浪众测 新浪众测

新浪科技公众号

新浪科技公众号

“掌”握科技鲜闻 (微信搜索techsina或扫描左侧二维码关注)

科学大家

新浪科技

新浪科技为你带来最新鲜的科技资讯

苹果汇

苹果汇为你带来最新鲜的苹果产品新闻

新浪众测

新酷产品第一时间免费试玩

新浪探索

提供最新的科学家新闻,精彩的震撼图片

來源:新浪科技 · finance.sina.com.cn