比爾·蓋茨批評特朗普政府阻礙 AI 風險防範,警告模型失控構成嚴重隱患
盖茨怒怼特朗普政府AI监管不作为:模型失控将构成严重隐患
比爾·蓋茨批評特朗普政府阻礙 AI 風險防範,警告模型遭惡意利用或失控可能引發大範圍危機。他指出,利用 AI 製造生物武器或攻擊社會網絡漏洞是最迫切的風險,並主張政府為模型內部安全防護和監控設立基準、推動全球行動及第三方審計。他又稱,OpenAI 和 Anthropic 今年很可能推出新模型,並於 2027 年發布「兩次重大版本」,而模型失控可能成為嚴重隱患。
微软联合创始人比尔·盖茨(Bill Gates)指责特朗普政府阻碍了防范AI风险的努力,并警告称这项技术可能被恶意利用,并引发一场大范围的危机。
周三(11月4日),盖茨在一次会议上指出,人工智能模型的“惊人”能力意味着其带来的潜在好处和潜在危害都不可低估。
他称,利用人工智能工具制造生物武器或攻击社会网络漏洞的恶意行为构成了最紧迫的风险,尤其是因为某些所谓“开源”的模型可以被开发者自由访问,它们能绕过安全防护和监控机制。
盖茨还表示,国际社会在监管和监控人工智能及其影响方面的努力正因白宫的不作为而受到阻碍,“我们处境相当尴尬……唯一的问题是,需要发生多少次不良事件,特朗普政府才会改变其姿态。”
AI安全性担忧
盖茨是少数几位强烈警告人工智能发展可能被滥用或失控、甚至带来灾难性后果的科技界重要人物之一。他此前曾提出,人工智能可能导致数十亿人死亡,并引发大规模失业。
近几个月来,人们对这项新兴技术安全性的担忧确实在不断升温。
上周,Anthropic公司提交的IPO招股说明书中就有提到,该技术可能给人类带来“灾难性甚至关乎存亡的风险”。随后盖茨称赞这家前沿实验室对人工智能风险的坦诚,“他们一直非常坦率,这正是这种态度的又一例证。”
面对发展速度惊人的这项技术,美国总统特朗普却拒绝了加强政府监管人工智能的呼吁,还将制定G20人工智能指南的努力斥为“全球主义计划”,并更倾向于支持科技行业内部的自我监管。
盖茨对此则表示,行业的自我监管的行不通的,“一旦我们引入多家企业,解决这一问题的唯一途径就是转向政府。”
他敦促政府考虑为模型的内部安全防护和监控设立基准,并牵头开展全球行动,修复网络漏洞,进行大规模监测,以便尽早发现潜在的人工智能引发的感染。
他还补充道,OpenAI和Anthropic今年很可能会推出新模型,并在2027年发布“两次重大版本”。他认为,“模型本身失控”问题将在不久的将来成为严重隐患,而这些即将推出的模型可能加剧这一风险,因此需要政府进一步加强新模型的安全保障以及第三方审计工作。

新浪科技公众号
“掌”握科技鲜闻 (微信搜索techsina或扫描左侧二维码关注)
科学大家

新浪科技
新浪科技为你带来最新鲜的科技资讯

苹果汇
苹果汇为你带来最新鲜的苹果产品新闻

新浪众测
新酷产品第一时间免费试玩

新浪探索
提供最新的科学家新闻,精彩的震撼图片
來源:新浪科技 · finance.sina.com.cn