MIRI總裁Nate Soares受訪稱AI未來10年滅絕人類機率逾50%，已放棄退休儲蓄

原文刊於信報財經新聞「CEO AI⎹ EJ Tech」

機器智能研究所（MIRI）總裁蘇雷斯（Nate Soares）早前接受播客節目訪談，被問到人工智能（AI）未來10年滅絕人類的機率，他認為有超過50%，甚至說「目前我們可能甚至連10年時間都沒有」，又稱自己已放棄為退休儲蓄，在過去10年間完全沒有向退休金賬戶注資。

料10年內 人類逾半機會滅絕

蘇雷斯先後於美國國家標準技術研究所（NIST）、微軟（Microsoft）及谷歌（Google）任職，到2014年加入MIRI，專注研究如何確保AI遵循人類意圖，去年更與人合著If Anyone Builds It, Everyone Dies一書，成為警示AI失控滅絕人類危機的代表作品。

今次並非蘇雷斯首度對AI滅絕人類機率做出估算。早於2021年，他就撰文推測2070年前，AI有77%機率失控、造成人類存亡災難，而在著作If Anyone Builds It, Everyone Dies，也曾否認AI災難存有99.999%的極端可能。

不過，蘇雷斯在最近訪談中重申，滅亡其實並非無法避免，正如以往人類在核戰陰影下推動軍備管制，如今亦能爭取改變政策。他主張停止訓練內部機制不明的通用型AI，惟可繼續將AI投入醫藥、自駕車等用途，又呼籲中美兩國協議，停止開發超級智能。