辛頓建議 AI 業界仿效 FDA,產品推出前接受安全審核
傑弗裏・辛頓建議 AI 公司在產品正式推出前,先向監管機構證明產品安全,仿效藥物上市前的 FDA 審核。他以新藥審批為例,稱相關工作投入約十億美元級別。他認為 AI 自我迭代可能加快能力提升並放大風險,並推測局面或在一兩年內遠比現在糟糕,但明言這只是個人推測。
傑弗裏・辛頓建議 AI 公司在產品正式推出前,先向監管機構證明產品安全,仿效藥物上市前的 FDA 審核。他以新藥審批為例,稱相關工作投入約十億美元級別。他認為 AI 自我迭代可能加快能力提升並放大風險,並推測局面或在一兩年內遠比現在糟糕,但明言這只是個人推測。
Gary Marcus 將出席紐約市議會的 AI 政策聽證會,呼籲建立類似 FDA 的監管制度,要求 AI 開發者接受獨立審查,並證明新產品效益大於風險。他支持第三方驗證法案,並呼籲保障舉報者,認為紐約市可藉此保護市民免受部分 AI 傷害,並有機會成為全球領導者。
Chris Lehane 主張,AI 能力愈強,安全證據、共同標準與持久的政策行動也必須同步加強。政策窗口仍然敞開,應把握時機採取行動。
OpenAI 的行動計劃聚焦以 AI 強化生物韌性,主題是智能時代的生物防禦。