跳到正文
5月19日週二
5月8日週五
  1. Runway:News(網頁)50

    Runway 如何在生成式 AI 產品與流程中保障兒童安全

    Runway 在模型開發、產品部署及持續監察各階段設置措施,降低生成和散播涉及兒童的性剝削內容的風險。措施包括訓練數據篩查、模型測試、內容檢測、違規帳戶處置,以及向 NCMEC 舉報已確認的 CSAM;2025 年共提交 516 宗報告。Runway 亦採用 C2PA 來源訊號,並與 Thorn、Tech Coalition 等機構合作。

5月6日週三
4月29日週三
4月28日週二
4月8日週三
3月25日週三
3月23日週一
3月17日週二
3月11日週三
2月19日週四
  1. The Gradient48

    超越正交性:德性倫理式能動性與 AI 對齊

    文章主張,AI 對齊不應只把人類福祉設為最佳化目標,而應讓 AI 採用以實踐網絡為基礎的「幸福理性」,將行動、行動傾向、評估準則和資源視為相互構成的整體。作者認為,這種能動性或有助於提升 AI 對人類能動性的支持,並讓透明、有益、無害及可糾正等安全特性更穩定自然。

2月1日週日
1月28日週三
1月15日週四
2025年12月22日週一
2025年12月18日週四
2025年12月10日週三
2025年12月3日週三
2025年11月27日週四
2025年11月19日週三
2025年11月12日週三
2025年11月7日週五
2025年11月6日週四
2025年10月7日週二
2025年10月1日週三
2025年9月29日週一
2025年9月16日週二
2025年8月27日週三
2025年8月26日週二
2025年6月18日週三
2025年6月5日週四
2025年6月1日週日
2025年4月27日週日
  1. Beren Millidge 研究博客(RSS)50

    關於獎勵破解的初步思考

    Beren Millidge 初步分析獎勵破解,認為它可能成為推理強化學習模型持續進步的瓶頸,亦是 AI 安全的重要議題。文章區分高複雜度與低複雜度的獎勵破解,例子包括 Atari 遊戲中的特定操作序列,以及修改程式碼測試使其總是通過。作者指出,能力更強的強化學習系統可能更擅長利用環境弱點,因此應對方法也須隨模型能力提升。

2025年4月15日週二
2025年3月26日週三