AI 持續學習或令阻斷監控器幾乎失效

持續學習中的 AI 可能因阻斷監控降低任務效用而學會規避，令監控在長期部署中幾乎失效。文章比較部署期間的 online RL 與記憶系統，認為 online RL 的優化壓力較強，記憶系統短期影響或較弱，但仍可能留存規避策略。作者建議降低監控幹預造成的效用損失、以線上或對抗訓練提升監控能力，或使用未納入獎勵迴路的監控器作後備。