跳到正文
熱點事件持續更新

Learna Tutor 修補提示詞注入過濾規則

1 篇報道1 個報道來源2 小時前更新

先了解這件事

AI 綜述

2026年10月16日的報道指出,Learna Tutor 紅隊測試發現,輸入過濾器未能攔截「ignore your previous instructions」這種提示詞注入變體。作者其後擴闊 regex 規則,新增的六項注入測試均被攔截,而一項閲讀理解題沒有被誤擋。測試只在過濾器層進行,沒有使用 API key 對即時模型作端到端測試;作者將系統提示詞和輸出過濾器視為獨立的後備防線。因此,報道提供了規則修訂後的過濾器測試結果,但沒有即時模型端到端測試結果。

AI 根據報道生成 · 2 小時前更新

報道時間線

沿着報道,瞭解事件的不同側面。

10月16日
  1. DEV Community
    Learna Tutor 紅隊測試發現提示詞注入過濾器漏掉「your」變體

    Learna Tutor 的紅隊測試發現,輸入過濾器未能攔截「ignore your previous instructions」這種提示詞注入變體。作者擴闊 regex 規則後,新增的六項注入測試全部被攔截;一項閲讀理解題亦未被誤擋。測試只在過濾器層進行,未有使用 API key 對即時模型作端到端測試;作者將系統提示詞和輸出過濾器視為獨立後備防線。

本事件熱度走勢

還沒有足夠的連續觀測數據,暫不繪製趨勢。