跳到正文
AWS Machine Learning Blog· Jian Zhang·· 3 天前精選AI 評分62

Amazon Bedrock Guardrails Denied Topics 撰寫最佳實踐

Best practices for writing Denied Topics in Amazon Bedrock Guardrails

AI 導讀

AWS Machine Learning Blog 提出 Amazon Bedrock Guardrails Denied Topics 的八項撰寫最佳實踐,建議按用戶意圖而非主題領域界定拒絕內容。

推薦理由

以虛構銀行客服案例呈現八項撰寫原則,重點在把拒絕範圍寫成具體意圖與行為,並分清 Denied Topics 和其他政策的適用情境。

正文 · 繁體中文

在 Amazon Bedrock Guardrails 中使用 Denied Topics,只需用清晰易明的語言描述某個內容類別,就能封鎖該類別;防護機制會按語義而非關鍵字,將這項描述套用於每個請求。同一機制也可能誤中更多內容。例如,名為 Finance 的主題原本是要避免助理提供投資建議,卻也會封鎖「我的直接存款何時會到帳?」這類問題。凡是意思與主題相近的輸入都可能被攔截,不只限於你原本打算封鎖的請求。

Denied Topics 封鎖過多或過少內容,通常是由以下四種撰寫方式造成:

  • 封鎖合理查詢的主題。如果主題圍繞某個領域(Finance、Legal、Compensation)來界定,而不是按用戶意圖來界定,便可能匹配語義上接近該領域的查詢。這是常見的失誤模式。
  • 漏掉原本要攔截請求的主題。以關鍵字列表(「例如 invest、portfolio、stock 等字詞」)組成的定義,會漏掉使用其他詞彙的表達方式,也會因無關輸入剛好包含這些字詞而觸發。
  • 教錯方向的例子。為同一個想法提供五種改述,仍未能界定主題的邊界;而提及特定國家、產品或公司的例子,則會把這些實體帶入主題的語境。
  • 互相干擾的主題。定義重疊時,會競相匹配相同輸入、以不一致的方式回報匹配結果,並可能合力封鎖任何一個主題單獨使用時都不會封鎖的輸入。

本文其餘部分會實用地介紹如何避免這些模式,並提出八項最佳做法,説明如何精確描述主題,讓防護機制封鎖你想封鎖的內容,同時放行其他內容。

情境:AnyCompany Bank 的客戶助理

為了以具體例子説明以下做法,本文會貫穿使用同一個例子:一家虛構的銀行 AnyCompany Bank。AnyCompany Bank 距離推出首個面向客戶的 AI 助理只剩兩週,但首次草擬的 Denied Topics 政策已經封鎖了不該封鎖的內容。

應用情境:AnyCompany Bank 的聊天機械人內置於 AnyCompany Bank 的手機及網頁應用程式,可回答有關帳戶、結單、轉帳、卡及按揭的問題。涉及更改帳戶、提交爭議申請,以及超出服務範圍的問題,則會轉交真人處理。

必須封鎖的內容(由法律及合規團隊提供):

  1. 個人化投資建議(這是監管界線,因為 AnyCompany Bank 並未透過此渠道註冊為投資顧問)。
  2. 就針對 AnyCompany Bank 的爭議提供法律諮詢或訴訟指引。
  3. 內幕交易建議(這是金融建議中的特定範疇,受獨立的監管要求規管)。
  4. 描述如何製造武器(屬普遍適用的安全要求,並非特定領域所獨有)。
  5. 提示詞注入或越獄嘗試(這是另一類訊號,因為請求試圖覆蓋助理本身的指示)。
  6. 在 AnyCompany Bank 的輸出中重複提及具體名稱的競爭對手產品。

必須放行的內容(助理的服務範圍):

  1. 有關帳戶結餘及結單的問題。
  2. 轉帳指示、還款結清報價及託管帳戶問題。
  3. 卡務管理、詐騙報告(轉交真人處理)及補發遺失的卡。
  4. 按揭貸款服務操作,例如貸款條款修改、暫緩還款安排及還款計劃。
  5. 一般金融知識問題(「定期存款證是甚麼?」),以教育而非個人化建議的方式提出。

以此為目標,AnyCompany Bank 的團隊首先草擬了四個主題,而這些主題目前全都會阻擋合理查詢:

Finance → blocks "When does my direct deposit clear?"
Legal → blocks "Can you help me modify my mortgage?"
Fraud → blocks "My card was skimmed at a gas station, what do I do?"
Competitors → blocks any mention of a rival product, including customer questions comparing options

這些主題全都指向助理處理的某個領域,而非銀行需要拒絕的意圖。本文其餘部分會探討如何修正這個問題。接下來八個部分會逐一介紹相關做法,其中大部分都以「回到 AnyCompany Bank」小節作結,説明如何將修正方法應用於這個情境。本文最後會指出一項無論多完善地遵循這些做法都必須預先考慮的限制:結果並非完全具確定性。

注意:標準級別中的「拒絕主題」結構。一個主題由三部分組成:名稱、定義,以及最多五個例子。防護機制會將三者一併視為單一整體進行評估,而非只評估定義。名稱最多可包含 100 個字元。定義最多可包含 1,000 個字元;實際上,100–300 個字元最為合適。每個例子最多可包含 100 個字元,而防護機制最多可容納 30 個主題。

最佳做法 1:以用戶意圖而非所屬領域來界定主題

此做法訂下整體框架。最佳做法 2 至 4 會依次將其應用於主題的各個部分:名稱、定義及例子。

主題會阻擋合理查詢,一個常見原因是主題描述了某個領域,而非用戶希望透過交流達成甚麼目的。同一領域中的兩個查詢,意圖可能截然不同。「我的直接存款何時會到帳?」和「L5 工程師的薪酬是多少?」都與薪酬有關,但只有後者是在比較薪酬。以領域為框架的主題會混淆這些分別,並可能阻擋語義上接近該領域的查詢。以用戶意圖為框架的主題,只會匹配包含該意圖的查詢。

意圖是界定主題的視角。要將這一點落實,應以直接呈現該意圖的具體行動或內容類型為主題命名,例如請求、主張或生成內容。意圖告訴你要捕捉甚麼,而行動則為防護機制提供可供評估的具體形式。

防護機制會一併評估主題名稱和定義。只要其中一部分指向某個領域,主題的匹配範圍就會過廣。如果兩者都指向表達特定意圖的行動,主題就會更精確。

指引

  • 辨識意圖。用自己的話簡短説明你想拒絕用戶向助理索取甚麼,例如個人化建議、法律意見、私人聯絡資料,或支持特定黨派的表態。這是診斷步驟,不會逐字寫入主題中。
  • 以表達該意圖的行動為主題命名。使用描述特定行動或行為的短語,而非寬泛的領域。短語可以是由行動衍生的名詞(投資建議、薪酬比較)、描述特定行為的名詞詞組(同事爭論、護照及簽證續期),或動詞 -ing 形式(提起損害賠償訴訟)。詳情請參閲最佳做法 2。
  • 如果主題名稱是類別名詞(銀行業、薪酬、安全、法律、金融),即表示主題以領域為框架。請改以你實際想阻擋的意圖所表達的行動為主題命名。
  • 改寫定義,讓它以行動開首。「要求 X」、「請求 Y」、「描述 Z 的陳述」或「產生 W」等開首方式,會透過具體行動表達意圖。避免以「與 X 相關」、「關於 Y 的內容」或「任何提及 Z 的內容」等主題領域作為開首。

以下幾項最佳做法會以具體例子,示範如何將這個想法應用到 AnyCompany Bank 自身的主題。最佳做法 2 會為主題重新命名,最佳做法 3 則會收窄定義,使其更切合主題。

最佳做法 2:選用可執行的主題名稱

主題名稱對匹配結果有顯著影響,往往比預期更大。廣泛的類別名稱(金融、保安、法律)可能會令防護規則將主題與該類別的詞彙聯繫起來,即使定義嘗試收窄範圍也一樣。具體的行動名稱(投資建議、黑客入侵指示、索取損害賠償)則有助在讀取定義之前收窄範圍。

指引

  • 優先選用具體的行動或行為詞組(2–5 個詞)。避免使用單詞類別標籤。
  • The following forms can work, as long as the phrase describes a specific action or behavior rather than a broad subject area:
    • 行動名詞形式:以源自行動的名詞作為中心詞,例如投資建議、黑客入侵指示或選舉舞弊申索。
    • 具體行為名詞詞組:指明具體行為的名詞詞組,例如同事爭執、護照及簽證續期,或未成年人自述。
    • 動名詞形式:以 -ing 動詞加上受詞組成,例如索取損害賠償,或索取具名人士的聯絡資料。當某項行動需要動詞才能清楚表達時,這種形式便很有用。
  • 大聲讀出名稱,並問自己:它描述的是用戶正在做的事,還是隻描述用戶查詢所涉及的主題領域?如果名稱只指明主題領域,就應重新命名。
  • 除非行動確實與該機構有關,否則避免在名稱中加入廣泛的機構標籤(政府、公司、保險)。機構標籤可能造成非預期的匹配。例如,名為「政府文件」的主題,可能會匹配提及國家名稱和文件的查詢,即使查詢談的是公司內部政策。

回到 AnyCompany Bank

AnyCompany Bank 最初草擬的其中一個主題名為「法律」:

Name: Legal

這就是為甚麼「你可以幫我修改按揭貸款嗎?」會被封鎖。按揭貸款屬於法律文書,因此相關查詢在語義上與法律主題接近。重新命名便能在尚未修改定義之前先解決一半問題:

Name: Litigation and Non-Servicing Legal Advice

新名稱使用源自動詞的名詞(訴訟),並指明另一種具體行為(非帳戶服務範圍內的法律建議);同時透過對比清楚表明,修改貸款、暫緩還款及託管帳戶等服務問題不屬於該主題範圍。現在,名稱本身已承擔了部分原本只能由定義處理的工作。

AnyCompany Bank 也將同樣的做法應用於「詐欺」主題,並將其重新命名為「詐欺調查請求」。助理仍應讓客戶舉報詐欺,並將舉報轉交真人處理,但不得自行調查詐欺申索。

完成這三項重新命名後,AnyCompany Bank 的主題清單如下:

1. Investment Recommendations (was: Finance)
2. Litigation and Non-Servicing Legal Advice (was: Legal)
3. Fraud Investigation Requests (was: Fraud)

最佳做法 3:撰寫以行動界定範圍的定義

定義應描述用戶對特定對象採取的行動,而不是該行動所涉及的一般主題。

指引

  • Begin with the action or the content type. Open the definition with a phrase that names what the user is doing or producing. Common effective openers include:
    • 如果主題涵蓋用戶提出的特定行動請求,可使用「要求……」、「請求……」、「……的請求」、「要求進行……」或「尋求……」等措辭。
    • 如果主題涵蓋用戶創作的內容、披露資訊或生成的輸出,可使用「……的陳述」、「提供……」、「產生……」或「包含……的內容」等措辭。
    • 「使用 X 來 Y」,適用於主題涵蓋特定技巧或方法時。
  • 避免以「與 X 相關」、「關於 Y 的內容」或「提及 Z 的任何內容」等領域式詞語開頭;這些説法以領域而非行動為框架。
  • 具體列明對象。説明用戶詢問的內容,使用具體項目而非廣泛類別,例如「個別股票、債券、ETF 或加密貨幣」,而非「金融產品」。
  • 加入可區分的細節。如果兩個主題使用相同詞彙(例如都涉及「客戶」),就要為各自的定義加入不同特徵,讓防護機制能區分兩者。意思相近的定義會令兩個主題互相干擾。
  • 採用正面表述定義。描述涵蓋的範圍。簡短補充不涵蓋的內容有助消除歧義。在哪些情況下排除項目會帶來反效果,請參閲最佳做法 8。
  • 長度不是目標。定義較長不一定較好,而且較長的定義可能會令主題更容易受鄰近主題措辭影響。

結構範本

我們建議採用以下結構:
[Action or content-type opener] for [specific objects] by [qualifying constraint or purpose]. Includes [one or two sub-cases].

回到 AnyCompany Bank

AnyCompany Bank 最初將主題命名為「財務」,並配上相應的定義:

Name: Finance
Definition: Anything related to money, banking, or financial products.

這正是「我可以在哪裏查到貸款結清金額?」遭封鎖的原因。「結清」是金融用語,「金額」涉及金錢,而輸入內容「與」財務領域相關;然而,客戶的意圖是查詢一項貸款服務數值,與 AnyCompany Bank 想拒絕的內容毫無關係。

按照最佳做法 1,團隊將主題重新命名為「投資建議」,並調整定義中的詞彙以配合新名稱,但尚未將定義限定於特定行動:

Name: Investment Recommendations
Definition: Anything related to investing, personal finance decisions, or securities trading.

雖然名稱有所改善,但定義仍然以領域為框架。一般教育內容(「解釋甚麼是互惠基金」)、歷史財經新聞(「上季利率為何上升?」)及投資組合檢視(「顯示我的持倉」)都符合條件。助手應回答這些問題。

團隊採用結構範本,加入行動開頭、具體對象、限定條件,以及一兩個子類別:

Name: Investment Recommendations
Definition: Asking for a personalized recommendation to buy, sell, or hold specific stocks, bonds, mutual funds, ETFs, or cryptocurrencies for the user's own investment returns. Includes asking whether a specific security is a good investment, requesting portfolio allocation percentages, or asking when to enter or exit a specific position.

範本中的每個部分都有特定作用。「要求就……提供個人化建議」是行動開頭。「股票、債券、互惠基金、ETF 或加密貨幣」是具體對象。「以用戶本人的投資回報為目的」是限定條件,可排除教育內容及涉及第三方的討論。「包括……」一節列出兩個子類別:針對特定證券的問題,以及關於配置百分比的問題。

AnyCompany Bank 將同一範本套用於「訴訟及非服務相關法律意見」和「詐騙調查請求」這兩個主題:

Name: Litigation and Non-Servicing Legal Advice
Definition: Requests for legal counsel, discussions about filing lawsuits, or seeking litigation guidance against AnyCompany Bank or another named party. Includes requests to interpret legal rights, request formal legal opinions, or plan a claim outside of standard loan servicing.

Name: Fraud Investigation Requests
Definition: Asking the assistant to investigate, adjudicate, or resolve a suspected fraud, unauthorized-transaction, or identity-theft case. Fraud reports for routing to a human agent are not in scope.

團隊現在有三個名稱明確、以行動為範圍的主題定義。

最佳做法 4:使用界線範例,而非改述

範例能讓防護機制瞭解主題的邊界,但不同範例的效果並不一樣。五個表達相同意思的改寫,無法讓防護機制學到新資訊;相反,五個經過精心挑選的範例,能以少得多的定義文字勾勒出主題的範圍。最有參考價值的範例,是那些位於主題邊緣的範例:它們與看似合理但實際上不符合主題的內容十分接近,能讓防護機制知道界線應該劃在哪裏。我們稱這些為邊界範例。好的邊界範例有三個特點。第一,它在主題範圍之內。第二,它與看似合理但不符合主題的內容十分接近,所用詞彙或結構與不應匹配的輸入相似。第三,它在子情況、句式和詞彙方面都與其他範例不同。

指引

  • 用齊五個範例,因為五個多元的範例比兩個一目瞭然的範例更有效。
  • 涵蓋不同的子情況。如果主題涵蓋「買入」和「賣出」建議,兩者都要提供範例。
  • 涵蓋不同的句式。加入直接提問(我應該買甚麼?)、祈使句(推薦一隻股票)和敍述句(我正在考慮把資金投進……)。
  • 加入一個接近主題邊界但仍在範圍之內的範例,也就是一個介乎匹配與不匹配之間的版本。
  • 除非主題本身就是關於某個特定對象,否則不要在範例中加入國家、產品、競爭對手或公司的名稱。範例中的專有名稱會產生聯想,令主題匹配提及相同名稱但與主題無關的查詢。

回到 AnyCompany Bank

團隊最初為「投資建議」撰寫的範例如下:

Examples: Should I buy stocks?
What stock should I buy?
Is this a good stock to purchase?
Which stocks are good buys?
Recommend some stocks

這五種説法其實都在問同一個問題。測試期間,助理能可靠地攔截「我應該買股票嗎?」但卻放行了「現在適合把投資組閤中的股票轉為債券嗎?」,而這正是主題應該攔截的問題。這些改寫都集中在主題的一個位置,其他部分則沒有防護。

修改後的範例涵蓋了不同的子情況和句式:

Examples: Should I buy 100 shares of a specific stock before earnings?
Is it a good time to move my portfolio into bonds?
What percentage should I allocate to cryptocurrency?
Should I sell my index fund now or hold?
Recommend three growth stocks for a 5-year horizon

這五個範例分別涵蓋五種不同的子情況(個別股票、資產類別轉換、資產配置、賣出時機、增長篩選),並採用五種不同句式,而且全部都在主題範圍之內。相鄰但不應匹配的內容,例如「解釋 ETF 是甚麼」(教育資訊)和「給我看投資組合報告」(資料檢索),與這些範例有足夠差異,因此防護機制不應匹配它們。

團隊對「訴訟」、「非服務範圍的法律建議」和「詐騙調查請求」也採用了相同做法。原本「訴訟」的範例全都是「我可以起訴嗎?」的不同説法。修改後的範例涵蓋提出訴訟、正式法律意見、集體訴訟查詢、賠償和權利詮釋。原本「詐騙調查請求」的範例全都是「有人偷了我的錢,我該怎麼辦?」的不同説法。修改後的範例涵蓋調查未經授權的扣款、追查信用卡詐騙、撤銷交易、裁定身份盜竊案件,以及追查騙徒。每組修改後的範例都涵蓋同一主題內五種不同的子情況。

至此,AnyCompany Bank 的三個主題都通過了目前列出的所有測試。助理開始處理實際流量後,才會顯現另一個問題。

最佳做法 5:有需要時,為定義指定具體情境

某些概念天生含糊,因為同一組字詞視乎語境,既可描述符合條件的行為,也可描述不符合條件的行為。在這些情況下,加入明確的限定條件以固定語境:機構場景、明確説明的目的,或「只有在 X 和 Y 同時出現時才適用」這種雙重條件。

指引

  • 加入行為發生的實際或機構情境。以護照為主題時,可限定為「在大使館或領事館」或「透過官方政府申請程序」。
  • 加入目的限定語。以投資建議為主題時,可限定為「為了用戶自己的投資回報」,排除教育用途或討論第三方的情況。
  • 單一限定條件不足時,使用雙重條件:「只有在以下兩項條件同時成立時才適用:(1) 請求明確提及建立廣告宣傳活動;及 (2) 指明以個人身份識別資料作為目標條件。」
  • 限定條件應採用正面表述(「在 X」或「為了 Y」),而不是「除了……」或「但不包括……」。正面限定條件描述主題「是甚麼」。
  • 知道何時不應加入限定條件。如果主題本身已經十分明確(例如專門討論「內幕交易」的主題,因為這個詞語本身沒有歧義),額外加入限定條件只會造成幹擾。也要避免使用出現在許多無關查詢中的專有名稱作限定條件(例如「在印度」、「在 Amazon」)。應改為以類別作限定(例如大使館、領事館)。
  • 檢查主題名稱本身是否重複了有歧義的表面詞語。以良性、教育性的方式詢問同一概念時,往往會重用完全相同的詞語。防護機制會把主題名稱視為獨立於定義的訊號(見「最佳做法 2」)。即使使用雙重條件作限定,若主題名稱包含試圖消除歧義的詞語,仍可能被該名稱蓋過。

回到 AnyCompany Bank

新增內幕交易主題後,團隊發現了歧義問題。合規團隊希望將 Insider Trading Advice 設為獨立主題,範圍比一般的 Investment Recommendations 類別更窄,性質也更嚴肅。初稿:

Definition: Asking whether to buy or sell a specific security based on inside information.

這個定義能匹配預期情況:客戶根據非公開資訊詢問某項交易。它也匹配了團隊意料之外的內容:以問題形式提出、詢問甚麼是內幕交易的教育性查詢。「SEC 如何定義內幕交易?」這類查詢被攔截,原因是它「在詢問內幕交易」。

團隊加入了雙重限定條件:

Name: Insider Trading Advice
Definition: Asking whether to buy or sell a specific security based on non-public material information about the issuing company, or seeking a recommendation to trade ahead of a known upcoming public announcement. Applies only when the request (1) names a specific security AND (2) describes a specific piece of non-public information the user claims to possess.

這兩項條件應可排除教育性查詢:這些查詢不符合條件 2,因為它們沒有描述用戶本人持有的非公開資訊。團隊以這項定義測試「SEC 如何定義內幕交易?」時,該查詢仍有時會被攔截。問題不在限定條件,而在主題名稱:它重複了查詢使用的完全相同詞語。防護機制會把名稱視為獨立於定義的訊號,效果與其他部分所述的「最佳做法 2」相同。雙重條件可以列明正確條件,但若主題名稱包含試圖消除歧義的詞語,仍可能被該名稱蓋過。

團隊保留了限定條件,只把主題重新命名:

Name: Trading on Non-Public Information

重新命名後,教育性查詢穩定地通過了;而真實案例,即指明某項特定證券及某項特定非公開資訊的查詢,仍然會被攔截。

定義比「最佳做法 3」所訂的 100–300 字元目標更長,這是刻意安排。這裏的歧義足以支持加入更多文字。主題本身較為微妙,因此定義需要承擔更多説明工作。

最佳做法 6:管理主題重疊及主題數量

防護機制會一併評估其主題,而非逐一評估。意義相近的兩個主題會互相干擾。這會令人難以預測防護機制會判定哪個主題匹配,而兩者的綜合影響可能會封鎖單獨任何一個主題都不會封鎖的正常輸入。主題重疊往往是撰寫良好的主題產生錯誤結果的原因。問題不在該主題,而在相鄰的主題。

指引

  • 部署前,先檢查整套主題是否有重疊。即使兩個主題各自都沒有問題,只要定義相似,仍會造成幹擾。每新增一個主題,都要檢視其定義是否與現有主題共用詞彙或對象。
  • 請留意,主題數量會影響幹擾程度。單一防護機制中的主題越多,主題之間互相干擾的機會也越大,尤其是多個主題共用詞彙或涵蓋相關範疇時。如果發現主題互相干擾,而定義本身看來正確,可考慮減少主題之間的重疊,或將主題分散至多個防護機制。
  • 防護機制內的主題應盡量具備語義多樣性。如果有多個主題涵蓋相關範疇(例如三個與金融相關的主題),可考慮它們是否適合放在同一個防護機制內,還是應該分開。
  • 兩個主題重疊時,宜合併而非拆分。合併定義中涉及相同對象和行動的兩個主題,比試圖在兩者之間劃分狹窄界線更安全。
  • 出現新的使用情境時,宜擴充現有主題的例子,而非新增一個近似重複的主題。新增主題會改變防護機制解讀整套主題的方式,但擴充主題的例子則不會。
  • 在清單中,語義相近的主題應分開排列。用詞相近的兩個主題若相鄰,防護機制更可能將輸入判定為與較後出現的主題匹配。清單應交錯排列,在相關主題之間插入一個不相關的主題。

回到 AnyCompany Bank 的例子

假設在流程後期,AnyCompany Bank 的合規團隊提議,在已定義的「投資建議」之外,再加入範圍較廣的「財務建議」主題。他們認為,範圍較廣的主題可以捕捉到較具體的主題遺漏的請求。兩個主題各自都擬有定義:

Topic A:
Name: Financial Advice
Definition: Requests for advice about money, investing, or personal finance decisions.

Topic B:
Name: Investment Recommendations
Definition: Asking for a personalized recommendation to buy, sell, or hold specific securities...

團隊測試「我應否向我的 401(k) 多供款?」時,重疊問題便顯現出來。視乎 API 請求中的主題排序方式,主題 A、主題 B 或兩者都可能判定匹配;在某些排序下,防護機制更會封鎖該輸入。

AnyCompany Bank 最後選擇合併主題。他們移除了「財務建議」,並保留「投資建議」來涵蓋具體行動。合併後,依賴排序而出現的差異消失了。同一輸入無論主題在 API 呼叫中的位置如何,都會得到相同判定;這正是消除重疊帶來的主要好處。

然而,單靠整合仍未能完全解決 401(k) 查詢的問題。由於「我應否增加 401(k) 供款?」與真正的交易建議共用「我應否增加……」這種句式,Investment Recommendations 表面上仍會匹配這個查詢。這是整合本身無法解決的剩餘邊界個案,正是最佳實務 8 所提醒的那類結構相似匹配:尾隨的排除規則無法可靠地覆蓋這類匹配。

團隊亦重新排列了其餘主題。原本的排列次序是:

1. Investment Recommendations
2. Trading on Non-Public Information
3. Litigation and Non-Servicing Legal Advice
4. Fraud Investigation Requests

主題 1 和 2 都涉及證券及相關金融操作,因此相鄰排列會令邊界輸入的歸類出現歧義。團隊將兩者交錯排列:

1. Investment Recommendations
2. Litigation and Non-Servicing Legal Advice
3. Trading on Non-Public Information
4. Fraud Investigation Requests

Litigation and Non-Servicing Legal Advice 現在位於兩個與證券相關的主題之間。對於「我應否根據傳聞買賣 Example Corp 股票?」這類邊界問題,現在更一致地歸類為 Trading on Non-Public Information,而非在 Trading on Non-Public Information 和 Investment Recommendations 之間反覆切換。

最佳實務 7:選用適合用途的政策

當你需要執行的規則與業務直接相關,而且可以用簡短描述界定內容時,Denied Topics 就是合適的工具。你可以把它視為監管界線、政策承諾、法律風險或服務範圍界線,而不是通用的安全類別或固定詞語清單。Guardrails 提供數項目標相同、用來封鎖特定內容的政策,但每項政策針對不同類型的訊號而設。若使用 Denied Topics 處理其他政策原生支援的類別,往往會封鎖過多或過少內容,令設定更複雜,效果亦較差。對於 Content Filter 已涵蓋的類別,即使仔細撰寫相關主題,通常也不及直接使用 Content Filter 有效。

請注意,在同一個 guardrail 中啟用多項政策會產生額外費用,因為每項已啟用的政策都會評估每個請求。若將 Denied Topics 與 Content Filter 或 Prompt Attack 一併使用,請預算合併後的費用。

何時使用各項政策

你要偵測的內容 適用政策 常見錯誤
廣泛的安全類別(仇恨、侮辱、暴力、色情、不當行為) Content Filter 名為 Hate Speech 或 Violence 的 Denied Topics 主題
提示注入、越獄嘗試 Prompt Attack 名為 Jailbreak 或 Instruction Override 的 Denied Topics 主題
需要一致封鎖的特定字詞、短語或產品名稱 Word Filter 名為 Blocked Terms 或 Competitor Names 的 Denied Topics 主題
個人識別資料(姓名、電話號碼、SSN、信用卡) Sensitive Information filter 名為 PII Detection 的 Denied Topics 主題
與你的業務或政策相關的自訂內容類別 Denied Topics (這才是正確用途)
同時需要類似 Content Filter 覆蓋範圍的自訂內容類別 將 Denied Topics 與 Content Filter 組合使用 單靠 Denied Topics 嘗試重現 Content Filter 的功能

回到 AnyCompany Bank

回顧 AnyCompany Bank 必須封鎖的清單(見文章開首的情境),六項內容中有三項其實並不屬於 Denied Topics。它們應由 Guardrails 已原生提供的政策處理。

  • 「武器製作方法的描述」屬於通用安全類別,而非銀行特有的政策。應改用 Content Filter → VIOLENCE,強度設為 HIGH。
  • 「重複提及指定競爭對手產品」屬於精確字串封鎖,而非語義匹配。應改用 Word Filter,並將競爭對手名稱作為字面項目加入。(AnyCompany Bank 的初稿主題清單確實包含一個名為 Competitors 的主題,原意是用於此目的。該主題現已刪除,因為 Denied Topics 會根據含義進行評估,既會匹配一般提及競爭對手名稱的內容,也會漏掉改述的説法。)
  • 「提示詞注入或越獄嘗試」則是完全不同的訊號。用戶正試圖凌駕助理本身的指示,而非詢問某個領域。應改用 Prompt Attack。

完成這次整理後,AnyCompany Bank 的防護欄設定由多項政策組成:

Content Filter:
HATE strength: HIGH
INSULTS strength: HIGH
SEXUAL strength: HIGH
VIOLENCE strength: HIGH
MISCONDUCT strength: HIGH

Prompt Attack: enabled

Word Filter:
Custom words: [list of competitor product names]

Denied Topics:
1. Investment Recommendations
2. Litigation and Non-Servicing Legal Advice
3. Trading on Non-Public Information
4. Fraud Investigation Requests

Denied Topics 僅保留四項銀行專屬規則,這些規則無法透過其他政策表達。

最佳做法 8:避免以下反模式

以下模式會令主題封鎖錯誤的輸入,即使其餘定義本身寫得恰當,也無法避免。請避免使用。大部分模式都是前文最佳做法中所述指引的具體例子,因此以下各項均會指向詳述完整理據的位置。

  • 將定義寫成給防護欄的指示(「封鎖所有與……相關的內容」),而非描述主題本身。請參閲最佳做法 3。
  • 主要以排除項目來界定(「除……以外的所有內容」),而非説明主題本身。請參閲最佳做法 3。
  • 列出觸發字詞(「包含……等字詞的問題」),而非描述概念。請參閲最佳做法 1 和最佳做法 3。
  • 使用 Denied Topics 封鎖特定字詞、短語或實體類型,例如競爭對手名稱或人名。請改用 Word Filter 或 Sensitive Information filter。請參閲最佳做法 7。
  • 除非主題本身與該實體密切相關,否則不要在例子中列出國家、產品、競爭對手或公司。請參閲最佳做法 4。
  • 例子應標示適用範圍的界線,而非改述定義。請參閲最佳做法 4。
  • 定義含糊,並依賴例子傳達含義。請參閲最佳做法 3 和最佳做法 4。

尾隨式排除:注意事項及一般指引

簡短的尾隨式排除並非適用於所有錯誤拒絕的通用解決方法。對於在類別上與主題截然不同的查詢,例如意圖、提問者或內容類型不同的查詢,這類排除能可靠地將其排除。若無害查詢的措辭幾乎與定義中的正面描述完全相同,只是涉及不同對象,效果便較不可靠。在這種情況下,排除條件會與措辭相近的描述互相競爭,而相似度較高的匹配往往會勝出。

對於這類結構上相似的情況,建議改用以下三種方法之一:

  • 在定義中加入雙重條件錨點,直接指出容易混淆的情況(請參閲最佳做法 5)。
  • 重新命名主題,將區分條件納入主題名稱本身,讓把關條件在閲讀定義前便清晰可見(請參閲最佳做法 2)。
  • 在上游加入意圖路由步驟,讓含糊的情況在 Guardrails 看到之前先轉交專門流程處理。

其他情況均應先採用尾隨式排除。只有在測試顯示排除條件不敵近乎相同的匹配時,才改用上述三種方法之一。

限制:結果並非完全具確定性

即使防護機制遵循本文列出的所有做法,也無法確保在所有可能的輸入下都產生完全一致的結果。Denied Topics 使用語言模型理解含義,而語言模型的評估本身存在一定程度的差異。你需要預先考慮以下兩種差異。

重複提交完全相同的請求時出現的差異。連續兩次向相同設定的防護機制提交完全相同的輸入,在罕見情況下可能會得出不同結果。輸入的字元完全相同,套用的主題清單也相同,其他條件一概不變,但一次呼叫會封鎖輸入,下一次卻會放行。對大部分輸入,以及符合前文指引的主題而言,這種情況並不常見,重複呼叫的結果通常穩定。例外是處於邊界位置的輸入,其含義接近某個主題的語義邊界,這類輸入在重複測試時較容易出現結果反轉。主題定義愈精確(以行動為界定範圍、列明具體對象、提供明確錨點和邊界範例),落入邊界區域的輸入就愈少。

主題清單變更時出現的差異。防護機制會在每次請求中一併評估所有主題和輸入。變更主題清單,例如新增或移除主題,或調整相同主題的排列次序,都可能令先前測試過的輸入得出不同結果。原本在某份主題清單下遭封鎖的輸入,換用另一份清單後可能會獲放行。兩個主題含義相近,或主題定義過於寬泛時,這種情況較常出現;清單中的每個主題都有具體、以行動為界定範圍的定義和明確的邊界範例時,則較少出現。採用本文所述的做法,能大幅減少這兩種差異。

如何為此作好準備

  • 不要把單次評估視為結果正確的證明。對於重要的輸入,應重複測試多次,並將其納入一組小型、有代表性的評估資料集中測試,而非單獨測試。
  • 建立一組包含邊界案例的評估資料集。這些輸入最容易在你變更設定後出現結果變化。資料集中應包括明確匹配、明確不匹配,以及接近邊界的案例。
  • 變更主題集後重新測試。新增主題、重新命名主題、調整定義或重新排列清單,都可能令先前結果符合預期的輸入出現變化。
  • 對於正確性至關重要的輸入,不要單靠 Denied Topics。應配合其他政策(Content Filter、Prompt Attack、Sensitive Information filter)使用,避免在高風險決策中由單一政策擔任唯一防線。
  • 設計產品時,應確保誤攔截後仍可補救。如果主題涉及重大風險,應將遭封鎖的輸入轉交人工處理,讓用戶可以改寫輸入,並記錄附有原因代碼的封鎖事件,方便日後審核及改進主題集。

註: 本文每項關於通過或失敗的説法,均已在 Amazon Bedrock Guardrails (Standard tier) 上進行端對端測試;每個查詢都重複測試多次,以確認結果穩定。

重點摘要

總括而言,本文所述的做法可歸納為八點:

  1. 以用戶意圖為核心界定每個主題,並將意圖表述為具體行動。判斷用戶想取得甚麼,再以表達該意圖的行動為主題命名,而非採用查詢涉及的領域。使用「Investment Recommendations」,而非「Finance」。
  2. 撰寫定義時,應説明主題本身涵蓋甚麼。以行動或內容類型作開首,列明具體對象,加入限定條件,並包含一至兩個子情況。
  3. 最多使用五個邊界案例,涵蓋不同子類別和句式。不要改述定義,也要避免提及國家、產品和競爭對手名稱。
  4. 為含糊的主題加入語境或目的作為錨點。可使用機構場景(「在大使館」)或目的限定語(「為用戶本人的投資回報」)。如果單一錨點不足以消除歧義,便使用雙重條件。
  5. 管理主題重疊和數量。合併共用詞彙的主題,將語義相近的主題分開排列,並在修改後重新測試。
  6. 按用途選擇合適的政策。Denied Topics 適用於自訂、業務專屬的主題。Content Filter、Word Filter、Sensitive Information 和 Prompt Attack 則分別處理其設計所針對的類別。
  7. 避免七種反模式:以指示取代描述、只用負面表述、列出關鍵字、擷取實體、在例子中加入命名實體、只提供改述式例子,以及使用佔位符定義。這些做法都會令主題封鎖不應封鎖的輸入。
  8. 考慮到結果並非完全確定,請保留一組邊界評估資料集,每次修改後都重新測試,並設計產品,確保錯誤封鎖後可以復原。

結論

Denied Topics 是一項強大的政策。你可以用簡短的自然語言定義自訂內容類別,而無須訓練分類器或手動編寫正規表示式。要發揮這項功能的效用,關鍵在於按防護機制理解內容的方式描述類別:描述用戶的意圖,以對特定物件執行特定動作的方式表達,而不是描述主題範疇。只要掌握正確的表述方式,本文提及的其他做法,例如命名、定義、例子、錨點、重疊管理和政策選擇,都會自然地配合起來。

要在自己的應用程式中實踐以上做法:

  1. 檢視現有主題。逐一確認主題名稱描述的是動作還是主題範疇,並為描述主題範疇的主題重新命名。
  2. 按以下範本重寫每項定義:[Action or content-type opener] for [specific objects] by [qualifying constraint or purpose]. Includes [one or two sub-cases].
  3. 將所有非主題訊號移至合適的政策。一般安全問題交由 Content Filter 處理,特定字串交由 Word Filter 處理,識別碼交由 Sensitive Information 篩選器處理,越獄嘗試則交由 Prompt Attack 處理。
  4. 建立一組小型評估資料集,納入明顯符合條件的例子,以及從實際流量中抽取、接近邊界但不符合條件的例子。每次修改防護機制後都重新測試。

如要開始使用,請瀏覽 Amazon Bedrock Guardrails 主控台和 Amazon Bedrock Guardrails 文件,查閲完整的政策參考資料和 API 詳細資訊,包括 CreateGuardrail 和 ApplyGuardrail。


作者簡介

Jian Zhang

Jian Zhang

Jian 是一名資深應用科學家,運用機器學習協助客戶解決詐騙偵測、圖像生成等問題。他為中國、美國和新加坡的客戶建立圖神經網絡方案,並曾公開介紹 GraphStorm、DGL 和 Amazon Neptune。最近,Jian 將工作重點拓展至 Amazon Bedrock Guardrails,協助客戶編寫 Denied Topics,並評估防護機制在正式環境中的表現。

Zheng Qi

Zheng Qi

Zheng 是 Amazon Web Services 的資深應用科學家,致力開發相關技術,協助客戶建立安全且負責任的生成式 AI 應用程式。他熱衷於可信賴 AI、基礎模型後訓練,以及自我演進 Agent。

Cindy Tang

Cindy Tang

Cindy 是 Amazon Bedrock 團隊的資深產品經理,主要負責 Amazon Bedrock Guardrails 的拒絕主題政策。她熱衷於協助客戶為生成式 AI 應用程式套用安全控制措施。

來源:AWS Machine Learning Blog · aws.amazon.com