聊天模型用於文字審核的替代方案

報道介紹一種替代做法：當執行環境沒有專用審核端點時，可用小型聊天模型配合嚴格的 JSON Schema，對文字舉報作分類並送交人工審核。模型回應只應包含 is_safe 和 reason，並須經過驗證及記錄所採用的政策版本；遇上不確定個案，則交由人工處理。換言之，這套流程以指定欄位輸出分類結果，同時保留人工處理不確定個案的安排。報道亦指出，採用聊天模型作審核，產品團隊須負責審核政策、測試及故障處理。報道未交代實際部署結果。

AI 根據報道生成 · 2 小時前更新

還沒有足夠的連續觀測數據，暫不繪製趨勢。