跳到正文
OpenAI News·· 2026-05-07精選AI 評分61

OpenAI 在 ChatGPT 推出 Trusted Contact 可選安全功能

Introducing Trusted Contact in ChatGPT

AI 導讀

OpenAI 在 ChatGPT 推出可選安全功能 Trusted Contact。偵測到嚴重自我傷害疑慮時,功能會通知用户信任的人。

推薦理由

這項可選功能把嚴重自我傷害疑慮的偵測與可信任人士通知連接起來,呈現 ChatGPT 安全功能的觸發條件與通知對象。

正文 · 繁體中文

人們使用 ChatGPT 來學習、探索想法、解決問題,並思考個人疑問。有時,這些對話可能涉及某人正面對困境或尋求支援的時刻。我們的目標是設計能審慎回應敏感對話的系統,並在有需要時鼓勵人們尋求現實生活中的支援。

今日,我們開始逐步推出 Trusted Contact, ​​這是 ChatGPT 一項可選用的安全功能,讓成年人可指定一位信任的人,例如朋友、家人或照護者;若我們的自動化系統及受訓審核人員發現,已登記的使用者可能曾以顯示嚴重安全疑慮的方式談及傷害自己,該名信任人士或會收到通知。Trusted Contact 旨在為用戶提供另一層支援,與 本地求助熱線⁠ (已在 ChatGPT 提供)並行,並在用戶身處危機時協助他們聯繫信任的人。

Trusted Contact 延伸自 家長監護功能的安全通知⁠(在新視窗開啟),這項功能讓家長或監護人在已連結的青少年帳戶出現急性困擾跡象時收到提示。現在,我們擴展安全警示選項,讓任何年滿 18 歲的人都可選擇新增一位信任的人作為其 Trusted Contact。

專家指引⁠(在新視窗開啟) 指出,社會連結是降低自殺風險最重要的保護因素之一。 Trusted Contact⁠(在新視窗開啟) 旨在鼓勵用戶與自己信任的人建立聯繫。它無法取代專業照護或危機服務,而是支援處於困境人士的多層防護措施之一。ChatGPT 仍會在適當時鼓勵用戶聯絡危機熱線或緊急服務。

“心理學研究一再顯示,社會連結是強而有力的保護因素,尤其在人們情緒困擾期間。預先協助人們找出一位信任的人,同時保留他們的選擇權和自主性,能讓他們在最需要時更容易尋求現實生活中的支援。”

—Dr. Arthur Evans,American Psychological Association 的行政總裁

  • 用戶可在 ChatGPT 設定中新增一位成年人(全球須為 18+,南韓須為 19+)作為其 Trusted Contact。

  • Trusted Contact 會收到一份說明其角色的邀請,並須在一星期內接受,這項功能才會啟用。若 Trusted Contact 拒絕邀請,用戶可選擇新增另一位成年人。

  • 如果我們的自動監察系統發現用戶可能正以顯示嚴重安全疑慮的方式談及自我傷害,ChatGPT 會告知用戶我們可能通知其 Trusted Contact,並鼓勵用戶主動聯絡對方,同時提供建議的對話開場白。

  • 在此之後,一小組受過專門訓練的人員會審核情況。如果審核人員認為對話可能顯示嚴重安全疑慮,ChatGPT 會透過電郵、短訊,或在對方擁有 ChatGPT 帳戶時以應用程式內通知向 Trusted Contact 發送簡短通知

  • 這則通知刻意限制內容。通知只會概述提及自我傷害的大致原因,以及相關內容可能令人擔憂,並鼓勵 Trusted Contact 主動聯絡了解情況。為保障用戶私隱,通知不會包含對話詳情或逐字稿。通知亦會附上專家 指引⁠(在新視窗開啟),協助人們應對敏感對話。

  • 使用者隨時可以在設定中移除或編輯其信任聯絡人,而信任聯絡人亦可隨時自行移除(可透過我們的 說明中心)。⁠(於新視窗中開啟)

Three ChatGPT screens showing how to add a trusted contact: an info page, a contact form with consent toggle, and a confirmation that the invitation was sent.

這類嚴重安全情況雖然罕見,但一旦出現,我們的系統旨在支援及時審核和回應。雖然沒有任何系統十全十美,而且發送給 Trusted Contact 的通知未必總能準確反映當事人的實際情況,但每則通知都會在發出前由受過訓練的人員審核,我們亦致力於在 一小時內完成審核。

在臨床醫生及安全專家的指導下

我們在臨床醫生、研究人員及專門從事心理健康與自殺預防的機構指導下開發 Trusted Contact。這項工作參考了我們的 Global Physicians Network⁠,這個網絡由來自 60 個國家的超過 260 位持牌醫生組成;我們亦參考了我們的 Expert Council on Well-Being and AI⁠。我們亦與包括 American Psychological Association.⁠(在新視窗開啟)

“AI 最重要的承諾之一,是它能促進人與人之間真誠的連結及心理安全感。ChatGPT 的 Trusted Contact 功能令人鼓舞,這是朝着提升人們自主能力邁出的一步,尤其是在脆弱的時刻。”

—Dr. Munmun De Choudhury, Ph.D.,Georgia Tech 的 J. Z. Liang 互動運算學教授,亦是 Expert Council on Well-Being and AI 的成員

Phone screens showing alerts that a trusted contact may need support, with notifications and a message explaining how to help.

以安全為首要考量,貫穿每個階段

除了 Trusted Contact 之外,ChatGPT 在每個階段都設有防護措施,協助引導敏感對話。我們一直改進系統回應對話中不同風險程度的方式:

  • 支援用戶尋求現實生活中的協助:在敏感時刻,ChatGPT 可能會鼓勵人們聯絡緊急服務、危機求助熱線、心理健康專業人士,或生活中信任的人。 

  • 用心回應:我們與 170+ 位心理健康專家⁠合作,提升 ChatGPT 偵測和回應潛在困擾跡象、緩和對話中的緊張情況,以及在適當時引導人們尋求現實生活支援的能力。 

  • 協助人們掌握自己的使用時間:在某些情況下,ChatGPT 可能會建議人們在長時間使用後休息一下或暫時離開,以養成健康的科技使用習慣。

  • 拒絕有害請求: ChatGPT 經訓練會拒絕提供自殺或自我傷害的指示。用戶索取這類資訊時,系統經訓練會拒絕請求,並改為引導用戶採取較安全的回應方式,同時提供本地化危機支援資源。

ChatGPT screen showing a “Help is available” message with 988 crisis support information.

持續提升 AI 安全

Trusted Contact 是 OpenAI 更廣泛努力的一部分,旨在建立 AI 系統,讓它們 在困難時刻幫助人們。⁠ 我們會繼續與臨床專業人員、研究人員和政策制定者合作,改善 AI 系統在人們可能正經歷困擾時的回應方式。我們的目標是確保 AI 系統不會孤立存在。相反,它們應協助連繫人們與最重要的現實生活照顧、人際關係和資源。

來源:OpenAI News · openai.com