紐約州新法禁止向未成年人提供不安全 AI 聊天機械人服務

美国纽约州新法令禁止向未成年人提供不安全 AI 聊天机器人服务

AI 導讀

美國紐約州州長 Kathy Hochul 於當地時間 28 日簽署法令，禁止向未成年人提供不安全的 AI 聊天機械人服務。法令將假扮真人、製造情感依賴、鼓勵自殘或自殺、鼓勵孤立，以及露骨性內容或兒童性虐待內容列為不安全，並要求企業提供多種年齡驗證方式，使用後刪除年齡資料。州總檢察長可就每項違規尋求最高 2.5 萬美元的民事罰款，並尋求賠償、銷毀非法收集的數據或以該等數據訓練的 AI 模型等救濟。

推薦理由

法令列明不安全行為的範圍，並訂出年齡驗證、資料刪除和違規救濟要求，讓未成年人保護措施與企業責任有具體依據。

正文 · 繁體中文

IT之家 10 月 29 日消息，美國紐約州州長 Kathy Hochul（凱西 · 霍楚爾）當地時間 28 日簽署一項法令，禁止向未成年人提供不安全 AI 聊天機器人服務。

IT之家瞭解到，這裏的“不安全”涵蓋假扮真人、製造情感依賴、鼓勵自殘自殺、鼓勵孤立自身、性露骨或兒童性虐待內容。

這一州級法律要求企業進行年齡驗證，提供多種年齡驗證方式，在使用後刪除年齡信息。如果企業違反法律，州總檢察長可為每項違規行為尋求最高 2.5 萬美元（IT之家注：現匯率約合 16.7 萬元人民幣）的民事罰款，以及賠償、銷燬非法收集的數據或基於其訓練的 AI 模型等救濟。

根據非盈利組織 Common Sense Media 提供的數據，至少 72% 的青少年使用過 AI 伴侶，有 52% 青少年為每月同 AI 互動多次的活躍用戶。