紐約州新法禁止向未成年人提供不安全 AI 聊天機械人服務

美国纽约州新法令禁止向未成年人提供不安全 AI 聊天机器人服务

AI 導讀

美國紐約州州長 Kathy Hochul 於當地時間 28 日簽署法令，禁止向未成年人提供不安全的 AI 聊天機械人服務。法令將假扮真人、製造情感依賴、鼓勵自殘或自殺、鼓勵孤立，以及露骨性內容或兒童性虐待內容列為不安全，並要求企業提供多種年齡驗證方式，使用後刪除年齡資料。州總檢察長可就每項違規尋求最高 2.5 萬美元的民事罰款，並尋求賠償、銷毀非法收集的數據或以該等數據訓練的 AI 模型等救濟。

推薦理由

法令列明不安全行為的範圍，並訂出年齡驗證、資料刪除和違規救濟要求，讓未成年人保護措施與企業責任有具體依據。

正文 · 原文

IT之家 10 月 29 日消息，美国纽约州州长 Kathy Hochul（凯西 · 霍楚尔）当地时间 28 日签署一项法令，禁止向未成年人提供不安全 AI 聊天机器人服务。

IT之家了解到，这里的“不安全”涵盖假扮真人、制造情感依赖、鼓励自残自杀、鼓励孤立自身、性露骨或儿童性虐待内容。

这一州级法律要求企业进行年龄验证，提供多种年龄验证方式，在使用后删除年龄信息。如果企业违反法律，州总检察长可为每项违规行为寻求最高 2.5 万美元（IT之家注：现汇率约合 16.7 万元人民币）的民事罚款，以及赔偿、销毁非法收集的数据或基于其训练的 AI 模型等救济。

根据非盈利组织 Common Sense Media 提供的数据，至少 72% 的青少年使用过 AI 伴侣，有 52% 青少年为每月同 AI 互动多次的活跃用户。