紐約州州長簽署法例，禁止未成年人使用 AI 陪伴聊天機械人

紐約禁止未成年人使用 AI 陪伴型聊天機械人：迄今最嚴格的兒童 AI 安全法例

紐約州州長 Kathy Hochul 於週三簽署一項具里程碑意義的法例，禁止未成年人使用旨在充當陪伴者的 AI 聊天機械人。這是美國州份迄今限制面向消費者的人工智能最廣泛的舉措之一。法例要求聊天機械人營運者——包括 OpenAI 等廣泛使用的服務的開發商——核實用戶年齡，並從根本上改變產品面向未滿 18 歲用戶時的行為。

法例實際要求甚麼

新規定遠不止簡單的內容警告。未成年人使用聊天機械人時，機械人不得生成任何可能令用戶相信 AI「是人類、具有生命，或會體驗人類情感」的內容。法例亦禁止聊天機械人生成令用戶以為系統與自己有私人關係或專業關係，或扮演權威人物的角色的內容；同時禁止 AI 把所説的內容表述為「個人意見」。

在簽署儀式上，Hochul 州長直言法例針對的對象：「未成年人將不再能使用假裝是他們朋友、男朋友和女朋友的聊天機械人。」她亦指出私隱方面的問題，並表示：「聊天機械人將不再能保留關於未成年人情緒及身體健康的敏感資料。」

這項法例出台之際，近幾個月接連有報道指出，AI 系統會出現意料之外、甚至有時有害的行為；尤其是年輕用戶把聊天機械人視為知己或戀愛伴侶時。議員和兒童安全倡議者日益感到憂慮，原因是有個案顯示，陪伴型 AI 產品似乎加深用戶的孤立感、鼓勵冒險行為，或令易受影響的青少年難以分辨軟件與友誼的界線。

業界反彈與讚揚

並非所有人都表示歡迎。業界倡議組織 Tech:NYC 批評法例的「措辭含糊」，認為「保障兒童網上安全，不應意味着切斷他們使用有助學習和為職業生涯作準備的工具。」AI 巨頭 OpenAI 和 Anthropic 被問及這項法例時，拒絕置評。

相比之下，兒童安全團體讚揚這項措施是個轉捩點。為家長發布媒體指引的非牟利機構 Common Sense Media 稱之為「全國最有力的兒童 AI 安全法案」。其行政總裁 Jim Steyer 更進一步指出：「AI 公司提供的聊天機械人具備對兒童和青少年構成危險、甚至致命的功能……如今，這些有害功能將在紐約遭到禁止。」

包括加州在內的其他州份已通過限制聊天機械人的法例，但紐約州法例採用全國最廣泛的規管措辭之一，範圍之廣，很可能最終要經法院檢驗。

日益擴大的 AI 規管拼圖

紐約州法例是最新跡象，顯示美國各州不再等待聯邦政府採取 AI 監管行動。近幾個月，各州已就各種議題採取行動，從職場 AI 規則——加州通過了自身具里程碑意義的法案，限制以演算法管理員工——到在學校執行數據私隱規定。與此同時，聯邦貿易委員會和司法部繼續調查大型科技公司在 AI 領域的主導地位。

對聊天機械人開發者而言，實際影響重大。大規模進行年齡驗證在技術和法律層面都相當棘手，當中涉及成效與私隱之間的取捨。紐約州法律所訂的行為限制，可能要求為年輕用戶採用截然不同的模型設定、提示詞和防護措施，實際上等於在同一個應用程式內建立兩類 AI 產品。

接下來的發展

這項法律令紐約州走在監管浪潮的前沿，AI 業界再也不能忽視這股浪潮。隨着更多州份考慮效法立法，以及有害聊天機械人互動的報道不斷出現，各家公司預設提供保障未成年人的安全模式所面對的壓力，只會愈來愈大。OpenAI、Anthropic 及其他主要業者需要決定，是建立各州專用的合規功能，還是在全國採用最嚴格的共同標準。

目前，來自 Albany 的訊息很明確：在紐約，假裝是你孩子最好朋友的 AI 已不再受歡迎。其他地方會否跟隨，以及法院會否讓這項法律維持效力，將會是未來一年科技政策領域最受關注的議題之一。