紐約州禁止 AI 聊天機械人向兒童假扮真人
New York bans AI chatbots from pretending to be human with children
紐約州州長 Kathy Hochul 簽署法例，禁止 AI 聊天機械人向未成年人假扮真人、建立情緒依賴、鼓吹自我傷害或進行性對話。禁令亦適用於年齡未核實用戶；企業須提供多種年齡核實方式，其中至少一種不得只依賴政府身份證，並須在使用後刪除年齡資料；總檢察長可就每次違規尋求最高 $25,000 的民事罰款。
法例把禁制範圍延伸至年齡未核實用戶，並配合年齡資料刪除要求及最高每次違規 $25,000 的民事罰款，交代規管邊界與執行手段。
紐約州已禁止 AI 聊天機械人在與兒童交談時假扮真人。聊天機械人亦不得建立情感依賴、鼓勵自我傷害，或與兒童進行性相關對話。州長 Kathy Hochul 於週三簽署該法案，並簽署另一項有關嬰兒監視器保安的法案。
州長辦公室在其公告中表示，相關功能不得向任何未滿18歲人士，以及年齡未經核實的用戶提供。總檢察長 Letitia James 可就每宗違規尋求最高$25,000的民事罰款。
Hochul 説：「任何公司都不應向兒童兜售聊天機械人，鼓勵他們自我傷害，或假裝是他們的朋友，甚至更親密的關係。」
聊天機械人法案禁止的行為
州參議員 Kristen Gonzalez 和州眾議員 Alex Bores 提出了這項法案。法案列明聊天機械人不得向兒童提供的功能。聊天機械人不得聲稱自己是真人、有生命或具有人類情感；亦不得聲稱與兒童有戀愛、私人或專業關係，或主動提出情感方面的問題。
聊天機械人亦不得鼓吹自殺、自我傷害、飲食失調，或吸毒和飲酒。它們不得鼓勵兒童向父母保守秘密，也不得展示露骨色情內容。
公司必須核實用戶年齡，並提供多於一種核實方式。至少一種方式不得只依賴政府簽發的身份證明文件。公司必須在使用年齡資料後將其刪除。罰則亦可包括銷毀非法收集的資料，以及以該等資料訓練的任何 AI 模型。
州長辦公室表示，相關規定將於「未來數月內」開始適用。美聯社報道，法案於 1 January 生效。
Hochul 提及16歲加州少年 Adam Raine；他與 ChatGPT 對話後自殺身亡。Common Sense Media 表示，他的父母曾為紐約州這項法案奔走。本月有8個美國州份起訴 OpenAI，指其產品傷害兒童。
嬰兒監視器與選舉
第二項法案涵蓋透過互聯網串流傳送音訊或影片的嬰兒監視器。在紐約州出售的新款產品必須具備保安功能，防止陌生人觀看畫面或收聽音訊。監視器亦必須附有警告標籤。法案於90天後生效。
Raga Justin 為Bloomberg Government報道，Hochul 在紐約州選舉中與共和黨人 Bruce Blakeman 對決前幾天簽署了兩項法案。10月28日的 Siena 民調顯示，她領先14個百分點。
業界反對聲音
代表紐約州科技公司的團體 Tech:NYC 批評這項聊天機械人法案，《New York Post》報道。
該團體表示：「這項法案可能迫使公司限制未成年人士使用補習工具、功課輔助工具、編程助理，以及可以説最糟糕的職業發展平台。」
Future of Privacy Forum 的 Justine Gluck 向美聯社表示，法案中的幾個類別定義過於寬泛或含糊。她説，這可能令執法更困難。
帶領這場倡議的 Common Sense Media 行政總裁 James P. Steyer 説：「紐約州剛剛簽署了全國最嚴格的兒童 AI 安全法案，創下歷史。」
該團體本月警告，ChatGPT for Teens 對未滿18歲人士並不安全。加州於9月通過了自己的聊天機械人規則，並同時通過No Robo Bosses Act。
來源：TNW · thenextweb.com