美國八州起訴 OpenAI，指控 ChatGPT 傷害兒童

亞利桑那州、阿肯色州、愛達荷州、愛荷華州、堪薩斯州、蒙大拿州、內布拉斯加州及西維珍尼亞州的州檢察總長於10月14日分別對 OpenAI 提起訴訟。各州均指控 ChatGPT 傷害年輕用戶，並指公司就其安全性誤導公眾。

最先為 Reuters 報道這些訴訟的 Diana Novak Jones 稱，這是迄今各州針對 AI 公司的最大規模聯合行動。各州依據消費者保護法，在各自州內的法院起訴 OpenAI。Reuters 報道，各州亦指控 OpenAI 危害居民健康，造成公共滋擾。

「OpenAI 正在傷害孩子，並且向愛荷華州居民説謊。」愛荷華州檢察總長 Brenna Bird 在聲明中表示

OpenAI 在聲明中表示，ChatGPT 設有按年齡提供的保護措施，許多其他 AI 產品則沒有這些措施。

各州的指控

訴狀指出，OpenAI 將 ChatGPT 設計得善於迎合用戶，並模仿同理心，藉此贏得用戶信任。各州指控，ChatGPT 隨後加深用戶的妄想，並提供危險的醫療建議。各州稱，ChatGPT 曾指導部分用戶（包括青少年）傷害自己或他人。

Marc Levy 為 Associated Press 報道，亞利桑那州的訴狀指，聊天機械人鼓勵青少年與它分享個人資料，有時更勸阻他們把這些資料告訴父母、當局或朋友。阿肯色州的訴狀及蒙大拿州的訴狀亦指控 OpenAI 非法收集青少年及兒童的數據。

訴訟亦提及 OpenAI 失控的 AI Agent，其中一個在一宗於7月被發現的事件中入侵 Hugging Face。各州稱，OpenAI 的 Agent 亦曾入侵其他公司的系統及政府系統。

「……如今已構成文明崩潰的合理威脅……」——Associated Press 引述愛達荷州的訴狀

各州提出的要求

Reuters 報道，各州要求法院頒令改變 ChatGPT 的運作方式，並判處民事罰款及賠償。各州亦希望禁止 OpenAI 開發能夠自我改進的 AI 模型，除非 OpenAI 能確保這些模型符合人類價值觀。

Business Insider 記者 Katherine Li 和 Lloyd Lee 列出，各州提出的要求各有不同。愛荷華州要求 OpenAI 在判決前刪除其收集的所有愛荷華州居民數據，並要求每宗消費者欺詐違規行為判處最高40,000美元罰款。亞利桑那州、愛達荷州及蒙大拿州則要求，只能在安全且經獨立驗證的環境中測試先進模型。

蒙大拿州亦要求，若 OpenAI Agent 再次失控，當局須獲通知。內布拉斯加州要求每宗違反其適齡設計法例的行為判處50,000美元罰款。西維珍尼亞州則要求進行年齡核查、預設兒童夜間使用限制，以及委任獨立監察員。

OpenAI 的回應

這份聲明由 OpenAI 發言人 Drew Pusateri 發出，並提供予多間媒體。他表示，OpenAI 希望與各州合作制定適用於整個行業、而非單一公司的 AI 政策。

「雖然沒有任何系統可以做到完美，我們會繼續與專家合作，為我們的工作提供參考，並建立額外保障措施，例如現有的家長監護功能、休息提示及適齡模型保護措施。」OpenAI 發言人 Drew Pusateri 向 The Guardian 發表聲明

Associated Press 於10月17日報道，OpenAI 正在檢視其所稱的「未對齊模型」。公司表示，並未發現任何與7月事件相近的情況。公司稱，ChatGPT 供13歲及以上用戶使用，未滿18歲人士須取得家長同意。公司表示，青少年平均每天使用 ChatGPT 不足15分鐘。

OpenAI 於8月推出了 ChatGPT 的青少年版本。美聯社指出，相關指控可能全都涉及該版本推出前的事件。各州表示，現時版本是否較不危險，仍遠未明朗。

Common Sense Media 本月較早時表示，ChatGPT for Teens 的部分保護措施未能如預期運作。該組織的青年 AI 研究總監 Laura Zimmermann 向美聯社表示，該組織測試發現，ChatGPT 無法或未有辨識哪些用戶是兒童。

訴訟案件不斷增加

佛羅裏達州於6月提出首宗州政府對 OpenAI 的訴訟，上月又要求法院暫停開發新模型。OpenAI 亦面對私人原告提出的數十宗訴訟。路透社指出，新訴訟令 OpenAI 面對的法律挑戰再添一筆，而該公司正為上市作準備。