亞利桑那上訴法院裁定 AI 生成的受害者影片造成不當情緒影響，要求重新考慮刑期

一名在亞利桑那州被裁定誤殺罪成的男子將重新判刑，因為法院裁定，一段由AI生成、讓其受害者在死後開口説話的影片，作為受害者影響陳述帶有「不當的情感分量」。亞利桑那州上訴法院裁定，誤殺罪名維持，但法官必須重新考慮該男子的刑期長短，原因是AI。

2021年，Gabriel Horcasitas在一次路怒事件中開槍殺死Christopher Pelkey。陪審團裁定他誤殺罪成。在Horcasitas的判刑聆訊期間，Pelkey的姊姊Stacey Wales 播放了一段AI生成的影片，作為她的受害者影響陳述一部分。她以自己的文字撰寫影片台詞，並讓AI生成的Pelkey仿真形象説出這些話；影片中的Pelkey AI虛擬形象原諒了殺害他的人，並説在另一段人生中，他們「本來可以成為朋友」。 

「我很喜歡那段影片，」法官在判處最高刑期10年半時説。

Wales向404 Media表示，她製作這段影片的目的是左右法官。她説：「人與人之間的連結，不正是你希望達到的效果嗎？」她又説：「你有沒有試過看完一套電影後説：『嗯，這太感性了，太震撼了。人與人之間的連結很有力量；要把這一點傳達給一個從未認識過他的人，並把他37年的人生濃縮在一場兩小時的判刑聆訊中，實在很難做到。我認為，應該給予受害者及其家人所有機會。』」

判刑後，Horcasitas提出上訴。他主張，這段AI生成的Pelkey影片不可接納，因為它帶有「不當的情感分量」；他又指「栩栩如生的受害者AI重現形象傳達出權威感和真實感」，對法官造成了「心理影響」，據404 Media查閲的法庭文件所述。

上訴法院認同這一論點，並援引State v. Rose一案。該案是2007年的謀殺案，一名男子因謀殺警員被判死刑。在該案判刑聆訊的受害者影響陳述環節，法官看到了警員子女在其墓前的照片。法院表示，這些照片幾乎越過了令法官產生偏見的界線。

「這段AI影片越過了那條界線。與Rose案中的照片不同，那些照片捕捉到年輕倖存受害者一個格外令人心酸的時刻；此處的AI影片[...]並非反映真實事件，」法庭文件寫道。

「這段影片明顯影響了判刑法官；他説自己『很喜歡這段影片』，並認為影片『很真實』，又指出AI生成的受害者『明顯原諒了』Horcacistas，」法庭文件寫道。「根據本案紀錄，法官考慮這段AI影片，對Horcasitas造成了如此嚴重的偏見，以致判刑程序在根本上有失公平。」

Wales與Pelkey的其他家人過去五年來一直進出各個與他死亡相關的法庭。若現行裁決維持，她會從紐約前往亞利桑那州，透過哥哥的AI生成形象重述她首次作出的同一份陳述，但不會播放AI生成影片。當初説過「我很喜歡那段影片」的同一名法官將負責重新判刑。

「很可能，還是那些人會再次上前發言，而我會再次宣讀第一次時為自己寫下的受害者影響陳述，並再次宣讀 Chris 的 AI 稿件所表達的心聲。」她説。「如果我需要站在那裏親自讀出來，而這在法律上是允許的，我已準備好這樣做。Chris 的心聲不會改變，改變的只是宣讀方式。」

Wales 表示，從她兄弟的 AI 版本口中説出的那些話是她寫的，並非由 AI 生成。她亦指出，審訊期間只有法官、她的家人和 Horcacistas 一家看過這段內容。「這並非作為證據呈堂。陪審團從未看過這段影片。」她説。「這只是在裁決已確定、罪成裁決已作出後才製作的。」

她亦指出，AI 影片只是當日一整段證供中的一部分。「我認為，一段簡短片段對[法官]的呈現並不公平。」她説。Wales 表示，法官發言約半小時，只提過一次 AI 影片。Wales 本人把法官表示很喜歡這份 AI 生成的受害者影響陳述的片段上載到 YouTube，其後迅速走紅。

但她亦表示，自己明白 AI 是一種新技術；播放她兄弟的 AI 生成影片時，她做的是前所未有人做過的事。她把這件事比作 19 世紀末法院對攝影的看法。 

「當時大約花了 15 年 [...]，以及五宗具里程碑意義的案件一路上訴至美國最高法院，攝影才獲接納為法庭上用於證據、身分識別、證供等用途的標準。」她説。「我相信，我們現在在 AI 上看到的正是這種情況。這是一種全新的媒介。」

Wales 表示，她明白自己正在開創先例，無論好壞，而她對此並不介意。「總會有第一宗案件，而這份責任令我感到沉重；我必須謹慎處理如何為此辯護，以及如何解釋創作的原動力、目標、動機和真實性，因為有些受害者的未來有賴言論自由，而我確實相信，受害者及其家人應有一切可用的機會表達自己的觀點。」她説。

重新判刑尚未有確實日期。「我們尊重法院的意見；如果需要在那些界限內行事，我已準備好宣讀第一次由 Chris 的 AI 版本讀出的同一份稿件。」她説。「他的心聲沒有改變。我們對他會如何看待整件事的看法沒有改變。我以 Chris 的假想觀點寫下的字句，至今沒有改變，將來也不會改變。」