跳到正文
Hugging Face Blog·· 2024-12-02精選AI 評分67

Hugging Face 發佈 EU AI Act 開源開發者指南

Open Source Developers Guide to the EU AI Act

AI 導讀

Hugging Face Blog 發佈 EU AI Act 開源開發者指南,梳理法規對 AI 系統及 GPAI 模型的適用範圍與分級義務。指南聚焦有限風險 AI 系統和非系統性風險開源 GPAI 模型,涵蓋披露 AI 互動、以機器可讀格式標記合成內容、提供訓練內容摘要及尊重版權 opt-out 等要求。

推薦理由

文章區分有限風險 AI 系統與非系統性風險開源 GPAI 模型,梳理透明標示、訓練內容摘要及版權 opt-out 等合規要求。

正文 · 繁體中文

並非法律意見。

《歐盟人工智能法案》是全球首部全面規管人工智能的法例,現已正式生效,並將影響我們開發和使用 AI 的方式,包括開源社羣。如果你是正適應這個新局面的開源開發者,可能會想知道這對你的專案有何影響。本指南聚焦開源開發,解説法規要點,清晰介紹法例,並提供有助準備合規的工具資訊。

免責聲明:本指南所提供的資訊僅供參考,不應視為任何形式的法律意見。

簡介:《人工智能法案》可能適用於開源 AI 系統和模型,具體規則視乎模型類型及發布方式而定。在大部分情況下,義務包括提供清晰文件、部署時加入披露模型資訊的工具,以及遵守現行版權和私隱規則。幸而,這些做法在開源領域已相當普遍;Hugging Face 亦提供工具協助你準備合規,包括支援選擇退出流程和個人資料刪除的工具。 請參閲模型卡、資料集卡、Gradio浮水印、支援選擇退出的機制和個人資料刪除、授權等工具!

《歐盟人工智能法案》是一項具約束力的法規,旨在促進負責任的 AI。為此,法案按 AI 系統或模型可能造成的風險程度訂立相應規則,同時致力保護開放研究,並支援中小型企業(SME)。作為開源開發者,你的工作許多方面不會直接受影響,尤其是你已為系統備妥文件並記錄數據來源。一般而言,你可以採取一些直接的步驟準備合規。

法規將在未來兩年內逐步生效,適用範圍廣泛,並不限於歐盟境內人士。如果你是在歐盟以外的開源開發者,但你的 AI 系統或模型在歐盟境內提供服務,或對當地人士造成影響,便納入法案適用範圍。

🤗 適用範圍

法規涵蓋 AI 技術堆疊的不同層面,因此若你是供應者(包括開發者)、部署者、分銷者等,或正在開發 AI 模型或系統,適用義務各有不同。

模型:只有通用人工智能(GPAI)模型受到直接規管。GPAI 模型以大量數據訓練,具備相當廣泛的通用能力,可執行多種任務,並可用於不同系統和應用程式。大型語言模型(LLM)便是一個例子。模型的修改或微調亦須遵守相關義務。 系統:能夠從輸入內容推斷結果的系統。通常可視為傳統軟件堆疊,利用或連接一個或多個 AI 模型,處理輸入內容的數碼表示。一個例子是與終端用戶互動的聊天機器人,使用 LLM,或託管在 Hugging Face Spaces 上的 Gradio 應用程式。

《人工智能法案》按 AI 系統或模型可能造成的風險程度訂立相應規則。所有 AI 系統的風險可分為:

  • 不可接受風險:侵犯人權的系統,例如從互聯網或閉路電視影像搜刮人臉圖像的 AI 系統。這些系統遭禁止,不得上市。
  • 高風險:可能對人身安全或基本權利造成不利影響的系統,例如涉及關鍵基礎設施、基本服務或執法工作的系統。這些系統上市前須完成嚴格的合規步驟。
  • 有限風險:直接與人互動,並可能造成冒充、操縱或欺騙風險的系統。這些系統須符合透明度要求。大部分生成式 AI 模型都可整合至此類系統。作為模型開發者,若你已遵守要求(例如提供充足文件),你的模型便更容易且更可能整合至 AI 系統。
  • 最低風險:大部分不涉及上述風險的系統。這些系統只須遵守現行法律和法規,《人工智能法案》不會新增義務。

對於通用人工智能(GPAI)模型,另有一個稱為系統性風險的風險類別:使用大量運算資源的 GPAI 模型,目前定義為訓練時超過 10^25 FLOPs;或具備重大影響能力的模型。根據Stanford 研究按 Epoch 的估算,2024 年八月只有七個開發者(Google、Meta、OpenAI、Mistral、NVIDIA、ByteDance、Inflection)的八個模型(Gemini 1.0 Ultra、Llama 3.1-405B、GPT-4、Mistral Large、Nemotron-4 340B、MegaScale、Inflection-2、Inflection-2.5)符合預設的系統性風險準則,即訓練運算量至少達 10^25 FLOPs。是否開源會影響適用義務。

🤗 如何準備合規

本指南篇幅簡短,重點放在有限風險 AI 系統和非系統性風險開源 GPAI 模型,應涵蓋 Hub 上大部分公開內容。至於其他風險類別,請進一步查閲可能適用的義務。

有限風險 AI 系統

有限風險 AI 系統會直接與人(終端用戶)互動,並可能造成冒充、操縱或欺騙風險。例如生成文字的聊天機器人或文字生成圖像工具,亦可能被用來製作錯誤資訊或深偽內容。《人工智能法案》旨在協助一般終端用戶瞭解自己正在與 AI 系統互動,從而應對這些風險。目前,大部分 GPAI 模型都不被視為構成系統性風險。對有限風險 AI 系統而言,以下義務不論是否開源均適用。

有限風險 AI 系統的開發者須:

  • 除非情況明顯,否則須告知用戶正在與 AI 系統互動。請謹記,終端用戶的技術理解未必與專家相同,因此應以清晰、詳盡的方式提供此資訊。
  • 標示合成內容:AI 生成內容(例如音訊、圖像、影片、文字)必須以機器可讀格式清晰標示為人工生成或經過操控。Gradio 的內置浮水印功能等現有工具,可協助你符合這些要求。

請注意,你亦可能是 AI 系統的「部署者」,而不只是開發者。AI 系統部署者是以專業身份使用 AI 系統的人士或公司。在這種情況下,你亦須遵守以下規定:

  • 情緒識別和生物識別系統:部署者必須告知個人正在使用這些系統,並按照相關法規處理個人資料。
  • 披露深偽和 AI 生成內容:部署者必須披露內容由 AI 生成。若內容屬於藝術作品,則須披露當中有生成或經操控的內容,但方式不可破壞作品體驗。

最遲須在用戶首次與 AI 系統互動或接觸系統時,以清晰用語提供上述資訊。

負責執行《人工智能法案》的 AI Office 將協助制定實務守則,提供偵測和標示人工生成內容的指引。這些守則目前正由業界和公民社會共同編寫,預計於 2025 年五月發布。相關義務將於 2026 年八月起執行。

非系統性風險開源 GPAI 模型

若你開發不構成系統性風險的開源 GPAI 模型(例如 LLM),便須遵守以下義務。《人工智能法案》所指的開源,是「以免費及開源授權發布的軟件和數據(包括模型);授權容許公開分享,並讓用戶自由存取、使用、修改和重新分發原件或修改版本」。開發者可從 Hub 的開源授權清單中選擇。請確認所選授權符合《人工智能法案》的開源定義。

非系統性風險開源 GPAI 模型須遵守以下義務:

  • 根據 AI Office 提供的範本,起草並公開一份內容充足、詳盡的 GPAI 模型訓練資料摘要。
    • 具體內容詳盡程度仍在討論中,但應會相當全面。
  • 制定政策,遵守歐盟有關版權及相關權利的法律,尤其是遵守選擇退出要求。開發者須確保已獲授權使用受版權保護的材料;授權可由權利持有人提供,或適用版權例外和限制時取得。其中一項例外是文本與數據探勘(TDM)例外,此技術在此情境中廣泛用於檢索和分析內容。然而,若權利持有人明確表示保留將其作品用於上述用途的權利,TDM 例外一般不適用,這稱為「選擇退出」。制定遵守《歐盟版權指令》的政策時,應尊重這些退出要求,並限制或禁止使用受保護材料。換言之,只要尊重作者選擇退出 AI 訓練的決定,使用受版權保護的材料訓練並非違法。
    • 目前仍未確定技術上應如何表達選擇退出,尤其是機器可讀格式方面。不過,尊重網站 robots.txt 檔案中表明的資訊,並使用 Spawning 等工具的 API,都是不錯的起步方式。

《歐盟人工智能法案》亦與現有版權和個人資料法規相關,例如版權指令和數據保護規例。為此,可使用整合至 Hugging Face 的工具,協助支援更完善的退出機制和個人資料刪除,並留意歐洲和各國機構(例如 CNIL)的最新建議。

Hugging Face 上的專案已實作理解和執行訓練數據退出要求的工具,例如 BigCode 的 Am I In The Stack 應用程式,以及為含有圖像網址的資料集整合 Spawning 小工具。創作者可使用這些工具,簡單地選擇不允許 AI 訓練使用其受版權保護的作品。現正開發選擇退出流程,協助創作者有效公開表明不希望 AI 訓練使用其內容;這些工具有助落實相關選擇。

開發者可依循實務守則(目前正在制定,預計於 2025 年五月發布),證明已遵守相關義務。 

若你以不符合《人工智能法案》開源準則的方式提供作品,便須遵守其他義務。 

另外請注意,若 GPAI 模型符合構成系統性風險的條件,其開發者必須通知歐盟委員會。在通知過程中,開發者可根據模型的特定特性,提出理由主張模型不構成系統性風險。委員會會審查每項理由,並按理據是否充分及模型的特定特性和能力,接受或拒絕主張。若委員會拒絕開發者的理由,該 GPAI 模型便會被指定為構成系統性風險,並須遵守更多義務,例如提供模型技術文件,包括訓練和測試流程,以及評估結果。

GPAI 模型的相關義務將於 2025 年八月起執行。 

🤗 參與其中

《歐盟人工智能法案》的許多實際應用細節,仍在透過公眾諮詢和工作小組制定中;其結果將決定如何落實法案中旨在讓中小型企業和研究人員更容易合規的條文。如果你有興趣參與塑造法案的實際執行方式,現在正是好時機!

@misc{eu_ai_act_for_oss_developers,
  author    = {Bruna Trevelin and Lucie-Aimée Kaffee and Yacine Jernite},
  title     = {Open Source Developers Guide to the EU AI Act},
  booktitle = {Hugging Face Blog},
  year      = {2024},
  url       = {},
  doi       = {}
}

感謝 Anna Tordjmann、Brigitte Tousignant、Chun Te Lee、Irene Solaiman、Clémentine Fourrier、Ann Huang、Benjamin Burtenshaw 和 Florent Daudens 提供意見、評論和建議。

來源:Hugging Face Blog · huggingface.co