WAXAL 為 27 種撒哈拉以南非洲語言提供大型開放語音資源
WAXAL: A large-scale open resource for African language speech technology
Google Research 推出 WAXAL 開放語音資料集,首批涵蓋 27 種撒哈拉以南非洲語言,這些語言由超過 100 million 人使用。資料包含約 1,846 小時已轉錄的自然語音 ASR 數據,以及超過 565 小時高保真 TTS 錄音,採用 CC-BY-4.0 授權開放。資料收集由非洲學術及社區組織主導,Google 表示計劃持續擴充語言範圍。
WAXAL 將自然口語 ASR 與高保真 TTS 語料以 CC-BY-4.0 授權開放,呈現支援低資源語言語音技術所需的資料建置基礎。
WAXAL 為非洲語音技術提供重要的開放取用基礎。它收錄了涵蓋 27 種母語的大型 ASR 及 TTS 數據集,並採用高度寬鬆的授權條款,讓 WAXAL 得以推動非洲 AI 生態系統,建構更穩健、並更能反映當地獨特語言多樣性的語音系統。
虛擬助理和自動轉錄等語音技術,已改變我們與電腦互動的方式。然而,這些技術帶來的好處,往往集中在少數資源豐富的語言。這種落差令數以億計的人,尤其是居住在撒哈拉以南非洲、當地有超過 2,000 種不同語言的人,無法使用母語享用基本科技。數年前,Google Research 團隊開始著手解決這個問題。
為應對這項迫切需求,我們推出 WAXAL:一個大型、開放取用的語音數據集,初期涵蓋 27 種撒哈拉以南非洲語言,這些語言在超過 26 個國家有逾 1 億人使用。WAXAL 自 2021 年起經過多年努力開發,並與非洲的學術及社區組織合作,提供建構穩健語音系統所需的優質、寬鬆授權數據。這次初步發布是重要的基礎里程碑,包含約 1,846 小時的自然語音轉錄數據,用於自動語音識別(ASR),以及超過 565 小時的高保真錄音,用於文字轉語音(TTS)。我們以 Creative Commons 授權發布這些資源(CC-BY-4.0),以促進研究,並推動配合非洲大陸獨特語言特徵、具包容性的語音技術。我們希望 WAXAL 數據集持續演進和擴展,納入更多語言,延續彌合數碼鴻溝的工作。
WAXAL 簡介
WAXAL 針對超過 1 億名使用者所面對的關鍵數據短缺問題,目標是推動區內 AI 研究生態系統發展。為支援穩健語音技術的開發,這個語料庫整合了兩個專門數據集,全面涵蓋語音識別及語音合成任務。
- WAXAL-ASR(自然對話理解):這個數據集包含約 1,846 小時的轉錄音訊,記錄自然、未經編稿的語音。參與者來自不同背景,他們並非朗讀稿件,而是以母語描述涵蓋 50 多個主題的視覺素材。這種以圖片提示的引導方式捕捉了真實的語言變化,包括聲調細微差異和語碼轉換。相較於傳統方法,這種方式成功取得更自然的語音。
- WAXAL-TTS(高保真生成):此數據集旨在協助製作聽來自然的合成語音,包含超過 565 小時優質且具音素平衡的音訊。TTS 數據收集過程高度協作:當地社區成員兩人一組,撰寫 10,000 至 20,000 字的稿件,並輪流擔任朗讀者和錄音者。為確保達到專業級音響效果,部分參與者利用項目資金建造訂製錄音室箱體。其後,錄音會分段並與稿件文字配對,再經覆核以確保準確和優質。
WAXAL 語料庫同時聚焦未經編稿的 ASR 數據和高保真 TTS 音訊,旨在支援全雙工對話系統的開發。具體而言,ASR 部分有助建模現實情境常見的多樣化自然語音輸入,而高質素 TTS 部分則提供生成清晰、自然輸出所需的乾淨參考數據。下表列出數據集目前涵蓋的 27 種語言:
紮根非洲 AI 生態系統
WAXAL 項目的核心,是我們致力與非洲 AI 生態系統合作,並直接為其作出貢獻。數據收集工作完全由非洲學術及社區組織主導,Google 專家則就世界級數據收集實務提供指導。這種協作方式確保語料庫由所服務的社羣共同建構;各合作夥伴採用共享方法,並各自專注於一部分語言。我們的合作夥伴包括 Makerere University,負責收集九種不同語言的 ASR 和/或 TTS 數據;以及 University of Ghana,專注於八種語言,並採用上述以圖片提示的 ASR 數據收集方法。其他重要合作夥伴包括 Digital Umuganda 和 Addis Ababa University;他們在多種區域語言的 ASR 數據收集工作中發揮關鍵帶領作用。至於高質素的錄音室錄製語音,Media Trust、Loud n Clear 及 African Institute for Mathematical Sciences Senegal 則主導多種區域語言的 TTS 錄音工作。
這個框架以一項根本原則為基礎:合作夥伴保留所收集數據的所有權,同時共同承諾讓所有數據集向更廣泛的社羣開放。這種深入協作和開放取用理念,已促成值得關注的衍生研究和出版成果。
- 透過這個框架,合作夥伴已促成新研究,例如為社區主導的構建手冊,介紹如何收集言語障礙人士的語音。這項研究促成首個開源數據集,供患有腦癱、口吃等狀況的 Akan 語言使用者使用,並證明對這些羣體而言,面對面以圖片提示引導,比以文字提示更有效。這項工作為在低資源環境開發具包容性的語音技術,提供重要藍圖。
- 此外,這項倡議亦支援一項重要研究,該研究為五種加納語言(Akan、Ewe、Dagbani、Dagaare 和 Ikposo)推出一個長達 5,000 小時的語音語料庫。研究採用受控的羣眾外包方式收集自然、自發的語調,為建構配合西非語言多樣性的穩健 ASR 和 TTS 系統奠定基礎。
- 另一項重要研究,則在 13 種非洲語言中比較四款最先進模型:Whisper、XLS-R、MMS 和 W2v-BERT。這項研究分析模型表現如何隨訓練數據增加而提升,為數據效率帶來重要見解,並指出擴展數據帶來的效益,強烈取決於語言複雜度和領域配合程度。
- 最後,一份系統性文獻回顧已經發表,整理了 111 種非洲語言的 74 個數據集,勾勒語音技術目前的發展前沿。這份回顧強調,業界迫切需要涵蓋多個領域的對話語料庫,以及採用語言學導向的指標,例如字元錯誤率(CER),以更準確評估形態豐富及聲調語言的表現。
總結與未來方向
WAXAL 是彌合數碼鴻溝的重要里程碑,為 27 種撒哈拉以南非洲語言提供優質、開放取用的語音資源。這項倡議透過與非洲學術及社區組織深入合作,推動非洲大陸的 AI 生態系統,並保存語言多樣性。我們希望 WAXAL 持續成為保存非洲語言數碼資產的重要資源,並為未來創新奠定基礎。Google 將繼續支持這項工作,計劃持續擴展 WAXAL 數據集。
鳴謝
我們衷心感謝 Makerere University、University of Ghana、Digital Umuganda、University of Addis Ababa、African Institute for Mathematical Sciences Senegal、Media Trust 及 Loud and Clear Communications Ltd 的合作夥伴。他們為縮小語言差距、為非洲大陸數以百萬計的語言使用者建構更具包容性的數碼未來,作出了不可或缺的貢獻。
來源:Google Research · research.google