使用 AWS 帳户訂閲 Hugging Face Enterprise Hub
Hugging Face 現可讓組織透過 AWS 帳户,在 AWS Marketplace 訂閲並升級至 Enterprise Hub,費用由 AWS 帳户管理。
Hugging Face 現可讓組織透過 AWS 帳户,在 AWS Marketplace 訂閲並升級至 Enterprise Hub,費用由 AWS 帳户管理。
OpenAI 推出新技術,協助研究人員識別由其工具生成的內容。OpenAI 亦加入 Coalition for Content Provenance and Authenticity Steering Committee,以推動業界標準。
OpenAI 説明其對數據與 AI 的方針,並介紹一款面向創作者及內容所有者的全新 Media Manager。ChatGPT 推出一年多後,AI 正改變人們的生活、工作與學習方式,亦引發關於 AI 時代數據的重要討論;OpenAI 並談及未來方向。
Stack Overflow 與 OpenAI 宣佈建立新的 API 合作夥伴關係,結合高技術內容知識平台與用於 AI 開發的全球最受歡迎 LLM 模型。合作旨在結合雙方優勢,支援開發者。
Hugging Face 推出專為希伯來語 LLM 設計的開放排行榜,以語言專屬基準評估模型對希伯來語的理解與生成能力。排行榜涵蓋希伯來語問答、情感準確度、Winograd Schema Challenge 及英希互譯四項任務,採用 few-shot 提示詞;提交模型會透過 HuggingFace Inference Endpoints 部署,並由 lighteval 經 API 評估。
Hugging Face 引入 Artificial Analysis LLM Performance Leaderboard,集中比較逾 100 個無伺服器 LLM API 端點的品質、價格與速度。
推薦理由:榜單把逾 100 個無伺服器 LLM API 端點的品質、價格與速度指標集中呈現,並以多種提示長度和並行查詢組合供工程師比較。
OpenAI 封禁與一項源自以色列、此前未被披露的「Zero Zeno」行動相關的帳户。該行動使用 AI 生成反哈馬斯、反卡塔爾、親以色列、反 BJP 及親 Histadrut 的內容。
Hugging Face 示範透過自訂 inference handler,在 Hugging Face Inference Endpoints 將 ASR、説話人分離與推測解碼整合至單一 API endpoint。
推薦理由:文章展示如何把 ASR、説話人分離與推測解碼組成單一端點,並以長短音訊基準説明推測解碼的效益會隨輸入長度改變。
OpenAI 封禁了與俄羅斯來源「Doppelganger」行動相關的帳户,該行動利用 AI 生成反烏克蘭內容。相關內容包括多種語言的社交媒體評論、翻譯及網站文案。
OpenAI 封禁了與源自伊朗的 IUVM 行動相關的帳號。該行動利用 AI 生成並翻譯親伊朗、反以色列及反美的網站內容。
OpenAI 封禁了與源自中國的「Spamouflage」行動相關的帳户。該行動使用 AI 研究社交媒體活動、生成貼文,並除錯一個此前未有報道的網站。
OpenAI 封禁了與一項此前未曾報道、由其命名為「Bad Grammar」的俄羅斯來源行動相關聯的帳户,該行動利用 AI 生成 Telegram 評論。評論以英語和俄語撰寫,涉及烏克蘭、摩爾多瓦、波羅的海地區及美國政治。
OpenAI 將 Financial Times 的世界級新聞報道帶入 ChatGPT。雙方亦會就面向 FT 讀者的新 AI 體驗展開合作。
StarCoder2-15B-Instruct-v0.1 採用全透明、寬鬆授權的自對齊流程訓練,未使用人工標註或大型專有 LLM 的蒸餾數據。流程以 StarCoder2-15B 從 The Stack V1 的種子函數生成指令,並透過沙箱執行測試篩選回答,最終形成包含 50k 組指令與回答的 SFT 數據集。
推薦理由:文章梳理了從 The Stack V1 種子函數生成指令,再以執行測試篩選回答的自對齊流程,説明程式碼模型如何利用自身生成數據進行微調。
OpenAI 推出 ChatGPT API 和 Whisper API。
OpenAI 加快救命療法的開發;現有內容未交代具體方案或進展細節。
OpenAI 宣佈 GPT-4 API 正式開放使用,並表示 GPT-3.5 Turbo、DALL·E 和 Whisper APIs 亦已正式開放。OpenAI 同時公佈 Completions API 舊模型的棄用計劃,稱相關舊模型將於 2024 年初退役。
推薦理由:公告並列 GPT-4 API 等服務的正式可用狀態與 Completions API 舊模型退役安排,讀者可據此辨識不同 API 的變更範圍。
OpenAI 為 API 客户增加企業級支援,涵蓋更多安全功能與控制措施、Assistants API 更新,以及更好管理成本的工具。
Hugging Face 推出 Open CoT Leaderboard,透過比較 LLM 使用與不使用 CoT 提示時的準確率差值,衡量 CoT 帶來的準確率增益。
Open Medical-LLM Leaderboard 為醫療大語言模型提供標準化評測平台,按多種醫療任務與資料集比較表現。平台以準確率為主要指標,涵蓋 MedQA、MedMCQA、PubMedQA 及 MMLU 的醫學與生物學子集。
Meta 發佈開源大語言模型 Llama 3,提供 8B、70B 兩種參數規模,各有 base 與指令微調版本。模型上下文窗口為 8K tokens,另有以 Llama 3 8B 微調的 Llama Guard 2;授權允許再分發、微調和衍生作品,並要求衍生模型名稱以 Llama 3 開頭,衍生作品或服務標示 Built with Meta Llama 3。
推薦理由:文章梳理了 Llama 3 的型號、授權要求,以及 Hugging Face 上的推理部署和微調入口,呈現從模型取得到實際使用的主要路徑。
Mistral AI 發佈 Mixtral 8x22B 開放模型,採用稀疏混合專家(SMoE)架構,141B 參數中有 39B 為活躍參數,並以 Apache 2.0 授權發布。
推薦理由:Mixtral 8x22B 公開了參數規模、授權條款與多項基準結果,讓讀者可比較其開放使用條件及數學、編碼表現。
Zama 團隊示範如何透過 Hugging Face Endpoints 部署 Concrete ML 預編譯模型,讓使用者在加密資料上執行推理。文章以垃圾郵件決策樹為例,説明 Endpoint 部署、客户端設定及自製預編譯模型的流程。文中指出,CPU Endpoint 當時最多提供 8 vCPU 和 16 GB RAM,FHE 評估密鑰存於 Endpoint 的 RAM,重啟後需要重新傳送。
LiveCodeBench Leaderboard 推出,基於 UC Berkeley、MIT 和 Cornell 研究人員開發的 LiveCodeBench 基準評估程式碼大語言模型。
Ryght 藉助 Hugging Face 的專家支援,打造面向醫療及生命科學領域的生成式 AI 平台。平台採用可插拔 LLM 架構,並整合 TGI、TEI 及 Inference Endpoints,支援模型切換與開源嵌入模型服務。Ryght Preview 已向生命科學從業者公開,並以免費、安全平台提供。
Gradio reload mode 可在不重啟 Gradio server 的情況下載入來源檔案的最新變更,文章以此快速構建 AI 文件問答應用。
推薦理由:文章透過文件問答應用示範 Gradio reload mode,並説明如何用 gr.NO_RELOAD 保留客户端,減少開發迭代時重建資源的等待。
Hugging Face 發佈 Idefics2,這款 8B 參數多模態模型可接收文字與圖像序列並生成文字回應。模型權重採 Apache-2.0 授權,並已整合至 Transformers,支援圖像問答、OCR、圖表與文件理解。團隊亦公開 The Cauldron,收錄 50 個人工整理、供多輪對話使用的資料集。
推薦理由:Idefics2 同時公開 8B 權重、Apache-2.0 授權與多項視覺問答基準成績,便於對照小型多模態模型的效能表現和使用條件。
OpenAI 宣佈在日本設立其首個亞洲辦事處,並推出一款針對日語優化的 GPT-4 自訂模型。
推薦理由:這則公告同時交代亞洲首個辦事處與日語優化 GPT-4 自訂模型,呈現 OpenAI Japan 的實體佈局及語言適配兩個具體面向。
Hugging Face 推出 Deploy on Google Cloud 整合,讓用户可把 Hub 上的開放模型部署至 Vertex AI 或 GKE。所有帶有「text-generation-inference」標籤的模型均獲支援;Vertex Model Garden 提供數百個熱門開放 LLM 的即用測試硬件配置。
推薦理由:這項整合串起 Hugging Face 模型探索與 Google Cloud 部署,並為數百個熱門開放 LLM 提供測試硬件配置,呈現更直接的雲端部署流程。
Google 發佈面向程式碼的大語言模型家族 CodeGemma,推出 2B base、7B base 和 7B instruct 三種版本。模型以 Gemma checkpoint 為基礎,額外訓練 500 billion tokens,三款模型均採用 8K token 上下文窗口。
推薦理由:文章交代 CodeGemma 三種版本的用途,並列出 HumanEval 表現及 Hugging Face 的部署與量化整合,方便比較版本定位、基準表現和使用路徑。
Klarna 的 AI 助理承擔相當於 700 名全職客服專員的工作。Klarna 正運用 AI 革新個人購物、客户服務及員工生產力。
Hugging Face 宣佈與 Wiz 合作,提升其平台及整體 AI/ML 生態的安全性。Wiz 研究團隊利用 pickle 在 Hugging Face 的沙盒計算環境中執行任意程式碼,發現環境缺陷;Hugging Face 表示已修復所有與 exploit 相關問題。
OpenAI 為微調 API 增添新功能,並擴展自訂模型計劃,提供更多建立自訂模型的方式。新功能旨在讓開發者更能掌控微調。
Hugging Face Blog 示範以 DuckDB-NSQL-7B 結合 Hugging Face Dataset Viewer API 和 DuckDB,將自然語言問題轉為 SQL 查詢資料集中的資料。
Hugging Face Blog 示範使用 🤗 Optimum Intel 對 SetFit 模型進行靜態訓練後量化,在 Intel Xeon CPU 上推理時,最高吞吐量較原始 Transformers fp32 模型提升 7.8x。
Harvey 與 OpenAI 合作,為法律專業人士打造一款定製訓練模型。
OpenAI 讓用户無須註冊即可開始使用 ChatGPT。此舉旨在讓更多人更容易體驗 AI 帶來的益處。
推薦理由:這項免註冊安排聚焦 ChatGPT 的使用入口,呈現 OpenAI 如何降低初次體驗 AI 的前置門檻,並讓更多人更容易接觸產品。
OpenAI 分享從 Voice Engine 小規模預覽中汲取的經驗。Voice Engine 是一款用於建立自訂語音的模型。
OpenAI 自上月向全球介紹 Sora 後,一直與藝術家合作,瞭解 Sora 如何在創作過程中為他們提供協助。
Pollen Robotics 推出開源 pollen-vision 函式庫,整合零樣本視覺模型,支援以影像和文字輸入建立物件偵測及分割流程。首批模型包括 OWL-VIT、Mobile Sam 和 RAM,並結合深度資訊估算物件在 3D 空間中的 (x, y, z) 位置,為機械人抓取提供基礎。目前尚未支援完整 6D 姿態估計,OWL-VIT 的偵測結果亦可能不一致。