OpenAI 為微調 API 加入圖像支援,開發者可用圖像與文本微調 GPT-4o
OpenAI 為微調 API 加入圖像支援,開發者現在可用圖像與文本微調 GPT-4o。此功能旨在提升 GPT-4o 的視覺能力。
推薦理由:這項更新把圖像納入 GPT-4o 的微調資料,並可與文本一同使用,讓開發者能用兩種資料形式針對視覺能力進行調整。
OpenAI 為微調 API 加入圖像支援,開發者現在可用圖像與文本微調 GPT-4o。此功能旨在提升 GPT-4o 的視覺能力。
推薦理由:這項更新把圖像納入 GPT-4o 的微調資料,並可與文本一同使用,讓開發者能用兩種資料形式針對視覺能力進行調整。
OpenAI 在 API 提供 Prompt Caching,對模型近期見過的輸入自動提供折扣。詳情見 https://openai.com/index/api-prompt-caching
推薦理由:這項功能將模型近期見過的輸入與自動折扣直接連結,讓讀者瞭解 API 對重複輸入的費用處理方式。
OpenAI 的 API 模型蒸餾可在 OpenAI 平台上,使用大型前沿模型的輸出微調較具成本效益的模型。
推薦理由:這項 API 流程把大型前沿模型的輸出用於微調較具成本效益的模型,概述了在 OpenAI 平台內進行模型蒸餾的基本做法。
OpenAI 封禁了一個可能源自美國的帳户;該帳户利用 AI 偽造 ChatGPT 錯誤訊息,聲稱能偵測「Russian troll」活動。
OpenAI 封禁了源自伊朗的 STORM-2035 帳户。這些帳户利用 AI 生成美國和英國選舉內容,並將內容發布至多個網站。
OpenAI 封禁了源自俄羅斯的「Stop News」影響力活動相關帳號。這些帳號使用 AI 生成多語言文章和帖文,針對烏克蘭及西方。
OpenAI 封禁了與伊朗相關的 STORM-0817 帳户,這些帳户使用 AI 調試 Android 惡意軟件、抓取社交平台及翻譯工具。
OpenAI 封禁了疑似屬於名為 SweetSpecter 的對手的帳户;該對手被懷疑以中國為據點。該對手利用 AI 研究漏洞、編寫程式並支援魚叉式網絡釣魚活動。
OpenAI 封禁了疑似屬於 CyberAv3ngers 的帳户,這些帳户使用 AI 進行研究。研究內容涉及工業控制系統、預設憑證及目標。
OpenAI 封禁了利用 AI 生成批評俄羅斯反貪腐基金會及相關人士評論的帳户。
OpenAI 封禁了使用 AI 起草濫用舉報及投訴、以越南公眾人物和平台為目標的帳户。
OpenAI 封禁了利用 AI 生成多語言影響力內容的「A2Z」帳號。相關內容涉及選舉、烏克蘭及政治,並在多個平台傳播。
OpenAI 以基於 GPT-4o 的全新多模態審核模型升級 Moderation API,提升對有害文字和圖像的檢測準確度。此模型可協助開發者建立更穩健的審核系統。
明尼蘇達州企業翻譯辦公室使用 ChatGPT 跨越語言隔閡。
OpenAI 與 GEDI 宣佈建立策略合作夥伴關係,將意大利語新聞內容帶入 ChatGPT。
Meta 發佈 Llama 3.2,共有 10 個開放權重模型,包括 5 個多模態模型和 5 個純文字模型,涵蓋 11B、90B 視覺模型及面向裝置端的 1B、3B 純文字模型。
推薦理由:Llama 3.2 涵蓋 11B、90B 視覺模型與 1B、3B 裝置端純文字模型,並列出 Transformers、llama.cpp 等運行示例,可作為選擇部署路徑的參考。
Mercado Libre 推出名為 Verdi 的 AI 開發者平台,平台由 GPT-4o 驅動。原文未説明平台的功能細節或開放方式。
Hugging Face 介紹 Daily Papers 頁面的功能,包括認領論文、提交社羣推薦論文、與作者討論,以及查看相關模型、數據集和示範。過去一年,Daily Papers 收錄超過 3,700 篇論文,訂閲者超過 12k;只有已認領論文的用户可提交論文,留言支援多種語言並提供內置翻譯。用户可在評論區輸入 @librarian-bot 獲推薦相關論文,亦可訂閲每日更新(週末除外)。
Hugging Face Blog 示範如何用 Optimum-Intel 和 OpenVINO GenAI 優化 Transformers 模型,並部署至邊緣或客户端環境。
Genmab 推出「AI Everywhere」,並採用 ChatGPT Enterprise。OpenAI 對安全與私隱的承諾,為 Genmab 採用 ChatGPT Enterprise 提供支持。
GPT-4 用於改善巴西的教學與學習,主題聚焦當地教育中的教學與學習提升。現有內容未交代具體做法或成效。
Mistral AI 公佈多項更新,包括 Mistral Small v24.09、la Plateforme 免費層、模型降價及 le Chat 免費提供 Pixtral 12B 圖像理解。
推薦理由:免費層涵蓋開發者的實驗、評估與原型製作,價格表亦列出模型新舊費率及降幅,呈現試用門檻和 API 成本的變化。
Mistral AI 發佈 Pixtral 12B,這款多模態模型採用基於 Mistral Nemo 的 12B 參數解碼器,以及從零訓練的 400M 參數視覺編碼器。它支援不同尺寸與長寬比的圖像,並可在 128K tokens 上下文窗口中處理多張圖片;在 MMMU 推理基準上取得 52.5%。模型採用 Apache 2.0 授權,可透過 Le Chat 或 La Plateforme 試用。
推薦理由:Mistral AI 以相同評測流程比較 Pixtral 12B 與多個開源及閉源模型,並列出 MMMU 52.5% 等基準結果,便於理解其多模態表現。
Hugging Face 在 Hub 的資料集頁面推出 SQL Console,讓用户直接在瀏覽器以 SQL 查詢和篩選資料集。它由 DuckDB WASM 驅動,不需伺服器或後端;非 Parquet 格式的資料集會自動轉換前 5GB,查詢結果可匯出為 Parquet,公開資料集的結果亦可透過連結分享。
推薦理由:SQL Console 以 DuckDB WASM 在瀏覽器查詢資料集,並示範用 SQL 將 Alpaca 格式轉為對話格式,提供一個可參照的資料整理流程。
OpenAI 提供其安全與保安做法的更新;原文未列出具體內容。
HuggingChat 推出 Community Tools,讓使用者可把 Hugging Face 上的公開 Space 轉成模型可直接調用的工具。這些工具可用於理解圖片、生成影片或文字轉語音,也可建立文件 RAG 工具。建立助手時最多可選 3 個工具;該功能目前仍屬實驗階段。
推薦理由:文章展示如何把公開 Space、自建 Gradio 工具和文件 RAG 接入 HuggingChat,並在助手中組合最多 3 個工具,提供從建立到配置的實操路徑。
Hugging Face 發佈 Accelerate 1.0.0 首批候選版本,供社羣在正式版推出前試用及遷移。文章列出多項棄用項目及替代寫法,並提供 `pip install --pre accelerate` 試用方式。Accelerate 支援 CPU、GPU、TPU、XPU、NPU、MLU 六類硬件加速器,並可維持 99% 原有訓練迴圈。
OpenAI 推出 o1。
亞利桑那州立大學(Arizona State University)在全校範圍採用 ChatGPT,藉此個人化學習、推進研究,並協助學生為未來做好準備。
Hugging Face Blog 介紹 Hugging Face Hub 上 5 項常被忽略的工具,並以 Reddit 資料展示自動更新的視覺化語義搜尋流程。
推薦理由:文章以每日更新的 Reddit 資料為例,拆解 Hugging Face Hub 五項工具如何協作,從資料抓取、嵌入向量處理與事件觸發,直到視覺化語義搜尋。
OpenAI 現已開放 GPT-4o 微調。
Upwork 將 AI 投入實際工作,連結團隊成員、營運與產品開發。這項做法聚焦於 AI 在這些工作範疇中的應用。
Hugging Face Blog 提供了在 Google Cloud Vertex AI 部署 Meta Llama 3.1 405B Instruct FP8 的操作教程,並示範如何以 Text Generation Inference(TGI)執行線上推理。
OpenAI 推出 SWE-bench Verified,這是經人工驗證的 SWE-bench 子集,可更可靠地評估 AI 模型解決真實世界軟件問題的能力。
Hugging Face Blog 的 ggml 入門指南介紹這個以 Transformer 推理為重點的 C/C++ 機器學習函式庫,並示範其基本用法。文章解釋 ggml_context、ggml_cgraph、ggml_backend 等概念,透過矩陣乘法展示張量建立、計算圖執行和 backend 記憶體配置流程。
Hugging Face 在 Transformers 中提供統一工具調用 API,讓同一套程式碼可跨多個熱門模型系列使用。API 支援 Mistral、Cohere、NousResearch 和 Llama;Transformers 亦加入輔助功能、完整文件與範例,並可將 Python 函式自動轉為 JSON schema。
推薦理由:文章説明統一 API 如何簡化工具定義與聊天紀錄格式,也交代模型輸出的工具呼叫仍需自行解析,呈現目前統一機制的範圍與缺口。
阿布扎比的 Technology Innovation Institute(TII)發佈 Falcon Mamba 7B,這是一款採用純 Mamba 架構、以 TII Falcon Mamba 7B License 1.0 開放存取的模型。
推薦理由:文章並列 Falcon Mamba 的基準表現與長序列生成結果,也説明 sequential prefill 對可處理提示長度的影響。
OpenAI 宣佈 Zico Kolter 加入董事會,並將加入 Safety & Security Committee。OpenAI 表示,這項安排將為治理工作增添 AI 安全與對齊方面的專業知識。
推薦理由:公告交代了 OpenAI 董事會增補的專業方向,以及 Zico Kolter 在 Safety & Security Committee 的職務安排,可據此瞭解其治理架構的人事變化。
Hugging Face 宣佈收購 XetHub,並計劃以其技術替換 Hub 現有的 Git LFS 儲存後端。文中舉例,10GB Parquet 檔案新增一行時只需重傳少數區塊;未來修改 GGUF header 的單一 metadata 值,也只需重傳數 KB 的區塊。
推薦理由:XetHub 的分塊與去重技術將用於 Hub 儲存後端,文中的 Parquet 和 GGUF 例子展示小幅修改如何減少大型檔案的重傳量。
Rakuten 將數據與 AI 配對,以發掘客户洞察並創造價值。