跳到正文
原文
OpenAI Developers·· 2025-08-05精選AI 評分76

如何用 Ollama 在本地運行 OpenAI gpt-oss

How to run gpt-oss locally with Ollama

AI 導讀

OpenAI 介紹用 Ollama 在本地運行兩款 gpt-oss 模型,支援離線聊天、API 調用及接入 Agents SDK。gpt-oss-20b 建議至少 16GB VRAM 或 unified memory,gpt-oss-120b 至少 60GB;模型預設採用 MXFP4 量化,VRAM 不足時可用 CPU,但速度較慢。

推薦理由

指南比較兩個模型所需的硬件配置,並串起本地聊天、Chat Completions API 與 Agents SDK 接入步驟,便於評估本地部署路徑。

來源:OpenAI Developers · developers.openai.com