從零開始在雲端伺服器接入 DeepSeek：完整實作筆記

2026-10-28 8

版权

版权声明：

本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《 阿里云开发者社区用户服务协议》和 《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写 侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。

简介： 本文是面向开发者在云服务器（阿里云ECS，2核4G/Ubuntu 22.04）部署大模型API服务的实操指南：涵盖环境配置、OpenAI SDK对接DeepSeek、密钥安全管理、Flask+Gunicorn服务化、限流与超时容错，并附成本优化建议，助你低成本构建7×24稳定AI服务。（239字）

这篇是给准备在云服务器上接大模型的人写的实操记录。我的环境：阿里云 ECS（2 核 4G，Ubuntu 22.04），跑的是一个简单的 API 转发服务，背后接 DeepSeek 做推理。从选型到跑通，每一步都写下来。

为什么要在服务器上接模型，而不是在本地

本地开发没问题，但生产环境有个现实问题：你的服务要 7×24 小时在线，本地电脑做不到。

把模型调用放到云服务器上，好处有三个：

稳定：服务器不关机，定时任务、异步队列都能跑
隔离：密钥放在服务器环境变量里，比放在本地代码里安全
可扩展：以后要接更多功能，直接在服务器上加
第一步：环境准备（含命令）

我的服务器配置：

Ubuntu 22.04
Python 3.10
pip 已装好
装依赖，就一个包：

pip install openai
你没看错，接 DeepSeek 用的是 OpenAI 的 SDK——因为词元云这类平台做的是 OpenAI 兼容接口，你不需要为每家模型装一套 SDK。

第二步：密钥管理

密钥不要写死在代码里。用环境变量：

写入 .bashrc

export TOKENFREE_API_KEY="你的密钥"
然后在代码里读取：

import os
from openai import OpenAI

client = OpenAI(
api_key=os.getenv("TOKENFREE_API_KEY"),
baseurl="https://api.tokenfreeai.com/v1"
)
这样密钥不会进代码仓库，也不会在部署时被误提交。

第三步：跑通第一个请求

resp = client.chat.completions.create(
model="deepseek-chat",
messages=[{"role": "user", "content": "用一句话介绍你自己"}]
)
print(resp.choices[0].message.content)
看到输出，第一个请求就通了。

第四步：做成一个可部署的服务

单条请求通了不算完，生产环境要的是"服务"。我用的最简单方案：Flask + Gunicorn。

from flask import Flask, request, jsonify

app = Flask(name)

@app.route("/chat", methods=["POST"])
def chat():
data = request.json
resp = client.chat.completions.create(
model="deepseek-chat",
messages=data["messages"]
)
return jsonify({"reply": resp.choices[0].message.content})

if name == "main":
app.run(host="0.0.0.0", port=8000)
部署：

pip install flask gunicorn
gunicorn -w 2 -b 0.0.0.0:8000 app:app
到这里，一个能对外提供 AI 能力的服务就跑起来了。

两个我踩过的坑

坑一：晚高峰被限流（429）

服务跑起来之后，第一次遇到 429 是工作日晚高峰。查了日志才发现，官方直连在高峰期确实扛不住。

我的解决思路：接一个做了多渠道故障转移的接入方。简单说就是同一模型背后接多条上游渠道，一条被打满自动切另一条。我用的是词元云（tokenfreeai.com），它这一点解决了我最头疼的问题。

坑二：没有做超时和重试

刚开始服务很脆弱，上游一慢整个请求就超时。后来加了重试和超时控制：

import time
from openai import APITimeoutError, RateLimitError

for attempt in range(3):
try:
resp = client.chat.completions.create(..., timeout=30)
break
except RateLimitError:
time.sleep(2 ** attempt) # 指数退避
except APITimeoutError:
continue
加上这个，服务稳了很多。

成本参考

我跑的这个转发服务，平均每天几百次调用，一个月费用在 ¥50–¥80 之间。关键还是看你怎么分模型：

任务 用谁 月成本
简单问答 便宜档（GLM-Flash 类） ¥15
推理/代码 DeepSeek ¥30
长文档 长上下文模型 ¥20
别所有任务都用同一个模型，这一条能帮你省掉一半以上的钱。

最后

云服务器 + OpenAI 兼容接口 + 按任务分模型，这三件事组合起来，就是一个低成本、稳定、可扩展的 AI 服务架构。这套东西我自己跑了几个月，稳定性和成本都在可接受范围。