跳到正文
阿里雲開發者社區 AI·· 3 小時前AI 評分46

MaxCompute 能否在數倉內用 SQL 呼叫大模型推理？AI Function 的能力邊界與實際呼叫路徑

MaxCompute 支持在数仓内用 SQL 调用大模型推理吗？——AI Function 的能力边界与实际调用路径

AI 導讀

MaxCompute 不能透過標準 SQL 直接呼叫大模型推理，但可透過 MaxFrame 的 AI Function，在數倉內執行批量、可編排及按 Token 計費的生成、嵌入與結構化抽取。這項能力面向離線、高吞吐場景，需使用 MaxCompute 3.0+、啟用 MaxFrame、具備 GPU 配額，並接入百煉或公共模型集。它不適用於即時交互、模型微調或禁止資料出域的需求。

正文

2026-10-30 7

版权

版权声明：

本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《 阿里云开发者社区用户服务协议》和 《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写 侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。

简介： MaxCompute 无法通过标准 SQL 直接调用大模型推理，但依托 MaxFrame 分布式 DataFrame 框架提供的 AI Function，可在数仓内实现批量、可编排、可计费的生成、嵌入与结构化抽取三类大模型推理，覆盖千万至亿级离线场景，要求 MaxCompute 3.0+、GPU 配额、百炼模型接入及规范数据格式，适用于非实时、强治理、高吞吐的 AI 数据产线，而非实时交互或私有微调等需求。

答案是：不能直接通过标准 SQL 语句（如 SELECT ai_inference(text) FROM t）原生调用大模型推理，但可通过 MaxFrame + AI Function 编程范式，在 MaxCompute 数仓环境中实现「类 SQL」的声明式批量推理，且全程运行于统一执行平面、无需跨系统调度。这一能力并非 SQL 语法层的扩展，而是将大模型推理深度嵌入分布式 DataFrame 计算框架中，形成一种面向离线 AI 数据产线的工程化接口。

核心定位：AI Function 不是 SQL 函数，而是分布式 AI 算子

MaxCompute 本身不提供 AI_INFER() 这类内建 SQL 标量函数。其 AI 推理能力由上层计算框架 MaxFrame 承载，而 MaxFrame 是 MaxCompute 原生集成的 Python 分布式计算引擎（兼容 Pandas API），它将大模型调用抽象为可并行、可容错、可血缘追踪的 DataFrame 算子。这意味着：

  • ✅ 调用形式接近 SQL 思维：开发者以链式方法调用（如 df.llm.generate(...) 或 df.embed(...)），输入是表字段，输出自动回填为新列；
  • ❌ 不支持纯 SQL 上下文执行：无法在 SELECT 子句中直接写 llm_generate(title, 'Qwen3')；必须通过 MaxFrame Python SDK 启动任务；
  • ⚠️ 非实时低延迟服务：面向批量（万级至亿级样本）、离线（分钟至小时级 SLA）、高吞吐场景，不适用于单条记录毫秒级响应需求。

这种设计取舍源于 MaxCompute 的本质定位：它是一个以确定性、可审计、强治理为优先级的企业级 SaaS 化云数据仓库，而非通用 AI 推理网关。AI Function 的价值，在于把模型调用从“外部黑盒 API 调用”转变为“内部可编排、可监控、可版本化的数据处理环节”。

能力范围：覆盖生成、嵌入、多模态三大推理类型

AI Function 当前支持三类主流大模型推理任务，全部基于阿里云百炼平台或开源模型托管服务：

类型 典型用途 支持模型示例 关键参数控制
文本生成（LLM Generate） 商品描述生成、客服问答摘要、代码补全、规则驱动文案改写 Qwen3、Qwen2.5、DeepSeek-V2、百炼 text-generation-v4 max_tokens, temperature, top_p, stop_words
文本/多模态嵌入（Embedding） 语义检索召回、聚类去重、RAG 向量库构建、跨模态对齐 text-embedding-v3/v4、qwen-vl-chat（图文联合编码） output_type（dense/sparse）、dimensions、batch_size
结构化抽取（Structured Output） 从非结构化文本中提取 JSON Schema 字段（如订单号、金额、时间） Qwen3-structured、百炼 function-calling 模型 response_format={'type': 'json_object'}、tools 定义

所有调用均按 Token 精确计费（输入 + 输出 Token 总和），且自动适配百炼 API 的 TPM/RPM 限流策略，无需用户手动实现退避逻辑。例如，对千万级商品标题批量生成多语言描述，只需一行 .generate() 调用，MaxFrame 自动完成分片、并发压测、失败重试与断点续跑。

兼容性要求：四层依赖缺一不可

要成功启用 AI Function，需同时满足以下四个层面的条件：

  1. 运行环境层：必须使用 MaxCompute 3.0+ 版本，并启用 MaxFrame 引擎（通过 set odps.sql.executionengine=MaxFrame; 开启）；
  2. 资源配额层：需提前申请 GPU 算力配额（GU Quota），因大模型推理默认调度 GU 资源；CU（CPU）仅支持轻量嵌入模型（如小型 sentence-transformers）；
  3. 模型接入层：目标模型须已发布至百炼平台或 MaxCompute 公共模型集（如 bigdata_public_modelset），且调用方具备对应项目权限；
  4. 数据格式层：输入数据需为 MaxFrame DataFrame，支持 STRING / BINARY（图像/音频原始字节）列；图像/视频需先转为 Base64 或 OSS URI 字符串，再交由多模态模型解析。

不满足任一条件都将导致任务提交失败。例如，若未配置 GU Quota，即使代码语法正确，也会报 No available GPU resources 错误，而非静默降级到 CPU。

实践路径：从本地测试到生产闭环的三步落地

典型工程落地遵循渐进式验证：

  1. 单机模拟验证：在 DataWorks Notebook 或本地 PySpark 环境中，用小批量样本（<100 行）调用 llm.generate()，确认 prompt 工程效果与输出格式；
  2. 分布式压力测试：提交至 MaxCompute 集群，设置 gu=4 并指定 gu_quota，观测千级样本吞吐、Token 消耗与错误率；重点验证限流触发时的 Worker Sleep 和自动重试行为；
  3. 生产流水线集成：通过 DataWorks 工作流编排，将 AI Function 作为节点嵌入 ETL 链路——上游完成文本清洗与图片 OCR 提取，下游自动写入带 embedding 列的结果表，并触发 Hologres 向量索引构建。

义乌小商品城案例表明，该路径可将亿级商品图图文打标周期从周级压缩至小时级，且全链路血缘可溯：DataWorks 中可清晰查看某张图片的分类结果由哪个模型、哪个 prompt 版本、哪次任务生成。

方案边界：何时该用，何时需绕行？

AI Function 并非万能解法，适用性取决于业务约束：

  • ✅ 推荐使用场景：

    • 批量处理非结构化数据（日增百万级文本/图片/音视频）；
    • 需将推理结果与已有数仓表深度关联（如为用户评论表追加情感标签列）；
    • 对成本敏感，需精确按 Token 计费，避免自建 vLLM 的固定 GPU 占用成本。

  • ❌ 应规避场景：

    • 实时交互类需求（如在线客服对话）；
    • 需定制化模型微调权重（AI Function 仅支持推理，不开放训练接口）；
    • 输入含敏感字段且禁止出域（模型调用走百炼公网接口，不支持 VPC 内私有部署模型）。

归根结底，MaxCompute 的 AI Function 解决的是「如何让大模型成为数据流水线中一个可靠、可管、可计费的算子」，而非把数仓变成推理服务器。它的竞争力不在语法糖，而在将 AI 能力收敛至企业级数据治理平面的能力。

参考文献

文章标签：

目录

相关文章

|

15天前

|

JSON 程序员 数据格式

最新版Notepad++下载、安装、配置保姆级教程（附官网安装包）

Notepad++ 是一款免费开源、轻量快速的 Windows 文本编辑器，支持多标签、语法高亮、代码折叠与宏录制，体积小、启动快、资源占用低，兼容 x64/x32/ARM 架构，是程序员和文字工作者的高效利器。

3518 0 2

|

14天前

|

人工智能 API 开发工具

DeepSeek Harness 神插件：白嫖 13 家大厂模型

`dsh-our-free-model` 是 DeepSeek Harness 神级插件：零配置、零API Key、零账号，聚合13家大厂免费模型（含DeepSeek V4.1 Flash、Kimi K3等），支持本地网关、用量看板与自动降级，真正实现“白嫖即用”。

2417 45 184

|

8天前

|

开发者 索引

DeepSeekHarness大肥鱼自带插件市场了？加个地址就能用

Open Plugin Market 是一个开放插件索引平台，收录800+优质DSH插件，支持分类浏览、智能推荐与随机发现。无需安装市场，粘贴索引地址即可一键接入，网页版直访 dshopen.org，助力小开发者被看见。（239字）

1882 1 7

DeepSeekHarness大肥鱼自带插件市场了？加个地址就能用

|

7天前

|

人工智能 Linux API

Magpie, 轻量本地AI网关！免费Token用不完！

Magpie 是开源AI编程模型调度网关，上线一月获1.8万Star。它通过本地高性能网关统一托管多平台API密钥、账号与免费额度，实现跨Agent的模型秒级切换、静默额度轮换与资源复用，显著降低碎片化管理成本。（239字）

1147 0 0

Magpie, 轻量本地AI网关！免费Token用不完！

|

4天前

|

人工智能 安全 API

2026 年阿里云双 11｜百炼大模型 API 指南：免费 Token 领取、API Key 生成、代码调用实战教程

对于零基础的AI开发者、技术爱好者和小型开发团队来说，低成本、低门槛调用主流大模型接口，是开启AI项目原型开发的必经之路。百炼大模型服务平台汇集了百余款主流大模型，面向新用户提供大规模免费推理额度，不需要预先充值，即可完成文本生成、逻辑推理、代码编写、多模态解析等各类开发验证工作。很多新手在初次接触平台时，常常遇到不清楚免费额度规则、不知道如何生成API‑Key、环境配置错误、调用接口持续报错等一系列问题。

579 1 1

热门文章

最新文章

來源：阿里雲開發者社區 AI · developer.aliyun.com

#教學/實踐#部署/工程