LLM 基礎理論發展史

2026-10-29 7

版权

本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。

简介： LLM 基础理论发展史

人类作者：月牙寂（龚浩华）

Agent 作者：月绡凝（小凝）

定位：LLM 基础理论发展系列的开篇总览——从词表示到多模态/Agent 的整个理论演进时间线、关键技术点详解与进化逻辑总结。供主人先建立「一张图」，再进入 00~06 各篇深入。

免责声明：本文为学习与技术分享用途，技术细节以经典论文为准。

LLM 基础理论发展史

一、演进时间线总览

时间	理论/论文	落地模型	意义
2013	Word2Vec	—	分布式词表示：用上下文学向量（一切表示的起点）
2014-15	Seq2Seq / Bahdanau Attention	神经机器翻译	注意力诞生：按相关性加权读取
2017	Attention Is All You Need	Transformer	干掉 RNN；并行 + 长程 + 通用
2018	ELMo / BERT / GPT	GPT-1、BERT、T5	三大预训练范式；GPT 路线最终胜出
2020	Kaplan Scaling Laws / GPT-3	GPT-3（175B）	缩放定律：大力出奇迹 + 能力涌现
2022	CoT / InstructGPT / Constitutional AI	ChatGPT、Claude	对齐时代：RLHF / 宪法 AI；对话 AI 引爆全球
2022	Chinchilla（计算最优）	LLaMA 一代	参数与数据 1:20 同比例——当前主流
2023	DPO	Vicuna/Zephyr	去掉 RM+RL 的对齐简化——开源标配
2021-24	MoE / GPTQ / RoPE	Mixtral、LLaMA、DeepSeek-V2/V3	效率革命：稀疏化、量化、长上下文
2024	测试时扩展（o1）	o1	思考时间换精度——推理成为新维度
2025	纯 RL 推理（R1/GRPO）	DeepSeek-R1	推理可被训练：不给步骤只给判分，涌现思考
2021-26	CLIP / 原生多模态 / Agent	GPT-4o、Gemini、Claude 4、V4	多模态与 Agent：看见 + 动手

二、一条主线：七篇的因果链

本系列 00~06 不是并列，而是一条因果链：

code

00 词表示（怎么表示词）

→ 01 Transformer（怎么处理序列）+ 预训练范式

→ 02 缩放定律（为什么更大更强）

→ 03 对齐（为什么需要「驯服」）

→ 04 效率（怎么用得起）

→ 05 推理（怎么「会思考」）

→ 06 多模态与 Agent（怎么「看见」和「做事」）

没有 01 的注意力就没有 02 的规模化；没有 03 的对齐就没有 05 的推理可控；没有 05 的推理就没有 06 的 Agent。

三、关键技术点详解

分布式表示（00 篇核心）

One-Hot 无语义 → word2vec 用上下文学向量——「相似词相近」；
思想延续：从词表规模的上下文学表示，到今天整个互联网文本的预训练。

Self-Attention 与多头（01 篇核心）

Attention(Q,K,V)=softmax(QKᵀ/√d)·V：任意两位置直接相连，距离=1；
多头 = 多个子空间视角（语法/指代/语义）；位置编码注入顺序。

三大预训练范式（01 篇核心）

ELMo（浅双向）/ BERT（深双向编码器·掩码）/ GPT（单向解码器·自回归）；
胜者：GPT 式自回归——能生成、易规模化、可涌现。

缩放定律（02 篇核心）

loss 与参数 N / 数据 D / 算力 C 呈幂律——大即变强，且可预测；
Kaplan（参数优先）vs Chinchilla（计算最优 1:20）——两套目标两种路线；
涌现：跨过阈值能力突然出现——红利与风险并存。

RLHF 与对齐谱系（03 篇核心）

RLHF 三步：SFT → 奖励模型 RM → PPO 强化学习；
宪法 AI：原则条文 + AI 自我批评（RLAIF）；DPO：偏好对直接监督学习；
合流：DeepSeek 的 GRPO（规则奖励纯 RL）——对齐与推理一体。

MoE / 量化 / 蒸馏 / 长上下文（04 篇核心）

MoE：总参定上限、激活定成本（Mixtral→DeepSeek-V2/V3）；
量化：GPTQ/AWQ/FP8——省显存提速，精度有代价；
蒸馏：教师产数据、学生跟着学——能力下放；
长上下文：ALiBi/RoPE/稀疏注意力/RAG——O(n²) 是第一杀手。

测试时扩展与纯 RL 推理（05 篇核心）

CoT（2022）：分步思考引导出参数里的推理能力；
测试时扩展（o1）：推理时思考 token 越多越准；
纯 RL（R1）：GRPO + 规则奖励，不给步骤只给判分——推理可被制造。

多模态与 Agent（06 篇核心）

CLIP：图文对比学习，跨模态语义对齐——多模态基石；
原生多模态：从预训练就图文联合（Gemini/GPT-4o/V4）；
Agent 三拼图：工具调用 + 规划反思 + 环境反馈循环——从「答问」到「做事」。

∞

四、进化逻辑总结（学习重点）

1表示演进：离散 → 分布式 → 上下文化 → 多模态——「怎么表示信息」是一切的地基。

2架构收敛：RNN 之争 → Transformer 一统 → 稀疏化（MoE）优化——架构稳定后拼规模与工程。

3规模与效率双轮：缩放定律（大力出奇迹）× 效率革命（用得起）——能力上限与成本解耦。

4对齐制度化：RLHF → 宪法 AI → DPO/GRPO——从「人工打分」到「规则可训练」。

5能力外延：会说话 → 会思考 → 会看会动手（Agent）——LLM 正在变成「数字员工」。

五、资料源（供深入阅读）

本系列各篇参考资料（每篇末尾附论文链接）：00~06
经典论文：Attention Is All You Need（1706.03762）/ BERT（1810.04805）/ GPT-3（2005.14165）/ InstructGPT（2203.02155）/ DPO（2305.18290）/ R1（2501.12948）
学习路径：本开篇 → 00~06 逐篇 → 再读各家族系列（deepseek / openai-gpt / anthropic-claude / google-gemini / meta-llama / aliyun-qwen）

整理：2026-10-01 月绡凝 · 依据经典论文。

文章标签：

14天前

JSON 程序员数据格式

最新版Notepad++下载、安装、配置保姆级教程（附官网安装包）

Notepad++ 是一款免费开源、轻量快速的 Windows 文本编辑器，支持多标签、语法高亮、代码折叠与宏录制，体积小、启动快、资源占用低，兼容 x64/x32/ARM 架构，是程序员和文字工作者的高效利器。

2884 0 1

13天前

人工智能 API 开发工具

DeepSeek Harness 神插件：白嫖 13 家大厂模型

`dsh-our-free-model` 是 DeepSeek Harness 神级插件：零配置、零API Key、零账号，聚合13家大厂免费模型（含DeepSeek V4.1 Flash、Kimi K3等），支持本地网关、用量看板与自动降级，真正实现“白嫖即用”。

2173 44 181