第 37 章：开源大模型：为什么它改变了全球 AI 分布
本章问题：当训练一个前沿大模型需要上亿美元——开源怎么可能有竞争力？
37.1 一个意外泄漏，改变了整个生态
2023 年 2 月，Meta（原 Facebook）发布了一个新的大语言模型系列——LLaMA（Large Language Model Meta AI）。LLaMA 本身并不是最令人惊讶的部分——令人惊讶的是 Meta 决定以"研究用途"的名义向学术界开放模型权重。
一周后，LLaMA 的权重文件在一个匿名论坛上被泄露。任何有网络连接的人都可以下载 7B、13B、30B、65B 参数的完整 LLaMA 模型——在自己的硬件上运行、分析、修改。
后果是爆炸性的。
在几周之内，世界各地的开发者相继发布了：
- Alpaca（Stanford）：用 ChatGPT 生成 52000 条指令数据，在 LLaMA 7B 上微调——训练成本 600 美元——在多项指令跟随评估中表现接近 text-davinci-003（当时 OpenAI 最强的指令模型）。
- Vicuna（UC Berkeley 等）：用从 ShareGPT 网站收集的用户对话数据微调 LLaMA——训练成本 300 美元——在对话质量上被评估为达到 ChatGPT 的 90%。
- Koala（Berkeley）：用高质量对话数据集微调——进一步缩小了与 ChatGPT 的差距。
突然之间，训练一个能用的对话 AI 不再需要千万美元的预算。一个研究生加 300 美元的计算积分，就能达到 ChatGPT 90% 的水平。
全世界的研究者和开发者同时意识到：前沿 AI 能力不再被少数几家公司的 API 锁定。
37.2 LLaMA 为什么特别——参数少但能力强
LLaMA 的关键创新不是新架构——它用的是标准 Decoder-only Transformer。它的关键在于训练数据的规模和质量。
LLaMA 团队的直觉来自第 27 章的 Chinchilla 定律：在固定算力预算下，用更多数据训练一个小一点的模型，比用更少数据训练一个大模型效果更好。
LLaMA 遵循了这个原则。LLaMA 7B 在 1 万亿 token 上训练——远超此前同参数量级模型的典型数据量。结果：7B 参数的 LLaMA 在多个 benchmark 上超越了 175B 参数的 GPT-3。
更关键的是——LLaMA 主要使用公开数据（CommonCrawl 过滤版 + Wikipedia + GitHub + Stack Exchange + 书籍等）。它的意义不只是模型效果，而是证明了高质量公开数据、长时间训练和合理规模分配可以组合出强模型。复现这种预训练仍然极贵，但它把"大模型能力只能来自封闭数据"这个判断打松了。
这种"小模型 + 大数据"的范式被后续许多开源模型继承。Mistral 7B、Qwen 2.5 7B、DeepSeek 7B——这些模型都遵循了类似的设计原则，并在各自的开源生态中不断推高小模型的能力上限。
37.3 中国开源模型的崛起
LLaMA 发布后，中国团队没有在"复制"上停留太久。不到一年，中国的开源大模型已经在多个方向上建立了独立的竞争力：
Qwen（通义千问，阿里）：在 2024-2025 年间，Qwen 是中文开源模型生态中能力覆盖面很广的代表系列。从小尺寸模型到 72B 级别模型，Qwen 2.5 系列在数学、代码和多语言场景中展现了很强的能力。Qwen 的开源协议对商业应用较为友好——直接催化了大量中国 AI 创业公司的产品化和二次开发。
DeepSeek（深度求索）：以极高的性价比著称。DeepSeek-V2 引入了 MLA（Multi-head Latent Attention）和 MoE（Mixture of Experts，混合专家）架构——用更低的推理成本接近了前沿模型在数学和代码任务上的能力。2024 年之后，DeepSeek 系列的低价 API 和开源权重让中国开发者能以更低成本获得高质量编码和推理能力。
ChatGLM（智谱）：从一开始就保持了双向关注——既有中文原生理解的优势，又在英文 benchmark 上持续改进。智谱在持续预训练（让模型不断吸收新知识）方面的实践为中国开源社区提供了宝贵的经验。
Baichuan（百川智能）：在搜索增强和多模态方面有独特贡献。特别是 Baichuan 的 RAG 和搜索整合能力——在中文短文本、法律文书和金融文档的语料处理上展现出了针对性优势。
这些模型的共同特点：权重公开、支持本地部署、允许商业使用（或有限制地允许商业使用）。到 2024 年，一个中国开发者已经可以用 Qwen-7B 或 DeepSeek-7B 作为基础，在自己的 GPU 或低成本云 GPU 上进行 LoRA 微调，得到一个针对自己业务场景优化的模型。
37.4 开源生态的"金三角"
开源大模型的成功不是只靠模型权重。一个完整的开源生态由三个支柱支撑：
支柱一：开源模型权重（LLaMA/Qwen/DeepSeek/Mistral 等）——基础模型本身可被自由下载和部署。这是生态的"核心资产"。
支柱二：微调与推理框架——没有这些框架，开源权重也只是磁盘上的一大片矩阵数字。
- HuggingFace Transformers / PEFT：让任何模型任何微调方法都能在统一接口下操作。
- llama.cpp / Ollama：把 LLM 推理优化到在消费级硬件（甚至手机和树莓派）上可用——通过 4-bit 量化和 CPU 优化，MacBook 上就能跑 7B 模型。
- vLLM / SGLang：面向服务端高吞吐推理——每秒可处理数千 token 的并发请求。
支柱三：社区创新——模型被发现后，成千上万个开发者和研究者会：
- 用 LoRA 做各种任务的微调并分享到 HuggingFace——"我微调了一个专门做粤语翻译的 Qwen"。
- 发现和报告模型中的偏见、安全漏洞和能力边界——这些反馈中有很多直接驱动了下一版模型的改进。
- 创建数据集（OpenOrca、UltraChat、ShareGPT 数据）——很多数据集的质量超过了原始指令微调数据集——社区协作的飞轮越转越快。
三根支柱一起形成了一个强大的飞轮：更好的开源模型吸引更多人使用→更多人使用产生更多微调模型和工具→更多的工具降低使用门槛吸引更多新开发者→更多开发者的反馈和贡献推动模型本身改进。
37.5 开源 vs 闭源——这是一个健康竞争中的生态张力
关于"开源模型是否应该发布"的争论一直存在。双方的论点都值得理解。
开源一方认为：开源让全球研究者（不只是硅谷少数公司）能深入检查模型的安全性、偏见和局限——全透明。开源让低收入地区和国家能在本土硬件上部署本地语言的 AI——而不是永远依赖硅谷公司的 API 服务器。开源让初创公司和个人开发者能基于现有模型快速迭代创新——而不是从零训练或接受 API 供应商的定价和功能约束。
闭源一方认为：完全开源意味着任何人都可以拿模型去做伪造、欺诈、自动化网络攻击、或制造虚假信息——没有任何技术防护措施能阻止。开源模型的权重可以被窃取、修改和再分发——公司的核心竞争力何在？
目前来看，双方在竞争中的动态压力在共同推动整个生态朝更有竞争力的方向加速。闭源的压力让开源方加快模型发布节奏和提高质量；开源的压力让闭源方在定价、功能和透明度上持续让步。截至 2025 年，开源模型在很多 benchmark 上的表现已经逼近甚至在某些领域超越了同期最强的闭源模型——但在大型组织内的部署、安全评估和合规化方面，闭源 API 仍然有明显的易用性优势。
37.6 本章小实验：在你的电脑上跑一个开源模型
用 Ollama——一个入门门槛很低的本地 LLM 运行工具：
CPU 推理会很慢（每秒几个 token），但在 Apple Silicon（M1/M2/M3）或带 NVIDIA GPU 的机器上，速度完全可接受。
这是开源生态赠予你的能力——不用任何公司账号、不需要付费、不需要联网——你自己的电脑上跑着一个完整的大语言模型。
37.7 本章地图
37.8 本章结语：AI 不是只为硅谷存在的
开源大模型运动最根本的意义是：它把创造和部署前沿 AI 的能力从少数几家资本极端集中的公司扩散到了全球的开发者和研究社区。
2020 年，GPT-3 只有通过付费 API 才能调用。到 2024 年，普通开发者已经可以在本地硬件或租用 GPU 上运行能力很强的开源模型——离线、可定制，并且不必把私有数据发送给闭源 API。
这种扩散速度在历史上只有极少数技术类比——互联网协议本身、Linux 操作系统、以及万维网标准。让核心基础设施保持开放——整个生态的创新能力会超过任何一个单一公司。
但生态的繁荣不代表问题也解了。开源模型同样会幻觉——可能在更需要安全保障的场景（医疗、航空、执法）中直接带来危险。闭源模型同样会偏见——在训练数据中的社会偏见会在问答中复现。
无论开源还是闭源——所有大模型共有的那组根本问题：它会撒谎——从轻微的细节编造到完全虚构的论据。它可能输出危险内容——从仇恨言论到武器制造指南。如何测量和减少这些风险？
这是下一章的话题。
下一章：幻觉、偏见与安全——大模型的阿喀琉斯之踵。
Discussion
留言区 · GitHub-powered comments via Giscus