一文了解DeepSeek及应用场景

本文详细介绍了DeepSeek及其应用场景，涵盖了大模型的发展历程、基本原理和分类（通用与推理模型）。文章分析了DeepSeek的具体特性、性能优势、低成本训练与调用特点，以及其技术路线（如MoE、MLA架构），并与竞品进行了对比。此外，还探讨了DeepSeek在金融风控等领域的应用前景。

一、大模型发展回顾

1.1. 大模型发展历程

图片

*GPT-4o的o表示omni，意为“全知全能的”；o1/o3的o表示OpenAI.

从OpenAI的发展过程看大模型的发展趋势：

1.2. 大模型基本原理

大模型是如何构建的？

图片

引用论文 Large Language Models: A Survey [1]

图片

核心的三个步骤: 预训练，有监督微调和人类反馈强化学习。

图片

1.3. 推理模型与通用模型

大模型发展至今，可以分为: 通用大模型与推理大模型。

图片

思维链(Chain of Thought, CoT)通过要求/提示模型在输出最终答案之前，显式输出中间逐步的推理步骤这一方法来增强大模型的算数、常识和推理的性能。从该角度，可以将大模型的范式分为两类: 概率预测（快速反应模型）和链式反应（慢速思考模型），前者适合快速反馈，处理即时任务，后者通过推理解决复杂问题。

图片

一个例子，问: 1+2+3+4+5+6+7+8+9+10=多少，直接告诉我答案

图片

图片

二、DeepSeek

2.1. DeepSeek是什么

图片

DeepSeek主流模型的竞品对标

2.2. DeepSeek可以做什么

直接面向用户或者支持开发者，提供智能对话、文本生成、语义理解、计算推理、代码生成补全等应用场景，支持联网搜索与深度思考，同时支持文本上传，能够扫描读取各类文件及图片的文字内容。

图片

2.3. DeepSeek的模型对比

2.3.1. DeepSeek模型发展史

图片

资料 彩云之南公众号，浙商证券研究所。[相关链接2]

我们常说的DeepSeek的大模型，是指当前主流的DeepSeek-V3和DeepSeek-R1。

2.3.2. V3与R1的对比与选择

总结: 不考虑调用成本，复杂推理任务（例如数学、代码等）或者希望获取思维链，优先DeepSeek-R1；内容创作、文本生成等优先DeepSeek-V3。

图片

图片

2.3.3. 竞品-OpenAI的大模型

图片

*o3-mini的一个介绍: [3], o1-mini的一个介绍: [4], GPT-4o的一个介绍: [5], GPT-4o-mini的一个介绍: [6]

2.3.4. 竞品-通义千问的大模型

图片

图片

引用: 通义千问官网[7]

2.4. DeepSeek为什么大火

图片

2.4.1. 性能优越

图片

图片

图片

*AIME 2024: 数学题,涵盖算术、代数、计数、几何、数论、概率等中学数学主题的综合评测，测试数学问题解决能力。

*MATH-500: 包含500个测试样本的MATH评测集，全面考察数学解题能力。

*GPQA: 研究生水平的专家推理,一个通过研究生级别问题评估高阶科学解题能力的评测集，旨在考察科学问题解决能力。

2.4.2. 训练便宜

结论: DeepSeek-V3 较 OpenAI竞品，训练成本约为1/20～1/3

*注, H800为针对中国市场定制，性能和价格略低于H100.

2.4.3. API调用便宜

结论: DeepSeek-V3 API调用价格约为OpenAI o3-mini的1/4，为GPT-4o的约1/10. 但要高于GPT-4o-mini, 性能强于GPT-4o-mini.

以下为当前调用价格，以token为单位，1个英文字符约0.3个token，1个中文字符约0.6个token，即1 token可对应1-2个中文汉字，或对应3-4个英文字符，或0.75个英文单词，截止到2025年2月8日

图片

*o3 mini思维链: 2025年2月7日，openAI公开o3 mini思维链，业界猜测非原始思维链，而是总结之后的思维链输出。

*缓存命中: 在大模型 API 的使用场景中，用户的输入有相当比例是重复的。举例说，用户的 prompt 往往有一些重复引用的部分；再举例说，多轮对话中，每一轮都要将前几轮的内容重复输入。启用上下文硬盘缓存技术，把预计未来会重复使用的内容，缓存在分布式的硬盘阵列中。如果输入存在重复，则重复的部分只需要从缓存读取，无需计算。该技术不仅降低服务的延迟，还大幅削减最终的使用成本。

*MMLU(大规模多任务语言理解）是一种新的基准测试，涵盖STEM、人文、社会科学等57个学科，有效地衡量了综合知识能力。

2.4.4. 其它因素

2.5. DeepSeek为什么又好又省-技术路线

2.5.1. 主要技术路线

图片

参考: DeepSeek-v3技术文档 [8]

图片

2.5.2. Mixture of Experts (MoE) 混合专家模型

MoE在NLP、CV、多模态和推荐系统中有广泛的应用(时间线上面的开源，下面的闭源)。

图片

参考: A Survey on Mixture of Experts [9]

两种典型的MoE: Dense MoE VS. Sparse MoE

图片

图片

图片

往往会带来负载均衡问题，即专家工作量的不均衡分布，部分专家频繁更新，其它专家很少更新，大量研究专注于解决负载均衡问题。

DeepSeek的MoE结构: DeepSeekMoE

DeepSeek-R1: 1个共享的专家+63个路由的专家，每个专家是标准FFN的1/4大小.

图片

2.5.3. Multi-Head Latent Attention (MLA)

图片

2.5.4. R1的训练范式：冷启动与多阶段RL

图片

参考: 知乎@绝密伏击 [10]

2.6. DeepSeek与竞品对比

2.6.1. 几个竞品的对比项目/模型DeepSeek-R1GPT-4o豆包模型定位专注高端推理和复杂逻辑问题通用大模型，旨在处理多任务、多模态中文环境，面向C端用户，轻量化、娱乐化是否开源是否否，商业化产品擅长功能复杂推理，例如数学、代码通用语言生成、多模态理解拟人化聊天、创意内容生成、图像生成定制化程度高；用户可修改模型行为并针对特定用例进行优化低；主要通过API调用于提示工程进行微调低；提供API服务，灵活性低硬件要求温和；部署对硬件要求相对适中不适用；仅通过OpenAI基础设施上的API提供作为云端产品，无需自建硬件，后端依赖云计算集群多模态支持暂无，可用Janus-Pro多模态大模型强多模态能力，支持文本、图像等输入一定的多模态支持用户群体开发者、企业用户、专业研究者全球阻留用户、企业客户和开发者，高端市场普通消费者、内容创作者，字节生态2.6.2. DeepSeek的缺点2.6.3. DeepSeek的影响

图片

推动了大模型开源进程，作为鲶鱼，让全球大模型竞赛进一步提速。

2.7. DeepSeek使用建议

DeepSeek提示词库[11]

2.7.1. DeepSeek使用的不同点

图片

2.7.2. R1的正确打开方式

图片

对于推理大模型，存在欺骗技巧失效和“启发式提示”失效的问题：

参考: 知乎田威AI[12]

图片

本站仅提供存储服务，所有内容均由用户发布，如发现有害或侵权内容，请点击举报。