【北京大学】2025年DeepSeek原理与教育场景应用报告_135页_18mb
报告摘要
DeepSeek 内部研讨系列总结
核心内容
DeepSeek 是一家成立于2023年5月的AI大模型研究机构,由幻方量化孵化,团队规模达160人,总部位于杭州和北京。作为中国AI2.0时代的“七小龙”之一,DeepSeek在2025年初迅速出圈,成为中美AI竞争中的重要力量。其推出的DeepSeek V3和DeepSeek R1分别对标OpenAI的GPT-4o和o1,引发广泛讨论,并推动了大模型商业模式的变革。
主要观点
- DeepSeek的快速出圈:DeepSeek在2024年底推出V3,2025年初发布R1,迅速成为AI和大模型的代名词。其在中美AI竞争中扮演了重要角色,甚至导致英伟达股价下跌。
- DeepSeek的市场影响:DeepSeek R1以低成本和开源特性打破大模型行业垄断,推动了AI技术的普惠化和国产化生态的繁荣。
- 技术突破与创新:DeepSeek在模型架构、训练方法和推理效率方面进行了多项创新,如混合专家模型(MoE)、多头潜注意力机制(MLA)、强化学习(GRPO)、混合精度训练(FP8)等,提升了模型的推理能力和性能。
- AI在教育场景的落地:DeepSeek通过AI赋能教育,提供了教学环节的多样化应用场景和案例,以及AI通识教育方案,助力教育智能化发展。
- AI与IT的区别:AI是数据智能,而IT是记忆与计算智能。AI更注重语言智能和知识建模,而IT更注重系统的稳定性与效率。
关键信息
DeepSeek产品优势
- 思考过程展示:用户可直观看到模型的推理过程。
- 中文能力强:具备高情商和对中文语境的理解能力。
- 使用简单:提供网页、APP和API,便于用户接入。
- 联网和来源引用:能够提供来源信息,提升可信度。
- 速度快:优化了推理速度,适合实时应用。
- 免费:降低了AI使用的门槛,适合大众和中小企业。
DeepSeek模型特点
-
基础架构:
- 混合专家模型(MoE):提升推理能力和效率。
- 无辅助损失的专家负载均衡策略(EP):实现专家模块的均衡使用。
- 多头潜在注意力机制(MLA):提升推理效率。
- 强化学习(GRPO):显著提升推理能力。
- 多Token预测(MTP):提升推理速度并减少训练成本。
-
训练及框架:
- FP8混合精度训练:降低训练成本,提高模型性能。
- 长链推理技术(TTC):支持数万字的推理,适合复杂问题。
- 并行训练系统(HAI):提升训练速度。
- 通讯优化(DualPipe):提升推理性能。
- 混合机器编程(PTX):提升GPU运行效率。
- 算子库优化:针对H800计算卡优化CUDA算子库。
-
社会价值:
- 开源生态:使用MIT协议,推动AI技术发展。
- 模型蒸馏支持:提供多个蒸馏模型,满足不同应用场景需求。
- AI产品普及:推动AI成为主流技术,缩短中美技术差距。
DeepSeek R1模型优势
- 语言能力:理解和生成能力突出。
- 知识能力:具备知识库支持,减少幻觉。
- 推理能力:在数学、代码等复杂任务上表现优异。
- 性价比高:API定价仅为行业均价的1/10,适合中小企业。
- 技术领先:在多个维度上超越其他模型,成为行业标杆。
AI在教育场景的应用
- AI赋能教育:通过AI技术提升教学效率和质量。
- 应用场景:包括教学设计、学术研究、知识付费等。
- AI通识教育方案:帮助教育工作者和学生更好地利用AI技术。
大模型技术的关键过程
- 预训练:打基础,建立语言模型。
- 后训练:通过RL和SFT优化模型。
- 推理:应用模型解决实际问题。
大模型技术的关键要素
- Token:万物皆Token。
- Attention:提升模型理解能力。
- GPT:推动大模型发展。
- Data:数据驱动模型。
- RL:提升模型推理能力。
- 优化:提升模型性能。
- FT:微调模型,适应特定任务。
- TTC:提升推理能力。
AI与提示词的关系
- 提示词工程:是人机合作的关键。
- 提示词五步法:目标、分解、工具、验证、总结。
- 提示词技巧:真诚+直接、通用公式、任务+目标、背景+负面限定、内心戏。
DeepSeek提示词技巧
- 真诚+直接:清晰表达任务和目标,避免模糊。
- 通用公式:任务+目标+背景+负面限定+内心戏。
产品与技术部署
- SaaS部署:通过网页、APP、桌面软件等提供服务。
- 本地部署:适合资源受限的设备,提供灵活解决方案。
- 私有化部署:企业内网或云端搭建,支持多用户协作。
- 一体机部署:直接购买,适合科研机构和大型企业。
第三方服务与API调用
- 第三方服务:如秘塔AI、微信搜索、Molly R1等,提供不同功能。
- API调用:通过密钥调用,适合开发者集成。
模型参数量与性能
- 参数量影响:参数越多,模型能力越强,但需要更多资源。
- 合理匹配:根据硬件配置选择合适模型,优化性能。
未来展望
- AI与人类协作:AI将成为人类的伙伴和导师,提升工作效率。
- 技术发展:AI在多个领域持续突破,如教育、医疗、金融等。
- AI与IT区别:AI更注重数据智能和语言智能,而IT更注重系统效率和稳定性。
附录
- DeepSeek模型家族:包括DeepSeek-R1、DeepSeek V3、DeepSeekCoderV2等。
- 模型参数量:从1.5B到671B,覆盖不同应用场景。
- 技术文档与资源:提供详细的技术文档和开源资源,方便开发者使用。
通过以上总结可以看出,DeepSeek在AI技术发展和应用方面取得了显著成就,成为推动AI技术普及和行业创新的重要力量。
展开完整摘要
试读结束,高清完整版pdf/doc/ppt,请点下载