昇思MindSpore技术公开课大模型专题第二期

昇思MindSpore技术公开课大模型专题（第二期）开课啦！

第二期课程在第一期基础上做了全面的升级，对第一期课程意犹未尽的小伙伴可以来继续一起学习大模型啦，也非常欢迎新的小伙伴加入！

学术圈、企业、优秀开发者等各领域大咖讲师齐聚MindSpore为各位开发者教学，课程全程免费，对大模型领域感兴趣的小伙伴速速报名啦！

课程总览

课前学习

• python
• 人工智能基础、深度学习基础（重点学习自然语言处理）：MindSpore-d2l
• MindSpore基础使用：MindSpore教程
• MindFormers基础使用：MindFormers讲解视频
• 昇思MindSpore技术公开课大模型专题第一期课程：step_into_chatgpt

课程安排

因为课程周期较长，课节安排可能会在中途出现微调，以最终授课情况为准，感谢理解

章节序号	章节名称	课程简介	视频	课件及代码	知识点总结
第十一讲	ChatGLM	GLM模型结构，从GLM到ChatGLM的演变，ChatGLM推理部署代码演示	link	link	link
第十二讲	多模态遥感智能解译基础模型	本次课程由中国科学院空天信息创新研究院研究员 实验室副主任 孙显老师讲解多模态遥感解译基础模型，揭秘大模型时代的智能遥感技术的发展与挑战、遥感基础模型的技术路线与典型场景应用	link	/	link
第十三讲	ChatGLM2	ChatGLM2技术解析，ChatGLM2推理部署代码演示，ChatGLM3特性介绍	link	link	link
第十四讲	文本生成解码原理	以MindNLP为例，讲解搜索与采样技术原理和实现	link	link	link
第十五讲	LLAMA	LLaMA背景及羊驼大家族介绍，LLaMA模型结构解析，LLaMA推理部署代码演示	link	link	link
第十六讲	LLAMA2	介绍LLAMA2模型结构，走读代码演示LLAMA2 chat部署	link	link	link
第十七讲	鹏城脑海	鹏城·脑海200B模型是具有2千亿参数的自回归式语言模型，在中国算力网枢纽节点'鹏城云脑II'千卡集群上基于昇思MindSpore的多维分布式并行技术进行长期大规模训练。模型聚焦中文核心能力，兼顾英文和部分多语言能力，目前完成了1.8T token量的训练	link	/	link
第十八讲	CPM-Bee	介绍CPM-Bee预训练、推理、微调及代码现场演示	link	link	link
第十九讲	RWKV1-4	RNN的没落和Transformers的崛起 万能的Transformers？Self-attention的弊端 “拳打”Transformer的新RNN-RWKV 基于MindNLP的RWKV模型实践	link	/	link
第二十讲	MOE	MoE的前世今生 MoE的实现基础：AlltoAll通信； Mixtral 8x7b: 当前最好的开源MoE大模型，MoE与终身学习，基于昇思MindSpore的Mixtral 8x7b推理演示。	link	link	link
第二十一讲	高效参数微调	介绍Lora、（P-Tuning）原理及代码实现	link	link	link
第二十二讲	Prompt Engineering	Prompt engineering：1.什么是Prompt？2.如何定义一个Prompt的好坏或优异? 3.如何撰写优质的Prompt？4.如何产出一个优质的Prompt？ 5.浅谈一些我们在进行Prompt的时候遇到的问题。	link	/	link
第二十三讲	多维度混合并行自动搜索优化策略	议题一·时间损失模型及改进多维度二分法/议题二·APSS算法应用	上 下	link
第二十四讲	书生.浦语大模型开源全链工具链简介与智能体开发体验	在本期课程中，我们有幸邀请到了书生.浦语社区技术运营、技术布道师闻星老师，以及昇思MindSpore技术布道师耿力老师，来详细解读书生.浦语大模型开源全链路工具链，演示如何对书生.浦语进行微调、推理以及智能体开发实操。	link	/	link
第二十五讲	RAG
第二十六讲	LangChain模块解析	解析Models、Prompts、Memory、Chains、Agents、Indexes、Callbacks模块，及案例分析
第二十七讲	RWKV5-6	/
第二十八讲	量化	介绍低比特量化等相关模型量化技术

注：章节序号接昇思MindSpore技术公开课第一期