-
Notifications
You must be signed in to change notification settings - Fork 0
/
Notes of InternLM
41 lines (33 loc) · 2.39 KB
/
Notes of InternLM
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
Day 1 书生·浦语大模型全链路开源体系
大模型-人工智能的基座
专用模型-->通用大模型(GPT)-->垂类行业大模型
书生浦语大模型
量级 7B 20B 123B
模型评测的权威机构(?机会) 公开数据集 多语种 评测场景和指标(需持续探索)
模型-->应用(C B G):智能助手 智能客服 行业应用
工作流:模型选型--业务场景--算力评估--微调(全参数、低参数Lora、提示词、集中场景)--内外部环境交互(API、DB)--构建智能体--评测--部署(资源、IO)--上线
书生·浦语大模型全链路开源体系
书生万卷语料库、Open Data Lab数据集(多模态)、InternLM-train预训练工具、微调Xtuner、部署LMDeploy、评测体系OpenCompass、应用Lagent&Agentlego
普惠限制&机会:大模型技术迭代&普及、硬件资源适配&边缘计算、开放数据&API生态、落地&Agent
Day 2 书生·浦语大模型趣味 Demo
基础作业:
使用 InternLM-Chat-7B 模型生成 300 字的小故事(需截图)。
![使用 InternLM-Chat-7B 模型生成 300 字的小故事](image/使用 InternLM-Chat-7B 模型生成 300 字的小故事.png)
熟悉 hugging face 下载功能,使用 huggingface_hub python 包,下载 InternLM-20B 的 config.json 文件到本地(需截图下载过程)。
进阶作业(可选做)
完成浦语·灵笔的图文理解及创作部署(需截图)
完成 Lagent 工具调用 Demo 创作部署(需截图)
Day 3
基础作业:
复现课程知识库助手搭建过程 (截图)
!(image/web_demo run error.png)
进阶作业:
选择一个垂直领域,收集该领域的专业资料构建专业知识库,并搭建专业问答助手,并在 OpenXLab 上成功部署(截图,并提供应用地址)
整体实训营项目:
时间周期:即日起致课程结束
即日开始可以在班级群中随机组队完成一个大作业项目,一些可提供的选题如下:
人情世故大模型:一个帮助用户撰写新年祝福文案的人情事故大模型
中小学数学大模型:一个拥有一定数学解题能力的大模型
心理大模型:一个治愈的心理大模型
工具调用类项目:结合 Lagent 构建数据集训练 InternLM 模型,支持对 MMYOLO 等工具的调用
其他基于书生·浦语工具链的小项目都在范围内,欢迎大家充分发挥想象力。