骆驼(Luotuo)项目是由冷子昂 @ 商汤科技, 陈启源 @ 华中师范大学 以及 李鲁鲁 @ 商汤科技 发起的中文大语言模型开源项目，包含了一系列语言模型。
( 注意: _陈启源 正在寻找国内推博的岗位 )
骆驼项目不是商汤科技的官方产品。
我们将项目命名为 骆驼 Luotuo (Camel) 主要是因为，Meta之前的项目LLaMA（驼马）和斯坦福之前的项目alpaca(羊驼)都属于偶蹄目-骆驼科（Artiodactyla-Camelidae）。而且骆驼科只有三个属，再不起这名字就来不及了。
项目重要更新 [ ... ]
[2023-4-3] 开始将README翻译成中文，英语的README移动到README_EN.md
[2023-4-2] 我们有了第一个版本的丝绸魔法书, 其中记载了一些GPT和文心一言的魔法提示语(prompt).
[2023-4-1] 对于不使用colab的用户，我们增加了docker部署 并且为之编写了 教程.
[2023-3-30] 我们发布了中文摘要模型 CamelBell-C (驼铃-C), 可以在这里体验-> 
[2023-3-27] 我们计划训练一个Chat哈利波特, 我们仅仅完成了初步的实验并实现了0.1版本的模型, 不过模型的效果不及我们的预期, 可以查看这份报告, 我们想寻找一个 哈利波特的狂热粉丝同时又是高质量的Python程序员 来参与到项目中，可以联系我们。
| Colab链接 | 细节 | |
|---|---|---|
| 驼铃C 文本摘要 | |
基于GLM-6B的文本摘要模型 |
| 驼铃B Chat哈利波特 | - | Chat哈利波特的初步汇报 |
| 驼铃A | |
通过80条语料给GLM-6B简易洗脑 |
| 骆驼0.3 | |
骆驼0.3的验证代码 |
| 骆驼说 | |
一个用Gradio写的交互对话 |
我们强烈建议首先先在Colab测试我们的代码，再考虑本地部署。
 |
如果你希望模型在中文上有更好的表现，建议使用 CamelBell(驼铃), 这个项目在中文基模型Chat-GLM-6B的基础上继续使用中文语料进行训练。 |
在驼铃-B(CamelBell-B)中我们将训练一个Chat哈利波特
CamelBell-B的输出样例 (点我)
Instruction: 斯内普和伏地魔之间是什么关系?
Answer: 斯内普和伏地魔之间是非常复杂的关系。伏地魔是斯内普的雇主,他利用斯内普来执行他的计划。斯内普一开始是斯莱特林的学生,但他后来加入了伏地魔的阵营,成为了他的追随者。斯内普和伏地魔之间的关系非常紧张,他们互相对抗,但也有一些共同的利益。
CamelBell-C (驼铃-C)是一个中文文本摘要模型
CamelBell-C的输出样例 (点我)
Instruction: 请帮我总结以下内容:
Input:
北京时间2月13日凌晨,2023年ATP250达拉斯站男单决赛。中国球员吴易昺先输一盘后挽救4个赛点并兑现第5个冠军点,最终以6(4)-7/7-6(3)/7-6(12)逆转惊险击败赛会5号种子、美国大炮伊斯内尔,就此改写历史,成为公开赛年代首位夺得ATP巡回赛男单冠军的中国大陆球员,并创造中国大陆球员的男单最高排名!
第一盘比赛,吴易昺在第12局错过了一个盘点,并最终抢七惜败;第二盘则挽救一个赛点后抢七局3-0领先开局,且以7-6(3)扳回一盘;第三盘决胜盘,在关键的第9局15-40落后情况下凭借连续的高质量发球逆转保发,之后比赛再次进入抢七,抢七局依然胶着,吴易昺又挽救了3个赛点,并兑现了自己的第5个冠军点,就此锁定冠军!历史性一刻到来时,吴易昺瞬间躺倒在地。全场比赛,伊斯内尔轰出了44记Ace球,但最终在主场依然输给了吴易昺。
凭借具有突破意义的这一冠,吴易昺在本周入账250个积分和112125美元的冠军奖金,在周一最新一期的男单排名榜单上,创中国大陆男网历史新高排名—第58位。根据比赛计划,吴易昺原本要出战本周进行的ATP250德拉海滩站,不过在达拉斯夺冠后,吴易昺因身体疲劳退出本站赛事,他的签位由幸运落败者约翰森替代。
Answer: 男子网坛历史性一刻!中国小将吴易昺逆转击败赛会5号种子,成公开赛年代首个冠军。
 |
Luotuo-Vanilla是骆驼项目的第一个github仓库, 它是在LLaMA-7B上进行微调的。骆驼项目的初始目标，是研究使用跨语言数据在进行微调时，大语言模型发生的相关现象。 |
测试代码
一个使用Gradio搭建的交互界面
我们还在完善骆驼1.0的训练数据和修复bug，并且在后续的版本中，我们将研究如何修复骆驼的Tokenizer。
骆驼0.3 的输出样例 (点我)
Input: 中国的首都在哪里？
Luotuo-Output: 中国的首都是北京。
Input: 华中师范大学在哪里
Luotuo-0.1-Output: 华中师范大学位于北京
Luotuo-0.3-Output: 华中师范大学在武汉市。
 |
丝绸魔法书记录了大语言模型的一些魔法提示词(prompt)。我们希望有一天，骆驼项目自己训练的语言模型，也能适配很复杂任务的prompt。 |
 |
Silk Road (丝绸之路) will be the model bank of project Luotuo. |
Top 3 Sponsors
| Time | Sponsor | Amount |
|---|---|---|
| 2023/3/28 | 张** | 2000 |
| 2023/4/6 | 孙** | 1024 |
| 2023/4/4 | 王* | 768 |
balance = 7706 now. Detailed balance see in sponsorship_and_balance.md
这原本是我们的一个作业项目，我们原本计划训练到1.0为止。但是社区的热情超过了我们的想象。如果您愿意赞助我们的项目，可以
扫描这个二维码
并且加这个支付宝账号，留下您的姓名
项目的资金流向将被公开，所有的资金将被用于数据的标注，训练算力的购买或者后续周边产品的发放。数据和算力的捐献也会一同总结在sponsorship的表格中。备用链接 二维码 , 支付宝账号
This was originally an exercise project for us, and we originally planned to train until version 1.0. However, the enthusiasm of the community exceeded our expectations. If you are willing to sponsor our project, you can scan this QR code and add this Alipay account, leaving your name.
All funds will be used for data annotation, purchase of training computing power, or distribution of subsequent peripheral products.
我们会把每个贡献者的贡献记录在contributions.md，包括每个项目每个成员的具体任务分配和贡献。
我打算有时间的话在这里增加一个表格记录每个贡献者的名字、单位（如有）和github的头像。
| N | C | N | C |
|---|---|---|---|
| 李鲁鲁 | Founder | 冷子昂 | Founder |
| 陈启源 | Founder | Juro | |
| 黄泓森 | Contributor | HF |
It seems that there are many follow-up tasks to be done after the basic version is completed. Many developers in the community have put forward more friendly suggestions, and I have put a longer TODO list in TODO_list.md.
inbuilding project
- translate alpaca json data into Chinese
- finetuning with lora(model 0.1)
- release 0.1 model (model A)
- model to hugging face, GUI demo
- train lora with more alpaca data(model 0.3)
- (In Processing) train lora with more alpaca data(model 0.9)
- clean training code
- write the second phase plan for Luotuo
We plan to use this Luotuo project as the git repository for the entire Chinese LLM project. After the completion of the original Luotuo: LLaMA-LoRA, it will be migrated to Luotuo-vanilla. The CamelBell, Loulan, Silk-Road and other derivative Chinese language model projects will gradually be added to the Luotuo project.
Please cite the repo if you use the data or code in this repo.
@misc{alpaca,
author={Ziang Leng, Qiyuan Chen and Cheng Li},
title = {Luotuo: An Instruction-following Chinese Language model, LoRA tuning on LLaMA},
year = {2023},
publisher = {GitHub},
journal = {GitHub repository},
howpublished = {\url{https://github.com/LC1332/Luotuo-Chinese-LLM}},
}
| Colab Link | detail | |
|---|---|---|
| CamelBell quick evaluation | |
Tuoling specific Evaluation Code |
| A quick evaluation | |
Evaluation code with standard HuggingFace pipeline |
| Bot with Interface | |
Interactive Chatting Bot using Gradio |
| Training Code | To be released | Training code, run on colab |
| Data Translation | |
Translation alpaca.json into Chinese |