本项目致力于总结各种LLM的简单最佳实践代码。

理论部分大概会主要写在博客上：LLM的实践古往今来（持续更新ing…）
GitHub项目负责实现，包括直接推理和微调。
目前看来应该不会包括预训练。

本项目不包括非自研的应用服务。这个可以参考我写的博文：在线LLM应用集锦（持续更新ing...）

以下是我已经用过或正在用的模型。按照首字母顺序排列：

• 百川
• BARD / Vertex AI / PaLM：现在只能实现在线调用，本地部署失败（我认为是因为代理问题）
• BART
• BERT
• ClueAI
• ChatGPT / GPT-3 / GPT-3.5 / Whisper AI / DALL-E
• ERNIE / 文心一言 / 千帆大模型
• GLM / ChatGLM：ChatGLM2可用。ChatGLM之前在调用过程中出现了bug，正在找原作者提问：用transformers包，下载文件到本地后无法加载AutoTokenizer · Issue #181 · THUDM/GLM
• LLaMA：其实官方权重还在泡waiting list，但是又不是不能用，凑合用吧
• 通义千问
• 讯飞星火
• T5
• 源1.0
• 智能司法领域
  • Lawyer-LLaMA

按照任务排列：

• 文本分类 BERT BART
• 序列标注
  • 命名实体识别
• 文本生成
  • 抽取式摘要
  • 生成式摘要：可以先参考我开的另一个项目 PolarisRisingWar/text_summarization_chinese: 各大文本摘要模型-中文文本可运行的解决方案（已经完全耦合了，目前不太确定这两边要怎么解耦，这个以后再考虑吧先把东西写出来再说）
  • 推理
  • 文本补全&问答
    • 仅支持直接推理：
      • 仅支持网页客户端的：BARD，文心一言
      • 支持网页客户端和API调用的：讯飞星火
      • 支持API调用的：源1.0
    • 支持直接推理和云端微调：ChatGPT / GPT-3 / GPT-3.5
    • 支持本地部署：ChatGLM
• 音视频转文字 Whisper AI 通义听悟
• 文本转图片

本文在撰写过程中使用的集成接口包括但不限于：

• transformers
• textgen shibing624/textgen: TextGen: Implementation of Text Generation models, include LLaMA, BLOOM, GPT2, BART, T5, SongNet and so on. 文本生成模型，实现了包括LLaMA，ChatGLM，BLOOM，GPT2，Seq2Seq，BART，T5，UDA等模型的训练和预测，开箱即用。