基于LangChain的纯本地AI聊天Agent类项目
练手作
基于LangChain的纯本地AI聊天Agent类项目！
探索本项目的文档（还没写） »
查看Demo（还没部署）
·
报告Bug
·
提出新特性
没写
本项目自身并不需要很高级的配置，但是如果需要在本地运行LLM模型的话，则需要一定的CPU/GPU配置。本地模型可以用任何支持OpenAI的api的模型（本人使用的是KoboldCpp加载InternLM2的gguf量化模型）。
如果配置不足（而且有经费），可以使用OpenAI的api。本项目对接模型的接口和OpenAI是完全兼容的，只需要修改llm.py中的openai_api_base为官方源即可。
- 克隆仓库
- （可选）创建虚拟环境
- pip install -r requirements.txt
- 启动launch.bat，同时保证本地模型的api运行在http://localhost:5001/v1上
- 打开生成的gradio链接
filetree
├── LICENSE.txt
├── README.md
├── launch.bat
├── （慎点）清理历史记录（重启有效）.bat
├── main
│ ├── history
│ ├── clear_history.py
│ ├── gradiodemo.py
│ ├── llm.py
│ ├── main.py
│ └── translator.py
└── （待补充）
占位符.jpg
暂无
等我有时间写
请阅读CONTRIBUTING.md 查阅为该项目做出贡献的开发者。（还没写，反正目前就我一个人）
贡献使开源社区成为一个学习、激励和创造的绝佳场所。你所作的任何贡献都是非常感谢的。
- Fork the Project
- Create your Feature Branch (
git checkout -b feature/AmazingFeature) - Commit your Changes (
git commit -m 'Add some AmazingFeature') - Push to the Branch (
git push origin feature/AmazingFeature) - Open a Pull Request
该项目使用Git进行版本管理。您可以在repository参看当前可用版本。
茉露星圃 | Jasdew Starfield
qq:952988294
您也可以在贡献者名单中参看所有参与该项目的开发者。
该项目签署了MIT 授权许可，详情请参阅 LICENSE.txt