Skip to content

基于 LangChain 框架的开源多智能体 Agent 项目

License

Notifications You must be signed in to change notification settings

lalolv/AgentsChain

Repository files navigation

AgentsChain 智能体

简体中文 | English

基于 LangChain 框架的开源智能体 Agent 项目

可根据特定需求,定制和创建智能体 AI Agent。

把 AI 技术工程化,结合企业和团队特定业务,促进 AI 项目真正落地。

官网 / bilibili / Twitter

cover

🤖 AgentsChain 智能体

Overview 概述

AgentsChain 是一个用于构建自治语言代理的开源框架,以满足企业内部定制化需求。该框架经过精心设计,以支持重要功能,包括长期短期记忆、工具使用、多智能体通信。创建一个智能体,只需用自然语言填写配置文件,并在终端或后端服务中部署。同时,也可以自己编写扩展工具,实现调用外部接口的能力。

解决什么问题

最初的目标是把 AI 带到企业内部管理中,主要解决 AI 企业应用的几个问题:

  • 数据隐私与安全: 私有化模型允许企业在自己的内部网络中部署和运行,从而避免了将敏感数据传输到外部云服务商的风险。这对于涉及客户、员工或业务机密的数据至关重要。
  • 定制化需求: 企业可以根据自身需求定制私有化模型,以适应特定的业务流程、数据集和工作流。这种灵活性使企业能够更好地满足其独特的管理需求。
  • 高度可控性: 私有化模型使企业能够完全控制其机器学习和人工智能系统。这包括模型的训练、优化、更新和部署。这种控制权有助于确保模型的稳定性和一致性。
  • 定制化管理工具: 企业可以开发自己的 AI 智能体应用,以便更好地监控和管理私有化模型。这些工具可以根据企业的需求进行定制,从而提高效率和效果。
  • 遵守法规和政策: 某些行业和地区对数据隐私和安全有严格的法规要求。私有化模型和智能体可以帮助企业遵守这些法规,同时保护其数据和用户隐私。

为什么主要为本地化模型服务

在企业管理中,使用本地化私有模型是必然的选择:

  1. 数据隐私与安全

    • 本地化部署允许企业将大型模型部署在自己的内部网络中,而不依赖于外部云服务商的接口。这样,敏感数据不会离开企业内部,降低了数据丢失和泄露的风险,同时确保数据的安全性和私密性。
  2. 降低成本

    • 不需要支付云服务商的订阅费用或按量计费。本地化部署将庞大的算力分摊到用户侧,降低了使用成本。
  3. 定制化需求

    • 企业可以根据自身需求定制本地化模型,以适应特定的业务流程、数据集和工作流。这种灵活性使企业能够更好地满足其独特的管理需求。
  4. 高度可控性

    • 本地化模型使企业能够完全控制其机器学习和人工智能系统。包括模型的训练、优化、更新和部署。这种控制权有助于确保模型的稳定性和一致性。
  5. 提高使用效率

    • 本地化部署不受网络延迟和稳定性的影响,提高了使用效率。

总之,本地化私有模型通过在企业内部处理数据,提供完全的数据和模型控制权,以及提供模型优化和定制的功能,最大程度地保证了数据的安全性和隐私性。

📢 Updates

  • 2023.11.11 发布第一个 Demo
  • 2024.3.25 兼容 LangChain 的 0.1.x 版本

💡 Highlights 亮点

  • Optimized for Local Models: 针对本地模型优化,调用 Ollama 的模型
  • Long-short Term Memory: 支持长期记忆
  • Customization Tools: 扩展定制工具
  • Multiple Agents: 创建多智能体

🛠️ 如何运行

创建 requirements 文件

The requirements.txt file is generated by the poetry tool:

poetry export --without-hashes --format=requirements.txt > requirements.txt

Use pipreqs

pipreqs --force ./

开发环境

使用 uvicorn

uvicorn main:app --host 0.0.0.0 --port 8080 --reload

使用 JinaAI 的 langchain-serve

lc-serve deploy local --app main:app

生产环境

gunicorn -b :8080 -w 4 main:app -k uvicorn.workers.UvicornWorker

📦 如何部署

部署到 Google 云服务

gcloud run deploy dox-api --source .

使用 JinaAI 的 jcloud 云部署

lc-serve deploy jcloud --app main:app --secrets .env

🖥️ Vue 前端

AgentsChain-Vue

About

基于 LangChain 框架的开源多智能体 Agent 项目

Topics

Resources

License

Stars

Watchers

Forks

Releases

No releases published

Packages

No packages published