LocalAI （本地人工智能--土的掉渣的翻译，可以叫 罗锅AI）

💡 获取帮助 - ❓常见 问题解答 💭讨论 💬 Discord 📖 文档网站

💻 快速入门 📣 新闻 🛫 示例 🖼️ 模型 🚀 路线图

LocalAI是免费的开源 OpenAI 替代品。LocalAI 充当 REST API 的直接替代品，与本地推理的 OpenAI API 规范兼容。它允许您使用消费级硬件在本地或本地运行 LLM、生成图像、音频（不仅如此），支持多个模型系列。不需要 GPU。

🔥🔥 热门话题/路线图

路线图

• 曼巴支持：#1589
• 使用配置文件启动并共享模型：#1522
• 🐸 厨师：#1489
• 内联模板：#1452
• 混合：#1449
• Img2vid #1442
• 音乐生成#1387

热门话题（寻找贡献者）：

• 后端 v2：#1126
• 改进用户体验 v2：#1373

如果您想提供帮助和贡献，请提交问题：https://github.com/mudler/LocalAI/issues?q =is%3Aissue+is%3Aopen+label%3A%22up+for+grabs%22

💻开始使用

🚀特点

• 📖使用 GPT 生成文本（llama.cpp、、gpt4all.cpp... 📖 等等）
• 🗣文本转音频
• 🔈音频转文本（带有 的音频转录whisper.cpp）
• 🎨具有稳定扩散的图像生成
• 🔥 OpenAI 功能🆕
• 🧠矢量数据库的嵌入生成
• ✍️约束语法
• 🖼️直接从 Huggingface 下载模型
• 🆕视觉 API

💻 用法

查看我们文档中的入门部分。

🔗 社区和集成

构建和部署自定义容器：

• https://github.com/sozercan/aikit

网络用户界面：

• https://github.com/Jirubizu/localai-admin
• https://github.com/go-skynet/LocalAI-frontend

模型画廊

• https://github.com/go-skynet/model-gallery

其他：

• Helm 图表https://github.com/go-skynet/helm-charts
• VSCode 扩展https://github.com/badgooooor/localai-vscode-plugin
• 本地智能助手https://github.com/mudler/LocalAGI
• 家庭助理https://github.com/sammcj/homeassistant-localai / https://github.com/drndos/hass-openai-custom-conversation
• Discord 机器人https://github.com/mudler/LocalAGI/tree/main/examples/discord
• Slack 机器人https://github.com/mudler/LocalAGI/tree/main/examples/slack
• 电报机器人https://github.com/mudler/LocalAI/tree/master/examples/telegram-bot
• 示例： https: //github.com/mudler/LocalAI/tree/master/examples/

🔗 资源

• 🆕 新！LLM微调指南
• 如何本地构建
• 如何在 Kubernetes 中安装
• 集成LocalAI的项目
• 操作方法部分（由我们的社区策划）

📖 🎥媒体、博客、社交

• 为团队和 OSS 项目创建一个响应文档的 slackbot
• LocalAI 遇见 k8sgpt
• 使用 LangChain、LocalAI、Chroma 和 GPT4All 对本地文档进行问答
• 将 k8sgpt 与 LocalAI 结合使用的教程

引文

如果您在下游项目中使用此存储库和数据，请考虑使用以下方式引用它：

@misc{localai,
  author = {Ettore Di Giacinto},
  title = {LocalAI: The free, Open source OpenAI alternative},
  year = {2023},
  publisher = {GitHub},
  journal = {GitHub repository},
  howpublished = {\url{https://github.com/go-skynet/LocalAI}},

❤️赞助商

您觉得 LocalAI 有用吗？

通过成为支持者或赞助商来支持该项目。您的徽标将显示在此处，并带有指向您网站的链接。

非常感谢支持该项目的慷慨赞助商：

光谱云
Spectro Cloud 通过提供 GPU 和计算资源在 lamdalabs 上运行测试来支持 LocalAI！

并向通过捐赠硬件或支持该项目来赞助该项目的个人表示大力支持。

• 赞助商名单
• JDAM00（为 CI 捐赠硬件）

🌟 明星历史

📖 许可证

LocalAI 是由Ettore Di Giacinto创建的社区驱动项目。

麻省理工学院 - 作者 Ettore Di Giacinto

🙇致谢

如果没有社区已有的优秀软件的帮助，LocalAI 就不可能构建出来。谢谢你！

• 调用.cpp
• https://github.com/tatsu-lab/stanford_alpaca
• https://github.com/cornelk/llama-go了解最初的想法
• https://github.com/antimatter15/alpaca.cpp
• https://github.com/EdVince/Stable-Diffusion-NCNN
• https://github.com/ggerganov/whisper.cpp
• https://github.com/saharNooby/rwkv.cpp
• https://github.com/rhasspy/piper
• https://github.com/cmp-nct/ggllm.cpp

🤗 贡献者

这是一个社区项目，特别感谢我们的贡献者！🤗