银河智能操作系统（GalaxyAIOS）围绕AI大模型技术和去中心化理念构建，通过​“无界算力+开源模型+AI数字神兽”​三重架构，打造无界的AI算力网络、全栈开源的大模型操作系统、超级智能体应用，共创共建“智脑矩阵、价值网络”的AI数智星球，构建创造力价值闭环的生态系统，实现“智能平权、解放创造力”的AI共生体，开启人机共生的新纪元。

核心特性

• 分布式算力整合：通过去中心化网络协议整合闲置算力资源形成分布式AI算力池，用户贡献的GPU资源可参与算力交易市场的流通，实现“算力即资产”的生态闭环。
• 全栈开源的智能底座：提供统一的操作系统内核和开发框架、编排调度系统、开发环境，支持k8s、Ray、Docker，助力AI应用快速集成开发。
• 性能优化的推理引擎：支持经过优化的多推理引擎，如llama.cpp、vLLM、Trition、BentoML等，支持Transformer、Diffusion、MOE、Lora等主流的算法架构。
• 包含丰富的开源模型：模型市场预集成开源模型（如Llama3、Qwen、DeepSeek、SD、FLUX、Whisper等），支持广泛的模型，从大语言模型、文生图扩散模型、STT 与 TTS 语音模型、多模态模型等，支持百亿至万亿级参数模型。
• 完善的开源工具链：集成Langchain、dify、RagFlow、Milvus等工具链和中间件，可帮助开发者极大提高AI应用开发效率。
• 多智能体协同引擎：通过MCP协议实现自然语言处理（NLP）、计算机视觉（CV）、语音交互等能力的协同调用。例如，文本生成模型可联动文生图模型完成系列漫画的制作。
• 广泛的兼容性：支持Apple Mac、Windows 和 Linux不同的OS和NVIDIA、AMD GPU，轻松添加异构 GPU 资源。
• OpenAI 兼容 API：提供兼容 OpenAI 标准的 API 服务。
• 用户和 API 密钥管理：简化用户和 API 密钥的管理流程。

主要特点

• 去中心化：通过去中心化协议连接全球用户的计算设备，构建一个无需依赖中心服务器的世界超级AI计算机
• 效益优势：允许用户贡献自己的闲置计算资源换取奖励，同时可降低使用AI模型的成本
• AI神兽：构建普惠的超级AI智能体，实现智能平权，共享AI时代红利
• 激励机制：基于积分的奖励机制，开发者 运营者 用户可以和项目共同成长（POC机制），激励用户积极参与项目贡献和建设
• 开源开放：鼓励社区成员参与项目的开发、维护和发展，形成活跃且持续进化的开源生态系统，开放理念共创共建价值网络

安装

Windows

官网下载wsl镜像：

GalaxyAI

其他安装方式

有关手动安装、Docker 安装或详细配置选项，请参考帮助手册。

新手入门

1. 加入算力网络

   GalaxyAI join 

2. 在浏览器中打开 http://127.0.0.1:12888，使用"admin/admin"登录

使用方法：
进入docker目录：cd GalaxyAIOS/docker
启动系统：./start.sh
停止系统：./stop.sh
系统启动后：
Web界面：http://localhost:12888
API接口：http://localhost:9999
默认用户名：admin
默认密码：admin

平台支持

• Linux
• Windows

加速框架支持

• NVIDIA CUDA (Compute Capability 6.0 以上)

我们计划在未来的版本中支持以下加速框架：

• AMD ROCm
• 海光 DCU
• 昇腾 CANN
• Intel oneAPI
• Apple Metal (M 系列芯片)

模型支持

支持从以下来源部署模型：

1. Hugging Face

2. ModelScope

3. 本地文件路径

示例模型

类别	模型
大语言模型（LLM）	Qwen, LLaMA, Mistral, Deepseek, Phi, Yi
多模态模型（VLM）	Llama3.2-Vision, Pixtral , Qwen2-VL, LLaVA, InternVL2.5
Diffusion 扩散模型	Stable Diffusion, FLUX
语音模型	Whisper (speech-to-text), CosyVoice (text-to-speech)

OpenAI 兼容 API

/v1-openai 路径提供以下 OpenAI 兼容 API：

• List Models
• Create Completion
• Create Chat Completion
• Create Embeddings
• Create Image
• Create Image Edit
• Create Speech
• Create Transcription

例如，你可以使用官方的 OpenAI Python API 库来调用 API：

from openai import OpenAI
client = OpenAI(base_url="http://myserver/v1-openai", api_key="myapikey")

completion = client.chat.completions.create(
  model="llama3.2",
  messages=[
    {"role": "system", "content": "You are a helpful assistant."},
    {"role": "user", "content": "Hello!"}
  ]
)

print(completion.choices[0].message)

用户可以在 UI 中生成自己的 API 密钥。

文档

完整文档请参见官方文档。

参与贡献

欢迎参与贡献代码。

加入社区

欢迎加入社区群。