Skip to content

v6.9.0-release

Choose a tag to compare

View all tags
@zzzhangqi zzzhangqi released this 07 Jun 14:45
· 172 commits to main since this release
v6.9.0-release
175c79c
This commit was created on GitHub.com and signed with GitHub’s verified signature.
GPG key ID: B5690EEEBB952194
Verified
Learn about vigilant mode.

Rainbond v6.9.0 发布：支持大模型私有化部署，提供 OpenAI 兼容接口

Rainbond v6.9.0 正式发布。本次版本的主要更新是新增 AI 大模型私有化部署能力，覆盖模型部署、实例管理、OpenAI 兼容调用和模型监控；同时对虚拟机能力进行了一轮增强，并修复了若干已知问题。

以下是本次更新的主要内容。

AI 大模型：在自己的平台上部署和运行模型

v6.9.0 新增 AI 大模型能力，面向企业和团队的大模型私有化部署场景，支持把模型部署在自己的集群和资源中，并通过 OpenAI 兼容接口接入业务系统。启用 AI 大模型插件后，工作空间 左侧导航会出现 AI大模型 入口，下面包含模型仓库、模型实例、API 密钥和模型监控四个模块。

模型准备与部署

在 模型仓库 中选择需要部署的模型，目前支持以下几种模型来源：

  • 内置模型：平台预置一批常用模型；
  • ModelScope：从模型社区拉取；
  • HTTP 地址 / 本地路径 / 文件上传：使用自有模型文件。

模型状态变为"已下载"后，进入部署配置。文本大模型默认使用 vLLM 引擎；GPU 部署需选择 GPU 型号、数量和目标节点，也支持 CPU 部署（适合做轻量验证）。vLLM 的量化方式、显存利用率、最大上下文长度、额外启动参数等都可以在页面上配置，建议首次部署先使用默认配置完成验证。

当前 GPU 资源识别和分配以 NVIDIA GPU 为主，启用前请确认集群环境。

image-20260607193210192

模型实例管理

部署完成后，进入 模型实例 模块管理已部署的模型实例：

  • 查看实例状态、节点分布、运行详情和日志；
  • 对实例执行启动、停止、删除操作；
  • 对运行中的实例发起在线对话，验证模型响应；
  • 实例异常时，结合运行详情和日志判断是模型加载、启动参数、资源不足还是服务响应方面的问题。
ScreenShot_2026-05-22_161625_209

API 密钥与 OpenAI 兼容调用

在 API 密钥 模块创建密钥，页面提供 OpenAI 兼容的接入示例，包括 base URL、curl 示例和 Python OpenAI SDK 示例。业务系统在原有 OpenAI 调用链路基础上替换 base URL 和 API key 即可接入。请求中按模型名称调用，平台会查找对应的运行中实例。

ScreenShot_2026-05-22_161646_560

模型监控

模型监控 模块包含两个层面：

  • 服务层面：在线服务数、健康服务数、运行实例数、请求数、失败数、平均响应时间；
  • GPU 层面：GPU 总览、节点汇总、设备列表、单卡趋势、实例与设备的占用关系。
ScreenShot_2026-05-22_161711_284

虚拟机能力增强

本次版本对虚拟机能力进行了一轮增强，主要更新如下：

  • qcow2 镜像直接部署：支持将其他虚拟化工具（如 VMware、KVM 等）导出的 qcow2 镜像直接部署到 Rainbond，便于已有虚拟机资产迁移。
  • 规格热更新：运行中的虚拟机支持热扩容 CPU 或内存。注意 CPU 和内存不能在同一次操作中同时热更新、仅支持扩容不支持缩容；GPU 直通和 USB 透传虚拟机暂不支持热更新；不满足条件时平台会自动转为重启生效。
  • 多虚拟机应用级编排：支持把多个虚拟机和其他组件按应用方式统一编排，在拓扑图中查看依赖关系，并保留连接信息、端口、存储等应用级配置。
  • 整套应用模板交付：编排好的虚拟机应用可以发布成 Rainbond 应用模板，连同虚拟机系统数据一起打包，导出 rainbond-app 安装包后可在新环境导入恢复。发布前需先创建快照并关闭虚拟机；携带虚拟机类型的模板快照不支持回滚升级。
  • Windows 驱动盘挂载：在组件存储视图中支持挂载 VirtIO 驱动盘，用于解决 Windows 安装阶段识别不到磁盘或网卡的问题。
  • 监控与配置统一：组件视图中支持查看虚拟机的 CPU、内存、网络流量、磁盘读写流量与 IOPS、文件系统使用量等指标；CPU、内存、磁盘、网络、GPU 直通、USB 透传等运行配置统一在组件视图中管理。

当前虚拟机仅支持 amd64 架构，arm64 暂不支持。

image-20260531110956120 image-20260531111214201

其他变更

新增功能

  • 新增 AI 大模型私有化部署能力，支持模型部署、实例管理、OpenAI 兼容调用和模型与 GPU 监控
  • 虚拟机支持 qcow2 镜像直接部署
  • 虚拟机支持规格热更新（CPU、内存运行态扩容）
  • 虚拟机支持多虚拟机应用级编排
  • 虚拟机支持整套应用模板交付（连同系统数据一起打包）
  • 虚拟机支持 Windows VirtIO 驱动盘挂载
  • 虚拟机组件视图支持监控指标查看与运行配置统一管理

Bug 修复

  • 修复 RainAgent 偶发断联、消息发送失败的问题（新增兜底机制和静默重试）
  • 修复 RainAgent 接口密钥不修改时无法保存其他配置的问题
  • 修复 opencode 使用 RainSkills 时 MCP 第二天过期的问题
  • 优化 AI 助手更新提示信息
  • 优化删除组件、端口、存储等操作的错误提示和引导
  • 优化 RainAgent 错误信息的展示与稳定性
  • 优化 RainAgent 操作组件时的识别准确率
  • 修复 ROI 一些问题
  • 修复快照/模板导入导出伸缩规则不生效
  • 修复 UI 滚动条问题
  • 修复对接 Harbor 无法展示更多的项目
  • 修复 dockercompose 在 ARM 环境下无法构建
  • 修复 Helm 默认安装无法选择节点

平台升级

  • 在线环境：平台管理 → 企业设置 → 升级，执行一键升级。
  • 离线环境：请阅读离线升级文档。

Full Changelog: v6.8.0-release...v6.9.0-release

Assets 2
Loading