v1.0.0
1Panel AI 网关 v1.0.0 正式发布
1Panel AI 网关是面向企业和团队的 AI 统一接入与治理平台,提供模型代理、智能路由、权限控制、内容合规和用量分析等能力,让 AI 应用更安全、稳定、经济地使用不同模型资源。
AI 应用只需配置统一的 Base URL 和 API Key,即可通过标准接口访问公有云 API、本地 vLLM 集群及其他模型服务。10 人及以下规模的团队可免费使用完整的 AI 网关治理能力。
核心能力
- 统一接入与模型代理:集中接入不同供应商和本地模型,通过模型映射与账号池统一调度。
- 席位与权限管理:按用户组、用户和 API Key 管理模型权限、并发限制与 Token 配额。
- 智能路由:根据请求内容与预设规则,将任务分发至合适的模型组。
- 负载与并发控制:结合账号优先级、实时负载和健康状态分配请求,降低单点依赖。
- 内容合规:提供敏感词、语义审核和调用内容审计能力。
- 用量分析:统计请求量、Token 消耗、缓存利用率和响应耗时,帮助团队分析成本与排查问题。