RUNTIME
已配置模型
—等待模型接口CONTROL CENTER
全局运行态势
统一观察用户业务、模型消耗与上游路由健康。
正在读取
RUNTIME
健康路由
—等待路由接口检测中
Nexus 业务网关
检测中等待健康检查检测中
LiteLLM
检测中等待健康检查请求与 Token 趋势
示例数据演示用量，不代表当前环境真实调用
请求数Token 数
120K80K40K0
00:0004:0008:0012:0016:0020:00现在
上游流量分布
示例数据演示占比，不代表当前环境真实流量
6可用上游
OpenAI42%
Anthropic28%
Google18%
其他12%
正在读取路由状态等待实时接口
运行时模型
来自模型接口的当前配置
正在读取模型…
架构职责
避免重复路由与重复计费
- Nexus 业务网关用户鉴权、额度与零售计费
- LiteLLM模型路由、重试与故障切换
- 职责唯一避免双重路由和重复重试
MODEL CATALOG
模型中心
查看 LiteLLM 实时暴露的模型别名与运行状态。
正在读取模型接口…
没有找到匹配的模型。
CUSTOMER BUSINESS PLANE
Nexus 客户与运营管理
客户自助业务和管理员运营配置使用同一套 Nexus 业务数据，但登录角色、导航权限和使用场景严格分开。
注册与登录
客户独立注册、登录、找回密码；注册开关和验证策略由管理员配置。
API 密钥
客户自助创建 Nexus Token，配置模型权限、额度、有效期与状态。
模型与价格
展示客户可用模型、零售费率、能力标签和调用接入信息。
余额与充值
钱包、兑换码、订单历史及充值入口；真实支付需完成合规确认与网关配置。
用量与账单
按请求查看模型、Token、客户扣费、状态与时间，不展示上游厂商成本。
个人中心
维护账户资料、安全设置、邀请信息和客户侧偏好。
客户浏览器 → Nexus 业务网关
注册、余额、充值、Token、零售价与客户账单全部停留在业务层。
API 客户端 → Nexus 业务网关
客户使用 Nexus Token 调用统一公开地址，不接触内部网关凭据。
Nexus 业务网关 → LiteLLM
LiteLLM 只负责模型映射、路由、重试、Fallback 与真实上游成本。
FINOPS
用量与成本
示例数据，未接账本以下数据仅演示 FinOps 信息结构，不代表真实收入或上游成本。
本月零售收入
¥ 428,650↑ 14.2% 环比本月上游成本
¥ 276,890OpenAI 占比 44.6%贡献毛利
¥ 151,760毛利率 35.4%成本结构
按上游供应商拆分
预算使用
月度预算 ¥ 350,000
79%已使用
已用 ¥ 276,890剩余 ¥ 73,110
MODEL ROUTER
路由健康
持续巡检 Nexus 业务网关、模型路由与每个真实上游的可用性和控制面延迟。
全局状态
正在读取路由状态页面读取：- 健康路由
- —
- 真实上游平均
- —
- 接口模式
- —
SERVER-SIDE PROBE
服务端实时巡检正在读取巡检调度状态- 巡检周期
- —
- 上次完成
- —
- 下次执行
- —
- Cycle ID
- —
页面打开时每 15 秒读取服务端巡检缓存
控制面延迟测量口径三行分别显示 Nexus 控制台 → 业务网关、Nexus 控制台 → 模型路由和 Nexus 控制台 → 真实上游的独立主动探针 RTT。它们不是客户客户端的真实数据路径，不能通过相减推导内部链路延迟，也不会把缺失值填成 0 ms。页面仅在“路由健康”可见时每 15 秒读取服务端缓存；后台巡检不依赖页面是否打开。
正在读取路由接口…
SECURE MODEL CONTROL PLANE
LiteLLM 管理中心
通过 Nexus BFF 管理模型基础设施；LiteLLM Master Key 与上游密钥永不进入浏览器。
尚未连接
!
当前 LiteLLM 管理能力受限
需启用 LiteLLM 数据库才能使用动态写入、历史记录、成本与错误日志；当前页面会禁用不支持的操作。
×
浏览器当前离线
管理数据可能已经过期。恢复网络后请刷新，离线期间所有写操作均已锁定。
运行环境读取中
访问权限Nexus 管理员
最近同步尚未完成
写入策略单请求串行 · 成功后重载
正在读取能力…
模型部署与映射
管理公开别名、厂商模型、权重、优先级、重试、Fallback 与启停状态。
N
这里只新增 LiteLLM 上游部署要让终端用户可调用，仍需在 Nexus 业务渠道开放同名模型别名并配置授权与价格；本页不会自动扩大客户权限。
| 公开别名 / 厂商模型 | 上游 | 权重 / 优先级 | 重试 / 超时 | 状态 | 操作 |
|---|---|---|---|---|---|
进入本页后读取真实数据 | |||||
自定义上游
配置协议、HTTPS API Base、厂商密钥和连通测试；密钥写入后仅展示“已配置”。
01
选择协议OpenAI、Anthropic、Azure 或两类 Compatible 自定义协议
02
验证连接使用只写厂商 Key 发起一次真实连通测试
03
映射模型保存后在“模型部署”配置公开别名与厂商模型 ID
真实端到端探测批量测速会逐一调用该上游已映射模型，统计可用率和毫秒级响应耗时；结果反映连接响应速度，不代表吞吐量或并发压测能力。
进入本页后读取真实数据
LiteLLM Virtual Key
为 Nexus 业务网关等内部调用方创建最小权限凭证，并限制模型、预算、速率和有效期。
推荐：Nexus 业务网关使用专属 Virtual Key
Master Key 只留在 Nexus 服务端。Virtual Key 的完整值仅在生成或轮换成功后显示一次；关闭提示后无法再次查看。
| 名称 / Key ID | 允许模型 | 消费 / 预算 | RPM / TPM | 有效期 | 状态 | 操作 |
|---|---|---|---|---|---|---|
进入本页后读取真实数据 | ||||||
路由与故障转移
设置策略、超时、重试、熔断阈值及全局 Fallback 链。
PRE-FLIGHT VALIDATION
配置校验
校验不会写入配置。只有服务端返回成功后，才能确认当前配置有效。
◇
尚未校验
填写路由配置后点击“校验配置”。
健康、熔断与恢复
状态来自 LiteLLM 实时健康接口；恢复操作仅在服务端确认后更新。
| 部署 | 上游 | 健康状态 | 延迟 | 熔断状态 | 最后检测 | 操作 |
|---|---|---|---|---|---|---|
进入本页后读取真实数据 | ||||||
配置版本与回滚
每次真实变更由服务端创建版本。回滚属于高风险操作，执行前需要确认。
进入本页后读取真实数据
上游调用成本
仅展示 LiteLLM 实际返回的成本聚合，不使用演示账本。
进入本页后读取真实数据
上游错误日志
密钥、请求正文和敏感响应由服务端脱敏后才能展示。
进入本页后读取真实数据
FINOPS RECONCILIATION
Nexus 客户账本 ↔ LiteLLM 对账中心
以同一请求的关联标识核对客户侧计费与 LiteLLM 记录的上游成本，区分毛利、Token 差异、缺失记录与入账延迟。
尚未读取
两套账本，一次请求
Nexus 客户账本记录实际扣费；LiteLLM 依据真实调用用量与已配置价格记录上游成本，厂商最终账单仍是成本结算依据。完整 Token、Virtual Key、提示词和响应正文不会在本页展示或保存。
请求关联质量等待服务端
缺失判定稳定线等待服务端
逐请求核对明细
仅显示服务端返回的真实账本记录，不以示例数据补位。
已匹配差异待稳定单边缺失
| 时间 / 状态 | 请求关联 | 模型 / 调用方 | Token 核对 | 收费 / 成本 | 毛利 / 上游尝试 |
|---|---|---|---|---|---|
进入本标签后读取真实对账数据 | |||||
CONFIGURATION
系统设置
定制当前浏览器的控制台外观，并查看各系统的职责边界。
APPEARANCE
界面主题
选择适合当前工作环境的高级配色。偏好只保存在此浏览器，不会同步到服务端，也不会保存任何密钥。
Nexus 客户门户
注册登录、Token、模型价格、余额充值、用量账单和个人中心。
- 客户只能访问自己的业务数据
- 支付未配置时保持关闭并明确提示
- 绝不显示 LiteLLM 或厂商密钥
Nexus 运营管理
用户、渠道、模型、兑换码、订阅、零售定价、支付网关与客户账本。
- 业务网关失败重试次数固定为 0
- 模型别名与 LiteLLM 保持一致
- 客户收费以 Nexus 客户账本为准
LiteLLM 模型基础设施
上游密钥、部署映射、重试、Fallback、限流与健康检查。
- 作为唯一模型出口，仅允许内网访问
- 集中配置路由与故障转移
- 不向浏览器暴露管理密钥