Rise Router：统一大模型 Token 入口

Rise Router 是企业所有大模型 Token 流量的统一入口 + 治理面；Rise ModelX 是 Router 背后的推理后端之一（内部算力 · 训推一体）。业务侧只对 Router 的 OpenAI 兼容端点集成；Router 内部按策略把请求分流到本地 ModelX 或外部受管渠道。两者分开的工程逻辑是：ModelX 管算力（GPU 池化、调度、训练、推理引擎），面向 AI 应用团队与算力运维；Router 管流量（统一入口、路由策略、Key 托管、双轨 Token 账单、合规审计），面向业务接入方、财务、合规。关注点不同、演进节奏不同，分成两套独立产品但在客户侧组合交付。

通过 基于租户 / API Key / 业务标签的访问控制策略。每个租户或 API Key 可绑定 允许访问的渠道白名单：涉密、风控、核心交易等敏感业务限制在 本地 Rise ModelX（信创 GPU），非涉密业务放开受控外部出向。所有出站请求强制经 Router 审计日志，配合 PII 检测、敏感词过滤、时间计划与限频策略。更进一步，Router 还支持 内容感知路由（可结合客户业务实际情况定制化共研）：按请求内容自动判断应走哪类通道，为敏感数据提供额外的防御层。Router 的定位是治理已明确走外部的业务流量；敏感业务就该留在本地算力栈。

LiteLLM / OneAPI / Portkey 是 协议代理层，解决多上游协议适配问题。Rise Router 在此之上叠加 企业级 Token 治理：按租户 / 项目 / 业务线的 Token 账单与预算硬上限、多渠道成本对比与智能路由、API Key 集中托管与轮转吊销、完整出站审计、PII / 敏感词拦截。最大的差异不是网关内核层（开源的都差不多），而在于 Rise Router 同时覆盖企业内部 GPU 算力（通过 Rise ModelX）和外部渠道，在一套治理面做 GPU 时长 + Token 双轨计费、按场景内外分流、统一审计。Xinference / vLLM / SGLang 等是 推理引擎，属于 ModelX 管理的本地后端之一，不是 Router 同一层级。

覆盖 6 类通道：本地推理（Rise ModelX 管理的 vLLM / SGLang / MindIE 实例）、国产大模型（XC-LLM / 智谱 / 讯飞 / Kimi）、公有云 MaaS（百炼 / 千帆 / TI / MA）、模型聚合平台（硅基流动 / 火山方舟）、国外模型（OpenAI / Anthropic / Google，部分业务确有需要时按需接入）、企业自选 BYOC（客户指定上游）。通道覆盖广泛，全部经统一 OpenAI 兼容接口访问，业务切换路径无需改代码。

上游厂商 API Key 与 ModelX 内部凭证集中托管在 Router 治理面，业务代码不再直接持有任何 LLM 凭证 —— 消除 Key 散落和泄漏风险。支持 Key 轮转（定期更换上游凭证，业务无感）、Key 吊销（单个 Key 立即失效）、按租户 / 项目授权（不同团队只能看到自己授权的渠道和预算）、访问策略（时间计划 / IP 白名单 / 限频限次）。完整出站审计日志满足金融和国央企的合规要求。

使用 真实上游模型的 tokenizer 精确计量每条请求的 prompt / completion token，而非网关估算。多维度归因（租户 / 项目 / 业务线 / API Key），时间线聚合，Top-N 用量，月度账单自动生成。同一套 FinOps 看板呈现 本地 GPU 时长 + 外部 Token 合并视图（这是 Router 作为统一入口的核心能力之一），按部门直接对接企业财务系统。

预算行为 可配置：按租户或业务线设置预算硬上限，触达阈值可选 自动降级（路由到更便宜的渠道继续服务）、告警但不阻断（告警但流量照常）或 硬阻断（拒绝新请求）。除预算外还有 成本异常告警（用量突增）、时间计划（闲时 / 夜间调度）、限频限次 多层防护 —— 避免单租户或失控 Agent 把预算跑穿。

OpenAI 兼容的 Chat / Completions / Embeddings / Function Call / JSON Mode / 流式 SSE 全部支持，Agent 框架切换上游模型无需改代码。多模态模型同样覆盖：文本、图像、音频、视频类上游模型都通过 Router 统一接入，Agent 可直接调用图像理解、语音识别、视频生成等能力，并纳入同一套 Token 计量、预算控制与合规审计。虚拟 ModelName 让 Router 按策略（成本 / 延迟 / 可用性）在多渠道自动路由，配合 限频限次 与 预算硬上限，防止自主 Agent 在外部渠道失控消耗 —— Agent 的 Token 消耗速率远高于人类触发，预算控制是外部渠道治理的刚需。