AI GATEWAY
百川 / 企业级 AI 网关
我们统一公司内部调用外部 AI 的入口。
使用方只持有平台签发的 Key,与上游厂商的对接由平台负责。新增厂商时,使用方的配置不必改动。
各厂商的单价统一换算为同一套点数。上限按部门、项目、个人设定;接近上限时预警,超出上限时中止。
各部门各自直连造成的管理盲区
用 AI 的部门越多,凭证、费用与发送内容越分散。下面这四种情况,各部门都出现过。
厂商凭证分散在个人电脑与代码仓库中,一旦泄露就会造成直接损失,人员调动后也难以全部回收。
用量没有上限,费用混在一张账单里;哪个部门、哪个项目花了多少,事后无法拆分。
谁可以使用哪些模型、哪些内容可以外发,缺少统一规定;敏感信息随提示词一起出境。
出问题后,由于没有记录谁在何时向哪个模型发送了什么,既无法定位原因,也无法核对费用差异。
一个请求从发出到送往上游要过的关卡
从公司内部发出的请求,依次经过认证、配额核对与内容检查,然后才送往上游;中途被拦下的同样记录在案。
同一模型登记多个凭证时,平台会自动分流;其中一个出故障,就切换到其余凭证。
认证失败、调用越权模型、超出配额等被拦下的请求,也会记入台账,事后可统计请求数量。
统一入口的优点
统一调用路径后,可以在同一处管理计费规则、检查发送内容,并记录全部请求。
使用方持有的只是平台签发的 Key;与上游厂商的对接、模型的新增、凭证的更换,都在平台内部完成。
对外提供两套调用协议,已使用这两套协议的应用与开发工具,只需修改调用地址即可接入。同一模型登记多个凭证时平台自动分流,出故障的凭证自动摘除。
各厂商的单价换算为同一套点数。换算时计入模型权重、时段、输入长度档位,以及读写中可复用的部分。这样,各厂商的成本就能互相比较。
上限按部门、项目、个人设定,总量与周期同时生效:接近就预警,超出就中止。高峰期临时增加的额度到期自动失效。
送往上游之前先检查内容:违禁内容当场拦下,敏感项脱敏之后放行;命中的事件会通知当事人与管理员。
成功的请求,以及认证失败、调用越权模型、超出配额的请求,都会记入同一本台账。签发 Key、改价、调整权限等管理后台操作,也会记录变更前后的值。
真正见效的场合
与团队规模相比,使用者是否横跨多个部门,更能决定这套平台见效的程度。
网关、管理功能、后台与数据库整套建设于客户的网络之内,没有一处依赖外部 SaaS。
生产形态下,对外暴露的端口压到最少。数据库与辅助存储不映射到外部,只能在内部访问。控制面与数据面分库,内部接口之间另用独立令牌鉴权。
需要扩容时,数据面与控制面都可以各自增加副本 —— 从试点到生产,架构不必改写。
模型由上游厂商提供,响应速度、输出品质及厂商侧的服务中断取决于上游。平台能尽早通报请求失败比例与余额不足的情况。
出站检查拦下的是形态确定的风险。内容是否适合发送,最终仍由定规则的人与使用的人判断 —— 通过检查并不等于内容妥当。
语义检查,以及与公司统一身份、目录服务的对接,目前仅预留接口。本页介绍的是已经运行的功能范围。
用量与费用的具体降幅,现阶段尚无可公开的实测数据;具体数值将在导入后进行报告。
把路径收拢到一个入口的意义
已经具备的能力 → 它的意义
| 已经具备的能力 | 它的意义 |
|---|---|
| 只分发平台签发的 Key | 厂商凭证不会留在个人手里 |
| 换算为同一套点数 | 跨厂商的费用可以互相比较 |
| 按部门、项目、个人设上限 | 超支当场止住,而不是事后才发现 |
| 出站之前的内容检查 | 违禁内容不出站,敏感项脱敏之后放行 |
| 连被拦下的请求一并记录 | 费用上的出入与发送内容的查询,事后都能追溯 |
我们自研平台的功能规格(宣传资料,截至 2026 年 9 月)。用量与费用的降幅尚未取得可公开的实测数据,故不列于此。
作为平台规格已经确定的数字
NEXT
咨询请联络相关负责人。
只要指定一个对象,我们就会展示对应的成果物及验证报告。
可以直接查看实际系统的输出,判断这套方式是否有效。
只需告知选定哪一个对象,即可开始。