AI GATEWAY

百川 / 企业级 AI 网关

我们统一公司内部调用外部 AI 的入口。

OUTPUT #1
收拢到同一个入口

使用方只持有平台签发的 Key,与上游厂商的对接由平台负责。新增厂商时,使用方的配置不必改动。

OUTPUT #2
统一配额管理与计费标准

各厂商的单价统一换算为同一套点数。上限按部门、项目、个人设定;接近上限时预警,超出上限时中止。

领域

应用支持(为用好 AI 打牢基础)

适用对象

开发部门与信息系统部门 —— 各部门已在实际业务中使用 AI,凭证、费用、信息发送需要在组织层面统一管理

关键词
统一入口配额与计费出站内容检查审计留痕
01 ISSUE

各部门各自直连造成的管理盲区

用 AI 的部门越多,凭证、费用与发送内容越分散。下面这四种情况,各部门都出现过。

RISK 01
凭证散落

厂商凭证分散在个人电脑与代码仓库中,一旦泄露就会造成直接损失,人员调动后也难以全部回收。

RISK 02
费用分不开

用量没有上限,费用混在一张账单里;哪个部门、哪个项目花了多少,事后无法拆分。

RISK 03
发送内容没有关卡

谁可以使用哪些模型、哪些内容可以外发,缺少统一规定;敏感信息随提示词一起出境。

RISK 04
事后无从追查

出问题后,由于没有记录谁在何时向哪个模型发送了什么,既无法定位原因,也无法核对费用差异。

02 PROCESS

一个请求从发出到送往上游要过的关卡

从公司内部发出的请求,依次经过认证、配额核对与内容检查,然后才送往上游;中途被拦下的同样记录在案。

STEP 01 请求 来自内部应用或开发者
STEP 02 认证与权限 核对 Key,比对可用模型
STEP 03 配额核对 查看是否已经触及上限
STEP 04 内容检查 出站之前先看内容
STEP 05 中继 送往上游厂商并回传响应
STEP 06 计量与留痕 结算用量,记入台账
越权模型、超出配额、违禁内容 —— 在此拦下并返回给调用方
AI 承担 对外交付的成果物 机器拦下的关卡

同一模型登记多个凭证时,平台会自动分流;其中一个出故障,就切换到其余凭证。

认证失败、调用越权模型、超出配额等被拦下的请求,也会记入台账,事后可统计请求数量。

03 STRENGTH

统一入口的优点

统一调用路径后,可以在同一处管理计费规则、检查发送内容,并记录全部请求。

POINT 01
上游增加,使用方不受影响

使用方持有的只是平台签发的 Key;与上游厂商的对接、模型的新增、凭证的更换,都在平台内部完成。

对外提供两套调用协议,已使用这两套协议的应用与开发工具,只需修改调用地址即可接入。同一模型登记多个凭证时平台自动分流,出故障的凭证自动摘除。

封堵各自直连上游的路径,把公司内部的调用收拢到同一个入口之下的图
POINT 02
跨厂商,用同一把尺子衡量

各厂商的单价换算为同一套点数。换算时计入模型权重、时段、输入长度档位,以及读写中可复用的部分。这样,各厂商的成本就能互相比较。

上限按部门、项目、个人设定,总量与周期同时生效:接近就预警,超出就中止。高峰期临时增加的额度到期自动失效。

把各厂商互不相同的账单换算为同一套点数,再据此设定各部门上限与预警、中止的图
POINT 03
出站之前检查,放行与拦下都留痕

送往上游之前先检查内容:违禁内容当场拦下,敏感项脱敏之后放行;命中的事件会通知当事人与管理员。

成功的请求,以及认证失败、调用越权模型、超出配额的请求,都会记入同一本台账。签发 Key、改价、调整权限等管理后台操作,也会记录变更前后的值。

出站之前先检查内容,被拦下与放行的请求都记入同一本台账的图

真正见效的场合

与团队规模相比,使用者是否横跨多个部门,更能决定这套平台见效的程度。

要压住费用 多部门共用预算:用上限与预算池止住超支,费用再精确归集到项目
多个团队共用 研发、测试、客服共用一套平台:按模板签发 Key 分发下去
开发工具调用频繁 编码助手调用密集:用排队削峰填谷,保住上游的额度
需要接受审计 全量记录与内容检查,留存范围可控;受检时有据可查
处理的信息敏感 建设在公司内网,出站内容先审后发;面向设计与研发部门
团队跨国分布 管理后台与通知支持中文、英文、日文,各地共享同一套管理口径
前提与构成
建设在公司内网,不依赖外部服务

网关、管理功能、后台与数据库整套建设于客户的网络之内,没有一处依赖外部 SaaS。

生产形态下,对外暴露的端口压到最少。数据库与辅助存储不映射到外部,只能在内部访问。控制面与数据面分库,内部接口之间另用独立令牌鉴权。

需要扩容时,数据面与控制面都可以各自增加副本 —— 从试点到生产,架构不必改写。

做不到的事
这几件事不由平台承担

模型由上游厂商提供,响应速度、输出品质及厂商侧的服务中断取决于上游。平台能尽早通报请求失败比例与余额不足的情况。

出站检查拦下的是形态确定的风险。内容是否适合发送,最终仍由定规则的人与使用的人判断 —— 通过检查并不等于内容妥当。

语义检查,以及与公司统一身份、目录服务的对接,目前仅预留接口。本页介绍的是已经运行的功能范围。

用量与费用的具体降幅,现阶段尚无可公开的实测数据;具体数值将在导入后进行报告。

04 RESULT

把路径收拢到一个入口的意义

已经具备的能力 → 它的意义

已经具备的能力 它的意义
只分发平台签发的 Key厂商凭证不会留在个人手里
换算为同一套点数跨厂商的费用可以互相比较
按部门、项目、个人设上限超支当场止住,而不是事后才发现
出站之前的内容检查违禁内容不出站,敏感项脱敏之后放行
连被拦下的请求一并记录费用上的出入与发送内容的查询,事后都能追溯

我们自研平台的功能规格(宣传资料,截至 2026 年 9 月)。用量与费用的降幅尚未取得可公开的实测数据,故不列于此。

作为平台规格已经确定的数字

100 家以上
入口可以调用的上游 AI 厂商。即使厂商数量增加,使用方的配置也不必改动。
70 类以上
全程留痕的管理操作类型。改动的人、时间、对象、内容随时可查。
2 套
对外提供的调用协议。现有应用不必重写,改指向即可。

NEXT

咨询请联络相关负责人。

只要指定一个对象,我们就会展示对应的成果物及验证报告。

可以直接查看实际系统的输出,判断这套方式是否有效。

查看联系方式 →

只需告知选定哪一个对象,即可开始。