工作原理
一个请求从你的终端到上游模型再回来,中间经过哪四跳,钱又是怎么分的。
买入请求不会直接连厂商,中间要走四跳。
- 你的 CLI 调用本地代理
Asale 客户端监听
127.0.0.1,工具的配置已经改成指向它。 - 代理转发到网关
只把认证头换成你的 Asale API Key,请求体原样不动。
- 网关撮合卖家
先定价、按预估从余额冻结一笔,再挑出当前最合适的一条供给。
- 卖家客户端调用上游
卖家自己的订阅 token 在本机注入,不会离开那台机器。响应沿原路流式返回。
撮合
候选按四项打分:
| 权重 | 指标 |
|---|---|
| 0.45 | 价格更低 |
| 0.25 | 信誉 |
| 0.15 | 往返延迟 |
| 0.15 | 成功率 |
卖家还必须有足够的剩余额度、不低于 600 的信誉分,以及一个空闲并发位。
一条供给失败时
如果第一个卖家在一个字节都还没到你这里的时候就出错,请求会自动换下一个候选重试,最多再试两次。你看到的是一个响应,而不是三次尝试。
内容一旦开始往外流就没法重来,这时错误会原样透传,同时不计费。