Asale

工作原理

一个请求从你的终端到上游模型再回来,中间经过哪四跳,钱又是怎么分的。

买入请求从不直接连厂商,它要走四跳。

  1. 你的 CLI 调用本地代理

    Asale 客户端监听在 127.0.0.1。工具的配置被改写成指向它。

  2. 代理转发到网关

    只替换认证头,换成你的 Asale API Key,请求体原样不动。

  3. 网关撮合卖家

    先定价、按预估从余额冻结一笔,再挑出当前最合适的一条供给。

  4. 卖家客户端调用上游

    卖家自己的订阅 token 在本机注入,绝不离开那台机器。响应沿原路流式返回。

撮合

候选按四项打分:

权重指标
0.45价格更低
0.25信誉
0.15往返延迟
0.15成功率

卖家还必须有足够的剩余额度、不低于 600 的信誉分,以及一个空闲并发位。

一条供给失败时

如果第一个卖家在任何字节到达你之前出错,请求会被静默转到下一个候选,最多再试两次。你看到的是一个响应,不是三次尝试。

一旦内容已经开始流出就无法回放,此时错误会原样透传——同时不计费。