Asalebeta

工作原理

一个请求从你的终端到上游模型再回来,中间经过哪四跳,钱又是怎么分的。

买入请求不会直接连厂商,中间要走四跳。

  1. 你的 CLI 调用本地代理

    Asale 客户端监听 127.0.0.1,工具的配置已经改成指向它。

  2. 代理转发到网关

    只把认证头换成你的 Asale API Key,请求体原样不动。

  3. 网关撮合卖家

    先定价、按预估从余额冻结一笔,再挑出当前最合适的一条供给。

  4. 卖家客户端调用上游

    卖家自己的订阅 token 在本机注入,不会离开那台机器。响应沿原路流式返回。

撮合

候选按四项打分:

权重指标
0.45价格更低
0.25信誉
0.15往返延迟
0.15成功率

卖家还必须有足够的剩余额度、不低于 600 的信誉分,以及一个空闲并发位。

一条供给失败时

如果第一个卖家在一个字节都还没到你这里的时候就出错,请求会自动换下一个候选重试,最多再试两次。你看到的是一个响应,而不是三次尝试。

内容一旦开始往外流就没法重来,这时错误会原样透传,同时不计费。