爱意满满的作品展示区。
sujin190

9router requestDetails 超高压缩(超过 97%)全量存储及消息体 review 审查查看分享

  •  
  •   sujin190 ·
    snower · 1h 36m ago · 59 views

    不知道是否有用 9router 做 AI 代理网关的,原生使用 sqlite 存储 requestDetails 会被截断,看不了完整消息感觉不方便,给它添加了个功能来存储完整消息和查看详细消息体。

    压缩率非常可以,opencode 写代码,2500 次请求平均每个请求接近 500KB 了,压缩后每个请求只需要 3KB ,这磁盘占用基本全量存储已经毫无压力了,而且批量合并追加写无文件重写等导致写放大的问题。

    消息体查看也挺方便的,系统提示词啥的可以直接 markdown 预览,咋调用的一看就清清楚楚了:

    https://imgur.com/SM9chvk

    给官方提交了 merge 还每合并

    https://github.com/decolua/9router/pull/4291

    想试试看看可以用镜像

    sujin190/9router

    需要配置环境变量 OBSERVABILITY_TIMSLITE_DATA_STORE=true 才启用,完全兼容之前版本

    No Comments Yet
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   3380 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 18ms · UTC 04:40 · PVG 12:40 · LAX 21:40 · JFK 00:40
    ♥ Do have faith in what you're doing.