• 请不要在回答技术问题时复制粘贴 AI 生成的内容
coder121
V2EX  ›  程序员

GPT sol 的上下文长度设置成多少比较合适,默认的 200k 太短了,随便几下就开始合并了, 1m 到后面又有点顾头不顾尾的

  •  
  •   coder121 · 17h 0m ago · 1693 views
    14 replies    2026-09-03 03:23:08 +08:00
    QS0x01
        1
    QS0x01  
       16h 56m ago
    我参考的官方 API 双倍价格门槛 272K 那个界限,略微留一点缓冲区,取个整 300K 让它开始压缩。
    schemesAlot
        2
    schemesAlot  
       16h 52m ago
    试过 tibo 说的那个 1m,用了两次就删了,坚持 272,官压除了慢没毛病
    Rickkkkkkk
        3
    Rickkkkkkk  
       16h 50m ago
    codex 默认的肯定就是最合适的,1m 真的好用,那默认的设置为什么不是 1m
    pony2335
        4
    pony2335  
       14h 12m ago
    500k
    iyaozhen
        5
    iyaozhen  
       14h 12m ago
    codex 默认呀,调那个干啥
    zed1018
        6
    zed1018  
       14h 3m ago
    别说 codex 了,CC 早就开放 1M ,且默认 1M 。但是实际上/usage 里都会提示 >150K 的应该 compact ,因为计费很贵。
    yh7gdiaYW
        7
    yh7gdiaYW  
       12h 7m ago
    @Rickkkkkkk 因为 openai 搞阶梯计费导致开 1m 很贵。codex 刚开始默认也不是 272k ,不会自己管控上下文的初级用户太多导致用量消耗太快,意见太大了才缩回去的
    nakun233
        8
    nakun233  
       10h 4m ago
    我问了他之后,他说设 600k
    longaiwp
        9
    longaiwp  
       8h 36m ago
    @Rickkkkkkk 因为太大消耗会很快,所以才缩回去,但是太大还有一个注意力不集中的问题
    Rammus
        10
    Rammus  
       7h 27m ago
    200k
    wengjin456123
        11
    wengjin456123  
       7h 1m ago
    272k 确实小,而且这玩意上下文涨的太快
    tagee
        12
    tagee  
       6h 47m ago
    我设置过 1m 的,体验很好啊,很久都不会看到他在压缩上下文。但是额度扛不住,感觉跟开了 fast 似的,额度蹭蹭往下掉。
    zuosiruan
        13
    zuosiruan  
       5h 18m ago via iPhone
    我用的 500KB
    maolon
        14
    maolon  
       46 mins ago
    按 matt ( grill me 作者)的说法应该 150k 就 compact ,5.6 默认是 272k ,分段计费开始于 272 ,所以 272 之上会消耗会很大至少 sol 和 terra 不推荐开高,luna 对于长任务可以适当拉满使用
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   970 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 49ms · UTC 20:09 · PVG 04:09 · LAX 13:09 · JFK 16:09
    ♥ Do have faith in what you're doing.