mingtdlb
V2EX  ›  问与答

大模型的输入大小限制是网页 chat 才有?

  •  
  •   mingtdlb · Jun 26 · 1152 views
    This topic created in 33 days ago, the information mentioned may be changed or developed.

    我往 deepseek v4 Pro 、mimo v2.5 Pro 贴了个日志,提示超了。

    mimo

    image.png

    ds

    image.png

    qwen3.7 MAX 、doubao 2.1 turbo 没问题

    用 Token 计算器算了下,字符不到 11 万、token 不到 4 万

    image.png

    这个限制是网页 chat 有还是模型本身就有,他们各自是多少,哪里能看呀

    3 replies    2026-06-27 10:13:48 +08:00
    Sezxy
        1
    Sezxy  
       Jun 26
    网页本来就是免费的,不限制下成本太高
    ztm0929
        2
    ztm0929  
       Jun 26   ❤️ 1
    @mingtdlb 模型本身的上下文长度非常大( DeepSeek 已经支持 1M 了)

    网页对话单次发送的限制从你图里推算来看就是 32K 喽(你发送的是 38K ,提示超出约 4%)

    模型本身单次接收的限制是在 max_tokens 里设置的,如果不限制,通常就是上下文本身,具体要看各模型文档。
    例如: https://api-docs.deepseek.com/zh-cn/api/create-chat-completion
    mingtdlb
        3
    mingtdlb  
    OP
       Jun 27
    @ztm0929 #2 看了下,这个 max_tokens 是补全的吧?最大输出长度是 384K ,最大输入长度估计是没限制,用上下文长度 1m 。
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   2914 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 41ms · UTC 15:12 · PVG 23:12 · LAX 08:12 · JFK 11:12
    ♥ Do have faith in what you're doing.