Skip to content

长会话持续返回 429,/compact 也无法恢复(疑似正文缓冲预算不足) #403

Closed

Description

@sunnysab

现象

Codex 的旧会话持续提示 server is busy,最终报 exceeded retry limit, last status: 429 Too Many Requests;新建会话正常。两者均使用 gpt-6.1-sol high,旧会话执行 /compact 也无法恢复。

排查线索

  • 旧会话最后一次成功请求约有 45.4 万输入 token,大部分命中缓存。
  • 失败响应带 x-thinkwatch-error: rate_limited、retry-after-ms: 5000,响应体长度为 151 字节。
  • 对照 Lite 锁定的 Core v0.89.1,resources::memory_busy() 生成的响应长度和重试间隔与之吻合。
  • 正文按三倍大小占用共享预算,不足时立即返回 429。大请求可能持续被拒,小请求仍可进入;压缩请求也需要先上传旧上下文,因此可能同样失败。拒绝发生在路由和请求记录之前。

期望

核查是否存在大请求长期无法获得正文预算的情况,并为预算不足的拒绝提供明确日志,方便与上游限流区分。

目前尚未取得运行中 Core 的版本、预算占用及失败响应正文,以上原因仍待确认。

Activity

  1. fylorn commented on Nov 17, 2026

    @fylorn
    Contributor

    已在 PR #407 修复,并随 Core 0.98.1 正式发布。

    调研确认 Core 的共享正文预算准入可以出现大请求饥饿:其他正文占着预算时,大请求立即返回 429,而后来的小请求仍能进入,导致大请求多次重试仍失败。隔离实验不接 agent、不访问上游,也能复现相同的 151 字节错误正文与 5000 ms 重试提示。

    现在请求会按顺序等待预算,后来的小请求不能越过已等待的大请求;未知长度和压缩正文的增长也做了协调,避免多个半读请求互相等待。每次准入或预算等待最多 30 秒,持续占用仍返回可重试的 429,并记录预算占用。取消、闲置上传和解压完成后都会归还相应预算。已通过 4510 项测试、87 项 smoke,以及跨平台 CI 和正式发布校验。

    本次修复的是已复现的 Core 准入机制问题,没有证据据此认定 agent 异常。由于没有现场原始错误正文、运行版本和预算数据,仍不能确认当时具体是谁占用了预算或存在泄漏。

    请使用 Core 0.98.1;Lite 也正在接入此版本准备发布。先按已完成的修复关闭此 issue。如果升级后仍能复现,可以重新开启,并附上脱敏后的失败响应正文、运行中的 Core 版本及相关预算日志,继续定位现场原因。

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment

Metadata

Metadata

Assignees

No one assigned

    Labels

    No labels
    No labels

    Type

    No type

    Projects

    No projects

      Milestone

      No milestone

      Relationships

      None yet

      Development

      No branches or pull requests

      Issue actions