[chat] perf: 聊天流式返回提速与 SSE 全链路修复

[atoncooper]

背景

用户感知聊天"不是流式返回"（token 一次性整块到达）。排查发现首 token 延迟与 SSE 传输链路两层问题，且 APISIX 配置写法静默无效。

排查结论（逐层实证）

层	问题	证据
chat agent	inject_context 强制 query rewrite 增加首 token 前一次 LLM 往返	ReAct LLM 已被 vector_search 工具描述指示自行优化 query
backend SSE	session_summary / task-quiz 端点无防缓冲头	仅 chat 两端点有
APISIX	nginx_config.http.proxy_buffering 不是支持的键，静默无效	ngx_tpl.lua 无该键；3.11.0 容器实测渲染后 nginx.conf 无此指令
frontendv2	Next.js rewrites 代理缓冲 SSE（代码注释已记录的已知问题）	nginx 日志显示请求经 frontend 容器中转

改动

1. [chat] perf 移除强制 query rewrite；rewritten_queries 保留空列表，下游 multi-path 契约不变
2. [chat] fix 新增 app/routers/streaming.py（SSE_HEADERS + 工厂函数），4 个 SSE 端点统一防缓冲头；去掉 hop-by-hop 的 Connection: keep-alive
3. [apisix] fix proxy_buffering 改用 http_server_location_configuration_snippet（已用一次性容器实测渲染进 nginx.conf）
4. [frontend] fix client.ts 拆分浏览器/SSR base URL：浏览器直连网关（nginx:80），绕过 Next 代理；CORS 配套放行 X-Requested-With 头 + http://127.0.0.1:3000 origin
5. [frontend] fix 聊天输入框单行文字垂直居中（textarea 与发送按钮等高）

链路保持 浏览器 → nginx → apisix → backend，仅绕开 frontend 容器内 Next.js 服务端转发一跳。

验证

• 后端日志 event_counts={'on_chat_model_stream': 275} 确认逐 token 产出
• APISIX 一次性容器 apisix test + grep 确认指令渲染
• CORS 预检 OPTIONS 返回 200（补 X-Requested-With 后）
• py_compile / router import / YAML 解析全过
• 合并后端到端回归：重建 backend/frontend、重启 apisix，浏览器确认逐字流式 + 输入框居中

影响范围

chat agent 图、4 个 SSE 路由、APISIX http 级配置（全局 proxy_buffering off，对普通 JSON 响应无实质影响）、frontendv2 API base URL 解析、CORS 白名单。不涉及 DB schema / Milvus。