Google 开发者博客指出,实时 AI 智能体依赖长生命周期、有状态的双向流,CPU 等传统指标难以反映后端已承诺的并发负载。文章建议在应用运行时跟踪活跃会话数,并将其与 CPU 利用率结合用于混合路由,以减少流量倾斜和单个后端过载。
最近 24 小时暂无可用热度快照。