Agent 的部署与调度策略

把所有 Agent 任务都塞进一个 Web 进程，短请求会被长任务拖慢，模型调用也难以限流。部署时应该按任务特征拆分在线 API、异步 Worker、定时调度和状态存储。

调度原则

实时咨询优先保证连接和首字延迟；直播切片等长任务进入可恢复队列；批量配图按照租户配额和 GPU 资源调度；定时任务需要幂等键和执行记录。所有任务都要能查询状态和重试原因。

项目落点

直播切片用 PostgreSQL 任务队列承载长任务，AI 商图按 GPU 队列批量处理，共享集群则通过网关统一路由、限流和配额。

结论

部署 Agent 时先按任务生命周期分层，再决定容器、Serverless 或常驻服务的组合。