Skip to content
预计 1 分钟右侧目录可快速定位

Cache、Redis 与 Queue(Harness Service Engineering) ​

围绕 cache、shared coordination、Run dispatch、worker retry 与 backpressure 学 Redis/Queue。

推荐阅读顺序 ​

1. Harness 哪些数据值得缓存:Cache Aside、TTL、Invalidation 与 Stampede ​

回答:Harness 中哪些高频读取适合 Cache Aside,cache key 和 invalidation 怎样携带 tenant/version/permission,热点失效时如何避免把 Provider/DB/MCP Server 打爆?

2. Harness 多实例怎样共享短期协调状态:Redis、Atomic Operations 与 Distributed Rate Limit ​

回答:多个 API/Worker 实例怎样用 Redis 共享 rate state、短期 dedup/lease 辅助信息,而不把 Redis 误当 Runtime durable source of truth?

3. Run/Node 发给 Worker 后会发生什么:Queue、Ack、Redelivery 与 At-least-once ​

回答:Dispatcher 把可运行 Node 交给 broker 后,ack、visibility/lease、crash 和 redelivery 怎样形成 at-least-once delivery,为什么 Queue 消息不能等同于执行权?

4. Worker 失败后怎样重投而不重复副作用:Idempotent Worker、Retry Queue 与 DLQ ​

回答:同一个 Node 因 redelivery 或可恢复错误多次进入 Worker 时,怎样复用 logical operation identity、安排 delayed retry,并让 DLQ 成为可调查/可重驱的终点?

5. Harness Worker 怎么扩容而不压垮 Provider/DB:Concurrency、Prefetch 与 Backpressure ​

回答:Queue backlog 增长时,怎样联合 worker concurrency、prefetch、下游 pool/quota、tenant fairness 和 admission control 扩容,而不是把排队从 broker 搬到内存?

本模块学习边界 ​

  • 暂不展开:跨区域消息系统与供应商特有高级特性;完整容量 benchmark 后移 W12

AI Engineering · Agent · Harness · Backend Systems