Caffeine 本地缓存与多级缓存
Caffeine 是高性能 JVM 进程内缓存。它省去网络往返，适合热点只读/可重算数据；但每个实例拥有独立副本，容量、过期、加载并发和跨实例失效必须设计。
1. 学习目标
- 理解 size/time/reference eviction
- 掌握同步与异步加载及统计
- 设计本地+Redis+数据库多级缓存
2. 核心概念
1. 淘汰与过期
maximumSize/maximumWeight 控制容量；expireAfterWrite 从写入计时，expireAfterAccess 从最近访问计时，refreshAfterWrite 允许读取旧值并触发刷新。淘汰维护通常在读写时摊还执行。
正确边界： refresh 不是强制失效；加载失败时可能继续返回旧值，需按业务定义。
2. 加载与并发
LoadingCache 将同一键加载合并以降低击穿；AsyncLoadingCache 返回 CompletableFuture。加载函数不应递归访问同一键，且需设置下游超时和失败策略。
正确边界： 缓存不会修复慢且无界的加载器；异步加载仍占用线程和连接。
3. 多级缓存
L1 Caffeine 最快但实例私有，L2 Redis 跨实例共享，数据库是事实来源。读路径逐级回源，写路径通常先提交数据库，再通过事件失效 L2 与各实例 L1。
正确边界： 多级缓存扩大不一致组合，应为版本、失效丢失和重放定义行为。
4. 观测
记录 hit/miss/load success/load failure/eviction、加载耗时和估算大小，按业务命中收益而非单一命中率判断。
正确边界： 高命中率可能来自低价值小对象，同时真正昂贵键仍未缓存。
3. 运行链路
flowchart LR
A["查询"] --> B{"L1 Caffeine"}
B -->|miss| C{"L2 Redis"}
C -->|miss| D["数据库"]
D --> C
C --> B
E["数据库提交"] --> F["失效事件"]
F --> C
F --> B
4. 最小示例
LoadingCache<Long, Product> products = Caffeine.newBuilder()
.maximumSize(10_000)
.expireAfterWrite(Duration.ofMinutes(5))
.refreshAfterWrite(Duration.ofMinutes(1))
.recordStats()
.build(productRepository::requireById);
Product product = products.get(productId);
5. 练习与验证
- 压测同一热点键并验证加载合并
- 模拟失效事件丢失并用版本/TTL 收敛
- 比较 L1 命中前后尾延迟与堆占用
6. 常见误区
- 缓存无限增长
- 缓存 null 却没有短 TTL
- 在每个实例手工失效而无可靠广播
7. 掌握检查
- 能不用术语堆砌，向初学者解释本主题解决的问题。
- 能运行示例并观察正常、边界和失败分支。
- 能说明该能力在完整 Java 后端链路中的位置和替换边界。
- 能以测试、执行计划、指标或规范条款验证关键结论。