我在具有数据库后端和基于EHCache的缓存的Spring多线程Web服务上遇到缓存问题。该服务有许多客户端一次又一次地请求同一个对象，每秒有数十个请求。仅频繁请求几个对象，而不经常请求大量其他对象。对象可以每隔几分钟更改一次，因此将缓存的TTL设置为一分钟。从数据库加载对象很慢，并且至少需要几秒钟。
首先，我使用了一个简单的实现来获取对象：
最初在本地进行测试时，此方法运行良好。但是，在速度更快的服务器上进行的性能测试显示，每次每次请求缓存中最频繁请求的对象之一过期时，负载峰值都会出现一些非常糟糕的情况。发生这种情况时，在接下来的10秒内，对该对象的所有请求都将导致数据库加载，直到第一个线程完成数据库加载并将新对象放入缓存中为止。结果是数据库上的负载很短，但负载却非常高，并且许多用户需要等待请求完成。
我当前的实现通过跟踪当前是否正在加载哪个对象来改善数据库负载：
通过这种实现，即使对象过期，也只有一个数据库操作。并且，由于数据库负载较低，它也将更快地完成。但这仍然意味着在对象加载期间请求该对象的所有用户都需要等待。
我真正想要的是只有第一个线程等待数据库加载，而所有其他线程仅在加载对象时返回“过期”对象。对我而言，响应时间比对象太旧几秒钟的事实更重要。
另外，当我注意到某个对象将在几秒钟后过期时，我可以异步刷新缓存。这更接近于EHCache的单一TTL模型，这意味着无需等待数据库加载
我真正的问题是：在我重新发明轮子之前，是否有任何现有框架已经实现了这样的功能（在Spring / EHCache环境中）？或者也许对此的支持已经在Spring / EHCache中某个地方存在了，而我只是找不到正确的选项？
Ehcache提供了两种可以帮助您的构造：
两者都要求您更改与缓存交互的方式，因为它们都需要CacheLoader配置。
不幸的是，我找不到显示第二个选项示例的在线文档。它允许使用Quartz刷新缓存条目以对其进行调度。它也可以基于密钥生成器仅刷新一部分密钥。看看包中的类net.sf.ehcache.constructs.scheduledrefresh
本文收集自互联网，转载请注明来源。
如有侵权，请联系[email protected] 删除。
我来说两句