Memcached 滑动过期实现与二分法优化

8/3/2015来源:C#应用人气:2817

Memcached 滑动过期实现与二分法优化

Jusfr 原创,转载请注明来自博客园。

注意:方案有漏洞见文章末尾,思路可以看看仍然发出来了。代码见github。

第一部分 前言

HttPRuntime.Cache.Insert(string key, object value, CacheDependency dependencies, DateTime absoluteExpiration, TimeSpan slidingExpiration) 方法的 slidingExpiration 参数能保证缓存被访问后,有效时间延长;而 Memcached 并没有实现该能力,形如第3方类库 EnyimCaching 提供的 MemcachedClient.Store() 方法提供的重载仍然是按绝对时间过期,和前者并非同一语义,本文目的是处理这个问题,并给出更优化的方案。

    public bool Store(StoreMode mode, string key, object value);    public bool Store(StoreMode mode, string key, object value, DateTime expiresAt);    public bool Store(StoreMode mode, string key, object value, TimeSpan validFor);

EnyimCaching 接口封装的很好,需要注意的是像配置错误等都不会导致异常抛出,所以使用时最好来个测试用例进行确认。

    [TestMethod]    public void Online() {        using (MemcachedClient client = new MemcachedClient("enyim.com/memcached")) {            String key = Guid.NewGuid().ToString("n");            Object value = client.Get(key);            Assert.IsNull(value);            var exist = client.TryGet(key, out value);            Assert.IsFalse(exist);            Assert.IsNull(value);            value = Guid.NewGuid();            client.Store(StoreMode.Set, key, value);            exist = client.TryGet(key, out value);            Assert.IsTrue(exist);            Assert.IsNotNull(value);        }    }
View Code

同样需要注意的是客户端时间与 Memcached 所在服务器时间不一致时将导致过期时间和预期不太一致,考虑到是 Windows 下开发,像 Ubuntu 服务器可以使用以下命令同步时间并重新启动 Memcached 进程

    sudo ntpdate time.windows.com    sudo hwclock -w        sudo service memcached restart

然后是原始滑动过期的测试使用

    [TestMethod]    public void Sliding() {        using (MemcachedClient client = new MemcachedClient("enyim.com/memcached")) {            String key = Guid.NewGuid().ToString("n");            Object value = Guid.NewGuid();            client.Store(StoreMode.Set, key, value, TimeSpan.FromSeconds(15D));            Thread.Sleep(TimeSpan.FromSeconds(10D));            var exist = client.TryGet(key, out value);            Assert.IsTrue(exist);             Assert.IsNotNull(value);            Thread.Sleep(TimeSpan.FromSeconds(10D));            exist = client.TryGet(key, out value);            Assert.IsTrue(exist); //failed            Assert.IsNotNull(value);        }    }

测试用例未通过,这里使用的过期参数为15秒,10秒后检查缓存得知存在,再过10秒后缓存已经过期。

第二部分 实现

你可以已经看出来了,如果希望第2个10秒时,缓存仍然可以访问,那么第1个10秒时,将已经取出的缓存再存一次即可。确实如此,障碍是缓存取出时没有携带时间信息,我翻看了API,好像没有这办法(如果谬误,还请指正),所以我们可以拿一个 泛型Wraper 将时间和值一起存到缓存时,取出时进行对比。

定义 SlidingCacheWraper<TCache> 如下,注意 [Serializable] 在 EnyimCaching 的使用中是需要的:

    [Serializable]    public class SlidingCacheWraper<TCache> {        public TCache Cache { get; private set; }        public DateTime CachingTime { get; private set; }        public TimeSpan SlidingExpiration { get; private set; }        public SlidingCacheWraper(TCache cache, TimeSpan slidingExpiration) {            Cache = cache;            SlidingExpiration = slidingExpiration;            CachingTime = DateTime.Now;        }    }

大致逻辑是这样:当需要存储一个滑动过期项时,我们先使用 SlidingCacheWraper 包裹起这个缓存项,记录缓存时间及滑动过期参数,送入 Memcached;当从 Memcached 取出这项时,先对比当前时间和缓存时间间隔,如果没有超出滑动过期参数, 将其按照该参数重新存入;

    [TestMethod]    public void SlidingWithResotre() {        using (MemcachedClient client = new MemcachedClient("enyim.com/memcached")) {            String key = Guid.NewGuid().ToString("n");            Object value = Guid.NewGuid();            {                var slidingExpiration = TimeSpan.FromSeconds(15D);                Object wraper = new SlidingCacheWraper<Object>(value, slidingExpiration);                client.Store(StoreMode.Set, key, wraper, TimeSpan.FromSeconds(12D));            }            Thread.Sleep(TimeSpan.FromSeconds(10D));            {                Object wraperObj;                var exist = client.TryGet(key, out wraperObj);                Assert.IsTrue(exist);                Assert.IsNotNull(wraperObj);                Assert.IsTrue(wraperObj is SlidingCacheWraper<Object>);                var wraper = (SlidingCacheWraper<Object>)wraperObj;                Assert.IsNotNull(wraper.Cache);                Assert.AreEqual(value, wraper.Cache);                client.Store(StoreMode.Set, key, wraper, wraper.SlidingExpiration);            }            Thread.Sleep(TimeSpan.FromSeconds(10D));            {                Object wraperObj;                var exist = client.TryGet(key, out wraperObj);                Assert.IsTrue(exist);                Assert.IsNotNull(wraperObj);                Assert.IsTrue(wraperObj is SlidingCacheWraper<Object>);                var wraper = (SlidingCacheWraper<Object>)wraperObj;                Assert.IsNotNull(wraper.Cache);                Assert.AreEqual(value, wraper.Cache);                client.Store(StoreMode.Set, key, wraper, wraper.SlidingExpiration);            }            Thread.Sleep(TimeSpan.FromSeconds(20D));            {                Object wraperObj;                var exist = client.TryGet(key, out wraperObj);                Assert.IsFalse(exist);                Assert.IsNull(wraperObj);            }        }    }

先存储滑过过期参数为15秒的缓存项,然后两次间隔10秒访问并期望缓存未过期,再进行间隔20秒访问并期望缓存已经过期,相似代码块括起来了,测试通过。

第三部分 优化

诚然前面的逻辑已经实现了滑动过期的效果,但你应该注意到一个问题,就是为了这个需求,每次缓存读取,我们都得重新写入一次,即便 Memcached 性能很棒,反复命中缓存时的大量写入也有 IO 及序列化压力,这是可以优化的。

滑动过期就意味着缓存项的存活时间延长,又不能通过写入解决,我的直观思路就是:给缓存项加上“伪过期时间”,从起始算起在多出来的缓存时间时命中则不更新缓存。

    [TestMethod]    public void SlidingWithResotre() {        using (MemcachedClient client = new MemcachedClient("enyim.com/memcached")) {            String key = Guid.NewGuid().ToString("n");            Object value = Guid.NewGuid();            Action handler = () => {                Object wraperObj;                var exist = client.TryGet(key, out wraperObj);                if (exist) {                    Assert.IsNotNull(wraperObj);                    Assert.IsTrue(wraperObj is SlidingCacheWraper<Object>);                    var wraper = (SlidingCacheWraper<Object>)wraperObj;                    Assert.IsNotNull(wraper.Cache);                    Assert.AreEqual(value, wraper.Cache);                    TimeSpan diffSpan = DateTime.Now - wraper.CachingTime;                    Console.WriteLine("Get cache, diff {0:F0} sec., sliding {1:f0} sec.",                        diffSpan.TotalSeconds, wraper.SlidingExpiration.TotalSeconds);                    //当前时间-设置时间 > 滑动时间, 已经过期                    if (diffSpan > wraper.SlidingExpiration) {                        Console.WriteLine("Remove cache");                        client.Remove(key);                        return;                    }                    //当前时间-设置时间 > 滑动时间/2, 更新缓存                    if (diffSpan.Add(diffSpan) > wraper.SlidingExpiration) {                        Console.WriteLine("Restore cahce");                        client.Store(StoreMode.Set, key, wraper, wraper.SlidingExpiration);                    }                }                else {                    Console.WriteLine("Overdue");                }            };            var slidingExpiration = TimeSpan.FromSeconds(15D);            Object extendedWraper = new SlidingCacheWraper<Object>(value, TimeSpan.FromSeconds(slidingExpiration.TotalSeconds * 1.5));            client.Store(StoreMode.Set, key, extendedWraper, slidingExpiration);            var random = new Random();            for (int i = 0; i < 6; i++) {                Thread.Sleep(TimeSpan.FromSeconds(15 * random.NextDouble()));                handler();            }        }    }<