佛山网站专家,苏州建设建设信息网站,有人有片在线观看的资源,网站建设分金手指专业十二转载自 深入理解分布式系统中的缓存架构(上)
本文主要介绍大型分布式系统中缓存的相关理论#xff0c;常见的缓存组件以及应用场景。
1 缓存概述 2 缓存的分类
缓存主要分为以下四类 2.1 CDN缓存
基本介绍
CDN(Content Delivery Network 内容分发网络)的基本原理是广泛…转载自 深入理解分布式系统中的缓存架构(上)
本文主要介绍大型分布式系统中缓存的相关理论常见的缓存组件以及应用场景。
1 缓存概述 2 缓存的分类
缓存主要分为以下四类 2.1 CDN缓存
基本介绍
CDN(Content Delivery Network 内容分发网络)的基本原理是广泛采用各种缓存服务器将这些缓存服务器分布到用户访问相对集中的地区或网络中在用户访问网站时利用全局负载技术将用户的访问指向距离最近的工作正常的缓存服务器上由缓存服务器直接响应用户请求
应用场景
主要缓存静态资源例如图片视频
应用图 未使用CDN缓存 优点 2.2 反向代理缓存
基本介绍
反向代理位于应用服务器机房处理所有对WEB服务器的请求。 如果用户请求的页面在代理服务器上有缓冲的话代理服务器直接将缓冲内容发送给用户。如果没有缓冲则先向WEB服务器发出请求取回数据本地缓存后再发送给用户。通过降低向WEB服务器的请求数从而降低了WEB服务器的负载。
应用场景
一般只缓存体积较小静态文件资源如css、js、图片
应用图 开源实现 2.3 本地应用缓存
基本介绍
指的是在应用中的缓存组件其最大的优点是应用和cache是在同一个进程内部请求缓存非常快速没有过多的网络开销等在单应用不需要集群支持或者集群情况下各节点无需互相通知的场景下使用本地缓存较合适 同时它的缺点也是应为缓存跟应用程序耦合多个应用程序无法直接的共享缓存各应用或集群的各节点都需要维护自己的单独缓存对内存是一种浪费。
应用场景
缓存字典等常用数据
缓存介质 实现
编程直接实现 Ehcache
基本介绍
Ehcache是??一种基于标准的开源缓存可提高性能卸载数据库并简化可伸缩性。 它是使用最广泛的基于Java的缓存因为它功能强大经过验证功能齐全并与其他流行的库和框架集成。Ehcache可以从进程内缓存扩展到使用TB级缓存的混合进程内/进程外部署
应用场景 Ehcache应用场景
Ehcache架构图 Ehcache架构图
Ehcache主要特征 Ehcache主要特征
Ehcache缓存数据过期策略 Ehcache过期数据淘汰机制
懒淘汰机制每次往缓存放入数据的时候都会存一个时间在读取的时候要和设置的时间做TTL比较来判断是否过期 2.4 分布式缓存
基本介绍
Guava Cache是Google开源的Java重用工具集库Guava里的一款缓存工具
特点与功能 应用场景 数据结构图 Guava Cache数据结构图 缓存更新策略 缓存回收策略 2.4 分布式缓存
指的是与应用分离的缓存组件或服务其最大的优点是自身就是一个独立的应用与本地应用隔离多个应用可直接的共享缓存。
主要应用场景 主要接入方式 下面介绍分布式缓存常见的2大开源实现Memcached和Redis Memcached
基本介绍
Memcached是一个高性能分布式内存对象缓存系统通过在内存里维护一个统一的巨大的hash表它能够用来存储各种格式的数据包括图像、视频、文件以及数据库检索的结果等。简单的说就是将数据调用到内存中然后从内存中读取从而大大提高读取速度。
特点 基本架构 缓存数据过期策略
LRU最近最少使用到期失效策略在Memcached内存储数据项时可以指定它在缓存的失效时间默认为永久。当Memcached服务器用完分配的内时失效的数据被首先替换然后也是最近未使用的数据。
数据淘汰内部实现
懒淘汰机制每次往缓存放入数据的时候都会存一个时间在读取 的时候要和设置的时间做TTL比较来判断是否过期
分布式集群实现
服务端并没有 “ 分布式 ” 功能。每个服务器都是完全独立和隔离的服务。 Memcached的分布式是由客户端程序实现的 数据读写流程图 Memcached分布式集群实现 Redis
基本介绍
Redis是一个远程内存数据库非关系型数据库性能强劲具有复制特性以及解决问题而生的独一无二的数据模型。它可以存储键值对与5种不同类型的值之间的映射可以将存储在内存的键值对数据持久化到硬盘可以使用复制特性来扩展读性能 Redis还可以使用客户端分片来扩展写性能。内置了 复制replicationLUA脚本Lua scriptingLRU驱动事件LRU eviction事务transactions 和不同级别的 磁盘持久化persistence 并通过 Redis哨兵Sentinel和自动分区Cluster提供高可用性high availability。
数据模型 数据淘汰策略 数据淘汰内部实现 持久化方式 底层实现部分解析 启动的部分过程图解 server端持久化的部分操作图解 底层哈希表实现(渐进式Rehash)
初始化字典 新增字典元素图解 Rehash执行流程 缓存设计原则 Redis与Memcached比较 RedisMemcached支持的数据结构哈希、列表、集合、有序集合纯kev-value持久化支持有无高可用支持redis天然支持集群功能可以实现主动复制读写分离。官方也提供了sentinel集群管理工具能够实现主从服务监控故障自动转移这一切对于客户端都是透明的无需程序改动也无需人工介入需要二次开发存储value容量最大512M最大1M内存分配临时申请空间可能导致碎片预分配内存池的方式管理内存能够省去内存分配时间虚拟内存使用有自己的VM机制理论上能够存储比物理内存更多的数据当数据超量时会引发swap把冷数据刷到磁盘上所有的数据存储在物理内存里网络模型非阻塞IO复用模型,提供一些非KV存储之外的排序聚合功能在执行这些功能时复杂的CPU计算会阻塞整个IO调度非阻塞IO复用模型水平扩展的支持暂无暂无多线程Redis支持单线程Memcached支持多线程,CPU利用方面Memcache优于Redis过期策略有专门线程清除缓存数据懒淘汰机制每次往缓存放入数据的时候都会存一个时间在读取的时候要和设置的时间做TTL比较来判断是否过期单机QPS约10W约60W源代码可读性代码清爽简洁能是考虑了太多的扩展性多系统的兼容性代码不清爽适用场景复杂数据结构、有持久化、高可用需求、value存储内容较大纯KV数据量非常大并发量非常大的业务参考
从0开始学架构 —— Alibaba 李运华
Java核心技术36讲—— Oracle 杨晓峰
分析Redis架构设计 ——上帝禁区
Memcached官方文档
redis的持久化方式RDB和AOF的区别 —— 58沈剑
缓存你真的用对了么 —— 58沈剑
选redis还是memcached源码怎么说 —— 58沈剑
缓存那些事 —— 美团技术团队
Redis 缓存设计原则—— 雪飞鸿
Redis的缓存策略和主键失效机制 ——邴越
