一、缓存简介
缓存是为了调节速度不一致的两个或多个不同的物质的速度,在中间对速度较慢的一方起到加速作用,比如CPU的一级、二级缓存是保存了CPU最近经常访问的数据,内存是保存CPU经常访问硬盘的数据,而且硬盘也有大小不一的缓存,甚至是物理服务器的raid 卡有也缓存,都是为了起到加速CPU 访问硬盘数据的目的,因为CPU的速度太快了,CPU需要的数据由于硬盘往往不能在短时间内满足CPU的需求,因此CPU缓存、内存、Raid 卡缓存以及硬盘缓存就在一定程度上满足了CPU的数据需求,即CPU 从缓存读取数据可以大幅提高CPU的工作效率。
1、系统缓存
buffer: 缓冲也叫写缓冲,一般用于写操作,可以将数据先写入内存再写入磁盘,buffer 一般用于写缓冲,用于解决不同介质的速度不一致的缓冲,先将数据临时写入到里自己最近的地方,以提高写入速度,CPU会把数据先写到内存的磁盘缓冲区,然后就认为数据已经写入完成看,然后由内核在后续的时间在写入磁盘,所以服务器突然断电会丢失内存中的部分数据。
cache: 缓存也叫读缓存,一般用于读操作,CPU读文件从内存读,如果内存没有就先从硬盘读到内存再读到CPU,将需要频繁读取的数据放在里自己最近的缓存区域,下次读取的时候即可快速读取。
2、 缓存保存位置及分层结构
用户层: 浏览器DNS缓存,应用程序DNS缓存,操作系统DNS缓存客户端
代理层: CDN,反向代理缓存
Web层: Web服务器缓存
应用层 : 页面静态化
数据层: 分布式缓存,数据库
系统层: 操作系统cache
物理层: 磁盘cache,,Raid Cache
2.1、 DNS缓存
浏览器的DNS缓存默认为60秒,即60秒之内在访问同一个域名就不在进行DNS解析
2.2、 应用层缓存
Nginx、PHP等web服务可以设置应用缓存以加速响应用户请求,另外有些解释性语言,比如:PHP/Python/Java不能直接运行,需要先编译成字节码,但字节码需要解释器解释为机器码之后才能执行,因此字节码也是一种缓存,有时候还会出现程序代码上线后字节码没有更新的现象。所以一般上线新版前,需要先将应用缓存清理,再上线新版。
另外可以利用动态页面静态化技术,加速访问,比如:将访问数据库的数据的动态页面,提前用程序生成静态页面文件html 电商网站的商品介绍,评论信息非实时数据等皆可利用此技术实现。
2.3、 数据层缓存
分布式缓存服务
Redis Memcached 数据库
MySQL 查询缓存 innodb缓存、MYISAM缓存
2.4、 硬件缓存
CPU缓存(L1的数据缓存和L1的指令缓存)、二级缓存、三级缓存
磁盘缓存:Disk Cache
磁盘阵列缓存: Raid Cache,可使用电池防止断电丢失数据
二、关系数据库和非关系数据库
1、 什么是关系型数据库
一个结构化的数据库,创建在关系模型基础上 (二维表格模型)基础上
一般面向于记录
SQL语句(标准数据查询语言): 就是一种基于关系型数据库的语言,用于执行对关系型数据库中数据的检索和操作。 包括:Oracle、MySQL、SQL Server、Microsoft Access、DB2等
2、 什么是非关系型数据库
NoSQL (NoSQL=NotOnlySQL), 意思是“不仅仅是SQL",是非关系型数据库的总称。
除了主流的关系型数据库外的数据库,都认为是非关系型。
主流的NoSQL数据库有Redis、MongBD、Hbase、Memcached等。
3、 非关系型数据库的产生背景
High performance——对数据库高并发读写需求
Huge Storage——对海量数据高效存储与访问需求
High Scalability && High Availability——对数据库高可扩展性与高可用性需求
4、 关系型数据库和非关系型数据库区别
4.1、数据存储方式不同
关系型和非关系型数据库的主要差异是数据存储的方式。
关系型数据天然就是表格式的,因此存储在数据表的行和列中。数据表可以彼此关联协作存储,也很容易提取数据。
非关系型与其相反,数据不适合存储在数据表的行和列中,而是大块组合在一起。非关系型数据通常存储在数据集中,就像文档、键值对或者图结构。你的数据及其特性是选择数据存储和提取方式的首要影响因素。
关系型:依赖于关系模型E-R图,同时以表格式的方式存储数据 非关系型:除了以表格形式存储之外,通常会以大块的形式组合在一一起进行存储数据
4.2、展方式不同
SQL和NoSQL数据库最大的差别可能是在扩展方式上,要支持日益增长的需求当然要扩展。
要支持更多并发量,SQL数据库是纵向扩展,也就是说提高处理能力,使用速度更快速的计算机,这样处理相同的数据集就更快了。因为数据存储在关系表中,操作的性能瓶颈可能涉及很多个表,这都需要通过提高计算机性能来客服。虽然SQL数据库有很大扩展空间,但最终肯定会达到纵向扩展的上限。
而NoSQL数据库是横向扩展的。因为非关系型数据存储天然就是分布式的,NoSQL数据库的扩展可以通过给资源池添加更多普通的数据库服务器(节点) 来分担负载。
关系:纵向(天然表格式) 非关:横向(天然分布式)
4.3、 对事务性的支持不同
如果数据操作需要高事务性或者复杂数据查询需要控制执行计划,那么传统的SQL数据库从性能和稳定性方面考虑是最佳选择。SQL数据库支持对事务原子性细粒度控制,并且易于回滚事务。虽然NoSQL数据库也可以使用事务操作,但稳定性方面没法和关系型数据库比较,所以它们真正闪亮的价值是在操作的扩展性和大数据量处理方面。
关系型:特别适合高事务性要求和需要控制执行计划的任务 非关系:此处会稍显弱势,其价值点在于高扩展性和大数据量处理方面
5、总结
关系型数据库: 实例–> 数据库–> 表(table)–> 记录行(row)、数据字段(column)
非关系型数据库: 实例–> 数据库–> 集合(collection)–> 键值对(key-value) 非关系型数据库不需要手动建数据库和集合(表)。
三、Redis
1、 简介
-
Redis是一个开源的、使用C语言编写的NoSOL数据库,Redis服务器程序是单进程模型。 -
Redis基于内存运行并支持持久化(支持存储在磁盘),采用key-value(键值对)的存储形式,是目前分布式架构中不可或缺的一环。 -
Redis服务在一台服务器上可以同时启动多个Redis进程,Redis的实际处理速度则是完全依靠于主进程的执行效率。 -
若在服务器上只运行一个Redis进程, 当多个客户端同时访问时, 服务器的处理能力是会有一定程度的下降; -
若在同一台服务器上开启 多个Redis进程, Redis在提高并发处理能力的同时会给服务器的CPU造成很大压力。 即在实际生产环境中, 需要根据实际的需求来决定开启多少个Redis进程。 (一般建议开启2个,用作备份和抗高并发) -
若对高并发要求更高一些, 可能会考虑在同一台服务器上开启多个进程。 若CPU资源比较紧张,采用单进程即可。
2 、Redis优点
具有极高的数据读写速度:数据读取的速度最高可达到110000次/s,数据写入速度最高可达到81000次/s。、
支持丰富的数据类型:支持key-value、 Strings、Lists、Hashes ( 散列值)、Sets及OrderedSets等数据类型操作。 ps : string 字符串(可以为整形、浮点和字符型,统称为元素) list列表:(实现队列,元素不唯一,先出先出原则) set 集合:(各不相同的元素) hash hash散列值: (hash的key必须是唯一的 ) set /ordered sets 集合/有序集合
支持数据的持久化:可以将内存中的数据保存在磁盘中,重启的时候可以再次加载进行使用。
原子性:Redis所有 操作都是原子性的。
支持数据备份:即master-salve 模式的数据备份。
Redis作为基于内存运行的数据库,缓存是其最常应用的场景之一。除此之外,Redis常见应用场景还包括获取最新N个数据的操作、排行榜类应用、计数器应用、存储关系、实时分析系统、日志记录
3、 单线程
Redis 6.0版本前一直是单线程方式处理用户的请求
-单线程为何如此快?
4、 redis 对比 memcached
支持数据的持久化:可以将内存中的数据保持在磁盘中,重启redis服务或者服务器之后可以从备份文件中恢复数据到内存继续使用
支持更多的数据类型:支持string(字符串)、hash(哈希数据)、list(列表)、set(集合)、zset(有序集合)
支持数据的备份:可以实现类似于数据的master-slave模式的数据备份,另外也支持使用快照+AOF
支持更大的value数据:memcache单个key value最大只支持1MB,而redis最大支持512MB(生产不建议超过2M,性能受影响)
在Redis6版本前,Redis 是单线程,而memcached是多线程,所以单机情况下没有memcached 并发高,性能更好,但redis 支持分布式集群以实现更高的并发,单Redis实例可以实现数万并发
支持集群横向扩展:基于redis cluster的横向扩展,可以实现分布式集群,大幅提升性能和数据安全性
都是基于 C 语言开发
数据库 | memcached | redis |
---|
类型 | key-value | key-value | 过期策略 | 支持 | 支持 | 数据类型 | 单一数据类型 | 五大数据类型 | 持久化 | 不支持 | 支持 | 主从复制 | 不支持 | 支持 | 虚拟内存 | 不支持 | 支持 |
四、Redis 安装部署
systemctl stop firewalld
systemctl disable firewalld
setenforce 0
yum install -y gcc gcc-c++ make
cd /opt/
tar zxvf redis-5.0.7.tar.gz
cd /opt/redis-5.0.7/
make
make PREFIX=/usr/local/redis install
cd /opt/redis-5.0.7/utils
./install_server.sh
Please select the redis executable path [] /usr/local/redis/bin/ redis-server
Selected config:
Port : 6379
Config file : /etc/redis/6379.conf
Log file : /var/log/redis_6379.log
Data dir : /var/lib/ redis/6379
Executable : /usr/local/redis/bin/redis-server
Cli Executable : /usr/local/redis/bin/redis-cli
ln -s /usr/local/redis/bin/* /usr/local/bin/
netstat -natp | grep redis
vim /etc/redis/6379.conf
bind 127.0.0.1 192.168.159.50
port 6379
daemonize yes
pidfile /var/run/redis_6379.pid
loglevel notice
logfile /var/log/redis_6379.log
/etc/init.d/redis_6379 restart
netstat -natp | grep redis
/etc/init.d/redis_6379 stop
/etc/init.d/redis_6379 start
/etc/init.d/redis_6379 restart
/etc/init.d/redis_6379 status
1、 关闭防火墙和SElinux
2、安装gcc gcc-c++ 编译器
3、切换至/opt目录,把下载好的安装包上传进来并解压
4、进入目录然后编译安装
5、执行install_server.sh脚本
6、优化路径并查端口是否打开
7、修改配置文件
8、重启redis查看监听的地址
9、Redis服务控制
/etc/init.d/redis_6379 stop
/etc/init.d/redis_6379 start
/etc/init.d/redis_6379 restart
/etc/init.d/redis_6379 status
Redis命令工具
Redis命令工具的功能:
redis-server: 用于启动Redis的工具
redi s-benchmark: 用于检测Redis在本机的运行效率
redis-check-aof: 修复AOF持久化文件
redis-check-rdb: 修复RDB持久化文件
redis-cli: Redis命令行工具
五、redis-cli命令行工具(远程登录)
redis-cli -h host -p port -a password
-h :指定远程主机
-p :指定Redis 服务的端口号
-a :指定密码,未设置数据库密码可以省略-a选项
-n :指定进入库的序列号
若不添加任何选项表示,则使用127.0.0.1:6379 连接本机上的 Redis 数据库,
redis-cli -h 192.168.159.50 -p 6379
六、redis-benchmark 测试工具
redis-benchmark 是官方自带的 Redis 性能测试工具,可以有效的测试 Redis 服务的性能。
1、格式:
redis-benchmark [选项] [选项值]
2、选项
-h : 指定服务器主机名
-p : 指定服务器端口
-s : 指定服务器socket(套接字)
-c : 指定并发连接数
-n : 指定请求数
-d : 以字节的形式指定SET/GET值的数据大小
-k : 1=keep alive O=reconnect
-r : SET/GET/INCR使用随机key,SADD使用随机值
-P : 通过管道传输请求
-q : 强制退出redis。仅显示querylsec值
-csv : 以csv格式输出
-1 : 生成循环,永久执行测试
-t : 仅运行以逗号分隔的测试命令列表
-l : ldle模式。仅打开N个idle连接并等待
示例1: 向IP地址为192.168.159.50、端口为6379的Redis服务器发送100个并发连接与100000个请求测试性能
redis-benchmark -h 192.168.159.50 -p 6379 -c 100 -n 100000
示例2:测试存取大小为100字节的数据包的性能。
redis-benchmark -h 192.168.159.50 -p 6379 -q -d 100
示例3:测试本机上Redis 服务在进行set与lpush操作时的性能。
redis-benchmark -t set,lpush -n 100000 -q
七、Redis 数据库常用命令
set: 存放数据,命令格式为 set key value
get: 获取数据,命令格式为 get key
keys s * : 获取所有的key
keys s* : 以s开头的数据
keys s? : 以s开头后面包含任意—位的数据
exists aaa : 判断aaa是否存在(存在:1,不存在:0)
del key : 删除当前数据库的key
type key : 获取key对应的value值类型
rename key1 key2 : 将key1修改为key2
renamenx key1 key2 : 将key1修改为key2之前判断key2是否存在,不存在则重命名
dbsize : 查看当前数据库中key的数目
1.set: 存放数据,命令格式为 set key value
2.get: 获取数据,命令格式为 get key
redis-cli
127.0.0.1:6379> set shuaige cl
OK
127.0.0.1:6379> get shuaige
"cl"
3.keys 命令可以取符合规则的键值列表,通常情况可以结合*、?等选项来使用。
127.0.0.1:6379> set k1 1
127.0.0.1:6379> set k2 2
127.0.0.1:6379> set k3 3
127.0.0.1:6379> set v1 4
127.0.0.1:6379> set v5 5
127.0.0.1:6379> set v22 5
127.0.0.1:6379> KEYS *
1) "v5"
2) "myset:__rand_int__"
3) "v1"
4) "counter:__rand_int__"
5) "v22"
6) "teacher"
7) "k2"
8) "mylist"
9) "k3"
10) "key:__rand_int__"
11) "k1"
127.0.0.1:6379> KEYS v*
1) "v5"
2) "v1"
3) "v22"
127.0.0.1:6379> KEYS v?
1) "v5"
2) "v1"
127.0.0.1:6379> KEYS v??
1) "v22"
4.exists 命令可以判断键值是否存在
127.0.0.1:6379> exists teacher
(integer) 1
127.0.0.1:6379> exists tea
(integer) 0
5.del 命令可以删除当前数据库的指定key
127.0.0.1:6379> keys *
127.0.0.1:6379> del v5
(integer) 1
127.0.0.1:6379> get v5
(nil)
6.type 命令可以获取key对应的 value 值类型。
127.0.0.1:6379> type k1
string
7.rename 命令是对已有key进行重命名。 (覆盖)
命令格式: rename 源key 目标key
使用rename命令进行重命名时,无论目标key是否存在都进行重命名,且源key的值会覆盖目标key的值。在实际使用过程中,建议先用 exists命令查看目标key是否存在,然后再决定是否执行rename命令,以避免覆盖重要数据。
127.0.0.1:6379> keys v*
1) "v1"
2) "v22"
127.0.0.1:6379> rename v22 v2
OK
127.0.0.1:6379> keys v*
1) "v1"
2) "v2"
127.0.0.1:6379> get v1
"4"
127.0.0.1:6379> get v2
"5"
127.0.0.1:6379> rename v1 v2
127.0.0.1:6379> get v1
(nil)
127.0.0.1:6379> get v2
"4"
8.renamenx 命令的作用是对已有key进行重命名,并检测新名是否存在,如果目标key存在则不进行重命名。 (不覆盖)
命令格式: renamenx 源key 目标key
127.0.0.1 :6379> keys *
127.0.0.1:6379> get teacher
"zhangsan"
127.0.0.1:6379> get v2
"4"
127.0.0.1:6379> renamenx v2 teacher
(integer) 0
127.0.0.1:6379> keys *
127.0.0.1 :6379> get teacher
"zhangsan"
127.0.0.1:6379> get v2
"4"
9.dbsize命令的作用是查看当前数据库中key的数目。
127.0.0.1:6379> dbsize
(integer) 9
127.0.0.1:6379> config set requirepass 123456
127.0.0.1 : 6379> auth 123456
127.0.0.1:6379> config get requirepass
127.0.0.1:6379> auth 123123
127.0.0.1:6379> config set requirepass ''
1、数据的存放set、获取get
2、 获取所有的keys
3、以a开头的数据、以b开头后面包含任意—位的数据、以c开头后面包含任意两位的数据
4、判断数据是否存在exists
5、 删除数据del
6 、rename命令是对已有key进行重命名(覆盖)
7 、renamenx 命令的作用是对已有key进行重命名,并检测新名是否存在,如果目标key存在则不进行重命名(不覆盖)
#格式: rename 源key 目标key
使用rename命令进行重命名时,无论目标key是否存在都进行重命名,且源key的值会覆盖目标key的值。在实际使用过程中,建议先用 exists命令查看目标key是否存在,然后再决定是否执行rename命令,以避免覆盖重要数据。
8 、dbsize命令查看当前数据库中key的数目
9 、type获取值类型
10 、设置密码
使用config set requirepass password命令设置密码
使用config get requirepass命令查看密码(一旦设置密码,必须先验证通过密码,否则所有操作不可用)
例:
config set requirepass 123456
auth 123456
config get requirepass
quit
redis-cli
keys *
auth 123456
keys *
11、删除密码
127.0.0.1:6379> config set requirepass ' '
八、Redis 多数据库常用命令
Redis支持多数据库,Redis 默认情况下包含16个数据库,数据库名称是用数字0-15 来依次命名的。 多个数据库之间相互独立,互不干扰。
1、多数据库间切换
命令格式:
select 序号
使用redis-cli连接Redis数据库后,默认使用的是序号为0的数据库。
select 10
select 15
select 0
2、 多数据库间移动数据
格式:
move 键值 序号
127.0.0.1:6379> set k1 100
OK
127.0.0.1:6379> get k1
"100"
127.0.0.1:6379> select 1
OK
127.0.0.1:6379[1]> get k1
(nil)
127.0.0.1:6379[1]> select 0
OK
127.0.0.1:6379> get k1
"100"
127.0.0.1:6379> move k1 1
(integer) 1
127.0.0.1:6379> select 1
OK
127.0.0.1:6379[1]> get k1
"100"
127.0.0.1:6379[1]> select 0
OK
127.0.0.1:6379> get k1
(nil)
3 、清除数据库内数据
flushdb:清空当前数据库数据
flushall :清空所有数据库的数据,慎用!(最好不用)
九、部署redis脚本
将安装包放入/opt目录下,编辑一个脚本文件,复制以下内容,直接执行即可
#!/bin/bash
echo -e "\033[31m =====正在验证当前为仅主机还是NAT模式===== \033[0m"
ping -c1 -W1 www.baidu.com &> /dev/null
if [ $? -eq 0 ];then echo -e "\033[31m 检测当前为NAT模式,为您配置在线yum源 \033[0m"
mkdir -p /etc/yum.repos.d/repo.bak
mv -f /etc/yum.repos.d/* /etc/yum.repos.d/repo.bak &> /dev/null
wget -O /etc/yum.repos.d/CentOS-Base.repo https://mirrors.aliyun.com/repo/Centos-7.repo &> /dev/null
yum clean all &> /dev/null
yum list &> /dev/null
echo -e "\033[31m 在线源已配置完成 \033[0m"
else
echo -e "\033[31m 检测当前为仅主机模式,为您配置本地yum源 \033[0m"
mount /dev/sr0 /mnt &> /dev/null
cd /etc/yum.repos.d/
mkdir -p /etc/yum.repos.d/repo.bak
mv -f /etc/yum.repos.d/* /etc/yum.repos.d/repo.bak &> /dev/null
echo '[local]
name=local
baseurl=file:///mnt
enabled=1
gpgcheck=0' > /etc/yum.repos.d/local.repo
yum clean all &> /dev/null
yum makecache &> /dev/null
df -h | grep "/mnt"
if [ $? -ne 0 ];then
echo -e "\033[31m 检测当前为仅主机模式,但光盘未连接! \033[0m"
else
echo -e "\033[31m 本地yum源已配置完成 \033[0m"
fi
fi
systemctl stop firewalld
setenforce 0
yum install -y gcc gcc-c++ make
yum -y install expect
cd /opt
tar zxvf redis-5.0.7.tar.gz -C /opt/
cd /opt/redis-5.0.7/
make
make PREFIX=/usr/local/redis install
cd /opt/redis-5.0.7/utils
/usr/bin/expect <<EOF
spawn ./install_server.sh
expect "instance" {send "\r"}
expect "config" {send "\r"}
expect "log" {send "\r"}
expect "data" {send "\r"}
expect "executable" {send "/usr/local/redis/bin/redis-server\r"}
expect "abort" {send "\r"}
expect eof
EOF
ln -s /usr/local/redis/bin/* /usr/local/bin/
/etc/init.d/redis_6379 restart
sed -i 's/bind 127.0.0.1/bind 0.0.0.0/' /etc/redis/6379.conf
sed -i 's/appendonly no/appendonly yes/' /etc/redis/6379.conf
/etc/init.d/redis_6379 restart
/etc/init.d/redis_6379 status
netstat -natp | grep redis
|