[大数据]Linux-NoSQL之Redis配置与优化一

一、缓存简介

缓存是为了调节速度不一致的两个或多个不同的物质的速度，在中间对速度较慢的一方起到加速作用，比如CPU的一级、二级缓存是保存了CPU最近经常访问的数据，内存是保存CPU经常访问硬盘的数据，而且硬盘也有大小不一的缓存，甚至是物理服务器的raid 卡有也缓存，都是为了起到加速CPU 访问硬盘数据的目的，因为CPU的速度太快了，CPU需要的数据由于硬盘往往不能在短时间内满足CPU的需求，因此CPU缓存、内存、Raid 卡缓存以及硬盘缓存就在一定程度上满足了CPU的数据需求，即CPU 从缓存读取数据可以大幅提高CPU的工作效率。

1、系统缓存

buffer： 缓冲也叫写缓冲，一般用于写操作，可以将数据先写入内存再写入磁盘，buffer 一般用于写缓冲，用于解决不同介质的速度不一致的缓冲，先将数据临时写入到里自己最近的地方，以提高写入速度，CPU会把数据先写到内存的磁盘缓冲区，然后就认为数据已经写入完成看，然后由内核在后续的时间在写入磁盘，所以服务器突然断电会丢失内存中的部分数据。

cache： 缓存也叫读缓存，一般用于读操作，CPU读文件从内存读，如果内存没有就先从硬盘读到内存再读到CPU，将需要频繁读取的数据放在里自己最近的缓存区域，下次读取的时候即可快速读取。

2、 缓存保存位置及分层结构

用户层: 浏览器DNS缓存，应用程序DNS缓存，操作系统DNS缓存客户端

代理层: CDN，反向代理缓存

Web层: Web服务器缓存

应用层 : 页面静态化

数据层: 分布式缓存，数据库

系统层: 操作系统cache

物理层: 磁盘cache,，Raid Cache

2.1、 DNS缓存

浏览器的DNS缓存默认为60秒，即60秒之内在访问同一个域名就不在进行DNS解析

2.2、 应用层缓存

Nginx、PHP等web服务可以设置应用缓存以加速响应用户请求，另外有些解释性语言，比如：PHP/Python/Java不能直接运行，需要先编译成字节码，但字节码需要解释器解释为机器码之后才能执行，因此字节码也是一种缓存，有时候还会出现程序代码上线后字节码没有更新的现象。所以一般上线新版前,需要先将应用缓存清理,再上线新版。

另外可以利用动态页面静态化技术,加速访问,比如:将访问数据库的数据的动态页面,提前用程序生成静态页面文件html 电商网站的商品介绍,评论信息非实时数据等皆可利用此技术实现。

2.3、 数据层缓存

分布式缓存服务

Redis
Memcached
数据库

MySQL 查询缓存
innodb缓存、MYISAM缓存

2.4、 硬件缓存

CPU缓存(L1的数据缓存和L1的指令缓存)、二级缓存、三级缓存

磁盘缓存:Disk Cache

磁盘阵列缓存: Raid Cache,可使用电池防止断电丢失数据

二、关系数据库和非关系数据库

1、 什么是关系型数据库

一个结构化的数据库，创建在关系模型基础上 (二维表格模型)基础上

一般面向于记录

SQL语句(标准数据查询语言)：
就是一种基于关系型数据库的语言，用于执行对关系型数据库中数据的检索和操作。 包括：Oracle、MySQL、SQL Server、Microsoft Access、DB2等

2、 什么是非关系型数据库

NoSQL (NoSQL=NotOnlySQL)， 意思是“不仅仅是SQL"，是非关系型数据库的总称。

除了主流的关系型数据库外的数据库，都认为是非关系型。

主流的NoSQL数据库有Redis、MongBD、Hbase、Memcached等。

3、 非关系型数据库的产生背景

High performance——对数据库高并发读写需求

Huge Storage——对海量数据高效存储与访问需求

High Scalability && High Availability——对数据库高可扩展性与高可用性需求

4、 关系型数据库和非关系型数据库区别

4.1、数据存储方式不同

关系型和非关系型数据库的主要差异是数据存储的方式。

关系型数据天然就是表格式的，因此存储在数据表的行和列中。数据表可以彼此关联协作存储，也很容易提取数据。

非关系型与其相反，数据不适合存储在数据表的行和列中，而是大块组合在一起。非关系型数据通常存储在数据集中，就像文档、键值对或者图结构。你的数据及其特性是选择数据存储和提取方式的首要影响因素。

关系型:依赖于关系模型E-R图，同时以表格式的方式存储数据 非关系型:除了以表格形式存储之外，通常会以大块的形式组合在一一起进行存储数据

4.2、展方式不同

SQL和NoSQL数据库最大的差别可能是在扩展方式上，要支持日益增长的需求当然要扩展。

要支持更多并发量，SQL数据库是纵向扩展，也就是说提高处理能力，使用速度更快速的计算机，这样处理相同的数据集就更快了。因为数据存储在关系表中，操作的性能瓶颈可能涉及很多个表，这都需要通过提高计算机性能来客服。虽然SQL数据库有很大扩展空间，但最终肯定会达到纵向扩展的上限。

而NoSQL数据库是横向扩展的。因为非关系型数据存储天然就是分布式的，NoSQL数据库的扩展可以通过给资源池添加更多普通的数据库服务器(节点) 来分担负载。

关系:纵向(天然表格式) 非关:横向(天然分布式)

4.3、 对事务性的支持不同

如果数据操作需要高事务性或者复杂数据查询需要控制执行计划，那么传统的SQL数据库从性能和稳定性方面考虑是最佳选择。SQL数据库支持对事务原子性细粒度控制，并且易于回滚事务。虽然NoSQL数据库也可以使用事务操作，但稳定性方面没法和关系型数据库比较，所以它们真正闪亮的价值是在操作的扩展性和大数据量处理方面。

关系型:特别适合高事务性要求和需要控制执行计划的任务 非关系:此处会稍显弱势，其价值点在于高扩展性和大数据量处理方面

5、总结

关系型数据库: 实例–> 数据库–> 表(table)–> 记录行(row)、数据字段(column)

非关系型数据库: 实例–> 数据库–> 集合(collection)–> 键值对(key-value) 非关系型数据库不需要手动建数据库和集合(表)。

三、Redis

1、 简介

• Redis是一个开源的、使用C语言编写的NoSOL数据库，Redis服务器程序是单进程模型。

• Redis基于内存运行并支持持久化（支持存储在磁盘），采用key-value（键值对）的存储形式，是目前分布式架构中不可或缺的一环。

• Redis服务在一台服务器上可以同时启动多个Redis进程，Redis的实际处理速度则是完全依靠于主进程的执行效率。

• 若在服务器上只运行一个Redis进程， 当多个客户端同时访问时， 服务器的处理能力是会有一定程度的下降;

• 若在同一台服务器上开启 多个Redis进程， Redis在提高并发处理能力的同时会给服务器的CPU造成很大压力。 即在实际生产环境中， 需要根据实际的需求来决定开启多少个Redis进程。 （一般建议开启2个，用作备份和抗高并发）

• 若对高并发要求更高一些， 可能会考虑在同一台服务器上开启多个进程。 若CPU资源比较紧张，采用单进程即可。

2 、Redis优点

具有极高的数据读写速度：数据读取的速度最高可达到110000次/s，数据写入速度最高可达到81000次/s。、

支持丰富的数据类型：支持key-value、 Strings、Lists、Hashes ( 散列值)、Sets及OrderedSets等数据类型操作。
ps :
string 字符串(可以为整形、浮点和字符型，统称为元素)
list列表:(实现队列，元素不唯一，先出先出原则)
set 集合:(各不相同的元素)
hash hash散列值: (hash的key必须是唯一的 )
set /ordered sets 集合/有序集合

支持数据的持久化：可以将内存中的数据保存在磁盘中，重启的时候可以再次加载进行使用。

原子性：Redis所有 操作都是原子性的。

支持数据备份：即master-salve 模式的数据备份。

Redis作为基于内存运行的数据库，缓存是其最常应用的场景之一。除此之外，Redis常见应用场景还包括获取最新N个数据的操作、排行榜类应用、计数器应用、存储关系、实时分析系统、日志记录

3、 单线程

Redis 6.0版本前一直是单线程方式处理用户的请求

-单线程为何如此快?

• 纯内存
• 非阻塞
• 避免线程切换和竞态消耗

4、 redis 对比 memcached

支持数据的持久化：可以将内存中的数据保持在磁盘中，重启redis服务或者服务器之后可以从备份文件中恢复数据到内存继续使用

支持更多的数据类型：支持string(字符串)、hash(哈希数据)、list(列表)、set(集合)、zset(有序集合)

支持数据的备份：可以实现类似于数据的master-slave模式的数据备份，另外也支持使用快照+AOF

支持更大的value数据：memcache单个key value最大只支持1MB，而redis最大支持512MB(生产不建议超过2M,性能受影响)

在Redis6版本前,Redis 是单线程，而memcached是多线程，所以单机情况下没有memcached 并发高,性能更好,但redis 支持分布式集群以实现更高的并发，单Redis实例可以实现数万并发

支持集群横向扩展：基于redis cluster的横向扩展，可以实现分布式集群，大幅提升性能和数据安全性

都是基于 C 语言开发

四、Redis 安装部署

# 关闭防火墙和SElinux 
systemctl stop firewalld
systemctl disable firewalld
setenforce 0
 
#安装gcc gcc-c++ 编译器
yum install -y gcc gcc-c++ make
 
#切换至/opt目录，把下载好的安装包上传进来并解压
cd /opt/
tar zxvf redis-5.0.7.tar.gz 
 
#进入目录然后编译安装
cd /opt/redis-5.0.7/
make
make PREFIX=/usr/local/redis install
 
#由于Redis源码包中直接提供了Makefile 文件，所以在解压完软件包后，
#不用先执行./configure 进行配置，可直接执行make与make install命令进行安装
 
#执行install_server.sh脚本
cd /opt/redis-5.0.7/utils 
./install_server.sh  #一路回车，直到让你输入路径这一步
#路径需要手动输入
Please select the redis executable path [] /usr/local/redis/bin/ redis-server
 
Selected config:
Port               : 6379                               #默认侦听端口为6379
Config file        : /etc/redis/6379.conf               #配置文件路径
Log file           : /var/log/redis_6379.log            #日志文件路径
Data dir           : /var/lib/ redis/6379               #数据文件路径
Executable         : /usr/local/redis/bin/redis-server  #可执行文件路径
Cli Executable     : /usr/local/redis/bin/redis-cli     #客户端命令工具
 
#优化路径并查端口是否打开
#把redis的可执行程序文件放入路径环境变量的目录中便于系统识别
ln -s /usr/local/redis/bin/* /usr/local/bin/
 
#当install_server.sh 脚本运行完毕，Redis 服务就已经启动，默认侦听端口为6379
netstat -natp | grep redis
 
#修改配置文件
vim /etc/redis/6379.conf
bind 127.0.0.1 192.168.159.50      		  #70行，添加监听的主机地址
port 6379                        		  #93行，Redis默认的监听端口
daemonize yes                     		  #137行，启用守护进程
pidfile /var/run/redis_6379.pid  		  #159行，指定PID文件
loglevel notice                   		  #167行，日志级别
logfile /var/log/redis_6379.log  		  #172行，指定日志文
 
 #重启redis查看监听的地址
/etc/init.d/redis_6379 restart    #重启

netstat -natp | grep redis

##Redis服务控制
/etc/init.d/redis_6379 stop       #停止
/etc/init.d/redis_6379 start      #启动
/etc/init.d/redis_6379 restart    #重启
/etc/init.d/redis_6379 status     #状态

1、 关闭防火墙和SElinux

2、安装gcc gcc-c++ 编译器

3、切换至/opt目录，把下载好的安装包上传进来并解压

4、进入目录然后编译安装

5、执行install_server.sh脚本

6、优化路径并查端口是否打开

7、修改配置文件

8、重启redis查看监听的地址

9、Redis服务控制

/etc/init.d/redis_6379 stop       #停止
/etc/init.d/redis_6379 start      #启动
/etc/init.d/redis_6379 restart    #重启
/etc/init.d/redis_6379 status     #状态

Redis命令工具

• RDB 和 AOF是redis服务中持久化功能的两种形式

• redis-cli常用于登陆至redis数据库

Redis命令工具的功能：
redis-server：          用于启动Redis的工具
redi s-benchmark：      用于检测Redis在本机的运行效率
redis-check-aof：       修复AOF持久化文件
redis-check-rdb：       修复RDB持久化文件
redis-cli：	            Redis命令行工具

五、redis-cli命令行工具（远程登录）

#格式: 
redis-cli -h host -p port -a password
 
#选项：
	-h :指定远程主机
	-p :指定Redis 服务的端口号
	-a :指定密码，未设置数据库密码可以省略-a选项
	-n :指定进入库的序列号
若不添加任何选项表示，则使用127.0.0.1:6379 连接本机上的 Redis 数据库，
 
#示例
redis-cli -h 192.168.159.50  -p 6379

六、redis-benchmark 测试工具

redis-benchmark 是官方自带的 Redis 性能测试工具，可以有效的测试 Redis 服务的性能。

1、格式：

redis-benchmark [选项] [选项值]

2、选项

-h ：   指定服务器主机名
-p ：   指定服务器端口
-s ：   指定服务器socket(套接字)
-c ：   指定并发连接数
-n ：   指定请求数
-d ：	以字节的形式指定SET/GET值的数据大小
-k ：	1=keep alive O=reconnect
-r ：   SET/GET/INCR使用随机key，SADD使用随机值
-P ：   通过管道传输请求
-q ：   强制退出redis。仅显示querylsec值
-csv ： 以csv格式输出
-1 ：   生成循环，永久执行测试
-t ：	仅运行以逗号分隔的测试命令列表
-l ：   ldle模式。仅打开N个idle连接并等待

示例1： 向IP地址为192.168.159.50、端口为6379的Redis服务器发送100个并发连接与100000个请求测试性能

redis-benchmark -h 192.168.159.50 -p 6379 -c 100 -n 100000

示例2：测试存取大小为100字节的数据包的性能。

redis-benchmark -h 192.168.159.50 -p 6379 -q -d 100

示例3：测试本机上Redis 服务在进行set与lpush操作时的性能。

redis-benchmark -t set,lpush -n 100000 -q

七、Redis 数据库常用命令

set: 存放数据，命令格式为 set key value

get: 获取数据，命令格式为 get key

keys s *	：          获取所有的key

keys s* ：	            以s开头的数据

keys s? ：	            以s开头后面包含任意—位的数据

exists aaa ：	        判断aaa是否存在(存在:1，不存在:0)

del key ：	            删除当前数据库的key

type key ：	            获取key对应的value值类型

rename key1 key2 ：	    将key1修改为key2

renamenx key1 key2 ：	将key1修改为key2之前判断key2是否存在，不存在则重命名

dbsize ：	            查看当前数据库中key的数目

1.set: 存放数据，命令格式为 set key value
2.get: 获取数据，命令格式为 get key

redis-cli 
127.0.0.1:6379> set shuaige cl
OK
127.0.0.1:6379> get shuaige
"cl"

3.keys 命令可以取符合规则的键值列表，通常情况可以结合*、?等选项来使用。
127.0.0.1:6379> set k1 1 
127.0.0.1:6379> set k2 2 
127.0.0.1:6379> set k3 3
127.0.0.1:6379> set v1 4
127.0.0.1:6379> set v5 5
127.0.0.1:6379> set v22 5

127.0.0.1:6379> KEYS *        #查看当前数据库中所有键
 1) "v5"
 2) "myset:__rand_int__"
 3) "v1"
 4) "counter:__rand_int__"
 5) "v22"
 6) "teacher"
 7) "k2"
 8) "mylist"
 9) "k3"
10) "key:__rand_int__"
11) "k1"

127.0.0.1:6379> KEYS v*       #查看当前数据库中以v开头的数据
1) "v5"
2) "v1"
3) "v22"

127.0.0.1:6379> KEYS v?       #查看当前数据库中以v开头后面包含任意一位的数据
1) "v5"
2) "v1"

127.0.0.1:6379> KEYS v??      #查看当前数据库中以v开头v开头后面包含任意两位的数据
1) "v22"

4.exists 命令可以判断键值是否存在
127.0.0.1:6379> exists teacher    #判断teacher 键是否存在
(integer) 1                       # 1表示teacher 键是存在
127.0.0.1:6379> exists tea
(integer) 0                       #0表示tea键不存在

5.del 命令可以删除当前数据库的指定key
127.0.0.1:6379> keys *
127.0.0.1:6379> del v5 
(integer) 1
127.0.0.1:6379> get v5
(nil)

6.type 命令可以获取key对应的 value 值类型。
127.0.0.1:6379> type k1
string 

7.rename 命令是对已有key进行重命名。 (覆盖)
命令格式: rename 源key  目标key
使用rename命令进行重命名时，无论目标key是否存在都进行重命名，且源key的值会覆盖目标key的值。在实际使用过程中，建议先用 exists命令查看目标key是否存在，然后再决定是否执行rename命令，以避免覆盖重要数据。

127.0.0.1:6379> keys v*
1) "v1"
2) "v22"
127.0.0.1:6379> rename v22 v2
OK
127.0.0.1:6379> keys v*
1) "v1"
2) "v2"
127.0.0.1:6379> get v1
"4"
127.0.0.1:6379> get v2
"5"
127.0.0.1:6379> rename v1 v2
127.0.0.1:6379> get v1
(nil)
127.0.0.1:6379> get v2
"4"

8.renamenx 命令的作用是对已有key进行重命名，并检测新名是否存在，如果目标key存在则不进行重命名。 (不覆盖)
命令格式: renamenx 源key  目标key
127.0.0.1 :6379> keys *
127.0.0.1:6379> get teacher
"zhangsan"
127.0.0.1:6379> get v2
"4"
127.0.0.1:6379> renamenx v2 teacher
(integer) 0
127.0.0.1:6379> keys *
127.0.0.1 :6379> get teacher
"zhangsan"
127.0.0.1:6379> get v2
"4"

9.dbsize命令的作用是查看当前数据库中key的数目。
127.0.0.1:6379> dbsize
(integer) 9

#使用config set requi repass yourpassword 命令设置密码
127.0.0.1:6379> config set requirepass 123456

#使用config get requirepass 命令查看密码(一旦设置密码，必须先验证通过密码，否则所有操作不可用)
127.0.0.1 : 6379> auth 123456
127.0.0.1:6379> config get requirepass

# 删除密码
127.0.0.1:6379> auth 123123
127.0.0.1:6379> config set requirepass ''

1、数据的存放set、获取get

2、 获取所有的keys

3、以a开头的数据、以b开头后面包含任意—位的数据、以c开头后面包含任意两位的数据

4、判断数据是否存在exists

5、 删除数据del

6 、rename命令是对已有key进行重命名(覆盖)

7 、renamenx 命令的作用是对已有key进行重命名，并检测新名是否存在，如果目标key存在则不进行重命名(不覆盖)

#格式:
rename 源key 目标key

使用rename命令进行重命名时，无论目标key是否存在都进行重命名，且源key的值会覆盖目标key的值。在实际使用过程中，建议先用 exists命令查看目标key是否存在，然后再决定是否执行rename命令，以避免覆盖重要数据。

8 、dbsize命令查看当前数据库中key的数目

9 、type获取值类型

10 、设置密码

使用config set requirepass password命令设置密码
使用config get requirepass命令查看密码（一旦设置密码，必须先验证通过密码，否则所有操作不可用）
例：
config set requirepass 123456
auth 123456
config get requirepass
quit
redis-cli
keys *
auth 123456
keys *

11、删除密码

127.0.0.1:6379> config set requirepass  ' '
#以上不设置，无法重启redis

八、Redis 多数据库常用命令

Redis支持多数据库，Redis 默认情况下包含16个数据库，数据库名称是用数字0-15 来依次命名的。 多个数据库之间相互独立，互不干扰。

1、多数据库间切换

命令格式:

 select 序号

使用redis-cli连接Redis数据库后，默认使用的是序号为0的数据库。
select 10			#切换至序号为10的数据库
select 15 			#切换至序号为15的数据库
select 0			#切换至序号为0的数据库

2、 多数据库间移动数据

格式:

move 键值 序号

127.0.0.1:6379> set k1 100
OK
127.0.0.1:6379> get k1
"100"
127.0.0.1:6379> select 1
OK
127.0.0.1:6379[1]> get k1
(nil)
127.0.0.1:6379[1]> select 0    #切换至目标数据库0
OK
127.0.0.1:6379> get k1         #查看目标数据是否存在
"100"
127.0.0.1:6379> move k1 1      #将数据库0中k1移动到数据库1中
(integer) 1
127.0.0.1:6379> select 1       #切换至目标数据库1
OK
127.0.0.1:6379[1]> get k1      #查看被移动数据
"100"
127.0.0.1:6379[1]> select 0 
OK
127.0.0.1:6379> get k1         #在数据库0中无法查看到k1的值
(nil)

3 、清除数据库内数据

flushdb：清空当前数据库数据
flushall ：清空所有数据库的数据，慎用!（最好不用）

九、部署redis脚本

将安装包放入/opt目录下，编辑一个脚本文件，复制以下内容，直接执行即可

#!/bin/bash
echo -e "\033[31m =====正在验证当前为仅主机还是NAT模式===== \033[0m"
ping -c1 -W1 www.baidu.com &> /dev/null
if [ $? -eq 0 ];then echo -e "\033[31m 检测当前为NAT模式，为您配置在线yum源 \033[0m"
mkdir -p /etc/yum.repos.d/repo.bak

mv -f /etc/yum.repos.d/* /etc/yum.repos.d/repo.bak &> /dev/null

wget -O /etc/yum.repos.d/CentOS-Base.repo https://mirrors.aliyun.com/repo/Centos-7.repo &> /dev/null

yum clean all &> /dev/null
yum list &> /dev/null
echo -e "\033[31m 在线源已配置完成 \033[0m"

else
echo -e "\033[31m 检测当前为仅主机模式，为您配置本地yum源 \033[0m"
mount /dev/sr0 /mnt &> /dev/null
cd /etc/yum.repos.d/
mkdir -p /etc/yum.repos.d/repo.bak

mv -f /etc/yum.repos.d/* /etc/yum.repos.d/repo.bak &> /dev/null

echo '[local]
name=local
baseurl=file:///mnt
enabled=1
gpgcheck=0' > /etc/yum.repos.d/local.repo
yum clean all &> /dev/null
yum makecache &> /dev/null

df -h | grep "/mnt" 
if [ $? -ne 0 ];then
echo -e "\033[31m 检测当前为仅主机模式，但光盘未连接！ \033[0m"
else
echo -e "\033[31m 本地yum源已配置完成 \033[0m"
fi
fi

#关闭防火墙
systemctl stop firewalld
setenforce 0
yum install -y gcc gcc-c++ make
yum -y install expect
cd /opt
tar zxvf redis-5.0.7.tar.gz -C /opt/
cd /opt/redis-5.0.7/
make
make PREFIX=/usr/local/redis install

cd /opt/redis-5.0.7/utils
/usr/bin/expect <<EOF
spawn ./install_server.sh
expect "instance" {send "\r"} 
expect "config" {send "\r"}
expect "log" {send "\r"}
expect "data" {send "\r"}
expect "executable" {send "/usr/local/redis/bin/redis-server\r"}
expect "abort" {send "\r"}
expect eof
EOF

ln -s /usr/local/redis/bin/* /usr/local/bin/
/etc/init.d/redis_6379 restart     

sed -i 's/bind 127.0.0.1/bind 0.0.0.0/' /etc/redis/6379.conf
sed -i 's/appendonly no/appendonly yes/' /etc/redis/6379.conf

/etc/init.d/redis_6379 restart
/etc/init.d/redis_6379 status
netstat -natp | grep redis