[大数据]mongodb 系列（五）MongoDB 学习

mongodb 系列（一） mongodb 数据备份与还原

mongodb 系列（二）使用mongoTemplate的Aggregation类进行分组，分页操作

mongodb 系列（三）Windows下MongoDB安装及创建用户名和密码

mongodb 系列（四）MongoDB常用命令

mongodb 系列（五）MongoDB 学习

课程目标

• 理解MongoDB的业务场景、熟悉MongoDB的简介、特点和体系结构、数据类型等。
• 能够在Windows和Linux下安装和启动MongoDB、图形化管理界面Compass的安装使用
• 掌握MongoDB基本常用命令实现数据的CRUD
• 掌握MongoDB的索引类型、索引管理、执行计划。
• 使用Spring Data MongoDB完成文章评论业务的开发
  ?

1 MongoDB相关概念

1.1 业务应用场景

传统的关系型数据库（如MySQL），在数据操作的“三高”需求以及应对Web2.0的网站需求面前，显得力不从心。

解释：“三高”需求：

• High performance - 对数据库高并发读写的需求。
• Huge Storage - 对海量数据的高效率存储和访问的需求。
• High Scalability && High Availability- 对数据库的高可扩展性和高可用性的需求。

而MongoDB可应对“三高”需求。
?

具体的应用场景如：
1）社交场景，使用 MongoDB 存储存储用户信息，以及用户发表的朋友圈信息，通过地理位置索引实现附近的人、地点等功能。
2）游戏场景，使用 MongoDB 存储游戏用户信息，用户的装备、积分等直接以内嵌文档的形式存储，方便查询、高效率存储和访问。
3）物流场景，使用 MongoDB 存储订单信息，订单状态在运送过程中会不断更新，以 MongoDB 内嵌数组的形式来存储，一次查询就能将订单所有的变更读取出来。
4）物联网场景，使用 MongoDB 存储所有接入的智能设备信息，以及设备汇报的日志信息，并对这些信息进行多维度的分析。
5）视频直播，使用 MongoDB 存储用户信息、点赞互动信息等。
?

这些应用场景中，数据操作方面的共同特点是：
（1）数据量大
（2）写入操作频繁（读写都很频繁）
（3）价值较低的数据，对事务性要求不高
对于这样的数据，我们更适合使用MongoDB来实现数据的存储。
?

什么时候选择MongoDB，在架构选型上，除了上述的三个特点外，如果你还犹豫是否要选择它？可以考虑以下的一些问题：

• 应用不需要事务及复杂 join 支持
• 新应用，需求会变，数据模型无法确定，想快速迭代开发
• 应用需要2000-3000以上的读写QPS（更高也可以）
• 应用需要TB 甚至 PB 级别数据存储
• 应用发展迅速，需要能快速水平扩展
• 应用要求存储的数据不丢失
• 应用需要99.999%高可用
• 应用需要大量的地理位置查询、文本查询

如果上述有1个符合，可以考虑 MongoDB，2个及以上的符合，选择 MongoDB 绝不会后悔。

思考：如果用MySQL呢？
答：相对MySQL，可以以更低的成本解决问题（包括学习、开发、运维等成本）

1.2 MongoDB简介

MongoDB是一个开源、高性能、无模式的文档型数据库，当初的设计就是用于简化开发和方便扩展，是NoSQL数据库产品中的一种。是最像关系型数据库（MySQL）的非关系型数据库。
它支持的数据结构非常松散，是一种类似于 JSON 的 格式叫 BSON，所以它既可以存储比较复杂的数据类型，又相当的灵活。
MongoDB中的记录是一个文档，它是一个由字段和值对（field:value）组成的数据结构。MongoDB文档类似于JSON对象，即一个文档认为就是一个对象。字段的数据类型是字符型，它的值除了使用基本的一些类型外，还可以包括其他文档、普通数组和文档数组。
?

1.3 体系结构

1.4 数据模型

MongoDB的最小存储单位就是文档(document)对象。文档(document)对象对应于关系型数据库的行。数据在MongoDB中以BSON（Binary-JSON）文档的格式存储在磁盘上。

BSON（Binary Serialized Document Format）是一种类json的一种二进制形式的存储格式，简称Binary JSON。BSON和JSON一样，支持内嵌的文档对象和数组对象，但是BSON有JSON没有的一些数据类型，如Date和BinData类型。

BSON采用了类似于 C 语言结构体的名称、对表示方法，支持内嵌的文档对象和数组对象，具有轻量性、可遍历性、高效性的三个特点，可以有效描述非结构化数据和结构化数据。这种格式的优点是灵活性高，但它的缺点是空间利用率不是很理想。

Bson中，除了基本的JSON类型：string,integer,boolean,double,null,array和object，mongo还使用了特殊的数据类型。这些类型包括date,object id,binary data,regular expression 和code。每一个驱动都以特定语言的方式实现了这些类型，查看你的驱动的文档来获取详细信息。

BSON数据类型参考列表：

提示：

shell默认使用64位浮点型数值。{“x”：3.14}或{“x”：3}。对于整型值，可以使用NumberInt（4字节符号整数）或NumberLong（8字节符号整数），{“x”:NumberInt(“3”)}{“x”:NumberLong(“3”)}

1.5 MongoDB的特点

MongoDB主要有如下特点：

（1）高性能：

• MongoDB提供高性能的数据持久性。特别是对嵌入式数据模型的支持减少了数据库系统上的I/O活动。
• 索引支持更快的查询，并且可以包含来自嵌入式文档和数组的键。（文本索引解决搜索的需求、TTL索引解决历史数据自动过期的需求、地理位置索引可用于构建各种 O2O 应用）
• mmapv1、wiredtiger、mongorocks（rocksdb）、in-memory 等多引擎支持满足各种场景需求。
• Gridfs解决文件存储的需求。

（2）高可用性：

• MongoDB的复制工具称为副本集（replica set），它可提供自动故障转移和数据冗余。

（3）高扩展性：

• MongoDB提供了水平可扩展性作为其核心功能的一部分。
• 分片将数据分布在一组集群的机器上。（海量数据存储，服务能力水平扩展）
• 从3.4开始，MongoDB支持基于片键创建数据区域。在一个平衡的集群中，MongoDB将一个区域所覆盖的读写只定向到该区域内的那些片。

（4）丰富的查询支持：

• MongoDB支持丰富的查询语言，支持读和写操作(CRUD)，比如数据聚合、文本搜索和地理空间查询等。

（5）其他特点：如无模式（动态模式）、灵活的文档模型

2 单机部署

2.1 Windows系统中的安装启动

第一步：下载安装包
MongoDB 提供了可用于 32 位和 64 位系统的预编译二进制包，你可以从MongoDB官网下载安装，MongoDB 预编译二进制包下载地址：
Try MongoDB Products | MongoDB

根据上图所示下载 zip 包。
提示：版本的选择：
MongoDB的版本命名规范如：x.y.z；
y为奇数时表示当前版本为开发版，如：1.5.2、4.1.13；
y为偶数时表示当前版本为稳定版，如：1.6.3、4.0.10；
z是修正版本号，数字越大越好。
详情：http://docs.mongodb.org/manual/release-notes/#release-version-numbers

第二步：解压安装启动
将压缩包解压到一个目录中。
在解压目录中，手动建立一个目录用于存放数据文件，如 data/db

方式1：命令行参数方式启动服务
在 bin 目录中打开命令行提示符，输入如下命令：

mongod --dbpath=..\data\db

我们在启动信息中可以看到，mongoDB的默认端口是27017，如果我们想改变默认的启动端口，可以通过--port来指定端口。
为了方便我们每次启动，可以将安装目录的bin目录设置到环境变量的path中， bin 目录下是一些常用命令，比如 mongod 启动服务用的，mongo 客户端连接服务用的。

方式2：配置文件方式启动服务
在解压目录中新建 config 文件夹，该文件夹中新建配置文件 mongod.conf ，内如参考如下：

storage:
#The directory where the mongod instance stores its data.Default Value is "\data\db" on Windows.
dbPath: D:\02_Server\DBServer\mongodb-win32-x86_64-2008plus-ssl-4.0.1\data

详细配置项内容可以参考官方文档：https://docs.mongodb.com/manual/reference/configuration-options/

【注意】
1）配置文件中如果使用双引号，比如路径地址，自动会将双引号的内容转义。如果不转义，则会报错：

error-parsing-yaml-config-file-yaml-cpp-error-at-line-3-column-15-unknown-escape-character-d

解决：
a. 对 \ 换成 / 或 \\
b. 如果路径中没有空格，则无需加引号。

2）配置文件中不能以Tab分割字段
解决：
将其转换成空格。
启动方式：

mongod -f ../config/mongod.conf

或

mongod --config ../config/mongod.conf

更多参数配置：

systemLog:
?? destination: file
?? #The path of the log file to which mongod or mongos should send all diagnostic logging information
?? path: "D:/02_Server/DBServer/mongodb-win32-x86_64-2008plus-ssl-4.0.1/log/mongod.log"
?? logAppend: true
storage:
?? journal:
????? enabled: true
?? #The directory where the mongod instance stores its data.Default Value is "/data/db".
?? dbPath: "D:/02_Server/DBServer/mongodb-win32-x86_64-2008plus-ssl-4.0.1/data"
net:
?? #bindIp: 127.0.0.1
?? port: 27017
setParameter:
?? enableLocalhostAuthBypass: false

2.2 Shell连接(mongo命令)

在命令提示符输入以下shell命令即可完成登陆

mongo 或 mongo --host=127.0.0.1 --port=27017

查看已经有的数据库

show databases

退出mongodb

exit

更多参数可以通过帮助查看：

mongo --help

提示：
MongoDB javascript shell是一个基于javascript的解释器，故是支持js程序的。
?

2.3 Compass-图形化界面客户端

到MongoDB官网下载MongoDB Compass，
地址：https://www.mongodb.com/download-center/v2/compass?initial=true
如果是下载安装版，则按照步骤安装；如果是下载加压缩版，直接解压，执行里面的 MongoDBCompassCommunity.exe 文件即可。
在打开的界面中，输入主机地址、端口等相关信息，点击连接：

2.4 Linux系统中的安装启动和连接

目标：在Linux中部署一个单机的MongoDB，作为生产环境下使用。

提示：和Windows下操作差不多。

步骤如下：
（1）先到官网下载压缩包 mongod-linux-x86_64-4.0.10.tgz 。

（2）上传压缩包到Linux中，解压到当前目录：

tar -xvf mongodb-linux-x86_64-4.0.10.tgz

（3）移动解压后的文件夹到指定的目录中：

mv mongodb-linux-x86_64-4.0.10 /usr/local/mongodb

（4）新建几个目录，分别用来存储数据和日志：

#数据存储目录
mkdir -p /mongodb/single/data/db
#日志存储目录
mkdir -p /mongodb/single/log

（5）新建并修改配置文件

vi /mongodb/single/mongod.conf

配置文件的内容如下：

systemLog:
? ? ?#MongoDB发送所有日志输出的目标指定为文件
? ? ?# #The path of the log file to which mongod or mongos should send all diagnostic logging information
? ? destination: file
? ? #mongod或mongos应向其发送所有诊断日志记录信息的日志文件的路径
? ? path: "/mongodb/single/log/mongod.log"
? ? #当mongos或mongod实例重新启动时，mongos或mongod会将新条目附加到现有日志文件的末尾。
? ? logAppend: true
storage:
? ? #mongod实例存储其数据的目录。storage.dbPath设置仅适用于mongod。
? ?##The directory where the mongod instance stores its data.Default Value is "/data/db".
? ?dbPath: "/mongodb/single/data/db"
? ?journal:
? ? ? #启用或禁用持久性日志以确保数据文件保持有效和可恢复。
? ? ? enabled: true
processManagement:
? ? #启用在后台运行mongos或mongod进程的守护进程模式。
? ? fork: true
net:
? ? #服务实例绑定的IP，默认是localhost
? ? bindIp: localhost,192.168.0.2

? ? #bindIp
? ? #绑定的端口，默认是27017
? ? port: 27017

（6）启动MongoDB服务

[root@bobohost single]# /usr/local/mongodb/bin/mongod -f /mongodb/single/mongod.conf
about to fork child process, waiting until server is ready for connections.
forked process: 90384
child process started successfully, parent exiting

注意：
如果启动后不是 successfully ，则是启动失败了。原因基本上就是配置文件有问题。

通过进程来查看服务是否启动了：

[root@bobohost single]# ps -ef |grep mongod
root 90384 1 0 8月26 ? 00:02:13 /usr/local/mongdb/bin/mongod -f /mongodb/single/mongod.conf

（7）分别使用mongo命令和compass工具来连接测试。
提示：如果远程连接不上，需要配置防火墙放行，或直接关闭linux防火墙

#查看防火墙状态
systemctl status firewalld
#临时关闭防火墙
systemctl stop firewalld
#开机禁止启动防火墙
systemctl disable firewalld

（8）停止关闭服务

停止服务的方式有两种：快速关闭和标准关闭，下面依次说明：

（一）快速关闭方法（快速，简单，数据可能会出错）

目标：通过系统的kill命令直接杀死进程：

杀完要检查一下，避免有的没有杀掉。

#通过进程编号关闭节点
kill -2 54410

【补充】
如果一旦是因为数据损坏，则需要进行如下操作（了解）：
1）删除lock文件：

rm -f /mongodb/single/data/db/*.lock

2）修复数据：

/usr/local/mongdb/bin/mongod --repair --dbpath=/mongodb/single/data/db

（二）标准的关闭方法（数据不容易出错，但麻烦）：

目标：通过mongo客户端中的shutdownServer命令来关闭服务

主要的操作步骤参考如下：

//客户端登录服务，注意，这里通过localhost登录，如果需要远程登录，必须先登录认证才行。
mongo --port 27017
//#切换到admin库
use admin
//关闭服务
db.shutdownServer()