MySQL
mysql 是关系型数据库
优点:
- 在不同引擎可以有不同存储方式。
- 查询语句用传统sql,比较方便。
- 相比于mongodb,更能确保数据的隐私性和完整性以及一致性。mysql 必须使用安全套接字层SSL(安全协议)在客户端以及服务器之间加密连接。而mongodb是基于角色的访问控制。
缺点:
- 在处理海量数据时,效率显著变慢。
MongoDB
不是关系型,属于文档型数据库,文档(多个键值对有序存放)是基础单元,类似于关系模型的行。 存储方式: 虚拟内存+持久化。 架构特点:可以通过副本集、分片实现高可用。 适合场景:事件的记录,内容管理或者博客平台等等。 数据处理:数据是存储在硬盘上的,只不过需要经常读取的数据会被加载到内存中,将数据存储在物理内存中,从而达到高速读写。
优点
- 速度,将热数据存储在物理内存中,读写快。
- 扩展性强,使用动态模式,无需预先定义结构,如字段或值类型。这种模型允许分层关系表示,数组存储,以及通过简单地添加或删除字段来更改记录结构的能力。这种NoSQL解决方案具有嵌入,自动分片和板载复制功能,可实现更好的可扩展性和高可用性。
- 存储格式json,对于爬虫开发来说json存储十分方便。
- 高写入负载,在不稳定环境中实现高可用。业务经常变动,需要不时的添加字段,那么mongodb比较适合
- 数据量大、且数据成分复杂的情况下,MongoDB文档数据库优于MySQL关系数据库。在MySQL中,由于数据模式受到更大的约束,所以表中的每一行都需要相同的列,这在使用大容量数据库时尤其难以管理。因此,MySQL不能像MongoDB那样轻松地处理大型和复杂的数据库。
缺点: 不支持事务。
Hive
hive首先明确并不是一个数据库,而是数据仓库。 Hive 不适合用于联机事务处理 (OLTP),也不提供实时查询功能。它最适合应用在基于大量不可变数据的批处理作业。 Hive 的特点是可伸缩(在Hadoop 的集群上动态的添加设备),可扩展、容错、输入格式的松散耦合。Hive 的入口是DRIVER ,执行的SQL语句首先提交到DRIVER驱动,然后调COMPILER解释驱动,最终解释成MapReduce 任务执行,最后将结果返回。 主要区别:
- 数据存储位置:hive 建立在hadoop上,所有的hive数据都是存储在HDFS中(Hadoop分布式文件系统),而数据库可以存在本地文件系统中。
- 数据更新:由于Hive是针对数据仓库应用设计的,而数据仓库的内容是读多写少的。因此,Hive中不支持对局部数据的改写和添加,所有的数据都是在加载的时候中确定好的。而数据库中的数据通常是需要经常进行修改的,因此可以使用INSERT INTO…VALUES添加数据,使用UPDATE…SET修改数据。
- 索引:Hive在加载数据的过程中不会对数据进行任何处理,甚至不会对数据进行扫描,因此也没有对数据中的某些Key建立索引。Hive要访问数据中满足条件的特定值时,需要暴力扫描整个数据,因此访问延迟较高。由于MapReduce的引入,Hive可以并行访问数据,因此即使没有索引,对于大数据量的访问,Hive仍然可以体现出优势。
- 执行:Hive中大多数查询的执行是通过Hadoop提供的MapReduce来实现的
- 扩展性:mysql的可扩展性较低,而hive的扩展性较高
|