IT数码 购物 网址 头条 软件 日历 阅读 图书馆
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
图片批量下载器
↓批量下载图片,美女图库↓
图片自动播放器
↓图片自动播放器↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁
 
   -> 大数据 -> 实时数仓-Doris ON ES -> 正文阅读

[大数据]实时数仓-Doris ON ES

原理介绍:原文点击??

? ?Doris通过创建外部表方式将Doris的分布式查询规划能力和ES(Elasticsearch)的全文检索能力相结合,提供更完善的OLAP分析场景解决方案,支持:

  1. ES中的多index分布式Join查询

  2. Doris和ES中的表联合查询,更复杂的全文检索过滤

图片

? ?创建ES外表后,FE会请求建表指定的主机,获取所有节点的HTTP端口信息以及index的shard分布信息等,如果请求失败会顺序遍历host列表直至成功或完全失败。

? ?执行查询时,会根据FE得到的一些节点信息和index的元数据信息,生成查询计划并发给对应的BE节点,BE节点会根据就近原则即优先请求本地部署的ES节点,BE通过HTTP Scroll方式流式的从ES index的每个分片中并发的获取数据

计算完结果后,返回给client端。

? ? ES节点类型分为主节点、数据节点、协调节点,FE通过主节点获取ES信息,BE直接拉取数据节点获取数据。

实验过程??

实验环境:doris版本0.14.0,elasticsearch版本7.11.1

doris环境搭建及启动这里就不在叙述了,elasticsearch参考ES环境搭建及后续文章

一、单节点查询:

1、创建doris外部表

CREATE EXTERNAL TABLE `es_table` (  `id` bigint(20) COMMENT "",  `k1` bigint(20) COMMENT "",  `k2` datetime COMMENT "",  `k3` varchar(20) COMMENT "",  `k4` varchar(100) COMMENT "",  `k5` float COMMENT "") ENGINE=ELASTICSEARCHPARTITION BY RANGE(`id`)()PROPERTIES ("host" = "http://192.168.244.129:9200","index" = "test”);

2、ES初始化

1、创建test索引

{  "mappings": {    "properties": {      "k1": {        "type": "long",        "index": "true"      },      "k3": {        "type": "text",        "analyzer": "ik_max_word",        "search_analyzer": "ik_max_word"      },      "k4": {        "type": "text",        "analyzer": "ik_max_word",        "search_analyzer": "ik_max_word"      },      "k5": {        "type": "float"      },      "k2": {        "type": "date",        "format": "yyyy-MM-dd"      }    }  }}

图片

2、添加数据

{  "k1": 100,  "k2": "2020-01-01",  "k3": "Trying",  "k4": "Trying out Elasticsearch",  "k5": 10}

数据添加成功后,在mysql客户端连接doris查询ES数据,看到如下结果代表doris查询ES成功。

图片

3、批量添加数据

POST /_bulk
{"index":{"_index":"test"}}
{ "k1" : 100, "k2": "2020-01-01", "k3": "Trying out Elasticsearch", "k4": "Trying out Elasticsearch", "k5": 10.0}
{"index":{"_index":"test"}}
{ "k1" : 100, "k2": "2020-01-01", "k3": "Trying out Doris", "k4": "Trying out Doris", "k5": 10.0}
{"index":{"_index":"test"}}
{ "k1" : 100, "k2": "2020-01-01", "k3": "Doris On ES", "k4": "Doris On ES", "k5": 10.0}
{"index":{"_index":"test"}}
{ "k1" : 100, "k2": "2020-01-01", "k3": "Doris", "k4": "Doris", "k5": 10.0}
{"index":{"_index":"test"}}
{ "k1" : 100, "k2": "2020-01-01", "k3": "ES", "k4": "ES", "k5": 10.0}

执行模糊匹配查询:

图片

二、JOIN查询:

1、创建外部表

图片

2、ES创建索引test2

{  "mappings": {    "properties": {      "k1": {        "type": "long",        "index": "true"      },      "k3": {        "type": "text",        "analyzer": "ik_max_word",        "search_analyzer": "ik_max_word"      },      "k4": {        "type": "text",        "analyzer": "ik_max_word",        "search_analyzer": "ik_max_word"      },      "k5": {        "type": "float"      },      "k2": {        "type": "date",        "format": "yyyy-MM-dd"      }    }  }}

3、ES添加数据???????

POST /_bulk{"index":{"_index":"test2"}}{ "k1" : 200, "k2": "2020-02-01", "k3": "Doris e ", "k4": "ES", "k5": 20.0}

4、执行JOIN查询

图片

5、JOIN模糊查询???????

select * from test ,test2 where test.k1=test2.k1 and esquery (test.k3, '{        "match": {           "k3": "ES"        }    }');

图片

Doris ON? ES 今天就介绍到这里了,觉得有用关注:蓝天Java大数据

  大数据 最新文章
实现Kafka至少消费一次
亚马逊云科技:还在苦于ETL?Zero ETL的时代
初探MapReduce
【SpringBoot框架篇】32.基于注解+redis实现
Elasticsearch:如何减少 Elasticsearch 集
Go redis操作
Redis面试题
专题五 Redis高并发场景
基于GBase8s和Calcite的多数据源查询
Redis——底层数据结构原理
上一篇文章      下一篇文章      查看所有文章
加:2021-11-23 12:26:02  更:2021-11-23 12:27:11 
 
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁

360图书馆 购物 三丰科技 阅读网 日历 万年历 2024年11日历 -2024/11/24 8:32:24-

图片自动播放器
↓图片自动播放器↓
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
图片批量下载器
↓批量下载图片,美女图库↓
  网站联系: qq:121756557 email:121756557@qq.com  IT数码