IT数码 购物 网址 头条 软件 日历 阅读 图书馆
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
图片批量下载器
↓批量下载图片,美女图库↓
图片自动播放器
↓图片自动播放器↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁
 
   -> 大数据 -> elasticSearch导出与导入之elasticdump安装与使用 -> 正文阅读

[大数据]elasticSearch导出与导入之elasticdump安装与使用

elasticdump项目是 node 写的, 依赖 nodejs

前言

如果我们本地与生产环境没有专线,es数据就得导出成文件,再下载到本地,再导入到测试环境的es里。下面是一种导入导出的方法,使用elasticdump指令。


一、elasticdump 安装

npm install elasticdump -g

二、使用步骤

1.索引导出

代码如下(示例):

数据导出
elasticdump --input="http://remoteIp:9200/index" --output="/home/index.mapping.json" --type=mapping
elasticdump --input="http://remoteIp:9200/index" --output="/home/index.data.json" --type=data

2.把导出的文件下载到本地

代码如下(示例):

scp username@remoteIp/home/index.mapping.json .
scp username@remoteIp/home/index.data.json .

remoteIp是生产环境的机器ip。

3.再把线索导入到本地es

代码如下(示例):

elasticdump --output="http://localip:9200/index" --input="/home/user1/index.mapping.json" --type=mapping
elasticdump --output="http://localip:9200/index"  --input="/home/user1/index.data.json" --type=data

localip是本地环境的机器ip。

4.还有一种方法,是限于要导出和导入的机器在一个网里

代码如下(示例):

# 备份 mapping
elasticdump --input="http://remoteIp:9200/MyIndex" --output="http://localip:9200/MyIndex" --type=mapping
# 备份数据
elasticdump --input="http://remoteIp:9200/MyIndex" --output="http://localip:9200/MyIndex" --type=data

或:

curl -XPOST 'localip:9200/_reindex?pretty' -d'
{
  "source": {
    "remote": {
      "host": "http://remoteIp:9200"
    },                              
    "index": "MyIndex"
  },
  "dest": {
    "index": "MyIndex"
  }
}

localip是本地环境的机器ip。

5.主要参数说明

--input: 源地址,可为ES集群URL、文件或stdin,可指定索引,格式为:{protocol}://{host}:{port}/{index}
--input-index: 源ES集群中的索引
--output: 目标地址,可为ES集群地址URL、文件或stdout,可指定索引,格式为:{protocol}://{host}:{port}/{index}
--output-index: 目标ES集群的索引
--type: 迁移类型,默认为data,表明只迁移数据,可选settings, analyzer, data, mapping, alias

总结

如果数据量很大,localip和remoteIp又不在一个局限网里,导出、下载、导入这整个流程都会很慢。
最好是在一个局域网里,直接用es的api导入会飞快很多【即第4步里的第2种方式】。

  大数据 最新文章
实现Kafka至少消费一次
亚马逊云科技:还在苦于ETL?Zero ETL的时代
初探MapReduce
【SpringBoot框架篇】32.基于注解+redis实现
Elasticsearch:如何减少 Elasticsearch 集
Go redis操作
Redis面试题
专题五 Redis高并发场景
基于GBase8s和Calcite的多数据源查询
Redis——底层数据结构原理
上一篇文章      下一篇文章      查看所有文章
加:2021-08-12 16:40:01  更:2021-08-12 16:42:28 
 
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁

360图书馆 购物 三丰科技 阅读网 日历 万年历 2024年11日历 -2024/11/23 8:49:54-

图片自动播放器
↓图片自动播放器↓
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
图片批量下载器
↓批量下载图片,美女图库↓
  网站联系: qq:121756557 email:121756557@qq.com  IT数码