IT数码 购物 网址 头条 软件 日历 阅读 图书馆
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
图片批量下载器
↓批量下载图片,美女图库↓
图片自动播放器
↓图片自动播放器↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁
 
   -> 大数据 -> elasticsearch认证,节点部署,容量规划,性能优化--《elasticsearch核心技术与实战》笔记(三) -> 正文阅读

[大数据]elasticsearch认证,节点部署,容量规划,性能优化--《elasticsearch核心技术与实战》笔记(三)

开启并配置X-Pack的认证和授权

image.png
第三步是修改kibana.yml文件,将elasticsearch.username, elasticsearch.password,修改为kibana使用的账号和密码,配置完这步,打开kibana还是提示登录,还是需要输入账号和密码的,所以可以理解为该配置只是kibana程序自身使用,实际登录还需使用其他账户。

Elasticsearch常见的集群部署方式

  • 不同角色的节点

Master eligible, Data, Ingest, Coordinating, Machine Learning

  • 在生产环境中,根据数据量,写入和查询的吞吐量,选择合适的部署方式,建议设置单一角色的节点。

image.png
image.png

各个单一角色考虑的配置

image.png
image.png
[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-SDX2gYGO-1627222714254)(https://cdn.nlark.com/yuque/0/2021/png/12674217/1627083581172-7b4e7c32-9c40-4e26-86b0-9ad6c1a67ec2.png#align=left&display=inline&height=421&originHeight=421&originWidth=649&size=64872&status=done&style=none&width=649)]

部署策略

image.png

Hot Warm架构

image.png
image.png
image.png

配置Hot & Warm Architecture

  1. 标记节点

image.png

  1. 配置Hot数据

image.png

  1. 旧数据迁移到Warm节点,当发现索引不再更新,将索引迁移到Warm节点上

image.png

Rack Awareness

通过Rack Awareness的机制,可以尽可能避免将同一个索引的主副分片同时分配在一个机架节点上。
image.png

分片的设计与管理

image.png

  • 分片过多带来的副作用

image.png

  • 如何确定主分片数

image.png

  • 如何确定副本分片数

image.png

  • 调整分片总数设定,避免分配不均衡

image.png

如何对集群进行容量规划

image.png
image.png
image.png

image.png
image.png

容量规划案例

  • 案例一,搜索类型

image.png
image.png

  • 案例二,日志类型数据

image.png
image.png
image.png
image.png

集群扩容

image.png

生产环境常用配置和上线清单

  • elasticsearch支持development和production模式,是通过http.host和bind_host字段判断是哪种模式的。

image.png

  • 运行在production模式的bootstrapChecks

image.png

image.png
image.png
image.png
image.png
image.png

image.png
image.png

集群的写入性能优化

image.png
image.png
image.png

  • 高质量建模回顾

image.png

  • 极致性能取舍

image.png

  • elasticsearch写入数据的过程

image.png

  • refreshInterval调参逻辑

image.png
refresh Interval控制着buffer生成segment(lucene索引的存储文件)的频率,所以增大refreshInterval会降低搜索的实时性,但是可以增加写入性能,因为segment变少了,IO也少了,更多的是在内存操作了。

  • Translog调参逻辑

image.png
translog类似于InnoDB的redolog

  • 分片设定调参逻辑

image.png

  • Bulk,线程池和队列大小调参逻辑

image.png

  • 一个索引设定的例子

image.png

集群读性能优化

  • 尽可能地使用反范式,从而获得最佳性能

image.png
image.png
image.png
使用Filter利用上elasticsearch的cache
image.png
image.png
image.png

诊断集群潜在问题

  • 集群诊断的维度

image.png
image.png

解决集群Yellow与Red的问题

红: 至少有一个主分片没有分配; 黄: 至少有一个副本没有分配; 绿: 主副本分片全部正常分配;

  • 集群健康度API

image.png
image.png
image.png

  • rerouteAPI将分片移动到另一个节点上

image.png

段合并优化

image.png

  • Merge优化

image.png
image.png

  • Force Merge

image.png

缓存及使用Circuit Breaker限制内存使用

  • es缓存分类

image.png

  • Node Query Cache

image.png

  • Shard Request Cache

image.png

  • Fielddata Cache

image.png

  • 缓存何时失效

image.png

  • 管理内存的重要性

image.png

  • es内存状况API

image.png

  • elasticsearch 的内存问题案例

image.png
image.png
image.png

  • es提供了断路器,防止es节点OOM

监控es集群

image.png
image.png
设置慢查询语句阈值
image.png

Full Restart的步骤

image.png

运维常用的命令

image.png

image.png
image.png
image.png
image.png

使用Shrink与Rollover API管理索引

image.png

  • 使用Rollover API,使得满足一定条件,alias指向一个新的索引

image.png
rolloverAPI只会将alias指向一个新的索引。这意味着,如果不触发rollover,数据一直都是往当前alias对应的索引写入,直到触发了rollover API,将alias指向新的索引。

  • 配置alias在rollover时保留旧索引,即alias读取时指向的的是一批索引,但是写入时指向的最新的索引

image.png

索引全生命周期管理

image.png

这些生命周期的管理,需要自动化支持,es官方有一个elasticsearch Curator,这里只是告诉有这么一个工具,具体如何使用仍需要查看文档
image.png

  大数据 最新文章
实现Kafka至少消费一次
亚马逊云科技:还在苦于ETL?Zero ETL的时代
初探MapReduce
【SpringBoot框架篇】32.基于注解+redis实现
Elasticsearch:如何减少 Elasticsearch 集
Go redis操作
Redis面试题
专题五 Redis高并发场景
基于GBase8s和Calcite的多数据源查询
Redis——底层数据结构原理
上一篇文章      下一篇文章      查看所有文章
加:2021-07-26 12:08:54  更:2021-07-26 12:08:56 
 
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁

360图书馆 购物 三丰科技 阅读网 日历 万年历 2024年4日历 -2024/4/20 16:30:06-

图片自动播放器
↓图片自动播放器↓
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
图片批量下载器
↓批量下载图片,美女图库↓
  网站联系: qq:121756557 email:121756557@qq.com  IT数码