IT数码 购物 网址 头条 软件 日历 阅读 图书馆
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
图片批量下载器
↓批量下载图片,美女图库↓
图片自动播放器
↓图片自动播放器↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁
 
   -> 大数据 -> CentOS 7 搭建ELK 7.13.2 环境(二)- Beats使用 -> 正文阅读

[大数据]CentOS 7 搭建ELK 7.13.2 环境(二)- Beats使用

CentOS 7 搭建ELK 7.13.2 环境(二)- Beats使用

一、序言

本文主要补充介绍ELK Beats用法,ELK环境的搭建参照文章:
CentOS 7 搭建ELK 7.13.2 环境

二、metricbeat用法

1.监控elasticsearch

采集”es生产集群”的监控数据直接写入“es监控集群”
架构

  • 启用xpack.monitoring.collection.enabled
GET _cluster/settings

PUT _cluster/settings
{
  "persistent": {
    "xpack.monitoring.collection.enabled": true
  }
}
  • 启用es监控模块
metricbeat modules enable elasticsearch-xpack
  • 修改elasticsearch-xpack.yml
cd /etc/metricbeat
vim modules.d/elasticsearch-xpack.yml

# Module: elasticsearch
# Docs: https://www.elastic.co/guide/en/beats/metricbeat/7.13/metricbeat-module-elasticsearch.html

- module: elasticsearch
  xpack.enabled: true
  period: 10s
  hosts: ["http://localhost:9200"]
  username: "elastic"
  password: "gAbEd5ViDusJgBF1p4GN"

  • 禁用system模块 (根据实际情况)
metricbeat modules disable system
  • 修改metricbeat.yml
cd /etc/metricbeat
vim metricbeat.yml
# ---------------------------- Elasticsearch Output ----------------------------
output.elasticsearch:
  # Array of hosts to connect to.
  hosts: ["localhost:9200"]

  # Protocol - either `http` (default) or `https`.
  #protocol: "https"

  # Authentication credentials - either API key or username/password.
  #api_key: "id:api_key"
  username: "elastic"
  password: "gAbEd5ViDusJgBF1p4GN"

  • 可视化
    在这里插入图片描述
    在这里插入图片描述

  • 自动删除索引

通过修改metricbeat策略,实现自动删除索引
在这里插入图片描述

三、ILM 索引生命周期管理

1.ILM索引策略

PUT /_ilm/policy/my-ilm-policy
{
  "policy": {
    "phases": {
      "hot": {
        "actions": {
          "rollover": {
            "max_size": "1GB",
            "max_age": "1d",
            "max_docs": 1000
          }
        }
      },
      "warm": {
        "min_age": "30m",
        "actions": {
          "forcemerge": {
                "max_num_segments":1
              },
          "shrink": {
                "number_of_shards":1
              }
        }
      },
      "delete": {
        "min_age": "2h",
        "actions": {
          "delete": {}
        }
      }
    }
  }
}

2.索引模板

强烈建议rollover_alias别名和index_patterns保持统一,例如“metricbeat-7.13.3”对应"metricbeat-7.13.3-*"

PUT _index_template/my_index_template
{
  "index_patterns": ["metricbeat-7.13.3-*"],
  "template": {
    "settings": {
        "index.lifecycle.name": "my-ilm-policy", 
        "index.lifecycle.rollover_alias": "metricbeat-7.13.3"
    }
  },
  "priority": 0
}

3. 生命周期轮询间隔

生命周期轮询间隔 默认10分钟

PUT _cluster/settings
{
  "transient": {
    "indices.lifecycle.poll_interval":"1m"
  }
}

参考:
官网地址
冷热分离与索引生命周期管理
index-templates.html

  大数据 最新文章
实现Kafka至少消费一次
亚马逊云科技:还在苦于ETL?Zero ETL的时代
初探MapReduce
【SpringBoot框架篇】32.基于注解+redis实现
Elasticsearch:如何减少 Elasticsearch 集
Go redis操作
Redis面试题
专题五 Redis高并发场景
基于GBase8s和Calcite的多数据源查询
Redis——底层数据结构原理
上一篇文章      下一篇文章      查看所有文章
加:2021-08-05 17:25:10  更:2021-08-05 17:27:37 
 
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁

360图书馆 购物 三丰科技 阅读网 日历 万年历 2024年5日历 -2024/5/19 4:41:09-

图片自动播放器
↓图片自动播放器↓
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
图片批量下载器
↓批量下载图片,美女图库↓
  网站联系: qq:121756557 email:121756557@qq.com  IT数码