IT数码 购物 网址 头条 软件 日历 阅读 图书馆
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
图片批量下载器
↓批量下载图片,美女图库↓
图片自动播放器
↓图片自动播放器↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁
 
   -> 系统运维 -> elk日志收集系统部署 -> 正文阅读

[系统运维]elk日志收集系统部署

本文简单粗暴,如有不适请点击右上角X
。yml文件若报错找不到问题,自行百度 yml文件在线编辑器 方便排错

请提前准备两台虚拟机。模拟正式环境nginx日志的收集
192.168.75.139:nginx,filebeat
192.168.75.138:logstash,elasticsearch,kibana

下载地址:
yum安装nginx
rpm -Uvh http://nginx.org/packages/centos/7/noarch/RPMS/nginx-release-centos-7-0.el7.ngx.noarch.rpm
yum -y install nginx

filebeat
https://artifacts.elastic.co/downloads/beats/filebeat/filebeat-7.13.2-linux-x86_64.tar.gz
logstash
https://artifacts.elastic.co/downloads/logstash/logstash-7.13.2-linux-x86_64.tar.gz
elasticsearch
https://artifacts.elastic.co/downloads/elasticsearch/elasticsearch-7.13.2-linux-x86_64.tar.gz
kibana
https://artifacts.elastic.co/downloads/kibana/kibana-7.13.2-linux-x86_64.tar.gz
需使用统一版本,不然报错

filebeat安装

192.168.75.139

通过filebeat收集日志发送至logstash处理(轻量化,资源占用较小,稳定)
解压,修改配置文件

systemctl start nginx
tar -xzvf filebeat-7.13.2-linux-x86_64.tar.gz -C /usr/local
mv /usr/local/filebeat-7.13.2-linux-x86_64 /usr/local/filebeat
vim /usr/local/filebeat/filebeat.yml
filebeat.inputs:
‐type: log
        enabled:true
paths:
                ‐ /var/log/nginx/*.log
filebeat.config.modules:
        path: ${path.config}/modules.d/*.yml
        reload.enabled: false
setup.template.settings:
        index.number_of_shards: 1

# 输出到 logstash 
output.logstash:
# logstash 的 IP和端口 
        hosts: ["192.168.75.138:5044"]#收集到的日志信息发送至logstash
processors:
        ‐ add_host_metadata:
                when.not.contains.tags: forwarded

运行filebeat,访问nginx。查看输出信息。
less usr/locaal/filebeat/logs/filebeat
显示nginx输出日志即可
后台启动filebeat
./filebeat -c /usr/local/filebeat/filebeat.yml &

logstash安装

192.168.75.138

解压,修改配置文件

tar -xzf logstash-7.13.2-linux-x86_64.tar.gz -C /usr/local/
vim /usr/local/logstash/config/first-pipeline.conf             #新建配置文件
input {
        beats {
                port => 5044#输入信息为监听5044端口收到的信息
        }
}
filter {
        grok {
                match => { "message" => "%{COMBINEDAPACHELOG }" }
        }
        # geoip { source => "clientip" }
}

output {
        stdout {
                codec => rubydebug
        }
        #判断日志类型,创建索引,并输入到elasticsearch
if [log][file][path] == "/var/log/nginx/access.log" {
        elasticsearch {
                hosts => ["192.168.75.138:9200"]
                index => "%{[host][hostname]}‐nginx‐access‐%{+YYYY.MM.dd}"
        }
} else if [log][file][path] == "/var/log/nginx/error.log" {
        elasticsearch {
                hosts => ["192.168.75.138:9200"]
                index => "%{[host][hostname]}‐nginx‐error‐%{+YYYY.MM.dd}"
                }
        }
}

启动logstash,访问nginx。查看日志是否输出到logstash
cd /usr/local/logstash/bin
nohup ./logstash ‐f …/config/first‐pipeline.conf &
tail -f nohup.out

有信息输出即可

elasticsearch

安装,配置

tar -xzf  elasticsearch-7.13.2-linux-x86_64.tar.gz -C /usr/local/
cd /usr/local/
mv elasticsearch-7.13.2-linux-x86_64 elasticsearch
vim config/elasticsearch.yml
cluster.name: elk
node.name: es           #多节点部署请区分名称,例如:es01,es02,es03
node.data: true
network.host: 192.168.75.138
http.port: 9200
#本文单节点部署es,如需多节点增加一下#后面内容即可,如果还是单节点部署,请删除本行#后面内容
discovery.seed_hosts:
        ‐ 192.168.75.138
#        ‐ 192.168.75.136
#        ‐ 192.168.75.137
cluster.initial_master_nodes: ["es01""es02","es03"]
#cluster.initial_master_nodes: ["es01","es02","es03"]

es启动不能使用root,需创建单独账号,并授权属主属组

useradd es
chown -R es.es /usr/local/elasticsearch
su ‐ es 
cd /usr/local/elasticsearch‐7.10.0 
./bin/elasticsearch ‐d ‐p /tmp/elasticsearch.pid
查看端口 9200 9300是否启动
ss ‐ntal



查看集群健康状态
curl -X GET "localhost:9200/_cat/health?v"
查看是否自动创建索引
curl ‐X GET "192.168.75.138:9200/_cat/indices"
yellow open %{[host][hostname]}‐nginx‐access‐2022.03.14 xGSURq-tSFuojgx8257g0w 1 1  2    0  44.8kb  44.8kb

kibana

部署,修改配置

tar -xzvf kibana-7.13.2-linux-x86_64.tar.gz -C /usr/local
mv /usr/local/kibana-7.13.2-linux-x86_64 /usr/local/kibana
vim /usr/local/kibana/config/kibana.yml
server.port: 5601
server.host: "0.0.0.0"
elasticsearch.hosts: ["http://192.168.75.138:9200"]#es地址 若部署es集群请注销本行,解开下一行注释
#elasticsearch.hosts: ["http://192.168.75.136:9200","http://192.168.75.137:9200","http://192.168.75.138:9200"]
logging.dest:  /var/log/kibana/kibana.log  #kibana日志存放位置
i18n.locale: "zh-CN" #kibana界面设置为中文

创建程序使用的目录授权,

mkdir /run/kibana /var/log/kibana/
chown -R es.es /run/kibana /var/log/kibana/ /usr/local/kibana
su es
nohup /usr/local/kibana/bin/kibana &

192.168.75.138:5601 访问kibana页面

在这里插入图片描述
在这里插入图片描述

在这里插入图片描述
在这里即可查看我们刚刚收集到的日志信息

ELK部署完成,若有不足的地方欢迎大佬指导
windows版ELK部署文档暂时未发出来,有需要的也可以私信我

  系统运维 最新文章
配置小型公司网络WLAN基本业务(AC通过三层
如何在交付运维过程中建立风险底线意识,提
快速传输大文件,怎么通过网络传大文件给对
从游戏服务端角度分析移动同步(状态同步)
MySQL使用MyCat实现分库分表
如何用DWDM射频光纤技术实现200公里外的站点
国内顺畅下载k8s.gcr.io的镜像
自动化测试appium
ctfshow ssrf
Linux操作系统学习之实用指令(Centos7/8均
上一篇文章      下一篇文章      查看所有文章
加:2022-03-15 23:07:58  更:2022-03-15 23:11:08 
 
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁

360图书馆 购物 三丰科技 阅读网 日历 万年历 2024年11日历 -2024/11/16 2:44:39-

图片自动播放器
↓图片自动播放器↓
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
图片批量下载器
↓批量下载图片,美女图库↓
  网站联系: qq:121756557 email:121756557@qq.com  IT数码