IT数码 购物 网址 头条 软件 日历 阅读 图书馆
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
图片批量下载器
↓批量下载图片,美女图库↓
图片自动播放器
↓图片自动播放器↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁
 
   -> 大数据 -> 小文件治理之hadoop集群监控: hdfs jvm数据获取 -> 正文阅读

[大数据]小文件治理之hadoop集群监控: hdfs jvm数据获取


前言

怎样爬取50070页面的信息,一开始想写个爬虫,后来发现,可以通过接口调用,节省了很多麻烦


一、获取jvm使用情况信息

}[root@hadoop101 ~]# curl hadoop101:50070/jmx?qry=java.lang:type=Memory
{
  "beans" : [ {
    "name" : "java.lang:type=Memory",
    "modelerType" : "sun.management.MemoryImpl",
    "ObjectPendingFinalizationCount" : 0,
    "HeapMemoryUsage" : {
      "committed" : 149946368,
      "init" : 130023424,
      "max" : 932184064,
      "used" : 111460200
    },
    "NonHeapMemoryUsage" : {
      "committed" : 69468160,
      "init" : 2555904,
      "max" : -1,
      "used" : 68213544
    },
    "Verbose" : false,
    "ObjectName" : "java.lang:type=Memory"
  } ]
}[root@hadoop101 ~]# 

上面的单位需要转化,下面这个命令直接是MB单位

}[root@hadoop101 ~]#  curl hadoop101:50070/jmx?qry=Hadoop:service=NameNode,name=JvmMetrics
{
  "beans" : [ {
    "name" : "Hadoop:service=NameNode,name=JvmMetrics",
    "modelerType" : "JvmMetrics",
    "tag.Context" : "jvm",
    "tag.ProcessName" : "NameNode",
    "tag.SessionId" : null,
    "tag.Hostname" : "hadoop101",
    "MemNonHeapUsedM" : 65.561195,
    "MemNonHeapCommittedM" : 66.8125,
    "MemNonHeapMaxM" : -9.536743E-7,
    "MemHeapUsedM" : 123.36322,
    "MemHeapCommittedM" : 153.5,
    "MemHeapMaxM" : 889.0,
    "MemMaxM" : 889.0,
    "GcCount" : 3282,
    "GcTimeMillis" : 36852,
    "GcNumWarnThresholdExceeded" : 0,
    "GcNumInfoThresholdExceeded" : 1,
    "GcTotalExtraSleepTime" : 114272,
    "ThreadsNew" : 0,
    "ThreadsRunnable" : 7,
    "ThreadsBlocked" : 0,
    "ThreadsWaiting" : 3,
    "ThreadsTimedWaiting" : 26,
    "ThreadsTerminated" : 0,
    "LogFatal" : 0,
    "LogError" : 5,
    "LogWarn" : 10,
    "LogInfo" : 1302813
  } ]
}

对应的页面监控信息如下

在这里插入图片描述

二、获取的所有信息

curl hadoop101:50070/jmx

三、获取指定信息方法

通过name参数指定,curl hadoop101:50070/jmx?qry=${name的value值}
例如:
curl hadoop101:50070/jmx?qry=Hadoop:service=NameNode,name=FSNamesystemState

curl hadoop101:50070/jmx 查出name的值,方法上面的参数中

    "name" : "Hadoop:service=NameNode,name=FSNamesystemState",

四、更多namenode的参数信息

NameNode
NameNode:50070
Hadoop:service=NameNode,name=JvmMetrics
MemHeapMaxM
MemMaxM
Hadoop:service=NameNode,name=FSNamesystem
CapacityTotal
CapacityTotalGB
CapacityRemaining
CapacityRemainingGB
TotalLoad
FilesTotal
Hadoop:service=NameNode,name=FSNamesystemState
NumLiveDataNodes
Hadoop:service=NameNode,name=NameNodeInfo
LiveNodes
java.lang:type=Runtime
StartTime
Hadoop:service=NameNode,name=FSNamesystemState
TopUserOpCounts:timestamp


参考: https://www.cnblogs.com/xinfang520/p/10740934.html

总结

通过直接调用 /jmx,访问servlet,来实现数据的获取

官网在这里写了metrix的描述,好像
https://hadoop.apache.org/docs/r2.10.1/hadoop-project-dist/hadoop-common/Metrics.html

  大数据 最新文章
实现Kafka至少消费一次
亚马逊云科技:还在苦于ETL?Zero ETL的时代
初探MapReduce
【SpringBoot框架篇】32.基于注解+redis实现
Elasticsearch:如何减少 Elasticsearch 集
Go redis操作
Redis面试题
专题五 Redis高并发场景
基于GBase8s和Calcite的多数据源查询
Redis——底层数据结构原理
上一篇文章      下一篇文章      查看所有文章
加:2022-03-10 22:36:15  更:2022-03-10 22:40:39 
 
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁

360图书馆 购物 三丰科技 阅读网 日历 万年历 2024年11日历 -2024/11/24 9:19:42-

图片自动播放器
↓图片自动播放器↓
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
图片批量下载器
↓批量下载图片,美女图库↓
  网站联系: qq:121756557 email:121756557@qq.com  IT数码