IT数码 购物 网址 头条 软件 日历 阅读 图书馆
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
图片批量下载器
↓批量下载图片,美女图库↓
图片自动播放器
↓图片自动播放器↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁
 
   -> 大数据 -> presto安裝 -> 正文阅读

[大数据]presto安裝

一、服务端安装

官网地址:Presto | Distributed SQL Query Engine for Big Data

1、下载包

2、解压缩

tar -zxvf presto-server-0.265.1.tar.gz?

mv?presto-server-0.265.1 /usr/local/presto

3、 创建data、etc文件夹:

mkdir data

mkdir etc

?plugin下存放各种数据源的连接

data:后期会存储我们计算过程当中的临时数据。

4、在etc下添加jvm.config

vi?jvm.config

添加如下内容:

-server
-Xmx16G
-XX:+UseG1GC
-XX:G1HeapRegionSize=32M
-XX:+UseGCOverheadLimit
-XX:+ExplicitGCInvokesConcurrent
-XX:+HeapDumpOnOutOfMemoryError
-XX:+ExitOnOutOfMemoryError

?5、presto支持多个数据源,在presto中叫catalog,这里我们配置支持hive的数据源,配置一个hive的catalog。

cd /usr/local/presto/etc

mkdir catalog

vi hive.properties

connector.name=hive-hadoop2
hive.metastore.uri=thrift://master:9083

此处的hive-hadoop2中的Hadoop2指的是Hadoop的版本。

6、配置好后分发给其他服务器。

7、分发完成后,在etc下创建node.properties

node.id的值可以为数据、字母、运算符。只要保证每台机器不一样即可。

node.data-dir:存储临时数据的路径?

?8、presto是由一个corrdinator节点和多个worker节点组成。在master节点上配置成coordinator,在master-backup和node1上配置成worker。

master:

coordinator=true
node-scheduler.include-coordinator=false
http-server.http.port=8881
query.max-memory=50GB
query.max-memory-per-node=1GB
query.max-total-memory-per-node=2GB
discovery-server.enabled=true
discovery.uri=http://master:8881

master-backup和node1

coordinator=false
http-server.http.port=8881
query.max-memory=50GB
query.max-memory-per-node=1GB
query.max-total-memory-per-node=2GB
discovery.uri=http://master:8881

query.max-memory为查询的最大内存。测试环境没那么大的数据量,随便配。生产上要根据服务器内存,其他组件使用的内存等综合考虑。

discovery-server是coordinator内置的一个服务,共用8881端口。

discovery-server用来跟workder进行通讯。服务启动后worker会向discovery-server进行注册并保持监听,实时汇报任务状态和健康状态,并与coordinator保持通讯,这样coordinator就可以知道每个worker的状态,可以更好的分配任务。

9、配置完成后,就可以启动服务了,启动前需要先启动hive。

启动hive

cd /usr/local/hive

bin/hive --service metastore

启动presto

前台启动:?bin/launcher run

后台启动:bin/launcher start

?二、客户端安装

Command Line Interface — Presto 0.266 Documentation

mv presto-cli-0.265.1-executable.jar prestocli

chmod +x prestocli

./prestocli

./prestocli ?--server master:8881 --catalog hive --schema default

show schemas;

use db_hive;

show tables;

?

三、可视化客户端安装

下载 yanagishima-17.0.tar.gz 最新包

  大数据 最新文章
实现Kafka至少消费一次
亚马逊云科技:还在苦于ETL?Zero ETL的时代
初探MapReduce
【SpringBoot框架篇】32.基于注解+redis实现
Elasticsearch:如何减少 Elasticsearch 集
Go redis操作
Redis面试题
专题五 Redis高并发场景
基于GBase8s和Calcite的多数据源查询
Redis——底层数据结构原理
上一篇文章      下一篇文章      查看所有文章
加:2021-12-08 13:53:00  更:2021-12-08 13:53:46 
 
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁

360图书馆 购物 三丰科技 阅读网 日历 万年历 2024年11日历 -2024/11/24 9:42:14-

图片自动播放器
↓图片自动播放器↓
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
图片批量下载器
↓批量下载图片,美女图库↓
  网站联系: qq:121756557 email:121756557@qq.com  IT数码