IT数码 购物 网址 头条 软件 日历 阅读 图书馆
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
图片批量下载器
↓批量下载图片,美女图库↓
图片自动播放器
↓图片自动播放器↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁
 
   -> 大数据 -> 【Azure Data Platform】ETL工具(19)——Azure Databricks -> 正文阅读

[大数据]【Azure Data Platform】ETL工具(19)——Azure Databricks

本文属于【Azure Data Platform】系列。
接上文:【Azure Data Platform】ETL工具(18)——ADF 迭代和条件活动(2)
这次来聊聊Azure Databricks

前言

之所以突然停下ADF的介绍转而向Azure Databricks, 是因为最近公司的项目已经呈现出ADF与Databricks的组合趋势。为了更好地运维公司的项目,有必要了解一下Databricks。并且大概介绍一下Azure Data Factory和Azure Databricks的关系。

什么是Databricks

今时今日,大数据已经不是新鲜事,也已经被大范围地使用。大数据中有一个开源引擎Spark用来支持大规模数据分析。主要通过集群,并行地进行数据处理,从而提高数据处理性能。
Databricks简单来说,就是Azure上的Spark。 它可以很容易地与Blob storage, ADLS, SQL DB, PowerBI 等工具集成
在这里插入图片描述

  • Databricks Workspace:一个交互式的工作区,用户(主要是数据的消费者)可以通过这个工作区进行合作。
  • Databricks Runtime : 用于支持运行,提高性能。
  • Databricks File System (DBFS):类似于DataBricks的存储,但是对用户来说是一个抽象层。

它与ADF的区别

ADF主要用于从多个大规模的数据源中进行数据集成,Databricks则通过在单一平台中统一数据、分析和 AI 工作负载从而简化数据架构。

  • ADF是一个PaaS,而Databricks偏向于SaaS。
  • ADF 偏向于数据集成,Databricks则偏向于数据处理,机器学习等。
  • ADF是一个低代码平台,可以通过拖拽的方式来实现绝大部分功能,而Databricks则提供丰富的编程支持

什么时候使用ADF和Databricks

目的上:

ADF:数据集成和数据移动。
Databricks:主要针对机器学习建模。

功能需求上:

ADF:低代码带来的功能并不如Databricks强大。
Databricks:通过编程方式扩展所需功能。

数据处理时效性:

ADF:不适合实时数据流。适合定期抽取数据。
Databricks:通过Spark API,可以实现实时流处理。

综上所述:如果并不需要实时的,过多定制需求的数集成,且希望学习成本不要太高,那么ADF是值得考虑的。否则,那么在ADF和Databricks之间选择的话,Databricks更好。

接下来用一点点篇幅介绍如何创建和使用Azure Databricks。

  大数据 最新文章
实现Kafka至少消费一次
亚马逊云科技:还在苦于ETL?Zero ETL的时代
初探MapReduce
【SpringBoot框架篇】32.基于注解+redis实现
Elasticsearch:如何减少 Elasticsearch 集
Go redis操作
Redis面试题
专题五 Redis高并发场景
基于GBase8s和Calcite的多数据源查询
Redis——底层数据结构原理
上一篇文章      下一篇文章      查看所有文章
加:2022-03-11 22:17:06  更:2022-03-11 22:19:35 
 
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁

360图书馆 购物 三丰科技 阅读网 日历 万年历 2024年11日历 -2024/11/24 8:41:53-

图片自动播放器
↓图片自动播放器↓
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
图片批量下载器
↓批量下载图片,美女图库↓
  网站联系: qq:121756557 email:121756557@qq.com  IT数码