大数据基础:Doris重点架构原理
创始人
2025-01-09 03:32:34
0次

文章目录

Doris重点架构原理

一、Apache Doris介绍

二、Apache Doris使用场景

三、Apache Doris架构原理

四、Apache Doris 特点


Doris重点架构原理

一、Apache Doris介绍

基于 MPP 架构的高性能、实时的分析型数据库,以极速易用的特点被人们所熟知,仅需亚秒级响应时间即可返回海量数据下的查询结果,不仅可以 支持高并发的点查询场景,也能支持高吞吐的复杂分析场景 。

二、Apache Doris使用场景

  • 报表分析

  • 即席查询(Ad-hoc Query)

  • 统一数仓构建

  • 数据湖联邦查询

三、Apache Doris架构原理

Doris 架构非常简单,只有两类进程FE和BE,这两类进程都是可以横向扩展的,单集群可以支持到数百台机器,数十 PB 的存储容量。并且这两类进程通过一致性协议来保证服务的高可用和数据的高可靠。这种高度集成的架构设计极大的降低了一款分布式系统的运维成本。

  • Frontend(FE): 主要负责用户请求的接入、查询解析规划、元数据的存储、节点管理相关工作。

FE又分为 Leader、Follwer和Observer三种角色 ,默认一个Doris集群中只能有一个Leader,可以有多个Follwer和Observer。其中Leader和Follwer组成一个Paxos选择组,如果Leader宕机,则剩下的Follower会自动选出新的Leader,保证单节点宕机情况下元数据的高可用及数据写入高可用。

Observer用来扩展查询节点、同步Leader元数据进行备份,如果Doris集群压力非常大,可以扩展Observer节点来提高集群查询能力,Observer不参与选举、数据写入,只参与数据读取。

  • Backend(BE) :一个用户请求通过FE解析、规划后,具体的执行计划会发送给BE具体执行,BE主要负责数据存储、查询计划的执行。

BE分布式的存储Doris table表数据,table表数据会经过分区分桶形成tablet,tablet采用列式存储,默认有3个副本。BE会接收FE命令来创建、查询、删除table表,接收来自FE的执行计划并分布式执行。BE会通过索引和谓词下推快速过滤数据,可以在后台执行Compact任务,减少查询时的读放大。

  • Broker(可选):

Apache Doris架构中除了有BE和FE进程之外,还可以部署Broker可选进程,主要用于支持Doris读写远端存储上的文件和目录。例如:Apache HDFS 、阿里云OSS、亚马逊S3等。

Broker 通过提供一个 RPC 服务端口来提供服务,是一个无状态的 Java 进程,负责为远端存储的读写操作封装一些类 POSIX 的文件操作,如 open,pread,pwrite 等等。除此之外,Broker 不记录任何其他信息,所以包括远端存储的连接信息、文件信息、权限信息等等,都需要通过参数在 RPC 调用中传递给 Broker 进程,才能使得 Broker 能够正确读写文件。Broker 仅作为一个数据通路,并不参与任何计算,因此仅需占用较少的内存。通常一个 Doris 系统中会部署一个或多个 Broker 进程。

四、Apache Doris 特点

  • 支持标准SQL接口

  • 列式存储引擎

  • 支持丰富的索引结构

  • 支持多种存储模型

  • 支持物化视图

  • MPP架构设计

  • 支持向量化查询引擎

  • 动态调整执行计划

  • 采用CBO和RBO 查询优化器


  • 📢博客主页:https://lansonli.blog.csdn.net

  • 📢欢迎点赞 👍 收藏 ⭐留言 📝 如有错误敬请指正!

  • 📢本文由 Lansonli 原创,首发于 CSDN博客🙉

  • 📢停下休息的时候不要忘了别人还在奔跑,希望大家抓紧时间学习,全力奔赴更美好的生活✨

相关内容

热门资讯

玩家必看秘籍作弊器!红豆大厅作... 玩家必看秘籍作弊器!红豆大厅作弊器多功能AI脚本,红豆大厅好像是真的有作弊器脚本进入游戏-大厅左侧-...
一分钟教你透视挂!南京麻将透视... 一分钟教你透视挂!南京麻将透视挂多功能AI软件,南京麻将原来是真的有透视挂软件1、进入游戏-大厅左侧...
避坑细节透视器!战皇透视器多功... 避坑细节透视器!战皇透视器多功能AI技巧,战皇本来真的有透视器技巧亲,关键说明,战皇透视脚本安卓赛季...
每日必看透视器!好运透视器多功... 每日必看透视器!好运透视器多功能AI攻略,好运总是真的是有透视器攻略1、全新机制【好运ai辅助工具激...
科技通报辅助!河洛杠次辅助多功... 科技通报辅助!河洛杠次辅助多功能AI工具,河洛杠次确实存在有辅助工具亲,关键说明,河洛杠次透视脚本安...
一分钟教会你作弊器!起点休闲作... 一分钟教会你作弊器!起点休闲作弊器多功能AI技巧,起点休闲好像真的是有作弊器技巧1、起点休闲破解器简...
9分钟了解作弊器!心悦辽宁麻将... 9分钟了解作弊器!心悦辽宁麻将作弊器多功能AIapp,心悦辽宁麻将都是是有作弊器app1、心悦辽宁麻...
一分钟揭秘作弊器!卡卡众娱作弊... 一分钟揭秘作弊器!卡卡众娱作弊器多功能AI技巧,卡卡众娱原来是有作弊器技巧1、完成卡卡众娱辅助器v3...
科技新动态辅助!三打哈辅助多功... 科技新动态辅助!三打哈辅助多功能AI软件,三打哈其实存在有辅助软件所有人都在同一条线上,像星星一样排...
必看攻略透视挂!小熊猫麻将透视... 必看攻略透视挂!小熊猫麻将透视挂多功能AI脚本,小熊猫麻将确实是有透视挂脚本1、小熊猫麻将免费脚本咨...