1. 首页 > 科技

当OLAP碰撞Serverless,看ByteHouse如何建设下一代云计算架构

作为云计算的下一个迭代,Serverless 可以使开发者更专注于构建产品中的应用,而无需考虑底层堆栈问题。伴随着近年来相关技术成熟度的增加,市场对 Serverless 的接受程度也变得越来越高。可以说时至今日,Serverless 已迈入了向成熟稳定方向发展的高速轨道。

作为一款火山引擎推出的云原生数据仓库,ByteHouse 基于开源 ClickHouse 构建,并在字节跳动内外部场景的检验下,对 OLAP 引擎能力、性能、运维、架构进一步升级。除此之外,ByteHouse 也在 Serverless 方向探索,基于 cloud-native 云原生的理念构建了全新一代的数据仓库,架构上进行了三层解耦,期望在 Serverless 的加持下,提供更稳定、可靠、可信的分析服务,让开发人员时间精力从基础设施运维优化上解放,更聚焦在核心业务功能中。

然而,在 OLAP 领域的 Serverless 技术实现上,仍然存在一些技术难点。

OLAP 数据分析涉及到存储、网络、操作系统、数据库、AI 等 IT 领域几乎全栈的技术点,需要厂商做持续的、高成本的研发投入。而且这些投入短期内难见市场回报,一旦中途停顿则意味着前期的投入全都“打水漂”。

其次,虽然已经有几款商用的 Serverless 架构的数据仓库,但是其提供的算力规模很难支撑中大型规模的数据仓库或者分析平台的需求。也就是说,Serverless 架构的数据仓库还需要在算力上做进一步的提升。

Serverless 的规模化应用还面临服务标准化的问题。没有标准化的规范会导致用户被平台锁定,无法实现应用的平移、无缝搬迁。因此,为了推动 Serverless 的规模化应用,需要有与之配套的标准和规范体系。

为了更好解决以上难点,火山引擎ByteHouse逐步向 Serverless 架构演进,并针对存储层、中间层以及云服务层进行三层架构解耦。

图片1.webp

ByteHouse向 Serverless演进的技术架构

在存储层的设计中,ByteHouse实现了Serverless化、弹性伸缩、容量无限扩展。为提升存算分离架构下的性能问题,ByteHouse针对HDFS语义优化,让带宽仅增加10%的情况下,延迟减少3倍,并在网络通信上, 采用连接复用、RDMA、传输压缩等技术,大幅缓解了网络放大问题。

在中间层,ByteHouse通过按读写进行隔离、按应用类别进行隔离等方式实现负载隔离,在满足用户基本需求的情况下,实现架构逐步向Serverless演进。

在上层的cloud services 云服务层,ByteHouse提供集中化的catalog 元数据服务、集群管理服务等,让元数据从计算层解耦,实现了无状态化,获得秒级的弹性伸缩和启停能力。

Serverless 在 OLAP 领域的应用依然面临一些挑战,但随着技术的不断演进和迭代,标准化的规范体系的建立和完善,ByteHouse将持续探索和应用Serverless架构优势,为行业和用户提供更优质的数据分析服务。(作者:杨博帆)

相关推荐

  • Xiaomi Vela全面开源,助力构建科技引领的IoT操作系统

    Xiaomi Vela全面开源,助力构建科技引领的IoT操作系统

    Xiaomi Vela全面开源,助力构建科技引领的IoT操作系统,小米,开放,开发者,开源,操作系统,11月16日消息,小米在进行的IoT生态伙伴大会上正式宣布推出了小米IoT四大开放举措,旨在进一步拓展其智能设备生态系统。在这次发布会上,小米首次向智能设备伙伴开放了200多个品类的加入,意味着更多的设备将有机会融入小米的生态系统,丰富用户体验。与此同时,小米还向全国产业伙伴开放了连接标准,为产业伙伴提供更广泛的合作空间,共同推动IoT领域...

  • 火山引擎:以数字之力,让景区与游客双向奔赴

    火山引擎:以数字之力,让景区与游客双向奔赴

    火山引擎:以数字之力,让景区与游客双向奔赴,文旅,游客,火山,景区,数字化,今年以来,旅游消费“井喷式”爆发,“特种兵式打卡”的报复性旅游也在社交平台上掀起了现象级的热度。“青春没有售价,出发就在当下”,越来越多的人渴望一场说走就走的旅行。但是经历过景区“人-从-众”的洗礼之后,体验与感受成为了消费者核心的关注点之一。如何提升游客体验,营造良好的旅游消费环境,成为文旅行业所需要面临和解决的共性问题。针对上述问题,火山引擎联合泰山文旅,全面打...

  • “云智龙华 数赋质新”龙华区工业企业走进华为南方工

    “云智龙华 数赋质新”龙华区工业企业走进华为南方工

    “云智龙华 数赋质新”龙华区工业企业走进华为南方工厂!,华为,工厂,企业,创新中心,云计算,11月10日,由龙华区工业和信息化局指导,龙华(华为)智能制造和现代服务业创新中心主办,华为云计算技术有限公司协办“云智龙华 数赋质新”龙华区工业企业走进华为南方工厂主题交流会在华为松山湖园区成功举办。龙华区工业和信息化局党组成员、二级调研员邹晓乔,华为云龙华创新中心总经理冯正行,华为云SparkPack解决方案专家田豫蓉,华为云赋能云解决方案总监...

  • 火山的女儿结婚条件是什么 详细结婚条件攻略分享

    火山的女儿结婚条件是什么 详细结婚条件攻略分享

    火山的女儿结婚条件是什么 详细结婚条件攻略分享,条件,火山,选择,公主,分享,攻略,好感度,聊天,火山的女儿游戏中很多玩家不知道结婚条件是什么,下面就是网友分享的火山的女儿结婚条件的详细攻略,感兴趣的小伙伴快来一起看看!火山女儿的婚姻条件1、完成课程:《寂静的深度:雅各布画谈》、绘画的诀窍、《空中花园》、布鲁特机关弓。2、培养注重礼仪艺术修养和人际关系。选择领主时选择公主。每天与公主聊天、咨询、送礼、约会等提高好感度。3、不要同意任何人的求婚。不要提高王子的好感度...

  • 火山引擎技术助力长城汽车打造车企数智化新范式

    火山引擎技术助力长城汽车打造车企数智化新范式

    火山引擎技术助力长城汽车打造车企数智化新范式,火山,深度,模型,企业,范式,11月13日,长城汽车官宣与火山引擎达成技术合作,双方将围绕大数据、企业大模型应用、云基础设施、数字化营销等数智化领域六大课题展开深度合作,共同打造智能化汽车。火山引擎总裁谭待表示:“火山引擎将字节跳动快速发展过程中积累的增长方法、技术能力和应用工具开放给外部企业,希望我们的技术服务能够为长城未来的发展贡献力量。”2021年12月,火山引擎正式宣布进军云服务市场。时...

  • 芯片禁令或带来不确定性 阿里不再推进阿里云分拆

    芯片禁令或带来不确定性 阿里不再推进阿里云分拆

    芯片禁令或带来不确定性 阿里不再推进阿里云分拆,智能,阿里巴巴,时代,芯片,云计算服务,导语:阿里巴巴将坚决加大对阿里云的持续战略投入,确保阿里云专注于“AI+云计算”发展战略,打造AI时代技术领先的云计算服务。11月16日,阿里巴巴集团财报披露,鉴于多方面不确定性因素,不再推进云智能集团的完全分拆。同时,阿里巴巴将坚决加大对阿里云的持续战略投入,确保阿里云专注于“AI+云计算”发展战略,打造AI时代技术领先的云计算服务。阿里财报显示,“美...

  • Gartner发布中国首个CSP市场指南,火山引擎内容云登榜

    Gartner发布中国首个CSP市场指南,火山引擎内容云登榜

    Gartner发布中国首个CSP市场指南,火山引擎内容云登榜,中国,市场,火山,数字,提速,日前,国际权威机构Gartner正式发布了《China Context: Market Guide for Content Services Platforms》(中国内容服务平台市场指南(以下简称《指南》),对中国内容服务平台市场(CSP)进行了详尽分析,火山引擎荣登标杆服务商榜单。这是Gartner发布的首个中国区CSP行业报告,标志着内容建设...

  • APUS与大数据国家工程实验室达成战略合作

    APUS与大数据国家工程实验室达成战略合作

    APUS与大数据国家工程实验室达成战略合作,大数据,模型,平台,达成,开源,日前,APUS与深圳大学大数据系统计算技术国家工程实验室(以下简称“国家工程实验室”)达成战略合作。双方集成各自优势联合开发、开源高性能中文多模态大模型Linly-Chinese-LLaMA-2-70B。该模型将更加适配中文服务场景,计划于2024年初在APUS开源平台、GitHub及Hugging Face开源平台向公众开放。此次合作将进一步推动AI技术创新与国...

  • 火山的女儿多少钱 详细价格攻略分享

    火山的女儿多少钱 详细价格攻略分享

    火山的女儿多少钱 详细价格攻略分享,火山,攻略,分享,游戏中,配置,女儿,多少钱,价格,火山的女儿游戏中很多玩家不知道多少钱,下面就是网友分享的火山的女儿价格的详细攻略,感兴趣的小伙伴快来一起看看!火山的女儿多少钱?答:35元详情介绍:1、火山女儿在steam上的价格是35元。2、火山女儿配置要求。...

  • 火山的女儿魔物材料有什么用 详细用处攻略分享

    火山的女儿魔物材料有什么用 详细用处攻略分享

    火山的女儿魔物材料有什么用 详细用处攻略分享,火山,魔物,分享,好感度,攻略,铁匠,游戏中,提升,火山的女儿游戏中很多玩家不知道魔物材料有什么用,下面就是网友分享的火山的女儿魔物材料用途的详细攻略,感兴趣的小伙伴快来一起看看!火山女儿的魔术材料有什么用?答:销售、赠送、获得好感度详细介绍:1、卖给铁匠得到金币。2、给NPC提升好感度。...

  • 三核是什么

    三核是什么

    三核是什么,核心,处理器,产品,三核,频率,原生,客户,推出,CPU,处理器,三核简单来说就是 3 个核心,核心又称为内核,是 CPU 最重要的组成部分。三核产品最早是由 AMD 公司研发的。当 AMD 突然宣布将在 2008 年第一季度推出原生三核心处理器 Phenom Tripe-Core 的时候,整个业界都感到有些措手不及,毕竟大家一心关注的是 1-2-4-8-16 这样一个翻番式的核心增长模式。在 Intel 的凌厉攻势下艰难前进了几个季度的 AMD 迫切...

  • LAMP 是什么

    LAMP 是什么

    LAMP 是什么,解决方案,脚本语言,堆栈,用于,开源,服务器,引用,应用程序,Apache,LAMP,Linux,MySQL,PHP,web,服务器,精选问答,LAMP 为 Linux、Apache、MySQL、PHP 的简称,这是一个常规的 Web 服务器环境解决方案,使用其首字母缩写“LAMP”来引用。它是一个用于创建和管理 Web 应用程序的开源开发平台。Linux 用作后端操作系统(OS)。Apache 是​​Web 服务器,MySQL 是数据库,PHP...

  • AliSQL是什么

    AliSQL是什么

    AliSQL是什么,版本,开源,分支,功能,云数据库,官方,阿里巴巴,秒杀,AliSQL,MySQL,数据库,阿里云数据库,AliSQL 是阿里云深度定制的独立 MySQL 分支,除了社区版的所有功能外,AliSQL 提供了类似于 MySQL 企业版的诸多功能,如企业级备份恢复、线程池、并行查询等,并且 AliSQL 还提供兼容 Oracle 的能力,如 sequence 引擎等。RDS MySQL 使用 AliSQL 内核,为用户提供了 MySQL 所有的功能,...

  • Groovy是什么意思

    Groovy是什么意思

    Groovy是什么意思,语法,代码,特性,支持,原生,类型,编译,文件,Groovy,Java,JVM,动态语言,科技问答,编程语言,Groovy 是一种基于 JVM(Java 虚拟机)的敏捷开发语言,Groovy 动态语言拥有类似 Python、Ruby 和 Smalltalk 中的一些特性,可以作为 Java 平台的脚本语言使用,Groovy 代码动态地编译成运行于 Java 虚拟机上的 Java 字节码,并与其他 Java 代码和库进行互操作。Groovy...

  • 明日方舟火山旅梦新干员基建技能厉害吗 详细技能攻略

    明日方舟火山旅梦新干员基建技能厉害吗 详细技能攻略

    明日方舟火山旅梦新干员基建技能厉害吗 详细技能攻略分享,技能,贸易,明日方舟,火山,速度,订单,恢复,获取,明日方舟游戏中很多玩家不知道火山旅梦新干员基建技能厉害吗,下面就是网友分享的明日方舟火山旅梦新干员基建技能厉不厉害的详细攻略,感兴趣的小伙伴快来一起看看!明日方舟火山旅梦新干员基础设施技能1精0:在加工站加工基础设施材料时,副产品的产出概率提高了75%精2:进入加工站加工基础设施材料时,情绪消耗为4的配方全部-2情绪消耗用于加工,概率不错,关键是心情消耗不高...

  • OSS是什么意思

    OSS是什么意思

    OSS是什么意思,开源软件,软体,开放,开放源代码,自由软件,运动,源代码,修改,开源,开源软件,源代码,精选问答,开源软件(OSS)是与源代码一起分发的软件,可以由用户读取或修改。OSS 社区普遍认为开源软件应符合以下标准:该计划必须自由分发源代码必须包含在程序中任何人都必须能够修改源代码可以重新分发源代码的修改版本同样,开源软件许可证不得要求排除或干扰其他软件的运行。与以不可更改的编译格式分发的传统软件不同,开源软件以编译和非编译格式提供,允许开放代码修改。在...

  • 雾计算是什么

    雾计算是什么

    雾计算是什么,计算,数据,边缘,云计算,发送到,云存储,聚合,描述,云计算,大数据,思科,物联网,边缘计算,雾计算,雾计算是云计算替代方案的术语,它将某些类型的交易和资源置于网络边缘,而不是为云存储和利用建立渠道。雾计算的支持者认为,它可以通过不通过云通道发送每一点信息来减少对带宽的需求,而是在某些接入点(例如路由器)上聚合它。这允许对云存储中可能不需要的数据进行更具战略性的编译,如果有的话。通过使用这种分布式策略,项目经理可以降低成本并提高效率。思科将此云计算设...

  • 永久免费的CRM软件有哪些

    永久免费的CRM软件有哪些

    永久免费的CRM软件有哪些,企业,永久免费,悟空,开源,提升,选择,有哪些,客户,CRM系统,CRM软件,免费CRM,开源CRM,很多企业都意识到了使用 CRM 客户关系管理系统的重要性,不过也有很多企业认为这样的软件刚开始使用,由于有疑虑,所以不希望给企业带来额外的负担,不希望在这上面增加成本,因此很多企业就会选择使用那些永久免费的 CRM 软件。那么现在市场上永久免费的 CRM 软件有哪些呢?实际上这样的永久免费 CRM 软件指的就是 SaaS 版 CRM 以...

  • Electron是什么

    Electron是什么

    Electron是什么,程序,桌面,可执行文件,网页,开源框架,运行,桌面应用,技术开发,Atom Shell,Electron,GitHub,Web技术开发,开源框架,Electron 是 GitHub 开发的一个开源框架。它允许使用 Node.js 和 Chromium 完成桌面 GUI 应用程序的开发。Electron 现已被多个开源 Web 应用程序用于前端与后端的开发,著名项目包括 GitHub 的 Atom 和微软的 Visual Studio Cod...

  • 时间超分辨率是什么

    时间超分辨率是什么

    时间超分辨率是什么,分辨率,图像,虚幻引擎,游戏,渲染,原生,动态,系统,时序超级分辨率,时间超分辨率,虚幻引擎,超分辨率,时间超分辨率(Temporal Super Resolution,TSR) 是虚幻引擎 5 的决定性功能,即使它在花哨的新照明和阴影引擎之后退居二线。TSR 是一种内部超级采样工具,可以让游戏在以较低分辨率渲染的同时实现接近原生的图像质量,从而提高性能。TSR 是一种新的低分辨率单帧缩放技术,可最大限度地提高性能和视觉保真度。AMD 与 Ep...