作者:洛浩
Serverless 应用引擎的组件架构
最早的时候,大家设计软件一般按照单体架构,包括和软件相关的数据库,存储等,会直接部署到一台物理服务器上。但是单体应用的问题在于,随着企业的规模逐步增大,扩展性较差,发布效率非常低。后来,就进入了微服务时代,微服务主要用的框架是基于 Java 语言。微服务架构的一个优势在于迭代效率非常高,扩展性也比较好,但是微服务对资源的占用和成本相对较高。随着技术的演进,容器化加速了微服务的落地。但并不是所有的企业都适合微服务,随着系统复杂性的提升,微服务的效率,运维成本也在增加。企业选用单体架构,还是微服务取决于系统的复杂程度。
随着公有云的发展,越来越多的用户会把业务部署到云上。随着云的使用深度越高,架构的优势也就越明显。第一阶段叫 Rehost,就是重新托管,使用云主机替换本地物理服务器,不改应用,但是这种托管模式是最基础使用云的方式,它的效率并没有达到最大化。随着进一步的发展,我们需要 Re-platform,使用托管的云服务替换自建应用基础设施,基本不改应用。但 Re-platform 也不是最好的一种方式,随着进一步的发展,我们可以重新去架构这个应用,即 Refactor。这个时候,可以用微服务加容器的方式,重构底层架构和软件架构,把云的价值发挥到最大。从长期来看,整体的收益是最大的,但是短期内它的迁移成本要求也是比较高的。
如果应用能够按照云上原生的产品或服务进行重构开发,就能够最深的享受云计算的便利性。但与此同时它有几个问题:
- 投入成本(迁移/改造);
- 云厂商绑定程度;
- 云的易用性(上手门槛/维护);
- 安全性。
阿里云推出了 Serverless 应用引擎(SAE),专门针对应用或者微服务,提供一个全托管的平台。比如 Java 微服务,目前可以做到零改造迁移部署到云上,并且支持完整的微服务治理能力。如果用户想做容器化升级,也可以使用这个平台。
Serverless 应用引擎的核心技术
SAE 由哪些组件构成?是怎样把各种产品能力结合到一起的?可以看下这个组件架构。图中绿色部分,是用户需要关注的,是各种各样的业务应用。同时,SAE 会提供各种工具,比如 Cloudtoolkit 插件辅助本地代码部署到云端,比如对接云效提供流水线能力。图中橘黄色部分,就是 SAE 平台,会提供很多种能力。比如说写了一个商城应用,前台就是一个独立的服务模块,可以单独迭代、开发或者管理。还可以给前台服务配置弹性策略,例如在大促期间,前台服务可以根据实际流量自动弹性伸缩,这个也是 SAE 的一个核心价值。所以 SAE,既可以提供资源管理能力,又能提供应用生命周期管理、微服务治理,是一个全托管式的应用平台。在资源层面,SAE 封装了K8s 集群,K8s 之下是基础设施,由神龙服务器和安全容器构建,SAE 在资源层面,会帮助用户提供资源管理和调度能力。
接下来讲一下 SAE 的核心能力。首先,我们先看一下传统企业用户部署应用的整个流程,首先是需要购买 ECS 资源,然后搭一个集群,对集群进行初始化,然后构建环境。研发开发完成后,开始进行测试部署,另外还要去部署监控、日志等组件。等业务全部上线后,就进入维护状态,包括资源的运维和业务的运维。而使用 SAE 可以省掉很多步骤,首先底层的 K8s 集群由云厂商来维护,用户只用提交镜像或者 JAR 包,就可以把系统部署到 SAE 平台。其次,监控和日志系统,这些已经由平台提供,用户只需要关注业务逻辑,不需要去维护资源。
如果用户想要做灰度发布该怎么办?SAE 也给用户提供了单批、分批、金丝雀等发布策略。让部署到平台上的业务能够做到不停机更新,这个能力也是默认就提供的。
关于用户诉求非常强烈的金丝雀发布,SAE 可以以做到按请求内容灰度 ,和按流量比例灰度。比如要做流量比例灰度,分批发布直接 50%,两批即可发完。同时,也可以按照精准的流量比例进行灰度。
用户使用这个平台也会非常关注弹性能力,而 SAE 提供了非常丰富的弹性配置。可以基于基础监控指标(CPU、Mem)和业务监控指标(QPS 、RT)来触发水平伸缩 。按照这种负载模型去做弹性扩缩容,一般比较适用于突发流量、或者有典型脉冲的应用场景。比如互联网游戏,社交平台。第二种是定时弹性,这种模型比较适合像餐饮,出行这种有波峰波谷的应用场景。
那么弹性效率能不能跟得上弹性诉求呢?正常情况下,当我们把一个镜像部署到平台,系统要经过一个资源调度,然后创建 POD,拉用户镜像,创建容器,启动容器等几个步骤。为了提升这个效率,SAE 首先针对应用做了原地升级能力。就是针对应用升级发布,可以直接在原有资源上,直接拉用户最新的镜像进行更新和部署,避免重建 POD,从而帮用户提升了 42% 的部署效率。
其次,SAE 还做了镜像加速能力,能帮用户提升 30% 的弹性效率。也就是在用户在创建容器的时候,会同步按需去拉取用户镜像,可以降低服务启动时间。
第三,SAE 针对 Java ?应用的启动也做了加速。提供的 Dragonwell JDK版本,可以在 JVM 和进程启动的时候,生成缓存,再应用二次启动的时候,进行加速,缩短启动时间。
最后,SAE 会给用户提供这种监控和应用诊断能力,可以查询服务的调用链、接口的响应耗时、GC 次数、慢 SQL 等,帮用户快速定位问题。
Serverless 应用引擎的最佳实践
微服务/应用迁移到 SAE,大概有几个步骤。首先如果是单体,可以直接打一个压缩包,部署到平台上来,但是单体应用需要做存算分离,也就是数据库和计算代码分离开,把计算部分部署到 SAE。微服务应用可以选择写一个 docker file,做成镜像,然后推到镜像仓库,即可完成部署。微服务应用也可以选择打成 JAR/WAR 包直接部署到 SAE。
关于降本方面,SAE 也推出了一键启停功能。针对不同的环境,可以开启定时起停应用。比如对于测试环境,在晚上没人用的时候,就可以把测试环境直接关掉,来节省成本。
SAE 提供多种工具和方法来构建 DevOps 体系。比如大部分企业用户常用的 Jenkins,或者选择云上的云效等来做 CI/CD。在应用侧,可以在 SAE 平台配置定时启停、监控告警等完成业务运维。
关于企业用户比较关注的环境管理和权限划分,SAE 推荐使用命名空间,来做环境的隔离,不同的命名空间下的应用是不能互访的。另外,SAE 推荐使用权限助手来给不同的团队,生成对应命名空尽或者应用服务的权限策略,最终做到不同团队之间的应用,相互不可见不可操作。
[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-1WM3BbHP-1638114589859)(https://p9-juejin.byteimg.com/tos-cn-i-k3u1fbpfcp/fbe890baceb84e4097f328ca24388b25~tplv-k3u1fbpfcp-watermark.image?)]
还有的用户会关注 SAE 和 ECS 比,做了哪些能力增强呢?首先是提供的这种免运维全托管能力,其次是一站式的全应用生命周期管理能力,以及针对微服务的治理和优化、应用监控等,都是 SAE 给用户提供的增值体验。
Serverless 应用引擎的客户案例
第一个 Timing app,是在教育领域的在线课程学习 app,它是典型单体应用重构成微服务,迁移到 SAE 平台。随着疫情的发展,Timing 的流量激增之后,原有架构难以承载业务的发展,开始做微服务改造。在微服务化的过程当中选了 SAE 平台,像用户中心,学习中心,自习中心、图书馆中心等等,都被拆成独立的服务模块。对比使用云主机自建微服务的方式,大约节省 35% 成本。
另外想要分享的案例是爱奇艺·体育,其整个业务都部署在 SAE 平台上。在今年 6、7 月份的时候,爱奇艺·体育转播了欧洲杯赛事,当时的流量非常高;但是体育赛事结束之后,流量又开始回落,因此弹性能力对其尤为重要。而 SAE 丰富的弹性能力,可以帮助节省大量的运维开销,扩容效率比之前提升了 40%。其次内置的应用监控平台,在业务遇到问题的时候,排障处理效率也提升了 30%。整体上 SAE 帮助爱奇艺·体育还提升了近 50% 的资源利用率。
相信随着云计算的发展,Serverless 将成为云时代默认的计算范式,越来越多的企业客户将会采用这个技术。
戳此处,前往查看视频解析~
|