CloudWeGo 易用性建设:提升 Go 语言云原生工程效率之路

本文介绍了 CloudWeGo 易用性建设的简单背景,以及我们针对易用性建设做了哪些工作,最后会对未来的工作进行展望。

本篇文章是 CloudWeGo 两周年庆典系列的第二篇。

这次分享会首先给大家同步下 CloudWeGo 易用性建设的一个简单背景,然后会介绍我们针对易用性建设做了哪些工作,最后会对未来的工作进行展望。

背景

CloudWeGo 是一套由字节跳动基础架构服务框架团队开源的、可快速构建企业级云原生微服务架构的中间件集合。 CloudWeGo 下的项目主要有三个特点:高性能高扩展性以及高可靠性;并且,在开源后我们也更加重视易用性的建设,我们意识到易用性可以给社区带来很多用户、进而形成活跃的社区氛围,推动社区持续发展,而且易用性可帮助用户快速完成业务逻辑开发,提升效率。

针对易用性,我们在研发体验、用户体验以及社区宣传等均做了诸多工作,下面我来一一介绍。另外这次分享主要会重点介绍 Hertz 以及围绕 cwgo 的易用性建设。

易用性 Feature 建设

Hertz 作为企业级的 HTTP 框架,易用性一直是我们非常重视的方面,因为它能够极大提升研发体验。因此,自从开源以来,我们一直非常重视用户提出的各种关于易用性的建议,并进行了总结:第一个问题是我们在一些 Feature 的使用上与常见的框架有些差别,导致迁移过来的用户可能会不习惯; 第二个问题是框架的脚手架工具较多,例如 CloudWeGo 下就有 hz 和 kitex 两个脚手架,这无疑增加了用户的学习成本;第三个问题是文档的问题,我们在 issue 和用户群的用户反馈中看出,目前我们的文档存在描述不清晰,内容缺失等问题,导致用户遇到问题,往往无法快速解决。

针对以上问题,我们开发了多种能力以快速支持用户需求。

  1. 多协议支持:首先需要介绍的是 Hertz 可支持无缝切换多协议,目前一些开源的框架已经支持了 h2/h3 协议了,因此我们基于 Hertz 协议层的拓展能力,完成了 http2/http3 的实现,并放到了 hertz-contrib 下。其使用方式非常简单,只需要在 Hertz engine 上将对应的协议注册上就可以啦。 http3 协议的支持也类似,不过我们需要将传输层指定为 Hertz 拓展的 quic 协议的传输层,其他的操作就和 http2 一样了。 image

  2. Response Writer 劫持:接下来,再给大家介绍一下 Response Writer 劫持能力。在介绍 Writer 劫持前,先说一下 Hertz 读写报文的流程(图中数字部分),Hertz 会先在连接中读数据&解析,然后会根据请求内容进行路由匹配、业务逻辑处理、创建响应数据等,并在这些工作结束后,由框架将数据发送给对端。这么做可完全简化用户操作,不过在一些场景下却存在问题,首先是用户无法控制响应真正 flush 到对端的时机,因此在一些增量生成数据、实时性要求高的场景,用户限制较多。 image

    因此,我们开发了 Response Writer 劫持能力,在原来写响应流程的基础之上,支持用户在业务 handler/中间件中劫持 Response Writer,提前将响应数据发回到对端,实现更加灵活的写请求方式。 我们已经基于 Response Writer 的能力实现了 handler flush、SSE、流式 Gzip 等能力,更多能力也期待大家贡献。

  3. 参数绑定重构:介绍完 Writer 劫持后,再来给大家介绍一个重要的 Feature - 参数绑定。重构之前 Hertz 的参数绑定依赖了第三方的实现,这会存在以下问题:

    • 依赖第三方实现,用户的需求需要诉诸于开发者
    • 提供接口较少,迁移过来的同学会增加学习成本
    • 性能差,之前的实现适配的是标准 http 库的存储模型,Hertz 用需要多一次转换,性能差

    为解决这些问题,我们重构了参数绑定的能力,将其实现放到 Hertz 内部,作为我们应用层的一个重要实现,重构后它支持和之前一样的绑定规则和使用方法,并且性能也会完全优于之前。另外还支持了自定义 binder 和 Validator,方便用户使用其熟悉的语法。另外,我们将所有的配置统一收敛到一个结构体,使用 withOption 的形式注入到 Hertz engine 上。

以上 3 个就是 Hertz 比较重要的易用性建设方面的 Feature。

生态建设

接下来给大家介绍一下 Hertz 相关的生态建设

目前我们将一些通用的能力以中间件的形式提供给了大家,这样开发者可以更好的关注业务逻辑了,只需要调用中间件就可以使用这些通用的能力。 截止当前,我们已经提供了包括认证/授权、安全、性能、HTTP 通用能力、治理观测拓展能力等各类超过 20 个中间件拓展,基本可满足大部分的业务需求。

image

image

当然,我们也会继续投入这些中间件生态的建设,也欢迎大家来参与到我们的社区开发中来。

脚手架优化

下面我来针对脚手架工具的优化进行介绍。

Hz

在开源的时候,Hertz 的脚手架工具 hz 已经提供基于 IDL 生成 server 的能力,也就是图中的 3、4、5 部分我们已经支持了,目前可以根据 IDL 的接口定义来自动生成路由注册、handler 代码等功能; 但是作为一个通信框架,我们也需要完成 client 端的生成工作,也就是图中的 1、2、6 过程,因此 hz 在开源后支持了生成 client 代码的能力。

image

Client 端生成的目的主要是可以屏蔽掉初始化 Hertz client 、发送请求等一系列固定的操作、为用户提供一个类似 HTTP 请求一键发送的能力,并能够和 hz 生成的 server 直接进行通信。

CWGO

下面我来介绍另外一个工具 cwgo。cwgo 是我们针对 CloudWeGo Golang 框架推出的一个统一的工具。

大家可以看下图,CloudWeGo 在 Golang 下存在多个代码生成工具,虽然我们的 Kitex 和 Hertz 均已经提供了一层封装,但是他们的使用还是略有不同,导致用户的学习成本偏高。 这个问题正是 cwgo 要解决的问题之一。

image

此外,目前 CloudWeGo 社区的 Go 项目还面临如下问题:

  1. API 管理能力相对薄弱, IDL 本身能够作为接口描述/定义工具贯穿整个业务开发迭代过程,但实际 CloudWeGo 对外并没有一个明确的实践方案,目前和企业用户对接时基本上是要求业务方自行围绕 IDL 进行 API 相关的管理
  2. 各个组件相对独立,在共同使用的时候不能无缝的配合
  3. 缺少常用的单测、DB 等代码的生成及配置

随着未来 CloudWeGo 开源组件不断增多,零碎的用户体验也会不断地割裂,因此我们发布了 CloudWeGo all in one 工具 cwgo,旨在从一个全局的视角去解决以上问题。提供一个更简单、易用的微服务生成、管理形式。

下面来介绍 cwgo 的几个特性

  1. cwgo 集成了 hz/kitex 脚手架的能力,并将他们的命令进行抽象、简化,统一在 cwgo 工具上展示,并且会打通生成的结构体、注解、Validator 等功能,无论用户使用 RPC 还是 HTTP,都能为用户提供一个统一的生成代码体验
  2. 交互式命令行,这个能力注意是面向初阶用户,以交互式的形式为用户生成目标代码,极大减少学习成本,用户只需要点点点就可以完成微服务的生成。
  3. 我们会生成更加服务企业需求的 mvc 模版,如右图所示,协助业务的快速开发落地,并方便日后的迭代及维护;并且,cwgo 支持自定义模版、模版托管等能力,也更便于完成模板的管理以及快速替换。
  4. 我们在 cwgo 上提供了一个全新的 微服务部署形态,目前命名为 hex 计划,是 Hertz 和 Kitex 的缩写。Hex 计划的目标是在微服务可在同一个端口同时监听 HTTP/RPC 请求,基于协议嗅探实现零 overhead 的请求分发, 将请求分发给 Hertz 和 Kitex 进行处理。从而可以解决业务在 rpc 服务同时需要提供 HTTP API 接口时在研发效率、复杂度以及性能上的诸多妥协,目前该能力已经在 cwgo 正式发布,大家可按需体验。

用户体验优化

文档优化

自从开源来,CloudWeGo 下的项目一直都注重文档的问题,但是每次都是哪里有问题修哪里,无法全面解决问题

因此,我们参与 CCF GLCC 项目发起了文档优化专项的工作,在该专项中我们主要做了以下工作:

  1. 全方位地对文档进行重新体验,包括代码、图片、内容等,并记录相关问题
  2. 根据记录的相关问题,我们有专人来对文档进行优化,解决了一些逻辑混乱、描述不清晰等问题,并着重优化了 新人教程、Hertz 核心能力等常用文档。根据反馈,优化后的文档已经可以解决基本所有常见问题
  3. 此外,我们还对文档格式、目录结构进行了统一的调整,提供更好的视觉体验 目前,该优化专项目前已在 CloudWeGo 其他项目下进行,也欢迎大家多多给我们反馈文档的问题。

示例代码库

其次,我们提供了丰富的示例代码库。

目前,我们提供了 hertz-examplekitex-example 代码库,这里包含了所有常用 Feature 的可执行的使用实例,并且定期更新、维护。

另外,为了使得业务更快地能使用 CloudWeGo 项目完成业务逻辑开发,我们提供了若干个真实场景的 demo,目前提供了如下的 demo,其中下面的几个业务代码都是使用了 Hertz 和 Kitex 进行开发或者重构,大家可以在此基础上拓展自己的业务逻辑,完成业务的快速上线。

  1. Bookinfo: 使用 Hertz+Kitex 重新实现 IstioBookinfo
  2. Easy Note: 使用 Hertz+Kitex 微服务的形式实现一个笔记服务
  3. Book Shop: 使用 Hertz+Kitex 实现一个电商示例
  4. Open Payment Platform: 使用 Hertz+Kitex 实现支持多商户的开放式支付平台

CSG 活动

我们还定期举办 CSG 活动,CSG 活动旨在帮助开发者了解框架的源码以及最佳用法。

截止目前,CSG 活动已经举办了 5 期,分别带大家了解了 Hertz/kitex/volo 框架的诸多源码和最佳实践,帮助开发者更好的了解和使用框架。大家可以在 cloudwego/community 仓库的 issue 查看往期活动的 issue 介绍与回放。

展望

未来,我们还将继续对 CloudWeGo 的易用性进行持续性的投入和打磨,为用户提供更好的研发体验

  1. 通用研发流程:为用户一套可直接使用的企业级研发流程,并协作各个框架,完成业务高效开发全流程
    • API 一站式管理:统一 CloudWeGo 项目的 API 管理方式,一站式完成描述、开发、测试全流程
    • 分布式 IDL 管理:IDL& 产物与业务代码分开管理,降低维护成本
  2. CWGO x LLM:基于 LLM 提供更多智能的辅助能力
    • 智能代码生成:在 IDL 中添加业务描述,在生成代码时结合 LLM 填充业务代码逻辑
    • 文档自动化:文档自动撰写、优化、翻译、纠错等