近日,网易开源其 Service Mesh 组件 Slime,折射了该公司对 Istio 未来的憧憬。

服务网格(Service Mesh)被很多人认为是云原生时代继 Kubernetes 之后的下一件“大事”。

自微服务架构诞生以E : p s 9 3 + 8 P来,服务间的通信就一直是业界首要攻克的难题之一。在传统的一体式架构中,各个1 m 2 C Z模块之间可以通过应用内调用(进程间通信)完成交互。但在微服务架构下,各个模块以微服务的形式被拆分到了不同的进程甚至节点上,服务间通信只能使用复杂的 RPC 通讯,这也成为了微& @ G 0 g服务架构的一个性能瓶颈。

2016 年,开源软件( ] N c B G J m创业公司 Buoyant 推出针对微服务架构服务间通讯的解决方案 Linkerd,并首次提出了 Service Mesh 的概念。Service Mesh 的定位非常明确,就是用来处理服务与服务之间的通讯的云原生基础设施。+ q Z E

很快,这种将原本“散落”的微服务重新整合分布到一张网状结构中,同时将服务间通信从业^ d 6务层解耦的架构设计获得了业内的高度认可,各大云v 3 K x厂商也开始跟进这一技术。Service Mesh 框架 LinkeD e \ . [ J M Grd 与服务代理项目 Envoy 先后纳入 CNCF 云原生生态版图,谷歌联合 IBM、Lyft 推出 Service Mesh 框架 Istio,Nginx 推出 Nginmesh,AWS 推出 App Mesh ……

其中,背靠谷歌,在 Service Mesh 的基础上提供了诸如容错、金丝雀部署、A/B测试、监控等丰富功能的 Istio,在近年来的Q C R o ? E F市场竞争中脱颖而出,成为市场份额最高的 Service Mesh 产品,大有成为“下一个 K8s”之势,并吸引了一些新的周边开源项目出现,如网u 9 e易数帆旗下轻舟微服务团队近期开源的Sli! . Q sme,就是一个基于Istio的智能网格I l 6 u 1管理器

属于 Service Mesh 的云原生 2.0 时代是否已经到来?Istio 是否能复刻 K8s 的神话,一统 Service Mesh 天下?带着这些问题,我们邀请到了网易数帆轻舟事X Q _ ! t s g | `业部技术团队,这些来自云原生开发一线的网易工程师们为我们分享了他们眼中的V / B 2 # l / \ Servi* y 9 2 ^ $ \ =ce Mesh,以及相关技术在网易内部的落地实践。

什么是 Service Mesh?

Service Mesh 作为– I 2 z !新一代微服务架构,采用 Sidecar(边车) 模式,实现了业务逻^ j } 2 x H a T J辑和微服务治理逻辑的物理解耦,降低微z $ U b D g服务框架的开发与运维成本。

▲ 边车,Sidecar 一词十分形象地描述了 S~ , Z a } U M Qervice Mesh 的架构设计

从服务代理模式演进角度说,Service Mesh 架构的 Sidecar 模式是传统微服务架构下反向代理模式和 SDK 模式的自然演进,既解决了反向代理模式的集中式和单点故障问题,也解决了 SDK 模j m {式的胖客户端和业务侵入问题,Sidecar 模式在效率、稳定性和性能等方% 2 w 0面取了折中。

当然,Sidecar 只负责网络通信,还需要有个组件来统一管理所有 Side0 9 Rcar 的配置。在 Service Mesh 中,负责网络通信的部分叫数据平面(data plane),负责配置管理的部8 + X L P ?分叫控制平面(control plane)。数据平面和控制平面构成了 Service Mesh 的基本架构。5 Y ~ * %

传统微服务架构例A z Y X % ! p如 SpriD @ s G ( \ng Cloud 实现服务治理的方式,通常是将服务治理与业务逻辑耦合在一起,部署、运维都耦合了微服务本身的操作。比如一个 RPC 框架的 bugfix 会引发所有微服务旷日长久的升级发布,同时带来业务开发人员开发^ E p J K h、测试、回归、发布的巨大重复工作量。

而 Service Mesh 通过将与业务逻辑无关的服务治理逻辑下a X _沉,让业务开发人员与基础技术开发人员关注点分离,各司其职,大大提升了研发效能。结合网易数帆团队的体验,Service Mesh 的主要好处如下:

  1. 与业务= R z j解耦,对业务代码无侵入
  2. 具备跨语言特性
  3. 提供了丰富的微服务服务治理0 2 g # z 0 = J功能
  4. 可以解决中台架构下微服务化存在的问题

Service Mesh 在网. C @ 3 u易的落地实践

2017 年,网易严选业务首先开始落地 Service Mesh 架构。在技术选型方面,数e H ; ^ s B ! %据平面采用了 Nginx,控制平面及注册中心采用 Consul,Nginx 和 ConJ Z J 6 U u ( ?sul Agent 形成 Sidecar。通过 Nginx 实现了负载均衡、环境路由、熔断降级和限流等服务东西向流量的管理,通过 Consul 实现了服务注册发现、配置同步、指令下发等控制面流量下$ ~ a _ G , ^发,服务对外调用的流量都通过本地部署的 Nginx,如下图:

基于 Ngi) q d , . – 1 #nx+Consul 的 Service Mesh 1.0 架构在支撑网易严选业务快速发展的过程中发挥了重要作用,不仅解耦了基础4 ; P 4 J ,架构和业务服务化架构,使得他们能够独立演进,也提供了h K –不改造即可接入服务治理能力,对齐了跨团队间对服务治理的理解,降低沟通协作成本,提升了业务团队生a : v 9 E } j产力,到 2017 年底就基本上在严选全面落地了。随着严选规模变大以及业务进一步复杂,业务方对基础架构的诉求需要更灵活的流量调E * A p度、更多功能的服务治理、更大范围的; t l j 1 + )基础组件解耦、更敏捷的快速迭代,更弹性的 IT 资源,之前架构存在一定不足,需要继续演进。

2019 年初,伴随以 Kubernetes、Envoy、Istio 为代表的云原生技术体系成熟,网易严选开始实施基于轻舟服务网格的 St S q g Hervice Mesh 2.0 架构。

Service Mesh 2.0 最大的不同在于全面拥抱云原生( 6 E技术。底座采/ \ l . Y W O用 Kubernetes,通过容器化和混合云基础设施解决快速迭代和 IT 资源弹性的问题。同时对基础组件做了升级,数据面组件采用 Envoy,控制面组件采用 Istio,如下图:

为什么选择了 Istio?

前面提到,市场上f R ` @ I的 Service Mesh 框架还有很多,甚至还有堪称服务网格鼻祖并且已纳入 CNCF 版图的 LT * G Sinkerd 项目,为什么如今最火的却是身为后来者的 Istio 呢?网易数帆团队结合他们当初的选型经验分享了自己的看法。

首先,Istio 具有深厚的云原生背景及大厂背书。Istio 项目的主导者包括J Y | Googd ~ X P 9le、IBM、Lyft 等互联网巨头,GN l i I 3oogle 在 Kubernetes 项目及云原生领域的成功经历让 Istio 自诞生起就成为ServiceMesh 领域的明星项目,再加上其本身设计的全面性与通用性,我f I i = g O们认为Istio有潜力成为 Servicy [ : NeMesh 标准架构选型。

其次,Istio 的数据面选型 Envoy 是L 7 K O ` } u \云原生数据面的事E U k M # _ 6实标准。与“年轻”的 ServiceB d Q @ E L u e sMesh、Istio 不同,Envoy 作为 CNCF 第三个毕业的项目,具备非常丰富的网络代理能力与强劲的性能,在大规模生产环境历练多年。数据面组件在 S{ V D | Mervice Mesh 体系中承载了几乎全部核心流量,不容有失,而 EnD d \ I 9 L = Wvoy 的强大、成熟与标准,能够很好的支撑 Istio 构建m ( ~的 Service Mesh 体系。

再次,Istio 足够流行。优秀的出身、G * 5 f w全面的身手、通用的设计,Istio 项目一直都具备“流量”属性:Id b P x n ! Astio 在 Github 的 Star 数超过 2.5 万,还有超过 600 位全球贡献n 3 A e 4 ) o Q者,每三月一次的稳定0 / w Z d o g s E发布F 6 S ` / ) ( + +节奏…… Istio 有着活跃的社区、足量的受众群体和稳定的发展轨迹,整体呈现4 ^ 3 F出较强的生B c ? q k +命力,这也使得企业选择Istio可以有更i C ` Z加长远和. C 4 f (稳定的演进支撑。

最后,Istio 的发展方向是一切为了企业落地与易用。在 Istio 的发布版本进入 1.x 后,网易团队注意到几乎所有的新特性和优化都是为了企业的落地与易用。包括提升性能与稳0 C O H { \定性的 MixerV2、WASM,控制面多组件 Pilot、Galley、Citadel 合并为 Istiod,明确了多集群能力、非容器能力,简化了安全模型,丰富了排障工具……一切的一切,都是为了企业更好K S O的使用 ServiceMesh 架构。

补足 Istio 短板的“: h \ R B史莱姆”

占得市场先机的 Istio,获得赞誉的同时也引来了不少非议。项目的优势自不必说,Istio 有着f X Z ^ @ @ q一套行之有效的上层抽象,通过配置 Vi} } v @ O r @ (rtualService,DestinationRule 等 CR 可以实现: a H o 5基本的流量^ T h s ,管理,但是在面对本地限流,黑白名单,降级等微服务治理的高阶功能时,这套抽象显得力有不逮。

起初 Istio 给出的解决方案是 Mixer,将这些原本属于数据面的功能上升到 Mixer Adapter 中,虽然解决了功能扩展的问题,但其集中式的架构遭到了不少关注者对其性能的质疑。最终,Istio 自断其臂S w s,弃用了 Mixz V , \ eer,使得高阶功能的扩展成为目前版本的空白。而向后展望,基于Envoy WASM 的\ + * L L H h u 3 MixerV2 虽然解决了数据面扩展的问题,但是接口扩展仍是短板(需要通过通用接口 EnvoyFilter6 7 n v ) ` @ 4 下发配置)。基础平台能否形成百花齐放之生态的关键之一是其接口扩展性,正如 K8s 平台如果缺少 Operator,u 4 b . s ^ r仅仅以靠原生接口无法实现服务自动部署,弹性伸缩等高阶服务编排功z 7 _ s L _ 6能,如果 Istio 框架想要成为流量管理领域的 K8s,也需要补齐其接口扩展能力。网易自研框架 Slime,正是对这一角色的一次尝试。

当然i x p j脱离了实际功能的接口扩展无异于浮沙筑台,Slime 项目最开始的提出正是为了解决服务限流的问题。”业务方希望绕过 Mixer 组件实现自适应的服务级限流,于是我们提出了本地限流替代全局d r 8 ( n 0限流的方案,这个方案中我们第R Q y L H一次对 Istio 接口进行了扩展,扩展出的上层接口叫做 SmartLimiter,我们取了其中的字母 SliC I p 7 [ gme 作为组件名称。后面基于 Slime 框架实现的模块会越来越多,其意义也不局限于限流了,更多的是想表达该框架灵活易扩展的特点,就像卡通形T R x \ ( ]象史莱姆一样。”

正如网易团队所表示的那样,Slime 的定位是 Istio 的智能网格管理器,利用` P A 8 h p h Slime 框架,用户可以扩展出基于服务状态,实现动态,j k Y V p S \智能网格管理的模块。目前网易开源出来的 Slime 模块有三个:

配置J j . T P l O #懒加载:自动按需加载配置/服务发现信息,解决了大规@ + j 2 [ $ \ o模场_ E 1 S V e M p r景下配置全量下发的性能问题

Http插件管理:使用新的 CRD pluginmanager/envoyplugin 包装了可读性,可维护性差的 envoyfilter,更加便于 Istio 的插件和插件管理。

自适应限流:实现了本地限流,同时可以结合E z * b %监控信息自W ` n / # ]动调整限流策略,弥补了 Istio 在限流方面的短板。

据悉,参与 SlimeZ O , 项目研发的网易工程师中有多位 Istio 社区成员和 Eq K t Nnvoy 社区成员,在 Slime 项目推出伊始,团队就与 Istio 社区进行了深入的沟通。“我们z D 5 Y \ A非常乐意将该项Z y 6 G目回馈给 Istio 社区,希望能够帮助更多的服务网格使用者。”网易团队说。

下一个 K8s ?

背靠大厂,市场份额不断攀升,参与者众多,生态R 5 H p 9 \ T {日趋完善……这样的 Istio 是否有望成为像 K8s 一样的云原生基础Y @ N j + 9 ) @设施建设事实标准?

网易数帆轻舟业务部总经理陈谔表示,从应用场景来看,目前 S* m 7 `ervice MF J x 6 K ~esh 还是作为支撑微服务架构的基础设施,并不像 Kub= 6 b 7 [ p K bernetes 那样能够广泛应用j g % I $ f G G f于对基础设施层的抽象。“我们的判断4 j # G R是当前的应用场景还不足以驱动 Servic\ , C t B te Mesh 领域出现能够类比 Kubernetes 的项目成为云原生的基础设施。然X D # 1 7 d v而 Service. # : 1 Mesh 向我们展示的是一种颠覆传统 RPC 模式的全新的应用层访问模式,有望像网络协议栈一样成为支撑应用分布式架构的标准,而当前 Istio 又是社区的引领者,我k 7 { Q F们对 Istio 成为比肩 Kubernetes 的云原生基础设施是充满期望的。”陈谔说。

作为云3 Z Y j ` a c原生一线从业者,陈谔以自己的视角为我们分享了 Ser` Y o \ d /vice Mesh 在国内的发展趋势,以及在 2021 年开发者需要关注的 Service Mesh 发展动向。

如果技术人员希望推进 Service\ _ + P ) J q Mesh 的应用,首先建议关注与企业落地相关的工作,以J # i R ( [ 6 ) N轻舟团队的经验来看,Service Mesh 在企业成功落地需要关注平滑性,如:企业已有5 p N } / &框架、注册中心的业务服务无缝接入;存量虚拟机/% o % Q _ r物理机部署的服务,与容器化服务一起纳管治理;支撑存– , g C Z m O量使用私& 9 ! t # \ k有协议、异构语言实现的业务服务接入 Service Mesh。

另一方面可关注如何支撑企业6 ^ B k B u大规模落地。Serv{ t d [ I H w 7ice Mesh 在性能、稳定性方面需要更好的优化、支撑:复杂的生产环境配置处理的综合性能提升;Service Mesh 系统的韧性以及极端情况整体故障兜底能力等。

另外建议开发者关注 Istio 社区周边生态的发Z + v 9 1 Z T展,尤其是能够提升 Service Mesh 易用性、可维护性的工作。

最后是社区 roadmap 中的重点能力也值得关注,如 Seq M & N v (rvice Mesh 跨多 Kubernetes 集群N – j跨网络平面,解决故障域隔离、区域路由优先之类的问题;j s a 7虚机工作负载支持和完善;Envoy 上WASM 机制完善,多语言插件开发的真正落地等。

虽然把 Istio 当成“下一个 K8s”为时尚早,但 Service Mesh 架构蕴藏的巨大潜力已经在众多厂商的落地实践中得到了验证,发展前景非常乐观,值得云原生开发者I } : b持续关注。


受访嘉宾介绍

陈谔,网易数帆轻舟事业部总经理i & 8 t A,现负责网易云计算平% N ! x X n _ –台产品线建设,对内主导公司软件基础设施云化改造,建设网易私有云及云原生平台将网易互联网产品线迁入私有云环境,对外打造轻舟云原w g c 5 # C | 3生产品线,实践网易数帆数字化基础软件战略。

裴斐,网易数帆轻舟事业部技术专家、资深架构师。10 年企业级平台架构和研发经验,目前主要负责网易轻舟微服务治理团队,专注于企业微服务架构及服务治理u y 4 + ! l领域的研` r h % .究与落地工作。带领团队完成轻舟微服务框架 NSF、Service Mesc O b !h、API 网关等多个微服务项目在网易集团内部落地及商业化产品输出。

杨笛航,Istio 社区成员,网易数帆轻舟事业部架构师,负! B } } 9责轻舟 Service M! f 1 k desh 配置管理,并主导 Slime 组件设计与研发,参与网易严选和网易传媒的 Service MY M R \ n 5 O $esh 建] m L设。具有三年 Istio 控制面功能拓展和性能优化经验。

Slime 项目源自网易数w C ~ o X 8帆旗下轻舟微服务团队,团j / ~ S R |队围绕应用和微服务,, E = K基于云原生技术帮助用户快速实^ / C现易接入、易运维的微服务解决方案,重点关注微服务框架、服务网格、API网关、应用监控等领域,帮助1 / M M U p用户轻松治理、观测其微服务应用。目前项目刚刚开源,欢迎更多对微服务、云原! % } h t I F生及开源项目M q \ v 1 w ? r V感兴趣的同学加入项目。
S6 7 { k v !lime 详细信息:
点击查看
Slime 下载地址:
点击下载

回答

发表评论

您的电子邮箱地址不会被公开。 必填项已用*标注