如何在web范围内实现微服务负载均衡

云计算
一定要对边缘服务做负载均衡,无论你的云提供商的机制如何。所有内部流量必须由自己的工具处理,因为这样允许你使用最少的额外配置来运行环境。因此,最终,微服务高效扩展所要求的最重要的工具,不出意外,是负载均衡。

网上有很多介绍微服务架构***实践的指导手册和博客文章。虽然这些信息都很有用,但是关于如何扩展微服务的文章却不多。在一些研究和大量理论探讨下,本文介绍如何实现微服务的负载均衡。

关注边缘

当web应用程序前端客户端和基于微服务的后台服务器通信时,前端是否需要知道所有可用的微服务实例?比如,客户端真的需要知道提供web页面数据的所有的五个服务么?答案当然是不需要!

Sudhir Tonse,之前在Netflix工作,现在在Uber工作,在Scalable Mocroservices at Netflix大会上讲述了边缘服务的概念。边缘服务作为微服务基础架构的门户而存在。因此,对于前端客户端需要知道哪个微服务,这个问题,根据Sudhir的方案,每个客户端只需要和一个边缘服务直接通信就可以了。每个客户端可以有独占的边缘服务。比如,Netflix服务于上千种设备类型 -- 每种设备类型都有独占的边缘服务作为其接入点。

类似Netflix和Riot Games这样的大厂商,他们都运行在Amazon AWS上,使用弹性负载均衡(ELB)来确保边缘服务随时在线。

边缘服务之外

每个进入的请求都需要分析。多个fan-out请求被发送到构成生态系统的微服务里。一个进站请求平均会生成大概十个fan-out请求。Netflix每天会接收到近20亿请求,会生成大概200亿次内部的API调用。

Netflix如何确保其微服务能处理这么大的压力,并且保持24/7的可用性呢?再说一次,负载均衡是解决之道。但是这次并不是通过ELB。有 500个不同的微服务,你就需要配置500个ELB!这正是Netflix的工具内置负载均衡能力的原因。Netflix创建了很多库和工具,它们可以很容易得互相集成。通过将所需库直接集成到每个微服务里,就能将其自身注册到所有受管理的服务里。

不要害怕边缘服务

既然边缘服务如此重要,那么边缘服务发生故障就麻烦了,不是么?实际上,不会有问题。原因之一,边缘服务当然也必须负载均衡。这意味着访问者根本就不会注意到边缘服务的故障。其次,替代方案是什么?在monolithic应用程序环境里,每个服务都像是一个边缘服务,因此任何中央服务的故障 -- 没有配置负载均衡时 -- 都意味着整个系统的故障,对吧?

尽管如此,边缘服务处于最为精妙的服务之中,因此的确需要特别的关注。

重中之重

必须要认真考虑运行边缘服务来处理进站流量。并且一定要对边缘服务做负载均衡,无论你的云提供商的机制如何。所有内部流量必须由自己的工具处理,因为这样允许你使用最少的额外配置来运行环境。因此,最终,微服务高效扩展所要求的最重要的工具,不出意外,是负载均衡。

请保持关注

我会在下一篇博客里处理容器化的问题。需要了解的是,Docker并不是容器概念之上的唯一解决方案。

原文链接:http://www.dockone.io/article/781

责任编辑:Ophira 来源: dockone
相关推荐

2024-03-12 11:36:50

MySQL数据库函数

2011-11-22 21:26:59

pfSense配置Web服务器负载均衡

2013-12-13 09:52:58

VDI服务器负载均衡

2013-12-13 09:55:44

VDI负载均衡

2013-04-25 10:50:37

iCloud宕机

2010-11-19 12:53:53

梭子鱼负载均衡

2019-02-21 09:18:27

服务路由负载均衡微服务

2014-07-28 10:01:01

Piranha负载均衡

2023-10-30 00:11:48

微服务负载均衡场景

2018-03-14 11:13:35

Web服务器Nginx

2010-05-10 17:52:30

实现负载均衡

2010-06-29 11:21:58

Web服务器

2021-03-30 11:33:45

云计算微服务云应用

2023-02-13 16:39:45

Kubernetes容器负载均衡器

2009-07-22 10:25:37

2010-03-04 09:45:45

IBM裁员

2009-01-10 18:53:01

服务器ServerDNS

2010-09-15 14:50:57

集群负载均衡Tomcat

2012-10-19 10:21:07

数据库负载均衡mssqlserver

2019-09-10 09:58:19

Dubbo负载均衡Hash
点赞
收藏

51CTO技术栈公众号